企業における生成型人工知能（Gen AI）の迅速な導入は、プロセスを再定義し、イノベーションを促進し、自動化を推進しています。 最新のBloomberg Intelligenceの調査によると、今後10年間のAIの成長率は年間42％であり、その範囲はほぼ倍増する見込みです。 No entanto, o sucesso dessas soluções depende de uma gestão cuidadosa dos dados que alimentam esses modelos. É aqui que entra a cibersegurança, elemento vital para a proteção da privacidade e da integridade das informações.
A IA Generativa vai além dos modelos tradicionais de inteligência artificial, que apenas classificam ou prevêem comportamentos, pois cria novos conteúdos como textos, imagens e códigos. Essa capacidade de inovação abre novas possibilidades em diversos setores, mas exige uma abordagem cuidadosa em relação ao uso e à segurança dos dados e isso é reconhecido pelas pessoas que usam a tecnologia no dia a dia. Segundo a pesquisa da Developer Survey 2024 da Stack OverFlow, um dos principais desafios (31,5%) de se trabalhar com IA é não ter políticas certas para mitigar os riscos de segurança.
この意味で、テクニカルプロダクトマネージャー João Batista, responsável pela plataforma StackSpot AI da Zup, explica que para mitigar esses riscos, as empresas devem implementar medidas de segurança rigorosas, tendo em vista que os crimes cibernéticos estão cada vez mais sofisticados e até 2025 podem custar 10,5 trilhões de dólares, de acordo com a Cyber Security Almanac.
「AI モデルが安全かつ倫理的に動作することを保証するには、堅牢な暗号化、効果的なデータ ガバナンス、厳格なプライバシー慣行、モデル トレーニング中の厳格なアクセス制御を組み合わせた多面的なアプローチが必要です。テクノロジーを作成する企業にとって、セキュリティのトレーニングを受けた AI 搭載ソフトウェア開発アシスタントは、コードが安全なコーディングのベスト プラクティスに従っていることを保証するチームのサポートになります。これは、たとえば、脆弱性を特定するための予測メカニズムです。今後は、イノベーション、セキュリティ、データ保護をこの種のテクノロジーの適用に不可欠な三脚として考慮する共同戦略を考えることがますます重要になっています」と João Batista 氏は強調します。
No que tange a legislação, Henrique Flôres, cofundador da Contraktor e líder do desenvolvimento do CK Reader, IA da startup, explica que “enquanto aguardamos uma legislação para melhor regulamentar o uso da I.A. Generativa, compete aos profissionais de tecnologia zelar pela aplicação de boas práticas de criptografia, anonimização de dados e políticas de governança de t.i. que possam garantir o equilíbrio dos interesses comerciais das partes, a transparência nos mecanismos de treinamento de algoritmos e o uso ético na manipulação dos dados”.
Embora reconheça que inovar com tecnologias emergentes, como a Inteligência Artificial Generativa, seja uma oportunidade única de transformação, Giovanna Rossi, CPO da Rethink, consultoria de tecnologia, design e estratégia, reforça que não dá para negar que ela vem acompanhada por riscos significativos, como a exposição de informações sensíveis e a possibilidade de ataques cibernéticos sofisticados. “Como responsável pela área de produtos digitais, vejo o quão fundamental é a liderança priorizar uma abordagem estratégica no uso da IA para mitigar tais riscos. Temos a responsabilidade de moldar essa tecnologia de maneira ética e segura, garantindo que seu impacto seja positivo e sustentável para todos”, afirma a executiva.
O Brasil tem um alto volume de dados circulando na internet e um processo de digitalização acelerado. No que se refere a proteção de marca, Diego Daminelli, CEO da BrandMonitor, empresa pioneira e especialista no combate à concorrência desleal no ambiente digital, alerta que a infraestrutura de segurança brasileira ainda caminha a passos lentos, tornando o país um dos maiores alvos de ciberataques do mundo, com uma maior sofisticação dos ataques por parte dos criminosos. “A cultura de segurança ainda é um tópico pouco valorizado por diversas empresas, que não utilizam IA e sim tecnologias desatualizadas, que podem deixá-las vulneráveis a ataques e não são capazes de monitorar a presença digital da marca em toda sua amplitude”.
専門家は例を挙げてフィッシング, grande problema para segmentos como o varejo e prestação de serviços. “Os anúncios são veiculados em plataformas digitais utilizando toda a identidade de uma marca e prometendo descontos impraticáveis. Esse anúncio leva a uma pagina que imita o layout oficial da empresa, mas com um endereço diferente. Nessa página são oferecidos produtos ou serviços com um preço extremamente baixo, induzindo o cliente a compra”, finaliza
