IA, Cybersécurité et vie privée : comment protéger les données sensibles à l'ère de l'Intelligence Artificielle Générative

L'adoption rapide de l'Intelligence Artificielle Générative (Gen AI) dans les entreprises redéfinit les processus, permet des innovations et stimule l'automatisation Selon une étude récente de Bloomberg Intelligence, le taux de croissance de l'IA dans la prochaine décennie devrait être de 421TP3 T par an 4 doublant presque sa portée Cependant, le succès de ces solutions dépend d'une gestion minutieuse des données qui alimentent ces modèles C'est là qu'intervient la cybersécurité, élément vital pour protéger la vie privée et l'intégrité de l'information.

L'IA générative va au-delà des modèles traditionnels d'intelligence artificielle, qui ne font que classer ou prédire les comportements, car elle crée de nouveaux contenus tels que des textes, des images et des codes Cette capacité d'innovation ouvre de nouvelles possibilités dans plusieurs secteurs, mais nécessite une approche prudente de l'utilisation et de la sécurité des données et cela est reconnu par les personnes qui utilisent la technologie au quotidien Selon les recherches du Developer Survey 2024 de Stack OverFlow, l'un des principaux défis (31.51TP3 T) de travailler avec l'IA n'a pas les bonnes politiques pour atténuer les risques de sécurité.   

En ce sens, le Chef de produit technique John Batista, responsable de la plateforme d'IA Zup StackSpot, explique que pour atténuer ces risques, les entreprises doivent mettre en œuvre des mesures de sécurité strictes, étant donné que la cybercriminalité est de plus en plus sophistiquée et peut coûter d'ici 2025 10,5 billions de dollars, selon Cyber Security Almanac. 

“ Veiller à ce que les modèles d'IA fonctionnent de manière sécurisée et éthique nécessite une approche à multiples facettes qui combine un cryptage robuste, une gouvernance efficace des données, des pratiques strictes de confidentialité et des contrôles d'accès stricts pendant la formation sur les modèles. Si nous faisons une découpe pour les entreprises qui créent de la technologie, avoir un assistant de développement logiciel basé sur l'IA et formé à la sécurité peut aider l'équipe à garantir que le code suit les meilleures pratiques de codage sûres. Il s'agit par exemple d'un mécanisme prédictif d'identification des vulnérabilités. De plus en plus, la manière est de penser à une stratégie commune qui considère l’innovation, la sécurité et la protection des données comme un trépied essentiel pour l’application de ce type de technologie.

En ce qui concerne la législation, Henrique Flores, cofondateur de Contractor et leader du développement de CK Reader, IA de la startup, explique que si nous attendons une législation pour mieux réglementer l'utilisation de l'IA générative, c'est aux professionnels de la technologie de veiller à l'application de bonnes pratiques de chiffrement, d'anonymisation des données et de politiques de gouvernance de ti qui peuvent assurer l'équilibre des intérêts commerciaux des parties, la transparence dans les mécanismes de formation des algorithmes et l'utilisation éthique dans la manipulation des données”. 

Tout en reconnaissant qu'innover avec les technologies émergentes, telles que l'Intelligence Artificielle Générative, est une occasion unique de transformation, Giovanna Rossi, CPO de Rethink, conseil en technologie, conception et stratégie, renforce qu'on ne peut nier qu'elle s'accompagne de risques importants, tels que l'exposition d'informations sensibles et la possibilité de cyberattaques sophistiquées. “En tant que responsable du domaine des produits numériques, je vois combien il est fondamental pour le leadership de donner la priorité à une approche stratégique dans l'utilisation de l'IA pour atténuer de tels risques Nous avons la responsabilité de façonner cette technologie de manière éthique et sûre, en veillant à ce que son impact soit positif et durable pour tous les”, affirme l'exécutif. 

Le Brésil dispose d'un volume élevé de données circulant sur internet et d'un processus de numérisation accéléré En ce qui concerne la protection de la marque, Diego Daminelli, PDG de BrandMonitor, pionnier et expert dans la lutte contre la concurrence déloyale dans l'environnement numérique, prévient que l'infrastructure de sécurité brésilienne avance encore lentement, faisant du pays l'une des plus grandes cibles de cyberattaques au monde, avec une plus grande sophistication des attaques des criminels. « La culture de la sécurité est encore un sujet peu valorisé par plusieurs entreprises, qui n'utilisent pas l'IA mais des technologies dépassées, qui peuvent les laisser vulnérables aux attaques et ne sont pas en mesure de surveiller la présence numérique de la marque dans toute sa gamme ».

L'expert donne l'exemple de phishing[TRADUCTION], gros problème pour des segments comme la vente au détail et la prestation de services. “Les annonces sont servies sur des plateformes numériques en utilisant toute l'identité d'une marque et en promettant des remises peu pratiques Cette annonce mène à une page qui imite la mise en page officielle de l'entreprise, mais avec une adresse différente Sur cette page les produits ou services sont offerts à un prix extrêmement bas, incitant le client à acheter”, conclut-il