En analysant les principales tendances récentes en matière de cybersécurité et en guidant les actions que les RSSI devraient entreprendre pour permettre un parcours sûr de l'intelligence artificielle générative dans leurs organisations, les experts qui ont participé au Gartner Security & Risk Management Summit, un événement qui s'est déroulé à Sydney, en Australie, ont attiré l'attention sur le fait que cette nouvelle technologie nécessitera des soins supplémentaires et le développement de nouvelles capacités de cybersécurité, ce qui pourrait entraîner une augmentation allant jusqu'à 15 % du volume des investissements en cybersécurité.
S'exprimant sur le sujet, Richard Addiscott, analyste principal chez Gartner, a expliqué que les RSSI doivent mettre à jour les pratiques de sécurité des applications et des données pour intégrer de nouvelles surfaces d'attaque, telles que les invites ou les couches d'orchestration, pour instrumenter les modèles d'IA.
Pour Fernando Guimarães, responsable de Stone Age, la division commerciale de Crédit et Antifraude de TIVIT, l'estimation peut être même conservatrice car, en plus de la nécessité de protéger les applications utilisant l'IA générative, il existe une tendance à ce que de plus en plus l'IA générative soit intégrée dans des outils de lutte contre les fraudeurs. Os benefícios da IA Generativa são inquestionáveis e com um potencial enorme de crescimento, no entanto, tais benefícios devem ser acompanhados com cuidados e investimentos em cibersegurança.« Le résultat net sera dans la plupart des cas très positif, mais il n'y a pas de déjeuner gratuit », affirme Guimarães.
Il commente que ce mouvement a été réalisé par Stone Age elle-même avec l'incorporation de la solution d'intelligence artificielle générative Athena, développée par TIVIT dans ses solutions. Au début de 2024, la technologie a été proposée comme une nouvelle fonctionnalité présente dans Identify, un produit axé sur la validation d'identité pour les processus d'intégration et de vente.
Lancée en décembre de l'année dernière par TIVIT, Athena permet à Identify d'effectuer, entre autres, la lecture intelligente des données d'un contrat social en 30 secondes de manière automatique. De plus, extraire de ces documents des informations structurées, qui se transforment immédiatement en insights collaboratifs pour alimenter le flux de données permettant une prise de décision plus efficace et rapide.
Guimarães commente que a adoção da Athena confere à Identify novas funcionalidades que tornam a jornada de utilização da ferramenta muito mais completa. En pratique, selon lui, l'entreprise dispose désormais d'une version 2.0 qui permet d'avancer vers une efficacité opérationnelle, avec une réduction de l'intervention manuelle, une augmentation de la précision dans les décisions, ainsi qu'une réduction des coûts, avec la possibilité de travailler avec des équipes de service et d'analyse plus petites.
« Je crois que ce type de gain peut être diffusé sur plusieurs autres solutions du marché. « Par conséquent, compte tenu des avantages apportés par l’IA générative à la cybersécurité, l’augmentation des investissements pour accroître l’utilisation de cette technologie devient pleinement justifiable », conclut-il.
Une alternative à l'utilisation de l'IA de manière plus sûre consiste à utiliser des solutions personnalisables en fonction des besoins de l'entreprise. Selon Daniel Galante, CCO et CPO de TIVIT, l'IA est venue pour rendre les processus et les entreprises plus agiles, mais il est nécessaire de l'utiliser de manière très précise. « Imaginez un grand cabinet d'avocats, qui sert des clients importants et où tous les avocats saisissent les données des clients et des dossiers dans un environnement 100 % ouvert, pouvant devenir public. Cela pourrait engendrer un gros problème en rendant ces données accessibles au grand public. Une alternative consiste à utiliser une IA générative personnalisable, comme Athena par exemple, où le client peut sélectionner les bases de données à consulter, rendre toutes les données accessibles uniquement dans des emplacements prédéfinis et avec des accès restreints à ceux qui doivent réellement y avoir accès. C'est la meilleure façon d'utiliser l'IA, en profitant de la rapidité qu'elle offre, tout en assurant la sécurité nécessaire pour un tel processus », affirme Galante.
