Quand l'IA tourne mal, qui valide ? une nouvelle profession émerge pour superviser les agents intelligents

Le développement des agents autonomes continue de redéfinir le marché mondial du travail comme l'une des avancées les plus significatives de l'ère de l'Intelligence Artificielle L'adoption des Agents IA a stimulé la demande de nouvelles fonctions visant à la supervision, la validation et l'assurance qualité des tâches automatisées Selon un récent rapport du Forum Economique Mondial (WEF), d'ici 2030, environ 221TP3 T des emplois actuels seront transformés La projection pointe vers la création d'environ 170 millions de nouveaux emplois et l'extinction de 92 millions d'emplois, d'où un solde positif de 78 millions d'emplois. 

 
Pour Marcos Oliveira Pinto, Global Software Engineer Manager chez Jitterbit, le métier de validateur des agents d'Intelligence Artificielle émerge comme une fonction stratégique dans l'avenir de l'automatisation intelligente en entreprise. “Nous sommes encore à un moment où il n'est pas possible de faire aveuglément confiance à l'IA. Cela peut paraître évident, mais il est essentiel de renforcer le besoin de présence humaine dans les processus et dans la création de nouvelles fonctions sur le marché Le validateur d'IA peut facilement en faire partie, assurant une efficacité avec des résultats réels”, explique-t-il.   
 

Les attributions de cette nouvelle fonction vont au-delà de l'atténuation des risques Le rôle du validateur consiste à assurer une gestion sûre, éthique et fiable des opérations dans les entreprises qui adoptent des agents intelligents dans le cadre de leurs processus. “La principale préoccupation est dans la façon dont ces systèmes sont construits et la possibilité que l'IA génère des réponses inexactes ou incorrectes L'objectif du professionnel sera de revoir, valider et confirmer les actions des agents, en s'assurant de l'absence d'hallucinations et du retour attendu des tâches effectuées”, dit Marcos. 

Selon l'exécutif, l'intégration entre les humains et les agents intelligents peut suivre deux modèles différents. “Dans le modèle actif, l'humain participe directement à l'exécutionL'agent conduit la tâche jusqu'à un certain point, comme dans le service à un utilisateur, et à partir de là le professionnel évalue et décide des prochaines étapesDéjà dans le modèle passif, l'humain reçoit des notifications sur le déroulement de l'opération Dans les deux cas, la présence humaine est essentielle pour les approbations, les flux de travail, les décisions stratégiques et les jugements critiques”, détaille-t-il. 

Le rôle de l'employé humain devient d'assurer le succès, la sécurité et la fiabilité des étapes automatisées du voyage, en particulier dans les activités qui nécessitent une plus grande complexité, persuasion ou connaissances techniques, encore fortement dépendantes de la perception humaine ou des approches hybrides. 

L'enquête du Forum économique mondial souligne également que les compétences les plus valorisées par les employeurs restent les compétences dites de base La pensée analytique est en tête de la demande, suivie par les attributs humains tels que la résilience, l'agilité, le leadership et l'influence sociale D'ici 2030, les compétences à la croissance la plus rapide attendues comprennent des domaines techniques tels que l'IA, le big data, le réseautage, la cybersécurité et la culture technologique, ainsi que la créativité, la flexibilité, la curiosité et l'apprentissage continu. 

“O validator of AI agents synthétise l'essence de la nouvelle ère du travail.C'est un professionnel qui combine les connaissances techniques en intelligence artificielle et nouvelles technologies avec le jugement humain nécessaire pour faire face à l'incertitude et assurer la confiance dans les systèmes autonomes.Cette fonction reflète la tendance selon laquelle les agents devront être formés et supervisés par des humains entraînés, capables de reconnaître les situations critiques et d'appliquer le sens critique.En fin de compte, notre différentiel reste le regard attentif et le développement continu, quelle que soit la profession”, conclut Marcos.