Als AI fout gaat, wie valideert dan? Er ontstaat een nieuw beroep om toezicht te houden op intelligente agenten

De ontwikkeling van autonome agenten blijft de wereldwijde arbeidsmarkt herdefiniëren als een van de belangrijkste vorderingen van het tijdperk van kunstmatige intelligentie De adoptie van AI Agents heeft de vraag naar nieuwe functies aangestuurd die gericht zijn op het toezicht op, de validatie en de kwaliteitsborging van geautomatiseerde taken Volgens een recent rapport van het World Economic Forum (WEF) zal tegen 2030 ongeveer 22% van de huidige banen zijn getransformeerd De projectie wijst op het creëren van ongeveer 170 miljoen nieuwe banen en het uitsterven van 92 miljoen banen, wat resulteert in een positief saldo van 78 miljoen banen. 

 
Voor Marcos Oliveira Pinto, Global Software Engineer Manager bij Jitterbit, komt het beroep van validator van Artificial Intelligence agenten naar voren als een strategische functie in de toekomst van intelligente automatisering in het bedrijfsleven. “We bevinden ons nog steeds in een tijd waarin het niet mogelijk is om blindelings op AI te vertrouwen. Het lijkt misschien voor de hand liggend, maar het is essentieel om de behoefte aan menselijke aanwezigheid in processen en bij het creëren van nieuwe functies in de markt te versterken. De AI-validator kan daar gemakkelijk een van zijn, waardoor efficiëntie met echte resultaten wordt gegarandeerd, legt hij uit.   
 

De toeschrijvingen van deze nieuwe functie gaan verder dan risicobeperking De rol van de validator houdt in dat er gezorgd wordt voor een veilig, ethisch en betrouwbaar beheer van de activiteiten in bedrijven die intelligente agenten adopteren als onderdeel van hun processen. “De belangrijkste zorg gaat uit naar de manier waarop deze systemen worden gebouwd en de mogelijkheid dat AI onnauwkeurige of onjuiste antwoorden genereert. Het doel van de professional zal zijn om de acties van de agenten te beoordelen, valideren en bevestigen, waardoor de afwezigheid van hallucinaties en de verwachte terugkeer van de uitgevoerde taken wordt gewaarborgd, zegt Marcos. 

Volgens de uitvoerende macht kan de integratie tussen mensen en intelligente agenten twee onderscheiden modellen volgen. “In het actieve model neemt de mens direct deel aan de uitvoering De agent voert de taak tot op een bepaald punt uit, zoals in de dienst aan een gebruiker, en van daaruit evalueert en beslist de professional de volgende stappen Al in het passieve model krijgt de mens meldingen over de voortgang van de operatie, in beide gevallen is de menselijke aanwezigheid essentieel voor goedkeuringen, workflows, strategische beslissingen en kritische oordelen”, zo stelt hij vast. 

De rol van de menselijke werknemer wordt het verzekeren van het succes, de veiligheid en de betrouwbaarheid van geautomatiseerde fasen van de reis, vooral bij activiteiten die een grotere complexiteit, overreding of technische kennis vereisen, die nog steeds sterk afhankelijk zijn van menselijke perceptie of hybride benaderingen. 

Het onderzoek van het World Economic Forum benadrukt ook dat de vaardigheden die het meest gewaardeerd worden door werkgevers de zogenaamde kerncompetenties blijven Analytisch denken leidt de vraag, gevolgd door menselijke eigenschappen zoals veerkracht, wendbaarheid, leiderschap en sociale invloed. Tegen 2030 omvatten de snelst groeiende competenties die verwacht worden technische gebieden zoals AI, big data, netwerken, cyberbeveiliging en technologische geletterdheid, evenals creativiteit, flexibiliteit, nieuwsgierigheid en continu leren. 

“O validator van AI-agenten synthetiseert de essentie van het nieuwe tijdperk van werk.Dit is een professional die technische kennis op het gebied van kunstmatige intelligentie en nieuwe technologieën combineert met het menselijk oordeel dat nodig is om met onzekerheid om te gaan en vertrouwen in autonome systemen te garanderen. Deze functie weerspiegelt de trend dat agenten zullen moeten worden opgeleid en begeleid door getrainde mensen, die kritieke situaties kunnen herkennen en kritisch inzicht kunnen toepassen. Uiteindelijk blijft ons verschil de aandachtige blik en voortdurende ontwikkeling, ongeacht het beroep.”, concludeert Marcos.