Når AI går galt, hvem validerer?Nyt erhverv opstår for at føre tilsyn med intelligente agenter

Udviklingen af autonome agenter fortsætter med at omdefinere det globale arbejdsmarked som et af de mest betydningsfulde fremskridt i Artificial Intelligence-æraen. Vedtagelsen af AI Agents har drevet efterspørgslen efter nye funktioner rettet mod overvågning, validering og kvalitetssikring af automatiserede opgaver. Ifølge en nylig rapport fra World Economic Forum (WEF) vil omkring 22% af nuværende job inden 2030 blive transformeret. Fremskrivningen peger på skabelsen af cirka 170 millioner nye job og udryddelsen af 92 millioner job, hvilket resulterer i en positiv balance på 78 millioner job. 

 
For Marcos Oliveira Pinto, Global Software Engineer Manager hos Jitterbit, fremstår erhvervet som validator af Artificial Intelligence-agenter som en strategisk funktion i fremtiden for intelligent automatisering i erhvervslivet. “Vi er stadig på et tidspunkt, hvor det ikke er muligt blindt at stole på AI. Det kan virke indlysende, men det er vigtigt at forstærke behovet for menneskelig tilstedeværelse i processer og i skabelsen af nye funktioner på markedet. AI-validatoren kan nemt være en af dem, hvilket sikrer effektivitet med reelle resultater”, forklarer han.   
 

Tilskrivningerne af denne nye funktion går ud over risikobegrænsning. Validatorens rolle indebærer at sikre en sikker, etisk og pålidelig styring af operationer i virksomheder, der vedtager intelligente agenter som en del af deres processer. “Den største bekymring er i den måde, hvorpå disse systemer er bygget, og muligheden for, at AI genererer unøjagtige eller forkerte svar. Formålet med den professionelle vil være at gennemgå, validere og bekræfte agenternes handlinger, sikre fraværet af hallucinationer og det forventede afkast af de udførte opgaver”, siger Marcos. 

Ifølge den udøvende magt kan integrationen mellem mennesker og intelligente agenter følge to forskellige modeller. “I den aktive model deltager mennesket direkte i udførelsen. Agenten udfører opgaven til et bestemt punkt, såsom i tjenesten til en bruger, og derfra evaluerer og beslutter den professionelle de næste trin. Allerede i den passive model modtager mennesket meddelelser om operationens fremskridt. I begge tilfælde er den menneskelige tilstedeværelse afgørende for godkendelser, arbejdsgange, strategiske beslutninger og kritiske domme”, beskriver han. 

Den menneskelige medarbejders rolle bliver at sikre succes, sikkerhed og pålidelighed af automatiserede stadier af rejsen, især i aktiviteter, der kræver større kompleksitet, overtalelse eller teknisk viden, stadig stærkt afhængige af menneskelig perception eller hybride tilgange. 

World Economic Forum undersøgelsen fremhæver også, at de færdigheder, der værdsættes mest af arbejdsgiverne, forbliver de såkaldte kernekompetencer. Analytisk tænkning fører efterspørgslen, efterfulgt af menneskelige egenskaber som modstandskraft, smidighed, lederskab og social indflydelse. I 2030 omfatter de hurtigst voksende kompetencer, der forventes, tekniske områder som AI, big data, netværk, cybersikkerhed og teknologisk læsefærdighed samt kreativitet, fleksibilitet, nysgerrighed og kontinuerlig læring. 

“O validator af AI agenter syntetiserer essensen af den nye æra af work.This er en professionel, der kombinerer teknisk viden inden for kunstig intelligens og nye teknologier med den menneskelige dømmekraft, der er nødvendig for at håndtere usikkerhed og sikre tillid til autonome systemer.Denne funktion afspejler tendensen, at agenter bliver nødt til at blive uddannet og overvåget af uddannede mennesker, i stand til at genkende kritiske situationer og anvende kritisk sense.In sidste ende, vores differentiale forbliver det opmærksomme udseende og løbende udvikling, uanset professionen”, konkluderer Marcos.