Når AI går galt, hvem validerer? Nytt yrke dukker opp for å føre tilsyn med intelligente agenter

Utviklingen av autonome agenter fortsetter å redefinere det globale arbeidsmarkedet som en av de mest betydningsfulle fremskrittene i Artificial Intelligence-æraen.Antagelsen av AI-agenter har drevet etterspørselen etter nye funksjoner rettet mot tilsyn, validering og kvalitetssikring av automatiserte oppgaver. Ifølge en fersk rapport fra World Economic Forum (WEF), innen 2030, vil ca. 221 TP3T av nåværende jobber bli transformert. Fremskrivningen peker på opprettelsen av omtrent 170 millioner nye jobber og utryddelsen av 92 millioner jobber, noe som resulterer i en positiv balanse på 78 millioner jobber. 

 
For Marcos Oliveira Pinto, Global Software Engineer Manager hos Jitterbit, fremstår yrket som validator av Artificial Intelligence-agenter som en strategisk funksjon i fremtiden for intelligent automatisering i næringslivet. “Vi er fortsatt i en tid da det ikke er mulig å stole blindt på AI. Det kan virke åpenbart, men det er essensielt å forsterke behovet for menneskelig tilstedeværelse i prosesser og i etableringen av nye funksjoner i markedet. AI-validatoren kan enkelt være en av dem, og sikre effektivitet med reelle resultater”, forklarer han.   
 

Attribusjonene av denne nye funksjonen går utover risikoreduksjon. Validatorens rolle innebærer å sikre en sikker, etisk og pålitelig styring av operasjoner i selskaper som tar i bruk intelligente agenter som en del av sine prosesser. “Hovedanliggendet er måten disse systemene bygges på og muligheten for AI å generere unøyaktige eller feilaktige svar. Målet til fagpersonen vil være å gjennomgå, validere og bekrefte handlingene til agentene, og sikre fravær av hallusinasjoner og forventet avkastning av oppgavene som utføres, sier Marcos. 

Ifølge den utøvende kan integrasjonen mellom mennesker og intelligente agenter følge to ulike modeller. “I den aktive modellen deltar mennesket direkte i utførelsen Agenten utfører oppgaven til et visst punkt, som i tjenesten til en bruker, og derfra evaluerer og bestemmer fagpersonen de neste trinnene Allerede i den passive modellen mottar mennesket varsler om fremdriften i operasjonen.I begge tilfeller er den menneskelige tilstedeværelsen avgjørende for godkjenninger, arbeidsflyter, strategiske beslutninger og kritiske vurderinger”, han detaljer. 

Den menneskelige ansattes rolle blir å sikre suksess, sikkerhet og pålitelighet til automatiserte stadier av reisen, spesielt i aktiviteter som krever større kompleksitet, overtalelse eller teknisk kunnskap, fortsatt sterkt avhengig av menneskelig oppfatning eller hybride tilnærminger. 

World Economic Forum-undersøkelsen fremhever også at ferdighetene som er mest verdsatt av arbeidsgivere fortsatt er den såkalte kjernekompetansen. Analytisk tenkning leder etterspørselen, etterfulgt av menneskelige egenskaper som motstandskraft, smidighet, lederskap og sosial innflytelse. Innen 2030 er den raskest voksende kompetansen som forventes, tekniske områder som AI, big data, nettverk, cybersikkerhet og teknologisk kompetanse, samt kreativitet, fleksibilitet, nysgjerrighet og kontinuerlig læring. 

“O validator av AI agenter syntetiserer essensen av den nye æra av arbeid.Dette er en profesjonell som kombinerer teknisk kunnskap i kunstig intelligens og nye teknologier med den menneskelige dømmekraft som er nødvendig for å håndtere usikkerhet og sikre tillit til autonome systemer.Denne funksjonen reflekterer trenden at agenter vil trenge å bli trent og overvåket av trente mennesker, i stand til å gjenkjenne kritiske situasjoner og anvende kritisk sans.Til slutt forblir vår differensial det oppmerksomme utseendet og den kontinuerlige utviklingen, uavhengig av profesjons”, avslutter Marcos.