När AI går fel, vem validerar?Nytt yrke uppstår för att övervaka intelligenta agenter

Utvecklingen av autonoma agenter fortsätter att omdefiniera den globala arbetsmarknaden som en av de mest betydande framstegen under den artificiella intelligensens era.Antagandet av AI Agents har drivit efterfrågan på nya funktioner som syftar till övervakning, validering och kvalitetssäkring av automatiserade uppgifter.Enligt en färsk rapport från World Economic Forum (WEF), år 2030, kommer cirka 22% av nuvarande jobb att omvandlas.Prognosen pekar på skapandet av cirka 170 miljoner nya jobb och utplåningen av 92 miljoner jobb, vilket resulterar i en positiv balans på 78 miljoner jobb. 

 
För Marcos Oliveira Pinto, Global Software Engineer Manager på Jitterbit, framstår yrket som validerare av artificiell intelligens-agenter som en strategisk funktion i framtiden för intelligent automation i näringslivet. “Vi befinner oss fortfarande i en tid då det inte är möjligt att blint lita på AI. Det kan verka självklart, men det är viktigt att förstärka behovet av mänsklig närvaro i processer och i skapandet av nya funktioner på marknaden. AI-valideraren kan lätt vara en av dem, vilket säkerställer effektivitet med verkliga resultat”, förklarar han.   
 

Tillskrivningarna av denna nya funktion går utöver riskreducering. Validatorns roll innebär att säkerställa en säker, etisk och pålitlig hantering av verksamheten i företag som använder intelligenta agenter som en del av sina processer. “Det största problemet ligger i hur dessa system är byggda och möjligheten att AI genererar felaktiga eller felaktiga svar. Målet för den professionella kommer att vara att granska, validera och bekräfta agenternas handlingar, säkerställa frånvaron av hallucinationer och förväntad återgång av de utförda uppgifterna”, säger Marcos. 

Enligt den verkställande kan integrationen mellan människor och intelligenta agenter följa två distinkta modeller. “I den aktiva modellen deltar människan direkt i utförandet Agenten utför uppgiften till en viss punkt, såsom i tjänsten till en användare, och därifrån utvärderar och beslutar yrkesmannen nästa steg Redan i den passiva modellen får människan meddelanden om operationens fortskridande I båda fallen är den mänskliga närvaron väsentlig för godkännanden, arbetsflöden, strategiska beslut och kritiska bedömningar”, beskriver han. 

Den mänskliga medarbetarens roll blir att säkerställa framgång, säkerhet och tillförlitlighet för automatiserade stadier av resan, särskilt i aktiviteter som kräver större komplexitet, övertalning eller teknisk kunskap, fortfarande starkt beroende av mänsklig uppfattning eller hybridmetoder. 

World Economic Forums undersökning belyser också att de färdigheter som arbetsgivarna värderar högst förblir de så kallade kärnkompetenserna Analytiskt tänkande leder efterfrågan, följt av mänskliga attribut som motståndskraft, smidighet, ledarskap och socialt inflytande. År 2030 är de snabbast växande kompetenserna som förväntas tekniska områden som AI, big data, nätverk, cybersäkerhet och teknisk läskunnighet, samt kreativitet, flexibilitet, nyfikenhet och kontinuerligt lärande. 

“O validator av AI-agenter syntetiserar kärnan i den nya eran av arbete.Detta är en professionell som kombinerar teknisk kunskap inom artificiell intelligens och ny teknik med det mänskliga omdöme som krävs för att hantera osäkerhet och säkerställa förtroende för autonoma system. Denna funktion återspeglar trenden att agenter kommer att behöva tränas och övervakas av utbildade människor, kunna känna igen kritiska situationer och tillämpa kritisk känsla. I slutändan förblir vår skillnad det uppmärksamma utseendet och den kontinuerliga utvecklingen, oavsett yrkeskomplett, avslutar Marcos.