Wenn KI schief geht, wer validiert? Es entsteht ein neuer Beruf zur Überwachung intelligenter Agenten

Die Entwicklung autonomer Agenten definiert den globalen Arbeitsmarkt weiterhin als einen der bedeutendsten Fortschritte der Ära der künstlichen Intelligenz Die Einführung von KI-Agenten hat die Nachfrage nach neuen Funktionen vorangetrieben, die auf die Überwachung, Validierung und Qualitätssicherung automatisierter Aufgaben abzielen Laut einem aktuellen Bericht des Weltwirtschaftsforums (WEF) werden bis 2030 etwa 221 TP3 T der aktuellen Arbeitsplätze transformiert Die Prognose deutet auf die Schaffung von etwa 170 Millionen neuen Arbeitsplätzen und das Aussterben von 92 Millionen Arbeitsplätzen hin, was zu einem positiven Saldo von 78 Millionen Arbeitsplätzen führt. 

 
Für Marcos Oliveira Pinto, Global Software Engineer Manager bei Jitterbit, erweist sich der Beruf des Validators von Agenten für künstliche Intelligenz als strategische Funktion in der Zukunft der intelligenten Automatisierung in der Wirtschaft “Wir befinden uns immer noch in einer Zeit, in der es nicht möglich ist, der KI blind zu vertrauen” Es mag offensichtlich erscheinen, aber es ist wichtig, die Notwendigkeit menschlicher Präsenz in Prozessen und bei der Schaffung neuer Funktionen auf dem Markt zu verstärkenDer KI-Validator kann leicht einer davon sein und Effizienz mit echten Ergebnissen gewährleisten”, erklärt er.   
 

Die Zuschreibungen dieser neuen Funktion gehen über die Risikominderung hinaus Die Rolle des Validators besteht darin, ein sicheres, ethisches und zuverlässiges Betriebsmanagement in Unternehmen zu gewährleisten, die intelligente Agenten als Teil ihrer Prozesse einsetzen “Das Hauptanliegen liegt in der Art und Weise, wie diese Systeme aufgebaut sind und der Möglichkeit, dass KI ungenaue oder falsche Antworten generiert. Das Ziel des Fachmanns wird es sein, die Handlungen der Agenten zu überprüfen, zu validieren und zu bestätigen, um sicherzustellen, dass keine Halluzinationen vorliegen und die Aufgaben voraussichtlich zurückgegeben werden”, sagt Marcos. 

Die Integration zwischen Mensch und intelligenten Agenten kann nach Aussage der Exekutive zwei unterschiedlichen Modellen folgen “Im aktiven Modell beteiligt sich der Mensch direkt an der Ausführung Der Agent führt die Aufgabe bis zu einem bestimmten Punkt, wie im Dienst an einem Benutzer, und von dort aus bewertet und entscheidet der Fachmann die nächsten Schritte, bereits im passiven Modell erhält der Mensch Benachrichtigungen über den Fortschritt der Operation In beiden Fällen ist die menschliche Präsenz für Genehmigungen, Arbeitsabläufe, strategische Entscheidungen und kritische Urteile unerlässlich”, führt er aus. 

Die Rolle des menschlichen Mitarbeiters besteht darin, den Erfolg, die Sicherheit und die Zuverlässigkeit automatisierter Phasen der Reise sicherzustellen, insbesondere bei Aktivitäten, die eine größere Komplexität, Überzeugung oder technisches Wissen erfordern und immer noch stark von der menschlichen Wahrnehmung oder hybriden Ansätzen abhängen. 

Die Umfrage des Weltwirtschaftsforums hebt auch hervor, dass die von Arbeitgebern am meisten geschätzten Kompetenzen die sogenannten Kernkompetenzen bleibenAnalytisches Denken führt die Nachfrage an, gefolgt von menschlichen Attributen wie Resilienz, Agilität, Führung und sozialer Einfluss Bis 2030 werden unter anderem technische Bereiche wie KI, Big Data, Vernetzung, Cybersicherheit und technologische Kompetenz sowie Kreativität, Flexibilität, Neugier und kontinuierliches Lernen zu den am schnellsten wachsenden Kompetenzen erwartet. 

“Ein Validator von KI-Agenten synthetisiert die Essenz der neuen Ära der Arbeit. Dies ist ein Fachmann, der technisches Wissen in künstlicher Intelligenz und neuen Technologien mit dem menschlichen Urteilsvermögen kombiniert, das notwendig ist, um mit Unsicherheit umzugehen und Vertrauen in autonome Systeme zu gewährleisten.”Diese Funktion spiegelt den Trend wider, dass Agenten von geschulten Menschen geschult und beaufsichtigt werden müssen, in der Lage sind, kritische Situationen zu erkennen und kritische Sinne anzuwenden. „Am Ende bleibt unser Unterschied das aufmerksame Aussehen und die kontinuierliche Weiterentwicklung, unabhängig vom Beruf”, schließt Marcos.