Когда ИИ ошибается, кто проверяет? Появляется новая профессия для наблюдения за интеллектуальными агентами

Развитие автономных агентов продолжает переопределять мировой рынок труда как один из наиболее значительных достижений эпохи искусственного интеллекта, Принятие Агентов ИИ привело к спросу на новые функции, направленные на надзор, валидацию и обеспечение качества автоматизированных задач Согласно недавнему докладу Всемирного экономического форума (ВЭФ), к 2030 году будет преобразовано около 22% нынешних рабочих мест.Прогноз указывает на создание примерно 170 миллионов новых рабочих мест и исчезновение 92 миллионов рабочих мест, в результате чего положительное сальдо составит 78 миллионов рабочих мест. 

 
Для Маркоса Оливейры Пинто, глобального инженера-программиста в Jitterbit, профессия валидатора агентов искусственного интеллекта появляется как стратегическая функция в будущем интеллектуальной автоматизации в бизнесе. “Мы все еще в то время, когда невозможно слепо доверять ИИ. Это может показаться очевидным, но важно усилить потребность в человеческом присутствии в процессах и в создании новых функций на рынке. валидатор ИИ может легко быть одним из них, обеспечивая эффективность с реальными результатами”, - объясняет он.   
 

Атрибуции этой новой функции выходят за рамки снижения рисков Роль валидатора заключается в обеспечении безопасного, этичного и надежного управления операциями в компаниях, которые принимают интеллектуальные агенты в рамках своих процессов. “Основная проблема заключается в том, как эти системы построены и возможность ИИ генерировать неточные или неправильные ответы. Целью профессионала будет проверка, проверка и подтверждение действий агентов, обеспечение отсутствия галлюцинаций и ожидаемого возврата выполняемых задач.”, - говорит Маркос. 

По словам руководителя, интеграция между людьми и интеллектуальными агентами может следовать двум различным моделям. “В активной модели человек непосредственно участвует в выполнении. агент проводит задачу до определенного момента, например, в сервисе для пользователя, и оттуда профессионал оценивает и решает следующие шаги. Уже в пассивной модели человек получает уведомления о ходе операции. в обоих случаях присутствие человека имеет важное значение для одобрений, рабочих процессов, стратегических решений и критических суждений”, - подробно описывает он. 

Роль сотрудника-человека заключается в обеспечении успеха, безопасности и надежности автоматизированных этапов путешествия, особенно в деятельности, требующей большей сложности, убеждения или технических знаний, все еще сильно зависящей от человеческого восприятия или гибридных подходов. 

Опрос Всемирного экономического форума также подчеркивает, что навыки, наиболее ценимые работодателями, остаются так называемыми основными компетенциями. Аналитическое мышление лидирует в спросе, за ним следуют человеческие атрибуты, такие как устойчивость, ловкость, лидерство и социальное влияние. к 2030 году наиболее быстро растущие компетенции, которые ожидаются, включают технические области, такие как ИИ, большие данные, сети, кибербезопасность и технологическая грамотность, а также креативность, гибкость, любопытство и непрерывное обучение. 

“O валидатор агентов ИИ синтезирует суть новой эры work.This является профессионалом, который сочетает технические знания в области искусственного интеллекта и новых технологий с человеческим суждением, необходимым для борьбы с неопределенностью и обеспечения доверия к автономным системам.Эта функция отражает тенденцию, что агентов необходимо будет обучать и контролировать обученные люди, способные распознавать критические ситуации и применять критический смысл.В конце концов, наш дифференциал остается внимательным взглядом и непрерывным развитием, независимо от профессии”, заключает Маркос.