Ketika AI salah, siapa yang memvalidasi?Profesi baru muncul untuk mengawasi agen cerdas

Perkembangan agen otonom terus mendefinisikan kembali pasar tenaga kerja global sebagai salah satu kemajuan paling signifikan dari era Kecerdasan Buatan. Adopsi Agen AI telah mendorong permintaan untuk fungsi baru yang ditujukan untuk pengawasan, validasi, dan jaminan kualitas tugas otomatis. Menurut laporan terbaru oleh Forum Ekonomi Dunia (WEF), pada tahun 2030, sekitar 22% pekerjaan saat ini akan diubah. Proyeksi tersebut menunjuk pada penciptaan sekitar 170 juta pekerjaan baru dan kepunahan 92 juta pekerjaan, menghasilkan keseimbangan positif dari 78 juta pekerjaan. 

 
Bagi Marcos Oliveira Pinto, Manajer Insinyur Perangkat Lunak Global di Jitterbit, profesi validator agen Kecerdasan Buatan muncul sebagai fungsi strategis di masa depan otomatisasi cerdas dalam bisnis. “Kami masih pada saat tidak mungkin untuk mempercayai AI secara membabi buta. Ini mungkin tampak jelas, tetapi penting untuk memperkuat kebutuhan akan kehadiran manusia dalam proses dan dalam penciptaan fungsi baru di pasar. Validator AI dapat dengan mudah menjadi salah satunya, memastikan efisiensi dengan hasil nyata”, jelasnya.   
 

Atribusi fungsi baru ini melampaui mitigasi risiko. Peran validator melibatkan memastikan manajemen operasi yang aman, etis, dan andal di perusahaan yang mengadopsi agen cerdas sebagai bagian dari proses mereka. “Perhatian utama adalah pada cara sistem ini dibangun dan kemungkinan AI menghasilkan jawaban yang tidak akurat atau salah. Tujuan dari profesional akan meninjau, memvalidasi, dan mengkonfirmasi tindakan agen, memastikan tidak adanya halusinasi dan pengembalian yang diharapkan dari tugas yang dilakukan”, kata Marcos. 

Menurut eksekutif, integrasi antara manusia dan agen cerdas dapat mengikuti dua model yang berbeda. “Dalam model aktif, manusia berpartisipasi langsung dalam eksekusi. Agen melakukan tugas ke titik tertentu, seperti dalam layanan kepada pengguna, dan dari sana profesional mengevaluasi dan memutuskan langkah selanjutnya. Sudah dalam model pasif, manusia menerima pemberitahuan tentang kemajuan operasi. Dalam kedua kasus, kehadiran manusia sangat penting untuk persetujuan, alur kerja, keputusan strategis dan penilaian kritis”, dia merinci. 

Peran karyawan manusia adalah untuk memastikan keberhasilan, keselamatan dan keandalan tahapan perjalanan otomatis, terutama dalam aktivitas yang memerlukan kompleksitas, persuasi, atau pengetahuan teknis yang lebih besar, yang masih sangat bergantung pada persepsi manusia atau pendekatan hibrid. 

Survei World Economic Forum juga menyoroti bahwa keterampilan yang paling dihargai oleh pengusaha tetap menjadi apa yang disebut kompetensi inti. Pemikiran analitis memimpin permintaan, diikuti oleh atribut manusia seperti ketahanan, kelincahan, kepemimpinan dan pengaruh sosial. Pada tahun 2030, kompetensi dengan pertumbuhan tercepat yang diharapkan mencakup bidang teknis seperti AI, big data, jaringan, keamanan siber dan literasi teknologi, serta kreativitas, fleksibilitas, rasa ingin tahu, dan pembelajaran berkelanjutan. 

“O validator agen AI mensintesis esensi era baru kerja.Ini adalah seorang profesional yang menggabungkan pengetahuan teknis dalam kecerdasan buatan dan teknologi baru dengan penilaian manusia yang diperlukan untuk menghadapi ketidakpastian dan memastikan kepercayaan pada sistem otonom. Fungsi ini mencerminkan tren bahwa agen akan perlu dilatih dan diawasi oleh manusia terlatih, mampu mengenali situasi kritis dan menerapkan rasa kritis.Pada akhirnya, diferensial kami tetap tampilan penuh perhatian dan pengembangan berkelanjutan, terlepas dari profesi”, menyimpulkan Marcos.