Otoritas Perlindungan Data Nasional Brasil (ANPD) baru-baru ini menolak fitur dari Meta, perusahaan pemilik Facebook, yang berusaha menggunakan data dari pengguna Brasil untuk melatih Kecerdasan Buatan (AI). Keputusan ini menyoroti kekhawatiran signifikan tentang etika dan keamanan dalam penggunaan data untuk pengembangan AI.
Marcell Rosa, General Manager dan Wakil Presiden Penjualan di Amerika Latin di Clevertap, memperingatkan risiko yang terkait dengan penggunaan data yang dikumpulkan dari platform di mana informasi yang salah dan serangan pribadi adalah hal biasa. “Ketika AI belajar dari informasi yang bias dan sering berbahaya, risikonya adalah bahwa mesin ini tidak hanya mereproduksi tetapi memperkuat perilaku negatif dan terdistorsi”, kata Rosa.
Masalah ini mendapatkan dimensi yang mengkhawatirkan ketika kita mempertimbangkan konteks pemilu Brasil. Selama pemilu 2022, Pengadilan Tinggi Pemilihan Umum (TSE) melaporkan telah menerima lebih dari 500 peringatan harian tentang berita palsu pada putaran kedua saja.
Perhatian utamanya adalah bahwa AI, yang dilatih dengan pendapat orang biasa yang sering dipengaruhi oleh informasi yang salah, dapat mereplikasi dan memperkuat pola negatif.“A AI cenderung mereplikasi perilaku manusia, dan ketika perilaku ini ditandai dengan polarisasi dan kurangnya kesopanan, teknologi pasti mencerminkan kekurangan ini”, jelas Rosa.
Keputusan ANPD dipandang sebagai langkah penting untuk memastikan penggunaan data yang bertanggung jawab dan etis dalam pelatihan AI.“Privasi pengguna dan integritas informasi sangat penting untuk pengembangan teknologi yang benar-benar menguntungkan masyarakat”, simpul Rosa.
Kasus ini menggarisbawahi kebutuhan mendesak akan pendekatan yang lebih kritis dan teregulasi terhadap pengumpulan dan penggunaan data oleh platform digital, yang bertujuan untuk melindungi integritas informasi dan memastikan bahwa pengembangan AI didasarkan pada data yang andal dan saling menghormati.
