Institute for Consumer Protection (Idec) mengungkapkan keprihatinan mendalam tentang kemunduran yang dimasukkan ke dalam teks baru RUU 2.338/2023, yang dirilis hari ini (3), yang bertujuan untuk mengatur penggunaan kecerdasan buatan di Brasil. Setiap versi baru dari teks tersebut melemahkan mekanisme perlindungan warga negara dan memperluas keselarasan dengan kepentingan perusahaan teknologi besar, sehingga merugikan hak-hak penduduk dan kedaulatan nasional.
Risiko meningkat dengan kata-kata baru
Proposal saat ini secara drastis mengurangi pengamanan untuk mengurangi dampak negatif dari sistem kecerdasan buatan. Di antara poin peringatan utama, kami menyoroti:
Fasilitasi penipuan di jejaring sosial
Pengecualian mengklasifikasikan sistem distribusi konten skala besar sebagai berisiko tinggi mendukung proliferasi penipuan, penipuan dan misinformasi.Ini merupakan kemunduran dalam kaitannya dengan perlindungan konsumen dan integritas lingkungan digital.
Fragilisasi perjuangan melawan eksploitasi seksual anak
Versi baru dari teks ini menyajikan kesenjangan yang menyulitkan untuk memegang sistem AI yang dapat dipertanggungjawabkan yang digunakan untuk memproduksi dan menyebarkan konten yang terkait dengan eksploitasi seksual anak. Perubahan tersebut dapat menyulitkan perusahaan atau pengembang untuk secara tidak langsung berkontribusi pada pembuatan atau penyebaran konten tersebut, jika PL disetujui.
Penilaian risiko hanya sebagai “latihan boa”
Teks ini mempertahankan penggantian kewajiban penilaian risiko awal dengan sekedar rekomendasi praktik yang baik, yang mengosongkan kapasitas pengawasan dan pengendalian kerusakan sebelum hal tersebut terjadi.
Kurangnya regulasi skor kredit
Kelanggengan kelalaian dalam kaitannya dengan nilai kredit sebagai aktivitas berisiko tinggi mengabaikan dampak negatif sistem otomatis terhadap kehidupan finansial konsumen, terutama kelompok yang paling rentan dan berhutang berlebihan.
Dukungan dari Big Techs dan kurangnya komitmen dari Legislatif
Hal ini terbukti bahwa dengan setiap versi baru dari proyek, lebih banyak hak ditarik dan dukungan perusahaan teknologi besar untuk teks tumbuh. Hal ini mencerminkan kekuatan lobi perusahaan-perusahaan ini, yang telah berhasil membentuk PL untuk mendukung kepentingan komersial mereka.
Sementara itu, Senat Federal menunjukkan rasa puas diri yang mengkhawatirkan terhadap sektor industri sambil mengabaikan seruan masyarakat yang berupaya melindungi mereka yang paling membutuhkan. Postur ini membahayakan kedaulatan nasional dan memberikan masa depan regulasi kecerdasan buatan di Brasil ke tangan sektor swasta.
Apa yang dipertaruhkan?
PL 2.338/2023, saat ini, gagal menetapkan kerangka peraturan yang kuat dan seimbang yang melindungi hak-hak warga negara dan mendorong pengembangan teknologi yang bertanggung jawab. Regulasi kecerdasan buatan harus memprioritaskan keselamatan, privasi, dan martabat masyarakat, dan tidak berfungsi sebagai kekuasaan penuh untuk keuntungan tak terbatas dari teknologi besar.
Idec menyerukan kepada anggota parlemen untuk segera meninjau teks proyek, memprioritaskan kepentingan publik atas tekanan eksternal. Tanpa ini, Brasil berisiko diubah menjadi laboratorium untuk eksperimen teknologi yang dideregulasi, dengan dampak buruk pada hak-hak dasar dan kedaulatan negara.
