Het Consumentenbeschermingsinstituut (Idec) uit diepe bezorgdheid over de achteruitgang die is opgenomen in de nieuwe tekst van het wetsvoorstel 2.338/2023, dat vandaag (3) is gepubliceerd, en dat het gebruik van kunstmatige intelligentie in Brazilië wil reguleren. Elke nieuwe versie van de tekst verzwakt de beschermingsmechanismen voor burgers en vergroot de afstemming met de belangen van grote technologiebedrijven, ten koste van de rechten van de bevolking en de nationale soevereiniteit.
Vergrote risico's met de nieuwe tekst
De huidige voorgestelde maatregel vermindert drastisch de waarborgen om de negatieve effecten van kunstmatige intelligentiesystemen te beperken. Onder de belangrijkste waarschuwingspunten benadrukken wij:
Facilitatie van oplichting op sociale netwerken
Het uitsluiten van de classificatie van grootschalige contentdistributiesystemen als hoog risico bevordert de verspreiding van oplichterijen, fraude en desinformatie. Dit vormt een achteruitgang in de bescherming van consumenten en de integriteit van de digitale omgeving.
Verzwakking van de strijd tegen de seksuele exploitatie van kinderen
De nieuwe versie van de tekst bevat lacunes die het moeilijk maken om verantwoordelijkheid te nemen voor AI-systemen die worden gebruikt om inhoud met betrekking tot kinderpornografie te produceren en te verspreiden. De wijziging kan het moeilijker maken om bedrijven of ontwikkelaars die indirect bijdragen aan de creatie of verspreiding van deze inhoud verantwoordelijk te houden, mocht de wet worden aangenomen.
Risico-evaluatie als louter "goede praktijk"
De tekst behoudt de vervanging van de verplichting tot een voorlopige risicobeoordeling door een loutere aanbeveling voor goede praktijken, wat het toezicht en de controle op schade voordat ze plaatsvinden, ondermijnt.
Afwezigheid van regulering van de kredietscore
Het blijven bestaan van de nalatigheid met betrekking tot de kredietscore als een risicovolle activiteit negeert de negatieve impact die geautomatiseerde systemen kunnen hebben op het financiële leven van consumenten, vooral de meest kwetsbaren en overgefinancierden.
Steun van de Big Techs en het gebrek aan betrokkenheid van de wetgevende macht
Het is duidelijk dat bij elke nieuwe versie van het project meer rechten worden weggenomen en dat de steun van grote technologiebedrijven voor de tekst toeneemt. Dit weerspiegelt de kracht van de lobby van deze bedrijven, die erin geslaagd zijn om de wetgeving aan te passen om hun commerciële belangen te bevorderen.
Intussen toont de Federale Senaat een zorgwekkende laksheid ten opzichte van de industriële sector, terwijl het de oproepen van de samenleving negeert die degenen die het meest nodig hebben, willen beschermen. Deze houding compromitteert de nationale soevereiniteit en geeft de toekomstige regulering van kunstmatige intelligentie in Brazilië in handen van de private sector.
Wat staat er op het spel?
De PL 2.338/2023, zoals het is, faalt in het vaststellen van een robuuste en evenwichtige regelgevende structuur die de rechten van de burgers beschermt en verantwoord technologische ontwikkeling bevordert. De regulering van kunstmatige intelligentie moet prioriteit geven aan veiligheid, privacy en waardigheid van de bevolking, en niet dienen als een vrijbrief voor onbegrensde winst van de grote techbedrijven.
Idec roept parlementariërs op om dringend de tekst van het wetsvoorstel te herzien, met prioriteit voor het algemeen belang boven externe druk. Zonder dit risico loopt Brazilië het gevaar te worden omgevormd tot een laboratorium voor ongecontroleerde technologische experimenten, met verwoestende gevolgen voor de fundamentele rechten en de soevereiniteit van het land.
