Das Verbraucherrechtsinstitut (Idec) äußert große Besorgnis über die Rückschritte, die im neuen Entwurf des Gesetzesprojekts 2.338/2023 enthalten sind, der heute (3.) veröffentlicht wurde und die Regulierung der Nutzung künstlicher Intelligenz in Brasilien zum Ziel hat. Jede neue Version des Textes schwächt die Schutzmechanismen der Bürger und erweitert die Angleichung an die Interessen der großen Technologieunternehmen zum Nachteil der Rechte der Bevölkerung und der nationalen Souveränität.
Erhöhte Risiken durch neue Formulierungen
Der aktuelle Vorschlag reduziert die Schutzmaßnahmen zur Minderung der negativen Auswirkungen von KI-Systemen drastisch. Zu den wichtigsten Warnpunkten heben wir hervor:
Betrug in sozialen Netzwerken erleichtern
Die Ausklammerung der Klassifizierung von groß angelegten Content-Distribution-Systemen als risikoreich fördert die Verbreitung von Betrugsfällen, Betrug und Desinformation. Dies stellt einen Rückschritt in Bezug auf den Verbraucherschutz und die Integrität der digitalen Umgebung dar.
Schwächung des Kampfes gegen sexuelle Ausbeutung von Kindern
Die neue Version des Textes weist Lücken auf, die die Verantwortlichkeit von KI-Systemen erschweren, die zur Produktion und Verbreitung von Inhalten im Zusammenhang mit Kinderpornografie verwendet werden. Die Änderung könnte die Verantwortlichkeit von Unternehmen oder Entwicklern erschweren, die indirekt zur Erstellung oder Verbreitung dieses Inhalts beitragen, falls das Gesetzesvorhaben (PL) verabschiedet wird.
Risikobewertung als bloße „gute Praxis“
Der Text sieht vor, die obligatorische vorläufige Risikobewertung durch eine bloße Empfehlung bewährter Verfahren zu ersetzen, wodurch die Fähigkeit zur Überwachung und Schadensbegrenzung im Vorfeld untergraben wird.
Fehlende Regulierung der Kreditwürdigkeit
Das anhaltende Versäumnis, Kredit-Scoring als risikoreiche Aktivität zu betrachten, ignoriert die negativen Auswirkungen, die automatisierte Systeme auf die finanzielle Situation der Verbraucher haben können, insbesondere der schwächsten und überschuldeten Verbraucher.
Unterstützung durch Big Techs und mangelndes Engagement der Legislative
Es ist offensichtlich, dass bei jeder neuen Version des Projekts mehr Rechte entzogen werden und die Unterstützung der großen Technologieunternehmen für den Text wächst. Dies spiegelt die Macht der Lobby dieser Konzerne wider, die es geschafft haben, den Gesetzentwurf so zu gestalten, dass er ihre kommerziellen Interessen begünstigt.
Währenddessen zeigt der Bundessenat eine beunruhigende Nachlässigkeit gegenüber dem Industriesektor, während er die Appelle der Gesellschaft ignoriert, die diejenigen schützen möchte, die am dringendsten Schutz benötigen. Diese Haltung gefährdet die nationale Souveränität und übergibt die zukünftige Regulierung der künstlichen Intelligenz in Brasilien in die Hände des Privatsektors.
Was steht auf dem Spiel?
Der Gesetzentwurf PL 2.338/2023 versagt darin, eine robuste und ausgewogene Regulierungsstruktur zu schaffen, die die Rechte der Bürger schützt und die verantwortungsvolle technologische Entwicklung fördert. Die Regulierung der künstlichen Intelligenz sollte Sicherheit, Privatsphäre und Würde der Bevölkerung priorisieren und nicht als Freifahrtschein für uneingeschränkten Profit der Big Techs dienen.
Der Idec appelliert an die Parlamentarier, den Text des Gesetzentwurfs dringend zu überarbeiten, wobei das öffentliche Interesse über externen Druck gestellt wird. Ohne dies besteht die Gefahr, dass Brasilien in ein Labor für unregulierte technologische Experimente verwandelt wird, mit verheerenden Auswirkungen auf die Grundrechte und die Souveränität des Landes.
