消費者防衛研究所（Idec）は、今日（3日）に公表された法律案第2.338/2023の新しい条文に盛り込まれた後退に深い懸念を示しています。この法律案は、ブラジルにおける人工知能の使用を規制することを目的としています。 テキストの新しいバージョンは、市民の保護メカニズムを弱体化させ、大手テクノロジー企業の利益に沿った方向へと拡大し、国民の権利と国家主権を損なう。
新しい文言によるリスクの増大
現在の提案は、人工知能システムの悪影響を軽減するための安全策を大幅に削減しています。 主な警告点として、次のことを挙げます：
ソーシャルネットワーク上で詐欺を助長する
大規模コンテンツ配信システムの分類から高リスクとして除外することは、詐欺、詐欺行為、誤情報の蔓延を助長します。 これは消費者保護とデジタル環境の完全性に対する後退を意味します。
児童性的搾取に対する戦いの弱体化
新しいバージョンのテキストには、児童性的搾取に関連するコンテンツの制作と拡散に使用されるAIシステムの責任追及を困難にする抜け穴が存在します。 この変更により、PLが承認された場合、間接的にこのコンテンツの作成や拡散に関与する企業や開発者の責任追及が難しくなる可能性があります。
単なる「良い実践」としてのリスク評価
この文書は、義務的な予備的リスク評価を単なる優良事例の推奨に置き換えることを維持しており、これにより、被害が発生する前に監視および被害制御を行う能力が損なわれます。
信用スコア規制の欠如
信用スコアリングを高リスク活動として引き続き省略することは、自動化システムが消費者、特に最も脆弱で過剰債務を抱えた消費者の経済生活に及ぼす可能性のある悪影響を無視することになります。
大手テック企業からの支援と議会の取り組みの欠如
新しいバージョンのプロジェクトごとに、より多くの権利が奪われ、大手テクノロジー企業の支持がますます強まっていることは明らかです。 これは、これらの企業のロビー活動の強さを反映しており、彼らは商業的利益を favor するように法律案を形成することに成功しています。
一方、連邦上院は、最も必要とする人々を守ろうとする社会の訴えを無視しながら、産業界に対して憂慮すべき容認を示しています。 この姿勢は国家の主権を危うくし、ブラジルにおける人工知能の将来の規制を民間セクターに委ねることになる。
何が危機に瀕しているのでしょうか?
PL 2.338/2023は、現状では、市民の権利を保護し、責任ある技術開発を促進するための堅牢でバランスの取れた規制構造を確立していない。 人工知能の規制は、安全性、プライバシー、そして人々の尊厳を優先すべきであり、ビッグテックの無制限な利益追求のための白紙委任状としてはならない。
Idecは議員に対し、外部からの圧力よりも公共の利益を優先して、プロジェクトの原案を緊急に見直すよう要請しています。 これがなければ、ブラジルは規制されていない技術実験のための実験室に変わるリスクがあり、基本的な権利や国の主権に壊滅的な影響を与える可能性があります。
