ますます技術に向かう世界で、人工知能（AI）の普及はすでに現実となっています。 そのため、その規制は国際的な注目の的となっており、ブラジルを含むいくつかの国がその方向に先んじようとしています。 こちらでは、さまざまな対立点が法案（PL）2.338/2023の採決を延期させる要因となっており、最近では連邦会計検査院（TCU）が国会で審議中のこれらの規制に関連するいくつかのリスクを特定しました。
TCUの仕事は、ブラジル人工知能戦略（Ebia）を見直し、それがどのようにその実施に悪影響を及ぼすか、またこれらの提案が承認された場合に公共および民間セクターに及ぼす可能性のある影響を検討・分析しました。 科学技術革新省（MCTI）の命令によって設立されたEbiaは、ブラジル政府が人工知能の解決策の開発を促進し、その意識的かつ倫理的な使用を促進するさまざまな側面のイニシアチブを指導する役割を担っています。
ブラジリア大学（UnB）の教授であり、医療に応用される技術革新の研究者であるパウロ・ヘンリケ・デ・ソウザ・ベルメジョ博士にとって、特に考慮すべきなのは、ブラジルの規制がイノベーションを制限できるかどうかであり、それがEbiaに反するかどうかである。 エビアは、責任あるAIの開発と利用のための倫理原則の策定に寄与すること、AIの研究開発への持続的な投資を促進すること、AIにおけるイノベーションの障壁を取り除くこと、AIエコシステムのための専門家を育成・訓練すること、国際的な環境でのブラジルのイノベーションとAIを促進すること、そして公共と民間、産業界、研究センター間の協力を促進し、人工知能の進歩を推進することの6つの主要な目的を持っています。
パウロは、過度な規制が国内のAIシステムの進化を過負荷にし、コストを増加させる可能性があると指摘しました。これにより、企業は複雑な規制を遵守するために過剰な時間と資金を費やすことになり、技術の向上に資源を投入する代わりに費やすことになると述べました。 これにより、定期的にシステムを作成できる財政的に適格な少数の企業による独占が促進され、公開される可能性のある規則に従って維持されることになる。 そのため、スタートアップや小規模企業はこれに対抗できず、Ebia自身の目標を危険にさらすことになる。 このような状況は、多くの生産部門の国際競争力の喪失につながる可能性があるため、規制とイノベーションのバランスを見つけることが非常に重要です。倫理的かつ責任ある方法でAIを開発・利用し、その進化を妨げないようにすることが必要ですと、教授は付け加えました。
彼は、ブラジルにおいてこの分野の最も重要な側面の一つは、国内のAIの開発だけでなく、生産部門での応用においても、国際的な競争相手として位置付けることができることだと説明しました。 「各国で提案されている投資額と規制は、他国との位置付けに直接影響します。これは、国内産業がより自主性を持ち、自らの技術を進化させ、輸出を目指すか、または他国の技術輸入に依存するかを意味します。グローバル化した市場では、ブラジル企業は外国企業と競争できる能力を持ち、技術の進歩に追いつき、生産過程をより効率的にする必要があります」と説明しました。
教授はさらに、規制がAIシステムと他のシステムを区別していることを指摘した。 私の見解では、中長期的にこれはほぼすべての種類のソフトウェアに適用されるでしょう。知能の低いソフトウェアシステムは廃れていき、より迅速に他のものに取って代わられる傾向があるからです。言い換えれば、これは海外製のものも含め、あらゆる種類のソフトウェアに対して一連の制限が課される可能性があります。つまり、これは国内のソフトウェア産業だけでなく、ブラジル社会全体にも影響を与えるでしょう。なぜなら、新しい技術の導入が遅れる可能性があり、それにより国内の生産システムがより効率的で競争力のあるものになるための、経済のさまざまなセクターに関連するシステムの進化が遅れるからです」と強調した。
もう一つ考慮すべき点は、実験に対する制約に関するものであり、AIの学術研究は通常、新しい方法やアルゴリズムを用いた実験を含むからである。 規制が厳しいと、研究者が他のアプローチを試す自由が制限され、新しい解決策の発見が難しくなる可能性があります。さらに、異なる機関や国の研究者間の協力を妨げることもあります。例えば、規制がAIの進展に不可欠なデータセットの共有を拒否し、より効率的なアルゴリズムの作成能力を制限する場合などです、と彼は支持した。
柔軟な規制の必要性
研究者は、ブラジルにおけるAIの規制について、社会の理解に合わせて柔軟であることを理想とし、その規制を示した。 「関係者が多いため、ブラジルでの規制を急ぐのではなく、議論を深め、政府、民間セクター、市民社会、学界などすべての関係者を意思決定プロセスに含めることが最善です。規制は非常に必要ですが、慎重に行うべきであり、現状のすべての角度を考慮する必要があります。なぜなら、これらの技術の進化は非常に速いため、現行法やブラジルで審議中のいくつかの法案にも予見されていない新たな状況が日々生まれているからです。したがって、テーマに関する議論と熟考は緊急の課題ですが、必ずしも結論を出す必要はありません」と彼は述べた。
パウロ氏によると、この文脈の別の側面では、AI アプリケーションは経済のさまざまな分野をカバーしているため、それぞれに特定の規制が必要となり、米国のように異なるガバナンス対策を採用することがより合理的になるということを念頭に置くことが重要だということです。
著作権とデータマイニング
教員にとって、合理的を超える規制は、潜在能力だけでなく、コミュニティ全体の進歩と繁栄の能力も抑制する可能性があります。 これに伴い、議論されたポイントの一つは、特にデータマイニングに関して、技術の進歩を妨げることなく、個人および集団の権利保護のバランスをどう取るかということである。
パウロによると、データの利用可能性とマイニングは、特に大量のデータの探索を必要とする機械学習モデルの開発において、AIの発展にとって重要です。 これの一例は、GPT-3やGPT-4などの大規模言語モデルの分野にあり、ChatGPTの基盤となるものであり、インターネット上の膨大な量のテキストで訓練されており、人間に似たコンテンツを生成し、指示を理解することなどを学習している。
彼が述べたように、浮き彫りになっている問題は、これらの訓練に使用されたデータに関する著作権についてです。 規制における不均衡な決定は、テキスト、音声、画像を含む大量のデータの活用を必要とするAIシステムの開発と利用を妨げる可能性があり、国内市場にさらなる障壁を生むことになると指摘した。
この文脈の別の見方として、専門家は著作権の問題が世界中でかなり議論されており、これらの技術が多くの批判を受けていると指摘しました。 ベルメホ教授にとって、これらの技術的な道具の大手メーカーが知的財産権の侵害がある場合にコンテンツの制作者と合意に達するという意味で、合意が必要である。
最後に、専門家によると、ポルトガル語の言語モデルのトレーニングは重要なポイントです。なぜなら、GeminiやChatGPTのような商用モデルは「私たちの言語を話す」ものの、多くの場合、それは翻訳を通じて行われるため、偏った誤った回答を生じる可能性があるからです。 一方、ブラジル人も大量のデータを生産しており、それは海外の「ビッグテック」によってターゲットにされている。彼らは大規模な人工知能モデルを訓練できるため、この市場内で収益性の高い代替案となり得る。本物のブラジル製AIを持つことができる。
