AI に関する本当の議論: 人間の監視は不可欠です

人工知能 (AI) に関する公開討論はしばしば極端に失われます完全な自動化を伴う高揚感や専門家に取って代わることへの恐怖ですしかし本当の緊急性は人間の監督にあります確率に基づくAIモデルは固有の誤差の範囲を持っていますが適切なキュレーションなしに金融から健康まで重要な文脈でますます使用されていますこの実践はリスクがあるだけでなく技術的に間違っています厳密な検証がなければAIに対する盲目的な信頼は重大な失敗につながり倫理的法的運用上の影響をもたらします人間の監督はアクセサリーではありませんテクノロジーの責任ある持続可能な利用の基盤です。

AIの限界は実用化において明らか スタンフォード大学とGitHub Copilotの研究 (2023) は、AIが生成したコードの45%が脆弱性を示したり、優れた開発慣行に違反したりしているように見えても、AIが機能しているように見える場合でも、ソリューションが安全でない可能性、規制基準を満たしていない可能性、ビジネス目標と一致していない可能性があるという疑問が残ります 厳格なテストと継続的な検証がなければ、いかなる答えも単なる推測に過ぎません。

AIの無謬性への信念は、商業的な言説と非現実的な期待によって煽られているが、基本的な真実を無視している:テクノロジーは、その出力を解釈、調整、修正するために人間に依存している法的セクターなど、規制されたセクターでは、監督の不在が一般データ保護法(LGPD)などの法律に違反する可能性があり、自動化された意思決定の透明性が求められる。 McKinsey (2023) によると、GenAIの普及、より正確には、これらのツールがビジネスにもたらす可能性のあるリスクに対して十分な準備をしている企業はほとんどないようである。誤った情報を持つ医療の利用に関するガイドラインを広めるために人工知能を採用したと報告した回答者のうち、組織を指導しているのはわずか21%である。

人工知能は間違いないという考えは、ビジネス上の言説と非現実的な期待の両方によって煽られた歪みを反映しており、専門家の不足も重大である。ブラジルのコンサルタント会社ベイン・アンド・カンパニーによる最近の調査では、幹部の39%が社内の専門知識の欠如を挙げている。生成 AI の実装を加速し、データ セキュリティに対する懸念さえも克服するための主な障壁となっています。 

それは実質的である技術の進歩を否定する問題ではなく、それはまだ依存し、そして今後も依存し続けることを認識すること、解釈、調整、そして必要に応じて、それらの出力を修正することができる専門家に依存し、調整し、調整し、そして、必要ならば、それらの生産物を修正することができる専門家に依存し、特に金融、法律または健康などの規制されたまたは影響力の高いセクターでは、技術的および倫理的監督の不在は、深刻な、法的および運用上の結果を生み出すことができますブラス研究はこの不足を証明し、ブラジルは年間53 千人のIT専門家しか形成していない一方、2021 年から2025 年の間の需要は合計797 千人の才能を必要とするでしょう。

グローバルな取り組みにより改善の糸口が示されます AIの倫理的利用に関する国連の方法論では、設計から運用まで、システムのライフサイクル全体にわたって人間による監視を推奨しています Salesforceのような企業は、これを実際に示しています: Einsteinプラットフォームは倫理委員会を使用してアルゴリズムを監査しますこのアプローチは、監視が技術的であるだけでなく戦略的でもあり、透明性、説明責任、能力構築への投資が必要であることを示しています。

AIには業界を変革する力がありますが、人間の監視がなければ、その可能性は倫理的、法的、運用上のリスクによって影が薄くなります。 「金融詐欺」や医療ミスの可能性などの事例は、テクノロジーに対する盲目的な信頼が持続不可能であることを示していますが、「セールスフォース」の例では、堅牢なガバナンスが利益を最大化し、失敗を最小限に抑えることができることを証明しています。 2025年までに、AIの議論では責任あるイノベーションの柱として監督を優先すべきであり、コスト、人材不足、文化的抵抗などの課題に直面しています。リーダー、企業、規制当局には、AIの力と人間の感性を組み合わせたシステムを構築し、テクノロジーが問題ではなく進歩を増幅させる責任がある。