AIの進歩に伴い、世界中の組織やコミュニティにAIのプラスの影響を解き放つ役割が私たち全員にあるため、私たちはお客様がAIを使用し、作成できるようにすることに重点を置いています 信頼された、つまりAIです 安全, 保護 e プライベート.  

Microsoft では、信頼性の高い AI を確保するという取り組みを行っており、最先端のサポート テクノロジーを構築しています。当社の取り組みと機能は連携して、お客様と開発者があらゆる層で保護されるようにしています。

私たちのコミットメントに基づいて、今日新しいものを発表します リソース AI システムのセキュリティ、保護、プライバシーを強化する製品。

セキュリティ. セキュリティはマイクロソフトにおける最優先事項であり、当社も最優先事項です フューチャー セーフ イニシアチブ (SFI、英語) の拡大は、会社全体のコミットメントと、顧客をより多くするために私たちが感じている責任を強調しています 保険。 今週、最初の発表をします SFI 進捗 レポート、文化、ガバナンス、テクノロジー、運用にまたがるアップデートを強調しています。これは、セキュリティを何よりも優先するという当社の約束を果たし、設計によるセキュリティ、デフォルトによるセキュリティ、安全な運用の 3 つの原則に基づいています Microsoft Defender と Purview、当社のAIサービスは、即時注入や著作権侵害を防ぐのに役立つ組み込み機能など、基本的なセキュリティ制御を備えています それらに基づいて、本日、2 つの新機能を発表します: 当社の主要な製品に加えて、 Microsoft Defender と Purview、当社のAIサービスには、即時的な注入や著作権侵害を防ぐための機能が組み込まれているなど、基本的なセキュリティ制御機能があり、これらに基づいて、本日、次の2 つの新機能を発表します:

• 評価 いいえ Azure AI Studio プロアクティブなリスク分析をサポートします.
• Microsoft 365 Copilot が提供します web クエリの透明性 管理者とユーザーが Web 検索によって Copilot の応答がどのように改善されるかをより深く理解できるようにするため。

当社のセキュリティ機能はすでに顧客によって使用されています。 カミンズ、モーターの製造とクリーンエネルギー技術の開発で知られる105 年の歴史を持つ企業、 彼は Microsoft Purview に目を向けました データの分類、タグ付け、ラベル付けを自動化することで、データのセキュリティとガバナンスを強化します。 EPAM システムズ、 ソフトウェア エンジニアリング および ビジネス コンサルティング 会社 展開  マイクロソフト 365 Microsoft からデータ保護を受けているため、300 人のユーザーに Copilot を提供します。 IT のシニア ディレクターである JT Sodano 氏は、「他の LLM (大規模言語モデル) と比較して、Microsoft 365 用の Copilot にはるかに自信がありました。なぜなら、私たちは同じデータおよび情報保護ポリシーを知っているからです」と語りました。で設定します マイクロソフト パービュー コパイロットに応募します。“

セキュリティ. セキュリティとプライバシーを含む、より広範な原則 Microsoft の責任ある AI、2018 年に設立され、企業全体でAIを安全に作成および展開する方法を指導し続けています 実際には、これは、有害なコンテンツ、バイアス、悪用、その他の意図しないリスクなどの望ましくない行動を防止するためのシステムを適切に構築、テスト、監視することを意味します 長年にわたり、これらの原則を守り、AIを安全に構築および展開するために必要なガバナンスの枠組み、ポリシー、ツール、およびプロセスの構築に多大な投資を行ってきました Microsoftでは、責任あるAIの原則を守るこの旅での学習を、お客様と独自のベストプラクティスと学習を使用して、私たちが作成しようとしているのと同じ高い基準でAIアプリケーションを作成するための人々と組織とツールを提供します。

今日、私たちは、お客様がAIの利点を追求しながら、リスクを軽減できるよう、新しい機能を共有しています:

• リソース 矯正 microsoft Azure AI コンテンツ セーフティの接地検出機能により、幻覚の問題をユーザーが認識する前にリアルタイムで修正できます。   
• 埋め込み コンテンツ セキュリティ、これにより、顧客はazure AI Content Safetyをデバイスに挿入できます。これは、クラウド接続が断続的または利用できない可能性があるデバイス上のシナリオにとって重要です。   
• 新しい評価 azure AI Studio では、顧客が出力の品質と関連性、および AI アプリケーションが保護されたマテリアルを生成する頻度を評価できるようにします。  
• プログラミングのための保護された材料の検出 azure AI Content Safety では、既存のコンテンツとコードの検出を支援するためにプレビュー版になりました。この機能は、開発者が GitHub リポジトリでパブリック ソース コードを探索するのに役立ち、コラボレーションと透明性を促進すると同時に、より多くの情報に基づいたコーディングの決定を可能にします。

業界全体の顧客が、より安全で信頼性の高い AI アプリケーションを構築するために、すでに Microsoft ソリューションを使用している様子を見るのは驚くべきことです  unity、unity 3dゲーム用のプラットフォームで、microsoft Azure OpenAI Serviceを使用して、ゲームの開発を容易にするAIアシスタントであるMuse Chatを作成した。 Muse Chatは、でコンテンツフィルタリングモデルを使用している Azure AI コンテンツ 安全性 ソフトウェアの責任ある使用を確保するため。 に加えて、 アソス 、 英国に本拠を置き、約 900 のブランド パートナーを擁するファッション小売業者であり、Azure AI Content Safety で同じ内部コンテンツ フィルターを使用して、顧客が新しい外観を見つけるのに役立つ AI アプリを通じて高品質のインタラクションをサポートしました。

教育空間への影響も目の当たりにしています。 ニューヨーク市の公立学校 彼らは Microsoft と提携して、教育現場に適した安全で適切なチャット システムを開発し、現在学校でテストを行っています。 南オーストラリア州教育省 また、edchat を使用して生成 AI を教室に導入し、同じインフラストラクチャに依存して生徒と教師が安全に使用できるようにしました。

プライバシー. データは AI の中心であり、Microsoft の優先事項は、顧客データが当社を通じて保護およびサポートされるように支援することです プライバシー原則 ユーザー管理、透明性、法規制上の保護を含むlongstanding.これを発展させるために、今日私たちは以下を発表します:

• 機密推論 以前のバージョンでは azure OpenAI Service Whisper モデルでは、お客様は検証可能なプライバシーを端から端までサポートする生成 AI アプリケーションを開発できます。 機密推論 トレーニングされた AI モデルが新しいデータに基づいて予測や意思決定を行う推論プロセス中、機密性の高い顧客データが安全かつ非公開に保たれるようにします。   
• Azure Confidential VM の一般的な可用性 NVIDIA H100 Tensor Core GPU を搭載、これは、顧客がGPU上で直接データを保護することを可能にします これは、誰も許可なしに情報やシステムにアクセスできないように、安全な環境で顧客データが暗号化され保護されたままであることを保証する当社の機密コンピューティングソリューションに基づいています。
• Azure OpenAI データゾーン for the European Union と United States は間もなく登場し、Azure OpenAI Service が提供する既存のデータ レジデンシーを基盤として、生成 AI アプリケーションからのデータの処理とストレージの管理が容易になります。この新しい機能により、顧客は生成 AI アプリケーションを 1 つの地理内のすべての Azure リージョンにわたって拡張できる柔軟性が得られ、同時に EU または米国内でのデータ処理とストレージの制御が可能になります。

当社は、機密コンピューティングに対する顧客の関心の高まりと、アプリケーション セキュリティ プロバイダーを含む機密 GPU に対する熱意を目にしてきました F5 を、NVIDIA H100 Tensor Core GPU を搭載した Azure 機密 VM を使用して、高度な AI ベースのセキュリティ ソリューションを作成しており、そのモデルが分析しているデータの機密性を確保しています カナダ王立銀行 (RBC) Azureの機密コンピューティングを独自のプラットフォームに統合し、顧客のプライバシーを守りながら暗号化されたデータを分析 NVIDIA H100 Tensor Core GPUを搭載したAzureの機密VMが一般提供されているため、RBCはこれらの高度なAIツールを使用して、より効率的に作業し、より強力なAIモデルを開発できるようになりました。 

信頼性の高い AI でさらにリーチします

私たちは皆、信頼できる AI を必要とし、それを望んでいます。人々が AI を確実に使用できるようになったときに何が可能になるかを見てきました 従業員のエクスペリエンスを充実させます e ビジネスプロセスを再構築します さえ 顧客エンゲージメントを再発明します e 私たちの生活を再考する 毎日。 と 新機能 セキュリティ、保護、プライバシーを向上させることで、当社は、お客様が地球上のすべての個人や組織がより多くの成果を達成できるよう、信頼できる AI ソリューションを使用および構築できるようにし続けます。最終的には、信頼できる AI はマイクロソフトで行っているすべてのことを網羅しており、機会を拡大し、信頼を獲得し、基本的権利を保護し、持続可能性を促進するという当社の使命に不可欠です。

有名人から、何らかの社会的目的のために経済的援助を求めたり、必見のオファーを提供する有名な店と同じウェブサイトを見つけたりするための完璧な音声メッセージを受け取ったと想像してみてください。これらは、毎日何百万人ものブラジル人を欺くために、犯罪者が人工知能 (AI) を通じて採用している洗練された戦術のほんの一部です。

BrandMonitor プラットフォームで実施された調査によると、今年 3 月から 5 月にかけて、追跡された 628 ブランドのうち 529 ブランドが不審なドメインからの攻撃を受けたと特定され、405 件で詐欺を適用して偽の Web サイトが作成されました。最も影響を受けた 50 ブランドは、わずか 90 日の範囲で作成された偽のドメインを平均 86 件登録しました。未来を変えることを約束するテクノロジーは、高度な詐欺に利用されるようになり、消費者と企業を厳戒態勢に陥れるデジタル感染症を生み出しています。

AI主導のデジタル詐欺の成長の主な理由の1 つは、業界に制限がなく、採用できる用途がある汎用性です。 デジタル詐欺の汎用性にもかかわらず、すべて共通の手順に従います:

1. データ収集: 犯罪者は、漏洩、フィッシング、マルウェアを通じて消費者や企業から個人データや財務データを取得します。
2. AIトレーニング: 収集されたデータを使用して、AI は行動パターンを特定し、説得力のある方法で人間の言語を模倣するように訓練されます。
3. 実行: AI は、偽のプロフィールを作成し、パーソナライズされたメッセージを送信し、オンライン アクティビティをシミュレートして被害者をだますことで、詐欺を自動化します。

TransUnionが2023 年に実施したオムニチャネルデジタル詐欺の傾向に関するグローバル調査によると、デジタル詐欺の試みは2019 年以降、グローバルで80%増加しており、デジタル詐欺の試みとデジタル詐欺の試みがAIと組み合わされると、これらの詐欺はさらに洗練され、ユーザーにとって説得力があるものになります ブラジルでは、2024 年上半期に80 万件の詐欺の試みを記録しました。

ブラジルにおける詐欺の例

いいえ メルカド リーブル、例えば、犯罪者は、ロボットによって生成された写真や肯定的なレビューで偽のプロファイルを作成し、不正な取引を行うためにバイヤーを誘導します。 、などのアプリケーションによる運送会社ではすでに ウーバー そしてa 99 タクシー、AIは、顧客への不当な請求と詐欺師のための違法な利益を生成するゴーストトラベルをシミュレートするために使用されます。

可能性はさまざまですが、デジタル詐欺のいくつかの形式は、次のようなユーザーにより認識されています:

1. フィッシングメッセージのパーソナライズ: AIは、購入履歴、興味、オンライン行動などの被害者に関するデータを分析し、高度にターゲットを絞ったメッセージを作成します このパーソナライゼーションにより、メッセージが正当で受信者に関連性があるように見えるため、詐欺を特定することが困難になります;
2. 偽の仮想アシスタント: 偽のチャットボットは、銀行の詳細やパスワードなどの機密情報を提供するように人々をだます 人工知能は、これらのアシスタントが自然に反応し、ユーザーの質問に適応することを可能にし、より説得力があります;
3. ディープフェイクと音声操作:AIはディープフェイクを作成するために使用され、ディープフェイクとは本物に見える偽の動画や音声です この技術は、特に選挙などの状況において、虚偽の情報の拡散が重大な影響を与える可能性があるという懸念が高まっています 今年2月、上級選挙裁判所は選挙運動におけるAIの使用を制限する決定を下した。

デジタル詐欺から身を守るためには、情報と教育が不可欠です。ユーザーは、これらの詐欺師の行動をより認識し、自分の決定をより細かく制御できるようにすることで、詐欺やそれに伴うあらゆる不便を回避する必要があります。

また、人工知能が引き起こすデジタル詐欺の幅広さをより深く理解するためには、これらの慣行の影響を強調する具体的な事例を分析することが極めて重要です。 ブラジルの大企業が関与したいくつかの象徴的な例は、これらの組織がどのようにして高度な詐欺の標的となり、消費者とブランド自体の両方の脆弱性を悪用したかを明らかにしています:

1. 自由市場: 犯罪者は AI を使用して、ロボットによって生成された写真や肯定的なレビューを含む偽のプロファイルを作成し、購入者に存在しない販売者との取引を誘導します。さらに、AI を使用して偽の製品広告を作成し、購入者を引き付け、個人データと財務データを収集します。
2. バン: 犯罪者は、AI を使用して Vans 製品を非現実的な割引価格で販売する偽の Web サイトを作成し、それらのサイトをパーソナライズして消費者をだまします。
3. フルーリー: AI を使用したフィッシング詐欺はフルーリー グループの従業員を誤解させ、機密データの漏洩を引き起こしました。
4. ENEM 2024 Enem 参加者ページを模倣した偽の Web サイトにより、数人のユーザーが試験の登録料 (1 人あたり 85 レアルと推定) を支払うことになりました。
5. スターリンク SpaceXの衛星インターネット企業であるElon Muskは、常に詐欺や詐欺の被害に遭っています。 毎日の追跡ランキングでは、Starlinkに関連する523 の疑わしいドメインが見つかり、そのうち152 がアクティブでした。 同社に関する苦情の約44%は、偽のWebサイトにリンクされています。

AIは防衛ツールでもある

人工知能が詐欺に利用されるのと同じように、詐欺と戦うための強力な味方でもあります。パターン検出と行動分析の高度な技術を通じて、高度な技術を持つことだけでなく、それを効果的に適用する方法を知ることの重要性を認識することが不可欠です。

人工知能によって動かされるブラジルでのデジタル詐欺の蔓延は、企業、政府、消費者の間で常に注意を払い、協調した行動を必要とする増大する課題です。情報、教育、テクノロジーのインテリジェントな使用によってのみ、私たちはこのデジタル犯罪の波を阻止し、私たちのデータと未来を守ることができます。