隨著人工智慧的進步,我們都可以發揮作用,釋放人工智慧對世界各地組織和社區的正面影響,這就是為什麼我們專注於幫助客戶使用和創建人工智慧 值得信賴,即人工智慧 安全, 受保護 和 私人.  

在微軟,我們致力於確保可靠的人工智慧,並正在建立尖端的支援技術。我們的承諾和能力齊頭並進,以確保我們的客戶和開發人員在各個層面都受到保護。

根據我們的承諾,我們今天宣布新的承諾 資源 加強人工智慧系統安全、保護和隱私的產品。

安全。 安全是我們在微軟的首要任務,也是我們的首要任務 未來安全倡議 (SFI,英文)擴展強調了整個公司的承諾以及我們為讓客戶更多而感到的責任 保險. 本週,我們宣布我們的第一個 SFI 進度報告,強調涵蓋文化、治理、技術和營運的更新。這履行了我們將安全性置於一切之上的承諾,並遵循三個原則:設計安全、預設安全和安全操作 微軟捍衛者與權限(我們的人工智慧服務具有基本的安全控制,例如內建功能,以幫助防止立即註入和侵犯版權。基於它們,今天我們宣布了兩項新功能:除了我們的主要產品之外,我們 微軟捍衛者與權限(我們的人工智慧服務具有基本的安全控制,例如內建功能,以幫助防止立即註入和侵犯版權。基於它們,今天我們宣布了兩項新功能:

• 評估 不 Azure AI工作室 支援主動風險分析。
• Microsoft 365 Copilot 將提供 網路查詢的透明度 幫助管理員和使用者更了解網路搜尋如何改善 Copilot 回應。

我們的安全功能已被客戶使用。 康明斯105 年來,以汽車製造和清潔能源技術開發而聞名的公司 他轉向微軟 Purview 透過自動化資料分類、標籤和標籤來加強您的資料安全和治理。 EPAM 系統一家軟體工程和商業諮詢公司已經部署  微軟365 由於從 Microsoft 獲得的資料保護,我們向 300 名用戶進行了 Copilot。 IT 高級總監 JT Sodano 表示,「與其他 LLM(大型語言模型)相比,我們對 Microsoft 365 的 Copilot 更有信心,因為我們知道我們在其中設定的相同資料和資訊保護策略 微軟權限 申請副駕駛。"

安全。 包括安全和隱私,更廣泛的原則 微軟負責任的人工智慧,成立於 2018 年,我們繼續指導如何在整個企業中安全創建和部署人工智慧。在實踐中,這意味著正確建立、測試和監控系統,以防止有害內容、偏見、濫用和其他意外風險等不良行為。多年來,我們在建立捍衛這些原則以及安全建置和部署人工智慧所需的治理框架、政策、工具和流程方面進行了大量投資。在微軟,我們致力於與客戶分享我們在捍衛負責任的人工智慧原則的旅程中學到的知識。我們利用自己的最佳實踐和學習經驗,為人們、組織和工具提供與工作中相同的高標準來創建人工智慧應用程式。

今天,我們正在分享新功能,幫助客戶在降低風險的同時追求人工智慧的好處:

• 一種資源 懲教 microsoft Azure AI Content Safety 的接地偵測功能可協助在使用者看到幻覺問題之前即時解決這些問題。   
• 嵌入式內容安全,允許客戶將 Azure AI 內容安全插入裝置中。這對於雲端連接可能間歇性或不可用的裝置上場景非常重要。   
• 新的評估 在 Azure AI Studio 中,幫助客戶評估輸出的品質和相關性以及他們的 AI 應用程式產生受保護材料的頻率。  
• 檢測受保護的編程材料 它現在在 Azure AI Content Safety 中進行預覽,以幫助檢測預先存在的內容和程式碼。此功能可協助開發人員探索 GitHub 儲存庫中的公共原始程式碼,促進協作和透明度,同時實現更明智的編碼決策。

É incrível ver como os clientes de todos os setores já estão usando as soluções da Microsoft para criar aplicativos de IA mais seguros e confiáveis. Por exemplo,  a Unity, uma plataforma para jogos 3D, usou o Microsoft Azure OpenAI Service para criar o Muse Chat, um assistente de IA que facilita o desenvolvimento de jogos. O Muse Chat usa modelos de filtragem de conteúdo no Azure AI Content Safety para garantir o uso responsável do software. Além disso, a ASOS, uma varejista de moda com sede no Reino Unido com quase 900 parceiros de marca, usou os mesmos filtros de conteúdo internos no Azure AI Content Safety para dar suporte a interações de alta qualidade por meio de um aplicativo de IA que ajuda os clientes a encontrar novos looks.

Também estamos vendo o impacto no espaço educacional. As Escolas Públicas da Cidade de Nova York fizeram parceria com a Microsoft para desenvolver um sistema de bate-papo seguro e apropriado para o contexto educacional, que agora estão testando nas escolas. O Departamento de Educação da Austrália do Sul também trouxe a IA generativa para a sala de aula com o EdChat, contando com a mesma infraestrutura para garantir o uso seguro para alunos e professores.

Privacidade. Os dados estão na base da IA, e a prioridade da Microsoft é ajudar a garantir que os dados do cliente sejam protegidos e compatíveis por meio de nossos princípios de privacidade de longa data, que incluem controle do usuário, transparência e proteções legais e regulatórias. Para desenvolver isso, hoje estamos anunciando:

• Inferência confidencial em versão prévia em nosso modelo Azure OpenAI Service Whisper, para que os clientes possam desenvolver aplicativos de IA generativa que dão suporte à privacidade verificável de ponta a ponta. A inferência confidencial garante que os dados confidenciais do cliente permaneçam seguros e privados durante o processo de inferência, que é quando um modelo de IA treinado faz previsões ou decisões com base em novos dados. Isso é especialmente importante para setores altamente regulamentados, como saúde, serviços financeiros, varejo, manufatura e energia.   
• A disponibilidade geral de VMs Confidenciais do Azure com GPUs NVIDIA H100 Tensor Core, que permitem que os clientes protejam dados diretamente na GPU. Isso se baseia em nossas soluções de computação confidencial, que garantem que os dados do cliente permaneçam criptografados e protegidos em um ambiente seguro para que ninguém tenha acesso às informações ou ao sistema sem permissão.
• Azure OpenAI Data Zones para a União Europeia e os Estados Unidos estão chegando em breve e se baseiam na residência de dados existente fornecida pelo Azure OpenAI Service, facilitando o gerenciamento do processamento e armazenamento de dados de aplicativos de IA generativa. Essa nova funcionalidade oferece aos clientes a flexibilidade de dimensionar aplicativos de IA generativa em todas as regiões do Azure dentro de uma geografia, ao mesmo tempo em que lhes dá o controle do processamento e armazenamento de dados dentro da UE ou dos EUA.

Vimos um crescente interesse dos clientes em computação confidencial e entusiasmo por GPUs confidenciais, inclusive do provedor de segurança de aplicativos F5, que está usando VMs confidenciais do Azure com GPUs NVIDIA H100 Tensor Core para criar soluções avançadas de segurança baseadas em IA, garantindo a confidencialidade dos dados que seus modelos estão analisando. E a corporação bancária multinacional Royal Bank of Canada (RBC) integrou a computação confidencial do Azure em sua própria plataforma para analisar dados criptografados, preservando a privacidade do cliente. Com a disponibilidade geral de VMs confidenciais do Azure com GPUs NVIDIA H100 Tensor Core, o RBC agora pode usar essas ferramentas avançadas de IA para trabalhar com mais eficiência e desenvolver modelos de IA mais poderosos. 

Alcance mais com IA confiável

Todos nós precisamos e esperamos por uma IA em que possamos confiar. Vimos o que é possível quando as pessoas são capacitadas para usar a IA de maneira confiável, desde enriquecer as experiências dos funcionários 和 remodelar os processos de negócios até reinventar o envolvimento do cliente 和 reimaginar nossas vidas cotidianas. Com novos recursos que melhoram a segurança, a proteção e a privacidade, continuamos a permitir que os clientes usem e criem soluções de IA confiáveis que ajudam todas as pessoas e organizações do planeta a alcançar mais.  Em última análise, a IA confiável abrange tudo o que fazemos na Microsoft e é essencial para nossa missão, pois trabalhamos para expandir oportunidades, ganhar confiança, proteger direitos fundamentais e promover a sustentabilidade em tudo o que fazemos.

Imagina receber uma mensagem de voz perfeita de uma celebridade pedindo ajuda financeira para alguma causa social ou encontrar um site idêntico ao de uma loja renomada oferecendo ofertas imperdíveis. Essas, são apenas algumas das táticas sofisticadas que os criminosos estão adotando por intermédio da inteligência artificial (IA), para enganar milhões de brasileiros diariamente.

De acordo com uma pesquisa realizada na plataforma da BrandMonitor, entre março e maio deste ano, foram identificados que 529 das 628 marcas rastreadas sofreram ataques de domínios suspeitos e em 405 casos, surgiram sites falsos aplicando golpes. As 50 marcas mais impactadas registraram uma média de 86 domínios falsos criados em um intervalo de apenas 90 dias. A tecnologia que promete transformar o futuro agora é usada para sofisticar fraudes, criando uma epidemia digital que coloca consumidores e empresas em alerta máximo.

Um dos principais motivos para o crescimento das fraudes digitais impulsionadas por IA é a sua versatilidade, sem limites para os setores e usos que podem adotar. Apesar da versatilidade dos golpes digitais, todos seguem etapas comuns:

1. Coleta de dados: Criminosos obtêm dados pessoais e financeiros de consumidores e empresas por meio de vazamentos, phishing e malware.
2. Treinamento da IA: Com os dados coletados, a IA é treinada para identificar padrões de comportamento e imitar a linguagem humana de maneira convincente.
3. Execução: A IA automatiza o golpe, criando perfis falsos, enviando mensagens personalizadas e simulando atividades online para enganar as vítimas.

Segundo o levantamento global sobre Tendências de Fraude Digital Omnichannel realizado pela TransUnion em 2023, as tentativas de fraude digital aumentaram 80% globalmente desde 2019. Quando combinadas com IA, essas fraudes se tornam ainda mais sofisticadas e convincentes para os usuários. No Brasil, o primeiro semestre de 2024 registrou 800 mil tentativas de golpes.

Exemplos de golpes no Brasil

不 梅爾卡多·利弗爾, por exemplo, criminosos criam perfis falsos com fotos e avaliações positivas geradas por robôs, induzindo compradores a realizar transações fraudulentas. Já em empresas de transporte por aplicativo, como a Uber e a 99 Táxi, a IA é utilizada para simular viagens fantasmas, gerando cobranças indevidas aos clientes e lucros ilícitos para os golpistas.

Embora as possibilidades sejam variadas, alguns formatos de golpes digitais são mais reconhecidos pelos usuários, incluindo:

1. Personalização de mensagens de phishing: A IA analisa dados sobre a vítima, como histórico de compras, interesses e comportamento online, para criar mensagens altamente direcionadas. Essa personalização dificulta a identificação de fraudes, pois as mensagens parecem legítimas e relevantes para o destinatário;
2. Assistentes virtuais falsos: Chatbots falsos induzem as pessoas a fornecerem informações sensíveis, como dados bancários ou senhas. A inteligência artificial permite que esses assistentes respondam de forma natural e adaptem-se às perguntas dos usuários, tornando-os mais convincentes;
3. Deepfakes e manipulação de voz: A IA é usada para criar deepfakes, que são vídeos ou áudios falsos que parecem autênticos. Essa tecnologia é uma preocupação crescente, especialmente em contextos como eleições, onde a disseminação de informações falsas pode ter impactos significativos. Em fevereiro deste ano, o Tribunal Superior Eleitoral decidiu restringir o uso de IA em campanhas.

A informação e educação são essenciais para a proteção contra fraudes digitais. Os usuários precisam estar mais conscientes do modo de atuação desses fraudadores, para que possam ter mais domínio sobre suas decisões, evitando assim, o golpe e todo transtorno que vem junto dele.

Além disso, para entender melhor a amplitude das fraudes digitais impulsionadas por inteligência artificial, é crucial analisar casos concretos que evidenciam os impactos dessas práticas. Alguns exemplos emblemáticos envolvendo grandes empresas no Brasil revelam como essas organizações foram alvo de golpes sofisticados, explorando vulnerabilidades tanto de consumidores quanto das próprias marcas:

1. Mercado Livre: Criminosos utilizam IA para criar perfis falsos com fotos e avaliações positivas geradas por robôs, induzindo compradores a realizarem transações com vendedores inexistentes. Além disso, usam IA para criar anúncios falsos de produtos, atraindo compradores e coletando dados pessoais e financeiros.
2. Vans: Criminosos criam sites falsos vendendo produtos da Vans com descontos irreais, usando IA para personalizar esses sites e enganar consumidores.
3. Fleury: Fraudes de phishing usando IA enganaram funcionários do Grupo Fleury, resultando no vazamento de dados sensíveis.
4. ENEM 2024: Um site falso imitando a Página do Participante do Enem levou diversos usuários a pagarem a taxa de inscrição para o exame, estimada em 85 reais por pessoa.
5. Starlink: A empresa de internet via satélite da SpaceX, de Elon Musk, é constantemente vítima de golpes e fraudes. Em nosso ranking de acompanhamento diário, encontramos 523 domínios suspeitos relacionados à Starlink, 152 deles ativos. Cerca de 44% das reclamações acerca da empresa estão ligadas a sites falsos.

IA é também uma ferramenta de defesa

Assim como a inteligência artificial pode ser utilizada para golpes, também é uma poderosa aliada para combatê-los. É fundamental reconhecer a importância não apenas de possuir tecnologia avançada, mas também de saber aplicá-la de maneira eficaz, por meio de técnicas sofisticadas de detecção de padrões e análise de comportamento.

A epidemia de fraudes digitais no Brasil, impulsionada pela inteligência artificial, é um desafio crescente que exige atenção constante e ação coordenada entre empresas, governo e consumidores. Somente com informação, educação e o uso inteligente da tecnologia poderemos frear essa onda de criminalidade digital e proteger nossos dados e nosso futuro.