À medida que a IA avança, todos nós temos um papel a desempenhar para desbloquear o impacto positivo da IA para organizações e comunidades em todo o mundo. That is why we are focused on helping customers use and create AIreliable, that is, an AIsafe, protectedandprivate.
Na Microsoft, temos compromissos em garantir uma IA confiável e estamos criando tecnologia de suporte de ponta. Nossos compromissos e recursos andam de mãos dadas para garantir que nossos clientes e desenvolvedores estejam protegidos em todas as camadas.
Building on our commitments, we are today announcing newresourcesof products to strengthen the safety, security and privacy of AI systems.
Security.Security is our top priority at Microsoft, and ourSecure Future Initiative(SFI) underscores our company-wide commitments and the responsibility we feel to make our customers moreinsurance. This week, we announced our firstSFI Progress Report, destacando atualizações que abrangem cultura, governança, tecnologia e operações. Isso cumpre nossa promessa de priorizar a segurança acima de tudo e é guiado por três princípios: seguro por design, seguro por padrão e operações seguras. Além de nossas ofertas primárias, Microsoft Defender e Purview, nossos serviços de IA possuem controles de segurança básicos, como funções internas para ajudar a evitar injeções imediatas e violações de direitos autorais. Com base neles, hoje estamos anunciando dois novos recursos: Além de nossas ofertas primárias, Microsoft Defender e Purview, nossos serviços de IA possuem controles de segurança básicos, como funções internas para ajudar a evitar injeções imediatas e violações de direitos autorais. Com base neles, hoje estamos anunciando dois novos recursos:
- Reviews no Azure AI Studio to support proactive risk analysis.
- Microsoft 365 Copilot will providetransparency in web queries para ajudar administradores e usuários a entender melhor como a pesquisa na Web aprimora a resposta do Copilot. Disponível em breve.
Nossos recursos de segurança já estão sendo usados pelos clientes.A Cummins, a 105-year-old company known for its engine manufacturing and development of clean energy technologies,turned to Microsoft Purview para fortalecer sua segurança e governança de dados, automatizando a classificação, marcação e rotulagem de dados.A EPAM Systems, a software engineering and business consulting company, implemented o Microsoft 365 Copilot para 300 usuários por causa da proteção de dados que eles recebem da Microsoft. J.T. Sodano, Diretor Sênior de TI, compartilhou que “estávamos muito mais confiantes com o Copilot para Microsoft 365, em comparação com outros LLMs (grandes modelos de linguagem), porque sabemos que as mesmas políticas de proteção de dados e informações que configuramos no Microsoft Purview se aplicam ao Copilot.
Security.Including security and privacy, the broader principles ofMicrosoft Responsible AI, estabelecidos em 2018, continuam a orientar como criamos e implantamos IA com segurança em toda a empresa. Na prática, isso significa construir, testar e monitorar adequadamente sistemas para evitar comportamentos indesejáveis, como conteúdo prejudicial, viés, uso indevido e outros riscos não intencionais. Ao longo dos anos, fizemos investimentos significativos na construção da estrutura de governança, políticas, ferramentas e processos necessários para defender esses princípios e construir e implantar a IA com segurança. Na Microsoft, estamos comprometidos em compartilhar nossos aprendizados nesta jornada de defesa de nossos princípios de IA Responsável com nossos clientes. Usamos nossas próprias práticas recomendadas e aprendizados para fornecer às pessoas e organizações recursos e ferramentas para criar aplicativos de IA que compartilham os mesmos altos padrões pelos quais nos esforçamos.
Today, we’re sharing new capabilities to help customers realize the benefits of AI while mitigating the risks:
- A resourceof correction na funcionalidade de detecção de grounding do Microsoft Azure AI Content Safety que ajuda a corrigir problemas de alucinação em tempo real antes que os usuários os vejam.
- Embedded Content Security, que permite que os clientes insiram o Azure AI Content Safety em dispositivos. Isso é importante para cenários no dispositivo em que a conectividade de nuvem pode ser intermitente ou indisponível.
- New reviews no Azure AI Studio para ajudar os clientes a avaliar a qualidade e a relevância das saídas e a frequência com que seu aplicativo de IA gera material protegido.
- Detection of protected material for programming agora está em versão prévia no Azure AI Content Safety para ajudar a detectar conteúdo e código preexistentes. Esse recurso ajuda os desenvolvedores a explorar o código-fonte público em repositórios do GitHub, promovendo colaboração e transparência, ao mesmo tempo em que permite decisões de codificação mais informadas.
É incrível ver como os clientes de todos os setores já estão usando as soluções da Microsoft para criar aplicativos de IA mais seguros e confiáveis. Por exemplo, a Unity, uma plataforma para jogos 3D, usou o Microsoft Azure OpenAI Service para criar o Muse Chat, um assistente de IA que facilita o desenvolvimento de jogos. Muse Chat uses content filtering models inAzure AI Content Safety para garantir o uso responsável do software. Furthermore, theASOS,a UK-based fashion retailer with nearly 900 brand partners, used the same built-in content filters in Azure AI Content Safety to support high-quality interactions through an AI application that helps customers find new looks.
Também estamos vendo o impacto no espaço educacional.New York City Public Schools fizeram parceria com a Microsoft para desenvolver um sistema de bate-papo seguro e apropriado para o contexto educacional, que agora estão testando nas escolas.The South Australian Department of Educationalso brought generative AI to the classroom with EdChat, relying on the same infrastructure to ensure safe use for students and teachers.
Privacidade.Data is at the heart of AI, and Microsoft's priority is to help ensure that customer data is protected and compliant through ourprivacy principles de longa data, que incluem controle do usuário, transparência e proteções legais e regulatórias. Para desenvolver isso, hoje estamos anunciando:
- Confidential inferencein preview versionem nosso modelo Azure OpenAI Service Whisper, para que os clientes possam desenvolver aplicativos de IA generativa que dão suporte à privacidade verificável de ponta a ponta.The confidential inference garante que os dados confidenciais do cliente permaneçam seguros e privados durante o processo de inferência, que é quando um modelo de IA treinado faz previsões ou decisões com base em novos dados. Isso é especialmente importante para setores altamente regulamentados, como saúde, serviços financeiros, varejo, manufatura e energia.
- General availability of Azure Confidential VMscom GPUs NVIDIA H100 Tensor Core, que permitem que os clientes protejam dados diretamente na GPU. Isso se baseia em nossas soluções de computação confidencial, que garantem que os dados do cliente permaneçam criptografados e protegidos em um ambiente seguro para que ninguém tenha acesso às informações ou ao sistema sem permissão.
- Azure OpenAI Data Zones para a União Europeia e os Estados Unidos estão chegando em breve e se baseiam na residência de dados existente fornecida pelo Azure OpenAI Service, facilitando o gerenciamento do processamento e armazenamento de dados de aplicativos de IA generativa. Essa nova funcionalidade oferece aos clientes a flexibilidade de dimensionar aplicativos de IA generativa em todas as regiões do Azure dentro de uma geografia, ao mesmo tempo em que lhes dá o controle do processamento e armazenamento de dados dentro da UE ou dos EUA.
We have seen growing customer interest in confidential computing and enthusiasm for confidential GPUs, including from application security providerF5, que está usando VMs confidenciais do Azure com GPUs NVIDIA H100 Tensor Core para criar soluções avançadas de segurança baseadas em IA, garantindo a confidencialidade dos dados que seus modelos estão analisando. And the multinational banking corporationRoyal Bank of Canada (RBC) integrou a computação confidencial do Azure em sua própria plataforma para analisar dados criptografados, preservando a privacidade do cliente. Com a disponibilidade geral de VMs confidenciais do Azure com GPUs NVIDIA H100 Tensor Core, o RBC agora pode usar essas ferramentas avançadas de IA para trabalhar com mais eficiência e desenvolver modelos de IA mais poderosos.
Achieve more with trusted AI
Todos nós precisamos e esperamos por uma IA em que possamos confiar. Vimos o que é possível quando as pessoas são capacitadas para usar a IA de maneira confiável, desde enrich employee experiencesandremodel business processesuntilreinventing customer engagementandreimagine our livescotidianas. Withnew featuresque melhoram a segurança, a proteção e a privacidade, continuamos a permitir que os clientes usem e criem soluções de IA confiáveis que ajudam todas as pessoas e organizações do planeta a alcançar mais. Em última análise, a IA confiável abrange tudo o que fazemos na Microsoft e é essencial para nossa missão, pois trabalhamos para expandir oportunidades, ganhar confiança, proteger direitos fundamentais e promover a sustentabilidade em tudo o que fazemos.