A medida que avanza la IA, todos tenemos un papel que desempeñar para desbloquear el impacto positivo de la IA para las organizaciones y comunidades de todo el mundo, razón por la cual nos centramos en ayudar a los clientes a utilizar y crear IA confiable, es decir, una IA seguro, protegido y privado.  

En Microsoft, tenemos compromisos para garantizar una IA confiable y estamos construyendo tecnología de soporte de vanguardia. Nuestros compromisos y capacidades van de la mano para garantizar que nuestros clientes y desarrolladores estén protegidos en cada capa.

Sobre la base de nuestros compromisos, hoy anunciamos otros nuevos recursos productos para fortalecer la seguridad, protección y privacidad de los sistemas de IA.

Seguridad. La seguridad es nuestra principal prioridad en Microsoft y nuestra Iniciativa Futuro Seguro (SFI, en inglés) ampliado subraya los compromisos de toda la empresa y la responsabilidad que sentimos de hacer más clientes a nuestros clientes seguros. Esta semana anunciamos nuestro primero Informe de progreso del SFI, destacando actualizaciones que abarcan cultura, gobernanza, tecnología y operaciones. Esto cumple nuestra promesa de priorizar la seguridad por encima de todo y se guía por tres principios: seguro por diseño, seguro por defecto y operaciones seguras Microsoft Defender y Purview, Nuestros servicios de IA tienen controles de seguridad básicos, como funciones integradas para ayudar a prevenir inyecciones inmediatas y violaciones de derechos de autor. En base a ellos, hoy anunciamos dos nuevas características: Además de nuestras ofertas principales, nosotros Microsoft Defender y Purview, Nuestros servicios de IA tienen controles de seguridad básicos, como funciones integradas para ayudar a prevenir inyecciones inmediatas y violaciones de derechos de autor. En base a ellos, hoy anunciamos dos nuevas características:

• Evaluaciones no Estudio de IA Azure apoyar el análisis de riesgos proactivo.
• Microsoft 365 Copilot proporcionará transparencia en las consultas web ayudar a los administradores y usuarios a comprender mejor cómo la búsqueda web mejora la respuesta de Copilot.

Nuestros clientes ya están utilizando nuestras funciones de seguridad. Cummins, una empresa de 105 años conocida por su fabricación de motores y desarrollo de tecnologías de energía limpia, la recurrió a Microsoft Purview fortalecer la seguridad y la gobernanza de sus datos automatizando la clasificación, el etiquetado y el etiquetado de datos. Sistemas EPAM, se ha implementado una firma de consultoría empresarial e ingeniería de software  el Microsoft 365 Copilot a 300 usuarios por la protección de datos que reciben de Microsoft. JT Sodano, director sénior de TI, compartió que “teníamos mucha más confianza con Copilot para Microsoft 365, en comparación con otros LLM (modelos de lenguaje grandes), porque conocemos las mismas políticas de protección de datos e información que configuramos en el Descripción de Microsoft aplicar a Copilot.”

Seguridad. Incluyendo la seguridad y la privacidad, los principios más amplios de Ia responsable de Microsoft, establecida en 2018, continuamos guiando cómo creamos e implementamos IA de manera segura en toda la empresa. En la práctica, esto significa construir, probar y monitorear adecuadamente sistemas para prevenir comportamientos indeseables como contenido dañino, prejuicios, mal uso y otros riesgos no deseados. A lo largo de los años, hemos realizado importantes inversiones en la construcción del marco de gobernanza, las políticas, las herramientas y los procesos necesarios para defender estos principios y construir e implementar IA de forma segura. En Microsoft, estamos comprometidos a compartir nuestros aprendizajes en este viaje de defensa de nuestros principios de IA responsable con nuestros clientes. Utilizamos nuestras propias mejores prácticas y aprendizajes para proporcionar personas, organizaciones y herramientas para crear aplicaciones de IA con los mismos altos estándares que tenemos en el trabajo.

Hoy, compartimos nuevas capacidades para ayudar a los clientes a aprovechar los beneficios de la IA y al mismo tiempo mitigar los riesgos:

• Un recurso correccional en la funcionalidad de detección de conexión a tierra de Microsoft Azure AI Content Safety que ayuda a solucionar problemas de alucinaciones en tiempo real antes de que los usuarios los vean.   
• Seguridad del contenido integrado, que permite a los clientes insertar Azure AI Content Safety en los dispositivos. Esto es importante para escenarios en el dispositivo donde la conectividad en la nube puede ser intermitente o no estar disponible.   
• Nuevas evaluaciones en Azure AI Studio para ayudar a los clientes a evaluar la calidad y relevancia de los resultados y con qué frecuencia su aplicación de IA genera material protegido.  
• Detección de material protegido para programación ahora está en vista previa en Azure AI Content Safety para ayudar a detectar contenido y código preexistentes. Esta función ayuda a los desarrolladores a explorar el código fuente público en los repositorios de GitHub, promoviendo la colaboración y la transparencia, al tiempo que permite decisiones de codificación más informadas.

Es sorprendente ver cómo los clientes de todas las industrias ya están utilizando soluciones de Microsoft para crear aplicaciones de IA más seguras y confiables  unidad, la Unidad una plataforma para juegos 3D, utilizó el servicio Microsoft Azure OpenAI para crear Muse Chat, un asistente de IA que facilita el desarrollo de juegos. Muse Chat utiliza modelos de filtrado de contenido en Seguridad del contenido de Azure AI para garantizar un uso responsable del software. Además, el ASOS, un minorista de moda con sede en el Reino Unido y casi 900 marcas asociadas, utilizó los mismos filtros de contenido internos en Azure AI Content Safety para respaldar interacciones de alta calidad a través de una aplicación de inteligencia artificial que ayuda a los clientes a encontrar nuevas apariencias.

También estamos viendo el impacto en el espacio educativo. Las escuelas públicas de la ciudad de Nueva York se asociaron con Microsoft para desarrollar un sistema de chat seguro y apropiado para el contexto educativo, que ahora están probando en las escuelas. El Departamento de Educación de Australia del Sur también llevó IA generativa al aula con EdChat, confiando en la misma infraestructura para garantizar un uso seguro para estudiantes y profesores.

Privacidad. Los datos están en el corazón de la IA y la prioridad de Microsoft es ayudar a garantizar que los datos de los clientes estén protegidos y respaldados a través de nuestro principios de privacidad de larga data, que incluyen control de usuario, transparencia y protecciones legales y regulatorias. Para desarrollar esto, hoy anunciamos:

• Inferencia confidencial en versión anterior en nuestro modelo Azure OpenAI Service Whisper, los clientes pueden desarrollar aplicaciones de IA generativa que admitan una privacidad verificable de un extremo a otro. Inferencia confidencial garantiza que los datos confidenciales de los clientes permanezcan seguros y privados durante el proceso de inferencia, que es cuando un modelo de IA capacitado hace predicciones o decisiones basadas en nuevos datos.   
• La disponibilidad general de máquinas virtuales Azure Confidential con GPU NVIDIA H100 Tensor Core, que permiten a los clientes proteger los datos directamente en la GPU. Esto se basa en nuestras soluciones informáticas confidenciales, que garantizan que los datos de los clientes permanezcan cifrados y protegidos en un entorno seguro para que nadie tenga acceso a la información o al sistema sin permiso.
• Zonas de datos Azure OpenAI para la Unión Europea y los Estados Unidos próximamente y aprovecharemos la residencia de datos existente proporcionada por Azure OpenAI Service, lo que facilitará la gestión del procesamiento y almacenamiento de datos de aplicaciones de IA generativa. Esta nueva funcionalidad brinda a los clientes la flexibilidad de escalar aplicaciones de IA generativa en todas las regiones de Azure dentro de una geografía, al tiempo que les brinda control del procesamiento y almacenamiento de datos dentro de la UE o los EE. UU.

Hemos visto un creciente interés de los clientes en la informática confidencial y entusiasmo por las GPU confidenciales, incluso por parte del proveedor de seguridad de aplicaciones F5, que utiliza máquinas virtuales confidenciales Azure con GPU NVIDIA H100 Tensor Core para crear soluciones de seguridad avanzadas basadas en IA, garantizando la confidencialidad de los datos que sus modelos están analizando Real Banco de Canadá (RBC) Integró la informática confidencial de Azure en su propia plataforma para analizar datos cifrados preservando al mismo tiempo la privacidad del cliente. Con la disponibilidad general de máquinas virtuales sensibles a Azure con GPU NVIDIA H100 Tensor Core, RBC ahora puede utilizar estas herramientas avanzadas de inteligencia artificial para trabajar de manera más eficiente y desarrollar IA más potente. modelos. 

Alcance más con IA confiable

Todos necesitamos y esperamos una IA en la que podamos confiar, y hemos visto lo que es posible cuando las personas tienen el poder de utilizar la IA de manera confiable enriquecer las experiencias de los empleados y remodelar los procesos de negocio incluso reinventar la participación del cliente y reinventando nuestras vidas todos los días. Con nuevas características para mejorar la seguridad, la protección y la privacidad, continuamos permitiendo a los clientes utilizar y crear soluciones de inteligencia artificial confiables que ayuden a todas las personas y organizaciones del planeta a lograr más. En última instancia, una IA confiable abarca todo lo que hacemos en Microsoft y es esencial para nuestra misión mientras trabajamos para ampliar oportunidades, ganar confianza, proteger los derechos fundamentales y promover la sostenibilidad en todo lo que hacemos.

Imagínese recibir un mensaje de voz perfecto de una celebridad pidiendo ayuda financiera para alguna causa social o encontrar un sitio web idéntico a una tienda de renombre que ofrece ofertas imperdibles. Estas son sólo algunas de las tácticas sofisticadas que los delincuentes están adoptando a través de la inteligencia artificial (IA), para engañar a millones de brasileños a diario.

Según una encuesta realizada en la plataforma BrandMonitor, entre marzo y mayo de este año, 529 de las 628 marcas rastreadas fueron identificadas como afectadas por ataques de dominios sospechosos y en 405 casos se crearon sitios web falsos aplicando estafas. Las 50 marcas más afectadas registraron un promedio de 86 dominios falsos creados en un rango de sólo 90 días. La tecnología que promete transformar el futuro se utiliza ahora para realizar fraudes sofisticados, creando una epidemia digital que pone a consumidores y empresas en alerta máxima.

Una de las principales razones del crecimiento del fraude digital impulsado por la IA es su versatilidad, sin límites para las industrias y usos que puede adoptar. A pesar de la versatilidad de las estafas digitales, todos siguen pasos comunes:

1. Recopilación de datos: Los delincuentes obtienen datos personales y financieros de consumidores y empresas mediante filtraciones, phishing y malware.
2. Entrenamiento de IA: Con los datos recopilados, la IA se entrena para identificar patrones de comportamiento e imitar el lenguaje humano de una manera convincente.
3. Execuție: La IA automatiza la estafa creando perfiles falsos, enviando mensajes personalizados y simulando actividades en línea para engañar a las víctimas.

Según la encuesta global sobre Tendencias omnicanal de fraude digital realizada por TransUnion en 2023, los intentos de fraude digital han aumentado en 80% a nivel mundial desde 2019. Cuando se combinan con la IA, estas estafas se vuelven aún más sofisticadas y convincentes para los usuarios. En Brasil, el primer semestre de 2024 registró 800 mil intentos de estafa.

Ejemplos de estafas en Brasil

No Mercado Livre, por ejemplo, los delincuentes crean perfiles falsos con fotografías y críticas positivas generadas por robots, lo que induce a los compradores a realizar transacciones fraudulentas. Ya en empresas de transporte por aplicación, como la Uber y a 99 Taxi, la IA se utiliza para simular viajes fantasmas, generando cargos indebidos a los clientes y ganancias ilícitas para los estafadores.

Aunque las posibilidades son variadas, algunos formatos de estafas digitales son más reconocidos por los usuarios, entre ellos:

1. Personalización de mensajes de phishing: AI analiza datos sobre la víctima, como el historial de compras, los intereses y el comportamiento en línea, para crear mensajes altamente específicos. Esta personalización dificulta la identificación de fraudes, ya que los mensajes parecen legítimos y relevantes para el destinatario;
2. Asistentes virtuales falsos: Los chatbots falsos engañan a las personas para que proporcionen información confidencial, como datos bancarios o contraseñas. La inteligencia artificial permite a estos asistentes responder de forma natural y adaptarse a las preguntas de los usuarios, haciéndolos más convincentes;
3. Deepfakes y manipulación de la voz: La IA se utiliza para crear deepfakes, que son vídeos o audios falsos que parecen auténticos. Esta tecnología es una preocupación creciente, especialmente en contextos como las elecciones, donde la difusión de información falsa puede tener impactos significativos. En febrero de este año, el Tribunal Superior Electoral decidió restringir el uso de la IA en las campañas.

La información y la educación son esenciales para la protección contra el fraude digital. Los usuarios deben ser más conscientes de la forma en que actúan estos estafadores, para que puedan tener más control sobre sus decisiones, evitando así la estafa y todos los inconvenientes que conlleva.

Além disso, para entender melhor a amplitude das fraudes digitais impulsionadas por inteligência artificial, é crucial analisar casos concretos que evidenciam os impactos dessas práticas. Alguns exemplos emblemáticos envolvendo grandes empresas no Brasil revelam como essas organizações foram alvo de golpes sofisticados, explorando vulnerabilidades tanto de consumidores quanto das próprias marcas:

1. Mercado Livre: Criminosos utilizam IA para criar perfis falsos com fotos e avaliações positivas geradas por robôs, induzindo compradores a realizarem transações com vendedores inexistentes. Além disso, usam IA para criar anúncios falsos de produtos, atraindo compradores e coletando dados pessoais e financeiros.
2. Vans: Criminosos criam sites falsos vendendo produtos da Vans com descontos irreais, usando IA para personalizar esses sites e enganar consumidores.
3. Fleury: Fraudes de phishing usando IA enganaram funcionários do Grupo Fleury, resultando no vazamento de dados sensíveis.
4. ENEM 2024: Um site falso imitando a Página do Participante do Enem levou diversos usuários a pagarem a taxa de inscrição para o exame, estimada em 85 reais por pessoa.
5. Starlink: A empresa de internet via satélite da SpaceX, de Elon Musk, é constantemente vítima de golpes e fraudes. Em nosso ranking de acompanhamento diário, encontramos 523 domínios suspeitos relacionados à Starlink, 152 deles ativos. Cerca de 44% das reclamações acerca da empresa estão ligadas a sites falsos.

IA é também uma ferramenta de defesa

Assim como a inteligência artificial pode ser utilizada para golpes, também é uma poderosa aliada para combatê-los. É fundamental reconhecer a importância não apenas de possuir tecnologia avançada, mas também de saber aplicá-la de maneira eficaz, por meio de técnicas sofisticadas de detecção de padrões e análise de comportamento.

A epidemia de fraudes digitais no Brasil, impulsionada pela inteligência artificial, é um desafio crescente que exige atenção constante e ação coordenada entre empresas, governo e consumidores. Somente com informação, educação e o uso inteligente da tecnologia poderemos frear essa onda de criminalidade digital e proteger nossos dados e nosso futuro.