У міру розвитку штучного інтелекту ми всі відіграємо певну роль у розкритті позитивного впливу штучного інтелекту на організації та спільноти в усьому світі, тому ми зосереджені на допомозі клієнтам використовувати та створювати штучний інтелект довірений, тобто ШІ сейф, охороняється і приватна.  

У Microsoft ми маємо зобов'язання забезпечити надійний ШІ і будуємо передові підтримки technolog ur зобов'язання і можливості йдуть рука об руку, щоб забезпечити наших клієнтів і розробників захищеними на кожному рівні.

Виходячи з наших зобов'язань, ми сьогодні оголошуємо нові ресурси продукти для посилення безпеки, захисту та конфіденційності систем ШІ.

Безпека. Безпека є нашим головним пріоритетом у Microsoft і нашим Майбутня безпечна ініціатива (SFI, англійською) розширена підкреслює зобов'язання всієї компанії та відповідальність, яку ми відчуваємо, щоб зробити наших клієнтів більше страховки.На цьому тижні ми оголошуємо про нашу першу Звіт про хід SFIвиділяючи оновлення, які охоплюють культуру, управління, технології та операці е виконує нашу обіцянку надавати пріоритет безпеці понад усе та керується трьома принципами: безпечний за задумом, безпечний за замовчуванням і безпечні операції Microsoft Defender and Purview, Наші послуги AI мають основні засоби контролю безпеки, такі як вбудовані функції, які допомагають запобігти негайним інєкціям та порушенням авторських пра а їх основі сьогодні ми оголошуємо про дві нові функції: На додаток до наших первинних пропозицій, ми Microsoft Defender and Purview, Наші послуги ШІ мають основні засоби контролю безпеки, такі як вбудовані функції, які допомагають запобігти негайним інєкціям та порушенням авторських пра а їх основі сьогодні ми оголошуємо про дві нові функції:

• Оцінки нет Студія Azure AI для підтримки проактивного аналізу ризиків.
• Microsoft 365 Copilot надасть прозорість у веб-запитах щоб допомогти адміністраторам і користувачам краще зрозуміти, як веб-пошук покращує відповідь Copilot.

Наші функції безпеки вже використовуються клієнтами. Каммінс105-річна компанія, відома своїм виробництвом двигунів і розробкою технологій чистої енергії він звернувся до Microsoft Purview для посилення безпеки та управління даними шляхом автоматизації класифікації даних, позначення тегами та маркування. Системи EPAM, компанія з розробки програмного забезпечення та бізнес-консалтингу, розгорнула  майкрософт 365 Copilot до 300 користувачів через захист даних, який вони отримують від Microsoft JT Sodano, старший директор з ІТ, поділився, що “ми були набагато впевненішими з Copilot для Microsoft 365 порівняно з іншими LLM (великими мовними моделями), оскільки ми знаємо ті самі політики захисту даних та інформації, які ми встановили в Огляд Microsoft застосувати до Copilo ”

Безпека. Включаючи безпеку та конфіденційність, ширші принципи Відповідальний ШІ від Microsoft, Створений в 2018 році, ми продовжуємо направляти, як ми безпечно створюємо і розгортаємо AI на всьому підприємстві На практиці це означає належне створення, тестування та моніторинг систем для запобігання небажаної поведінки, таких як шкідливий контент, упередженість, неправильне використання та інші ненавмисні ризик ісля багатьох років ми зробили значні інвестиції в побудову структури управління, політики, інструменти та процеси, необхідні для захисту цих принципів і створення і розгортання AI безпечн Microsoft, ми прагнемо поділитися нашими знаннями на цьому шляху захисту наших принципів Відповідального AI з нашими клієнтам и використовуємо наші власні найкращі практики та навчання, щоб надати людям і організаціям та інструментам для створення AI за тими ж високими стандартами, які ми прагнемо створити.

Сьогодні ми ділимося новими можливостями, щоб допомогти клієнтам отримати переваги ШІ, одночасно зменшуючи ризики:

• Ресурс корекційний у функції виявлення заземлення Microsoft Azure AI Content Safety, яка допомагає вирішити проблеми з галюцинаціями в режимі реального часу до того, як користувачі їх побачать.   
• Безпека вбудованого вмісту, що дозволяє клієнтам вставляти Azure AI Content Safety в пристро е важливо для сценаріїв на пристрої, де хмарне підключення може бути переривчастим або недоступним.   
• Нові оцінки у Azure AI Studio, щоб допомогти клієнтам оцінити якість і релевантність результатів і те, як часто їх програма AI генерує захищений матеріал.  
• Виявлення захищеного матеріалу для програмування зараз він знаходиться в попередньому перегляді в Azure AI Content Safety, щоб допомогти виявити вже існуючий вміст і ко е функція допомагає розробникам досліджувати публічний вихідний код у сховищах GitHub, сприяючи співпраці та прозорості, одночасно дозволяючи приймати більш обґрунтовані рішення щодо кодування.

Дивно бачити, як клієнти в різних галузях вже використовують рішення Microsoft для створення більш безпечних і надійних програм ШІ  єдність, Єдність платформа для 3D-ігор, вона використовувала Microsoft Azure OpenAI Service для створення Muse Chat, помічника AI, який дозволяє легко розробляти гр Muse Chat використовує шаблони фільтрації вмісту в Безпека вмісту Azure AI для забезпечення відповідального використання програмного забезпеченн рім того, в АСОС, британський роздрібний продавець одягу з майже 900 партнерами по бренду використовував ті самі внутрішні фільтри вмісту в Azure AI Content Safety для підтримки високоякісної взаємодії за допомогою програми AI, яка допомагає клієнтам знаходити нові образи.

Ми також бачимо вплив на освітній простір. Державні школи Нью-Йорка вони співпрацювали з Microsoft, щоб розробити безпечну та відповідну систему чату для освітнього контексту, яку вони зараз тестують у школах. Департамент освіти Південної Австралії він також приніс генеративний штучний інтелект у клас за допомогою EdChat, покладаючись на ту саму інфраструктуру для забезпечення безпечного використання учнями та вчителями.

Конфіденційність. Дані є основою штучного інтелекту, і пріоритетом Microsoft є забезпечення захисту та підтримки даних клієнтів через наш принципи конфіденційності давні, які включають контроль користувачів, прозорість та правовий та нормативний захи о розробити це, сьогодні ми оголошуємо:

• Конфіденційний висновок у попередній версії у нашій моделі Azure OpenAI Service Whisper клієнти можуть розробляти генеративні програми штучного інтелекту, які підтримують конфіденційність, яку можна перевірити, від кінця до кінця. Конфіденційний висновок гарантує, що конфіденційні дані клієнтів залишаються безпечними та приватними під час процесу висновку, коли навчена модель штучного інтелекту робить прогнози або рішення на основі нових даних.   
• Загальна доступність конфіденційних віртуальних машин Azure з графічними процесорами NVIDIA H100 Tensor Core, які дозволяють клієнтам захищати дані безпосередньо на GP his базується на наших конфіденційних обчислювальних рішеннях, які гарантують, що дані клієнтів залишаються зашифрованими та захищеними в безпечному середовищі, щоб ніхто не мав доступу до інформації чи системи без дозволу.
• Зони даних Azure OpenAI для Європейського Союзу та Сполучених Штатів незабаром з'являться і спираються на існуючу резиденцію даних, надану Azure OpenAI Service, що полегшує керування обробкою даних та зберіганням генеративних додатків A Ця нова функціональність дає клієнтам гнучкість для масштабування генеративних додатків AI у всіх регіонах Azure в межах однієї географії, одночасно надаючи їм контроль над обробкою та зберіганням даних в межах ЄС або США.

Ми спостерігали зростання інтересу клієнтів до конфіденційних обчислень та ентузіазму щодо чутливих графічних процесорів, у тому числі з боку постачальника безпеки додатків F5, який використовує конфіденційні віртуальні машини Azure з графічними процесорами NVIDIA H100 Tensor Core для створення передових рішень безпеки на основі штучного інтелекту, забезпечуючи конфіденційність даних, які аналізують його моделі Королівський банк Канади (РБК) Інтегровані конфіденційні обчислення Azure у власну платформу для аналізу зашифрованих даних, зберігаючи конфіденційність клієнті Завдяки загальній доступності чутливих до Azure віртуальних машин із графічними процесорами NVIDIA H100 Tensor Core RBC тепер може використовувати ці передові інструменти штучного інтелекту для більш ефективної роботи та розробки потужніших моделей штучного інтелекту. 

Досягайте більше за допомогою надійного ШІ

Ми всі потребуємо і сподіваємося на ШІ, якому ми можемо довіряти, і ми побачили, що можливо, коли люди мають можливість надійно використовувати ШІ, від збагачуйте досвід співробітників і переформувати бізнес-процеси навіть переосмисліть залучення клієнтів і переосмислення нашого життя повсякденний. З нові особливості що покращує безпеку, захист і конфіденційність, ми продовжуємо надавати клієнтам можливість використовувати і створювати надійні рішення ШІ, які допомагають кожній людині та організації на планеті досягти більшого Зрештою, довірений ШІ охоплює все, що ми робимо в Microsoft, і має важливе значення для нашої місії, оскільки ми працюємо над розширенням можливостей, отриманням довіри, захистом основних прав і сприянням стійкості в усьому, що ми робимо.

Уявіть собі, що ви отримуєте ідеальне голосове повідомлення від знаменитості з проханням про фінансову допомогу для якоїсь соціальної справи або знайти веб-сайт, ідентичний відомому магазину, що пропонує пропозиції, які варто переглянути Це лише деякі з складних тактик, які злочинці приймають за допомогою штучного інтелекту (ШІ), щоб обдурити мільйони бразильців щодня.

Згідно з опитуванням, проведеним на платформі BrandMonitor, в період з березня по травень цього року 529 з 628 брендів, які відстежуються, були ідентифіковані як такі, що зазнали атак з боку підозрілих доменів, а в 405 випадках були створені підроблені веб-сайти із застосуванням шахрайств 50 найбільш постраждалих брендів зареєстрували в середньому 86 підроблених доменів, створених в діапазоні всього 90 дні отехнологія, яка обіцяє трансформувати майбутнє, тепер використовується для складного шахрайства, створюючи цифрову епідемію, яка ставить споживачів і компанії в стан підвищеної готовності.

Um dos principais motivos para o crescimento das fraudes digitais impulsionadas por IA é a sua versatilidade, sem limites para os setores e usos que podem adotar. Apesar da versatilidade dos golpes digitais, todos seguem etapas comuns:

1. Coleta de dados: Criminosos obtêm dados pessoais e financeiros de consumidores e empresas por meio de vazamentos, phishing e malware.
2. Treinamento da IA: Com os dados coletados, a IA é treinada para identificar padrões de comportamento e imitar a linguagem humana de maneira convincente.
3. Execução: A IA automatiza o golpe, criando perfis falsos, enviando mensagens personalizadas e simulando atividades online para enganar as vítimas.

Segundo o levantamento global sobre Tendências de Fraude Digital Omnichannel realizado pela TransUnion em 2023, as tentativas de fraude digital aumentaram 80% globalmente desde 2019. Quando combinadas com IA, essas fraudes se tornam ainda mais sofisticadas e convincentes para os usuários. No Brasil, o primeiro semestre de 2024 registrou 800 mil tentativas de golpes.

Exemplos de golpes no Brasil

No Меркадо Лівре, por exemplo, criminosos criam perfis falsos com fotos e avaliações positivas geradas por robôs, induzindo compradores a realizar transações fraudulentas. Já em empresas de transporte por aplicativo, como a Uber і а 99 Táxi, a IA é utilizada para simular viagens fantasmas, gerando cobranças indevidas aos clientes e lucros ilícitos para os golpistas.

Embora as possibilidades sejam variadas, alguns formatos de golpes digitais são mais reconhecidos pelos usuários, incluindo:

1. Personalização de mensagens de phishing: A IA analisa dados sobre a vítima, como histórico de compras, interesses e comportamento online, para criar mensagens altamente direcionadas. Essa personalização dificulta a identificação de fraudes, pois as mensagens parecem legítimas e relevantes para o destinatário;
2. Assistentes virtuais falsos: Chatbots falsos induzem as pessoas a fornecerem informações sensíveis, como dados bancários ou senhas. A inteligência artificial permite que esses assistentes respondam de forma natural e adaptem-se às perguntas dos usuários, tornando-os mais convincentes;
3. Deepfakes e manipulação de voz: A IA é usada para criar deepfakes, que são vídeos ou áudios falsos que parecem autênticos. Essa tecnologia é uma preocupação crescente, especialmente em contextos como eleições, onde a disseminação de informações falsas pode ter impactos significativos. Em fevereiro deste ano, o Tribunal Superior Eleitoral decidiu restringir o uso de IA em campanhas.

A informação e educação são essenciais para a proteção contra fraudes digitais. Os usuários precisam estar mais conscientes do modo de atuação desses fraudadores, para que possam ter mais domínio sobre suas decisões, evitando assim, o golpe e todo transtorno que vem junto dele.

Além disso, para entender melhor a amplitude das fraudes digitais impulsionadas por inteligência artificial, é crucial analisar casos concretos que evidenciam os impactos dessas práticas. Alguns exemplos emblemáticos envolvendo grandes empresas no Brasil revelam como essas organizações foram alvo de golpes sofisticados, explorando vulnerabilidades tanto de consumidores quanto das próprias marcas:

1. Mercado Livre: Criminosos utilizam IA para criar perfis falsos com fotos e avaliações positivas geradas por robôs, induzindo compradores a realizarem transações com vendedores inexistentes. Além disso, usam IA para criar anúncios falsos de produtos, atraindo compradores e coletando dados pessoais e financeiros.
2. Vans: Criminosos criam sites falsos vendendo produtos da Vans com descontos irreais, usando IA para personalizar esses sites e enganar consumidores.
3. Fleury: Fraudes de phishing usando IA enganaram funcionários do Grupo Fleury, resultando no vazamento de dados sensíveis.
4. ENEM 2024: Um site falso imitando a Página do Participante do Enem levou diversos usuários a pagarem a taxa de inscrição para o exame, estimada em 85 reais por pessoa.
5. Starlink: A empresa de internet via satélite da SpaceX, de Elon Musk, é constantemente vítima de golpes e fraudes. Em nosso ranking de acompanhamento diário, encontramos 523 domínios suspeitos relacionados à Starlink, 152 deles ativos. Cerca de 44% das reclamações acerca da empresa estão ligadas a sites falsos.

IA é também uma ferramenta de defesa

Assim como a inteligência artificial pode ser utilizada para golpes, também é uma poderosa aliada para combatê-los. É fundamental reconhecer a importância não apenas de possuir tecnologia avançada, mas também de saber aplicá-la de maneira eficaz, por meio de técnicas sofisticadas de detecção de padrões e análise de comportamento.

A epidemia de fraudes digitais no Brasil, impulsionada pela inteligência artificial, é um desafio crescente que exige atenção constante e ação coordenada entre empresas, governo e consumidores. Somente com informação, educação e o uso inteligente da tecnologia poderemos frear essa onda de criminalidade digital e proteger nossos dados e nosso futuro.