De impact van kunstmatige intelligentie op de groei van digitale fraude in Brazilië

Stel je voor dat je een perfecte voicemail ontvangt van een beroemdheid die om financiële hulp vraagt voor een goede zaak of een website die identiek is aan die van een gerenommeerde winkel met onweerstaanbare aanbiedingen. Dit zijn slechts enkele van de geavanceerde tactieken die criminelen gebruiken via kunstmatige intelligentie (AI) om dagelijks miljoenen Brazilianen te misleiden.

Volgens een onderzoek uitgevoerd op het platform van BrandMonitor, tussen maart en mei van dit jaar, werd vastgesteld dat 529 van de 628 gemonitorde merken te maken hadden met aanvallen van verdachte domeinen en in 405 gevallen verschenen valse sites die oplichting toepasten. De 50 meest getroffen merken registreerden gemiddeld 86 nepdomänen die in slechts 90 dagen werden aangemaakt. De technologie die belooft de toekomst te transformeren, wordt nu gebruikt om fraude te verfijnen, waardoor een digitale epidemie ontstaat die consumenten en bedrijven op scherp zet.

Een van de belangrijkste redenen voor de groei van door AI aangedreven digitale fraude is de veelzijdigheid ervan, zonder grenzen voor de sectoren en toepassingen die het kan gebruiken. Ondanks de veelzijdigheid van digitale aanvallen, volgen ze allemaal gemeenschappelijke stappen:

1. GegevensverzamelingCriminelen verkrijgen persoonlijke en financiële gegevens van consumenten en bedrijven via datalekken, phishing en malware.
2. Training van de AIMet de verzamelde gegevens wordt de AI getraind om gedragspatronen te identificeren en de menselijke taal op een overtuigende manier na te bootsen.
3. UitvoeringDe AI automatiseert de aanval door valse profielen te creëren, gepersonaliseerde berichten te sturen en online activiteiten te simuleren om de slachtoffers te misleiden.

Volgens het wereldwijde onderzoek naar Omnichannel Digitale Fraude-Trends uitgevoerd door TransUnion in 2023, zijn de pogingen tot digitale fraude wereldwijd met 80% toegenomen sinds 2019. Wanneer ze gecombineerd worden met AI, worden deze fraudezaken nog geavanceerder en overtuigender voor de gebruikers. In Brazilië registreerde de eerste helft van 2024 800 duizend pogingen tot oplichting.

Voorbeelden van oplichting in Brazilië

NeeVrije markt, bijvoorbeeld, criminelen maken nepprofielen met foto's en positieve beoordelingen gegenereerd door robots, waardoor kopers worden misleid om frauduleuze transacties uit te voeren. Al in bedrijven voor ritdiensten, zoals deUberen de99 Taxi, AI wordt gebruikt om spookreizen te simuleren, onterechte kosten aan klanten te factureren en illegale winsten voor oplichters te genereren.

Hoewel de mogelijkheden gevarieerd zijn, worden sommige vormen van digitale oplichting meer herkend door gebruikers, waaronder:

1. Personalisatie van phishingberichtenAI analyseert gegevens over het slachtoffer, zoals aankoopgeschiedenis, interesses en online gedrag, om zeer gerichte berichten te creëren. Deze personalisatie bemoeilijkt het identificeren van fraude, omdat de berichten legitiem en relevant lijken voor de ontvanger;
2. Valse virtuele assistentenNepotische chatbots moedigen mensen aan om gevoelige informatie te verstrekken, zoals bankgegevens of wachtwoorden. Kunstmatige intelligentie stelt deze assistenten in staat om op een natuurlijke manier te reageren en zich aan te passen aan de vragen van gebruikers, waardoor ze overtuigender worden;
3. Deepfakes en stemmanipulatieAI wordt gebruikt om deepfakes te maken, dat zijn nepvideo's of -audio's die echt lijken. Deze technologie is een groeiende zorg, vooral in contexten zoals verkiezingen, waar de verspreiding van valse informatie aanzienlijke gevolgen kan hebben. In februari van dit jaar besloot het Hooggerechtshof van de Kiesraad het gebruik van AI in campagnes te beperken.

Informatie en onderwijs zijn essentieel voor de bescherming tegen digitale fraude. Gebruikers moeten zich meer bewust zijn van de werkwijze van deze oplichters, zodat ze meer controle kunnen krijgen over hun beslissingen, en zo de oplichting en alle bijbehorende problemen kunnen vermijden.

Bovendien is het essentieel om concrete gevallen te analyseren die de impact van deze praktijken aantonen, om de omvang van door kunstmatige intelligentie aangedreven digitale fraude beter te begrijpen. Enkele emblematische voorbeelden met grote bedrijven in Brazilië onthullen hoe deze organisaties het doelwit waren van geavanceerde oplichterijen, waarbij kwetsbaarheden van zowel consumenten als de merken zelf werden uitgebuit:

1. MarktplaatsCriminelen gebruiken AI om valse profielen te maken met foto's en positieve beoordelingen gegenereerd door robots, waardoor kopers worden misleid om transacties te doen met niet-bestaande verkopers. Bovendien gebruiken ze AI om valse advertenties voor producten te maken, kopers aan te trekken en persoonlijke en financiële gegevens te verzamelen.
2. VansCriminelen maken nepwebsites om Vans-producten met onrealistische kortingen te verkopen, gebruikmakend van AI om deze sites te personaliseren en consumenten te misleiden.
3. FleuryPhishingfraudes met behulp van AI hebben medewerkers van Grupo Fleury misleid, wat heeft geleid tot het lekken van gevoelige gegevens.
4. ENEM 2024Een nepwebsite die de deelnemerpagina van de Enem nabootste, heeft verschillende gebruikers ertoe gebracht de inschrijvingskosten voor het examen te betalen, geschat op 85 reais per persoon.
5. StarlinkHet satelliet-internetbedrijf van SpaceX, van Elon Musk, is voortdurend het slachtoffer van oplichterijen en fraude. In onze dagelijkse monitoring ranking vinden we 523 verdachte domeinen gerelateerd aan Starlink, waarvan er 152 actief zijn. Ongeveer 44% van de klachten over het bedrijf zijn gerelateerd aan nepwebsites.

IA is ook een verdedigingsmiddel

Net zoals kunstmatige intelligentie kan worden gebruikt voor oplichterijen, is het ook een krachtige bondgenoot om ze te bestrijden. Het is essentieel om het belang niet alleen te erkennen van het bezitten van geavanceerde technologie, maar ook van het effectief toepassen ervan door middel van geavanceerde technieken voor patroonherkenning en gedragsanalyse.

De epidemie van digitale fraude in Brazilië, aangedreven door kunstmatige intelligentie, is een groeiende uitdaging die voortdurende aandacht en gecoördineerde actie tussen bedrijven, overheid en consumenten vereist. Alleen met informatie, onderwijs en het slimme gebruik van technologie kunnen we deze golf van digitale criminaliteit stoppen en onze gegevens en onze toekomst beschermen.