technologie deepfake přinesl vážné výzvy pro digitální bezpečnost. V Brazílii se tento typ podvodu rychle rozšířil: v říjnu 2024 zahájila civilní policie federálního okruhu operaci „DeGenerativní AI“ s cílem rozbít gang specializující se na hackování bankovních účtů pomocí aplikací umělé inteligence.
Vyšetřovaná skupina provedla více než 550 pokusů o nabourání se do bankovních účtů držitelů digitálních bankovních účtů prostřednictvím koordinovaných útoků, využití dat třetích stran a technologie deepfake. Pomocí této metody se jim podařilo reprodukovat fotografie držitelů účtů za účelem ověření postupů otevírání účtů a aktivace nových zařízení. Gangu se podařilo přesunout přibližně 110 000 000 realů prostřednictvím individuálních a firemních účtů, a to aktivitami, které naznačují praní špinavých peněz – škody nebyly větší pouze díky auditům prevence podvodů provedeným bankami, kterým se podařilo zastavit velkou část podvodů.
Technologie deepfake se neustále vyvíjí – a pravděpodobně bude ještě růst: podle výzkumu společnosti Deloitte je možné na deep webu najít podvodný software s cenami od 20 USD do tisíců dolarů, což ukazuje sílu globální podvodné ekonomiky. Tento termín používá společnost Javelin Strategy & Research k označení tohoto růstu trestné činnosti prováděné v globálním měřítku, včetně různých typů podvodů.
Podle zprávy o finančních podvodech od idwallu se počet vysoce složitých podvodů v prvním čtvrtletí roku 2023 zvýšil o 16 % ve srovnání s prvním čtvrtletím roku 2024. Ale když mluvíme o vysoké složitosti, jakých typů podvodů by si měly společnosti dávat pozor?
Existují dva nejčastější typy: vytváření uživatelů a dokumentů se syntetickými daty, kdy podvodníci generují padělané dokumenty a obličeje ze skutečných dat, čímž se podvod stává přesvědčivějším a obtížněji odhalitelným; a manipulace se selfie, kdy je skutečný dokument kombinován s fotografií vygenerovanou deepfake technologií , aby se obešly systémy rozpoznávání obličeje. K těmto podvodům může docházet v různých bodech digitální cesty, například při registraci nových zákazníků, změně zařízení nebo hesel a při žádostech o nové produkty a úvěry.
Vytváření účinných řešení digitální bezpečnosti je stejně složité jako prevence podvodů – zejména když vezmeme v úvahu, že brazilský trh má specifika, jako jsou rozmanité modely mobilních telefonů a operační systémy, starší používaná mobilní zařízení a část populace s omezeným přístupem k internetu, což brání zavádění pokročilých bezpečnostních technologií.
I uprostřed nepříznivé situace je však nezbytné zajistit vysokou úroveň ochrany před podvodníky, kteří neustále zlepšují své techniky. Proto mnoho společností začalo testovat své nástroje pomocí metod, které podvodníci již používají, jako jsou 2D a 3D masky, k simulaci obličejů a pokusům o obejití ověřovacích systémů. Kromě toho je pro společnosti zásadní požadovat certifikace, které zajistí, že použité biometrické ověřování je účinné při detekci deepfakes – jako je pečeť iBeta 2.
Samotné biometrické ověření však k odhalení deepfake nestačí: je zapotřebí vícevrstvý přístup. Pro ověření pravdivosti uživatelských dat s větší přesností je nutné tuto technologii kombinovat s dalšími zdroji, jako je skenování dokumentů, OCR (optické rozpoznávání znaků) a prověrky . Integrace těchto ověřovacích zdrojů může zabránit tomu, aby byl uživatel přijat do nástupního například s použitím falešných údajů nebo dokumentů jiné osoby.
S pokrokem generativních nástrojů umělé inteligence a sofistikovaných technik, které usnadňují a zlevňují páchání podvodů, mají podvody pocházející z deepfake tendenci dále eskalovat a přesouvat se z nelegální na „maloobchodní“ úroveň. V tomto scénáři musí společnosti co nejdříve investovat do řešení, která propojují technologie, automatizaci a inteligenci, a volit centralizovaná řešení, která integrují veškeré registrační, dokumentární a biometrické údaje uživatelů do jednoho prostředí.
