AI, kybernetická bezpečnost a soukromí: jak chránit citlivá data ve věku generativní umělé inteligence

Rychlé přijetí generativní umělé inteligence (Gen AI) ve společnostech nově definuje procesy, což umožňuje inovace a automatizaci řízení. Podle nedávné studie Bloomberg Intelligence by tempo růstu umělé inteligence v příštím desetiletí mělo být 421 TP3 T za rok 4, což téměř zdvojnásobuje její dosah. Úspěch těchto řešení však závisí na pečlivé správě dat, která tyto modely napájejí. Zde přichází na řadu kybernetická bezpečnost, zásadní prvek ochrany soukromí a integrity informací.

Generativní umělá inteligence přesahuje tradiční modely umělé inteligence, které pouze klasifikují nebo předpovídají chování, protože vytváří nový obsah, jako jsou texty, obrázky a kódy Tato inovační kapacita otevírá nové možnosti v několika odvětvích, ale vyžaduje pečlivý přístup k používání a zabezpečení dat a to uznávají lidé, kteří používají technologie na denní bázi Podle výzkumu Developer Survey 2024 Stack OverFlow, jedna z hlavních výzev (31.51TP3 T) práce s umělou inteligencí není mít správné zásady ke zmírnění bezpečnostních rizik.   

V tomto smyslu Technický produktový manažer John Batista, zodpovědný za platformu Zup StackSpot AI, vysvětluje, že ke zmírnění těchto rizik musí společnosti zavést přísná bezpečnostní opatření, vzhledem k tomu, že počítačová kriminalita je stále sofistikovanější a do roku 2025 může stát 10,5 bilionu dolarů, uvádí Cyber Security Almanach. 

3 Zajištění bezpečného a etického fungování modelů umělé inteligence vyžaduje mnohostranný přístup, který kombinuje robustní šifrování, efektivní správu dat, přísné postupy ochrany osobních údajů a přísné kontroly přístupu během školení modelů. Pokud uděláme výstřižek pro společnosti, které budují technologii, mít bezpečnost- vyškolený asistent vývoje softwaru řízený umělou inteligencí může tým podpořit, aby zajistil, že kód bude dodržovat osvědčené postupy bezpečného kódování. Jedná se například o prediktivní mechanismus identifikace zranitelnosti. Stále více je způsob, jak uvažovat o společné strategii, která považuje inovace, bezpečnost a ochrana dat za základní stativ pro aplikaci tohoto typu technologie.

Pokud jde o legislativu, Henrique Flores, spoluzakladatel Contractor a vedoucí vývoje CK Reader, IA startupu, vysvětluje, že zatímco čekáme na legislativu, která lépe reguluje používání generativní umělé inteligence, je na technologických profesionálech, aby zajistili uplatňování správných šifrovacích postupů, anonymizace dat a zásad správy ti, které mohou zajistit rovnováhu obchodních zájmů stran, transparentnost mechanismů školení algoritmů a etické použití při manipulaci s daty. 

Giovanna Rossi, CPO společnosti Rethink, technologické poradenství, design a strategie, uznává, že inovace s nově vznikajícími technologiemi, jako je generativní umělá inteligence, jsou jedinečnou příležitostí k transformaci, ale posiluje, že nelze popřít, že jsou doprovázeny významnými riziky, jako je vystavení citlivých informací a možnost sofistikovaných kybernetických útoků. „Ze strany odpovědné za oblast digitálních produktů vidím, jak zásadní je, aby vedení upřednostňovalo strategický přístup při používání umělé inteligence ke zmírnění těchto rizik. Máme odpovědnost utvářet tuto technologii etickým a bezpečným způsobem a zajistit, aby její dopad byl pozitivní a udržitelný pro všechny, říká exekutiva. 

Brazílie má velký objem dat kolujících po internetu a zrychlený proces digitalizace, Co se týče ochrany značky, Diego Daminelli, generální ředitel BrandMonitor, průkopník a odborník v boji proti nekalé soutěži v digitálním prostředí, varuje, že brazilská bezpečnostní infrastruktura se stále pohybuje pomalu, což ze země činí jeden z největších cílů kybernetických útoků na světě, s větší propracovaností útoků zločinců. „Kultura bezpečnosti je stále tématem málo ceněným několika společnostmi, které nepoužívají AI, ale zastaralé technologie, které je mohou nechat zranitelné vůči útokům a nejsou schopny monitorovat digitální přítomnost značky v celém jejím rozsahu.

Expert uvádí příklad phishing, grande problema para segmentos como o varejo e prestação de serviços. “Os anúncios são veiculados em plataformas digitais utilizando toda a identidade de uma marca e prometendo descontos impraticáveis. Esse anúncio leva a uma pagina que imita o layout oficial da empresa, mas com um endereço diferente. Nessa página são oferecidos produtos ou serviços com um preço extremamente baixo, induzindo o cliente a compra”, finaliza