AI, Cybersecurity og privatliv: hvordan man beskytter følsomme data i en alder af Generative Artificial Intelligence

Den hurtige vedtagelse af Generative Artificial Intelligence (Gen AI) i virksomheder omdefinerer processer, hvilket muliggør innovationer og driver automatisering. Ifølge en nylig undersøgelse fra Bloomberg Intelligence bør vækstraten for AI i det næste årti være 42% om året 4 næsten fordoble sin rækkevidde. Succesen med disse løsninger afhænger dog af omhyggelig styring af de data, der fodrer disse modeller. Det er her cybersikkerhed kommer ind, et vigtigt element for at beskytte privatlivets fred og informationsintegritet.

Generativ AI går ud over traditionelle kunstig intelligens modeller, som kun klassificerer eller forudsiger adfærd, fordi det skaber nyt indhold som tekster, billeder og koder. Denne innovationskapacitet åbner nye muligheder i flere sektorer, men kræver en omhyggelig tilgang til brug og sikkerhed af data, og dette anerkendes af folk, der bruger teknologi på daglig basis. Ifølge forskningen fra Developer Survey 2024 af Stack OverFlow har en af de vigtigste udfordringer (31.5%) ved at arbejde med AI ikke de rigtige politikker til at afbøde sikkerhedsrisici.   

I denne forstand er Teknisk produktchef John Batista, ansvarlig for Zup StackSpot AI-platformen, forklarer, at for at mindske disse risici skal virksomheder implementere strenge sikkerhedsforanstaltninger, da cyberkriminalitet er stadig mere sofistikeret og i 2025 kan koste 10,5 billioner dollars, ifølge Cyber Security Almanac. 

“Sikring af, at AI-modeller fungerer sikkert og etisk, kræver en mangesidet tilgang, der kombinerer robust kryptering, effektiv datastyring, streng privatlivspraksis og streng adgangskontrol under model training.If vi laver et udklip for virksomheder, der skaber teknologi, kan det at have en sikkerhedsuddannet AI-drevet softwareudviklingsassistent støtte teamet for at sikre, at kode følger sikker kodning bedste praksis.Dette er for eksempel en forudsigelig sårbarhed identifikationsmekanisme. I stigende grad er vejen at tænke på en fælles strategi, der betragter innovation, sikkerhed og databeskyttelse som et væsentligt stativ for anvendelsen af denne type teknologi.

Med hensyn til lovgivningen forklarer Henrique Flores, medstifter af Contractor og leder af udviklingen af CK Reader, IA for opstarten, at mens vi afventer lovgivning for bedre at regulere brugen af Generativ AI, er det op til teknologiprofessionelle at sikre anvendelsen af god krypteringspraksis, dataanonymisering og styringspolitikker for ti, der kan sikre balancen mellem parternes kommercielle interesser, gennemsigtighed i algoritmetræningsmekanismer og etisk brug ved manipulation af data”. 

Mens man anerkender, at innovation med nye teknologier, såsom Generativ Kunstig Intelligens, er en unik mulighed for transformation, forstærker Giovanna Rossi, CPO for Rethink, teknologikonsulentvirksomhed, design og strategi, at det ikke kan nægtes, at det ledsages af betydelige risici, såsom eksponering af følsomme oplysninger og muligheden for sofistikerede cyberangreb. “Som ansvarlig for området for digitale produkter ser jeg, hvor grundlæggende det er for lederskab at prioritere en strategisk tilgang i brugen af AI for at afbøde sådanne risici. Vi har et ansvar for at forme denne teknologi på en etisk og sikker måde, der sikrer, at dens indvirkning er positiv og bæredygtig for alle”, siger direktionen. 

Brasilien har en stor mængde data, der cirkulerer på internettet, og en accelereret digitaliseringsproces. Med hensyn til brandbeskyttelse advarer Diego Daminelli, administrerende direktør for BrandMonitor, en pioner og ekspert i bekæmpelse af unfair konkurrence i det digitale miljø, om, at den brasilianske sikkerhedsinfrastruktur stadig bevæger sig langsomt, hvilket gør landet til et af de største mål for cyberangreb i verden, med en større sofistikering af angreb fra kriminelle. “Sikkerhedskultur er stadig et emne, der er lidt værdsat af flere virksomheder, som ikke bruger AI, men forældede teknologier, som kan efterlade dem sårbare over for angreb og ikke er i stand til at overvåge den digitale tilstedeværelse af mærket i hele sit sortiment.

Eksperten giver eksemplet med phishing, stort problem for segmenter som detailhandel og serviceydelse. “Annoncer serveres på digitale platforme ved hjælp af hele identiteten af et brand og lovende upraktiske rabatter. Denne annonce fører til en side, der efterligner virksomhedens officielle layout, men med en anden adresse. På denne side tilbydes produkter eller tjenester til en ekstremt lav pris, hvilket får kunden til at købe”, slutter han