AI, Cybersecurity og personvern: hvordan beskytte sensitive data i en alder av Generativ kunstig intelligens

Den raske adopsjonen av Generative Artificial Intelligence (Gen AI) i bedrifter redefinerer prosesser, muliggjør innovasjoner og driver automatisering Ifølge en fersk studie av Bloomberg Intelligence, bør vekstraten for AI i det neste tiåret være 42% i året 4 nesten dobler rekkevidden. Suksessen til disse løsningene avhenger imidlertid av nøye håndtering av dataene som mater disse modellene. Det er her cybersikkerhet kommer inn, et viktig element for å beskytte personvern og informasjonsintegritet.

Generativ AI går utover tradisjonelle kunstig intelligens-modeller, som bare klassifiserer eller forutsier atferd, fordi det skaper nytt innhold som tekster, bilder og koder Denne innovasjonskapasiteten åpner nye muligheter i flere sektorer, men krever en forsiktig tilnærming til bruk og sikkerhet av data og dette er anerkjent av folk som bruker teknologi på daglig basis I følge forskningen til Developer Survey 2024 av Stack OverFlow, er en av hovedutfordringene (31.5%) ved å jobbe med AI ikke å ha riktige retningslinjer for å redusere sikkerhetsrisikoer.   

I denne forstand er Teknisk produktsjef John Batista, ansvarlig for Zup StackSpot AI-plattformen, forklarer at for å redusere disse risikoene, må selskaper implementere strenge sikkerhetstiltak, gitt at nettkriminalitet blir stadig mer sofistikert og innen 2025 kan koste 10,5 billioner dollar, ifølge Cyber Security Almanac. 

“ Å sikre at AI-modeller fungerer sikkert og etisk krever en mangefasettert tilnærming som kombinerer robust kryptering, effektiv datastyring, streng personvernpraksis og strenge tilgangskontroller under modellopplæring. Hvis vi gjør en cutout for selskaper som lager teknologi, har en sikkerhet- trent AI-drevet programvareutviklingsassistent kan støtte teamet for å sikre at koden følger beste praksis for sikker koding. Dette er for eksempel en prediktiv sårbarhetsidentifikasjonsmekanisme. I økende grad er veien å tenke på en felles strategi som anser innovasjon, sikkerhet og databeskyttelse som et viktig stativ for bruk av denne typen teknologi.

Når det gjelder lovgivningen, forklarer Henrique Flores, medgründer av Contractor og leder for utviklingen av CK Reader, IA for oppstarten, at mens vi venter på lovgivning for å bedre regulere bruken av Generative AI, er det opp til teknologifagfolk å sikre anvendelse av god krypteringspraksis, dataanonymisering og styringspolitikk til ti som kan sikre balansen mellom partenes kommersielle interesser, åpenhet i algoritmetreningsmekanismer og etisk bruk i manipulering av data“. 

Mens vi erkjenner at innovasjon med nye teknologier, som Generativ kunstig intelligens, er en unik mulighet for transformasjon, forsterker Giovanna Rossi, CPO i Rethink, teknologirådgivning, design og strategi, at det ikke kan benektes at det er ledsaget av betydelige risikoer, som f.eks. som eksponering av sensitiv informasjon og muligheten for sofistikerte cyberangrep. “As ansvarlig for området digitale produkter, ser jeg hvor grunnleggende det er for lederskap å prioritere en strategisk tilnærming i bruken av AI for å redusere slike risikoer. Vi har et ansvar for å forme denne teknologien på en etisk og sikker måte, og sikre at virkningen er positiv og bærekraftig for all”, sier lederen. 

Brasil har et høyt datavolum som sirkulerer på internett og en akselerert digitaliseringsprosess Når det gjelder merkevarebeskyttelse, advarer Diego Daminelli, administrerende direktør i BrandMonitor, en pioner og ekspert på å bekjempe urettferdig konkurranse i det digitale miljøet, at den brasilianske sikkerhetsinfrastrukturen fortsatt beveger seg sakte, noe som gjør landet til et av de største målene for nettangrep i verden, med en større sofistikering av angrep fra kriminelle. “Sikkerhetskultur er fortsatt et tema som er lite verdsatt av flere selskaper, som ikke bruker AI, men utdaterte teknologier, som kan gjøre dem sårbare for angrep og ikke er i stand til å overvåke den digitale tilstedeværelsen til merkevaren i hele sitt utvalg.

Eksperten gir eksempel på phishing, stort problem for segmenter som detaljhandel og tjenesteyting. “Adverts serveres på digitale plattformer ved hjelp av hele identiteten til en merkevare og lovende upraktiske rabatter.Denne annonsen fører til en side som etterligner den offisielle layouten til selskapet, men med en annen adresse.På denne siden tilbys produkter eller tjenester til en ekstremt lav pris, noe som får kunden til å kjøpe, avslutter han