Den raske adopsjonen av Generativ Kunstig Intelligens (Gen KI) i bedrifter omdefinerer prosesser, muliggjør innovasjon og driver automatisering. Ifølge en nylig studie fra Bloomberg Intelligence forventes vekstraten for AI de neste ti årene å være 42 % årlig – nesten doblet rekkevidden. Imidlertid avhenger suksessen til disse løsningene av en nøye forvaltning av dataene som driver disse modellene. Det er her cybersikkerhet kommer inn, et viktig element for å beskytte personvernet og integriteten til informasjonen.
Den generativ AI går utover tradisjonelle kunstig intelligensmodeller, som bare klassifiserer eller forutsier atferd, fordi den skaper nytt innhold som tekster, bilder og koder. Denne innovasjonsevnen åpner nye muligheter i ulike sektorer, men krever en forsiktig tilnærming til bruk og datasikkerhet, og dette er anerkjent av de som bruker teknologien daglig. Ifølge Stack Overflow's Developer Survey 2024 er en af de største udfordringer (31,5%) ved at arbejde med AI manglende politikker for at afbøde sikkerhedsrisiciene.
I denne forbindelse, denTeknisk produktlederJoão Batista, ansvarlig for StackSpot AI-plattformen til Zup, forklarer at for å redusere disse risikoene bør selskaper implementere strenge sikkerhetstiltak, ettersom cyberkriminalitet blir stadig mer sofistikert og kan koste 10,5 billioner dollar innen 2025, ifølge Cyber Security Almanac.
"Å sikre at AI-modeller opererer på en trygg og etisk måte krever en flerfaset tilnærming, som kombinerer robust kryptografi, effektiv datastyring, strenge personvernpraksiser og begrensede tilgangskontroller under modelltreningen. Hvis vi ser på selskaper som utvikler teknologi, kan en AI-drevet programvareutviklingsassistent trent i sikkerhet støtte teamet i å sikre at koden følger beste praksis for sikker koding. Dette er for eksempel en prediktiv mekanisme for å identifisere sårbarheter. I økende grad handler det om å tenke på en felles strategi som vurderer innovasjon, sikkerhet og databeskyttelse som en essensiell treenighet for anvendelsen av denne typen teknologi," understreker João Batista.
Når det gjelder lovgivningen, forklarer Henrique Flôres, medgrunnlegger av Contraktor og leder for utviklingen av CK Reader, AI i oppstartsselskapet, at «mens vi venter på en lovgivning som bedre regulerer bruken av generativ AI, er det opp til teknologiprofesjonelle å sørge for god praksis innen kryptering, anonymisering av data og IT-styringspolitikk som kan sikre balansen mellom kommersielle interesser, åpenhet i treningsmekanismer for algoritmer og etisk bruk av data».
Selv om hun erkjenner at innovasjon med nye teknologier, som Generativ Kunstig Intelligens, er en unik mulighet for transformasjon, understreker Giovanna Rossi, CPO i Rethink, et konsulentselskap innen teknologi, design og strategi, at det ikke er til å komme unna at dette følger med betydelige risikoer, som eksponering av sensitive opplysninger og muligheten for sofistikerte cyberangrep. Som ansvarlig for digitale produkter ser jeg hvor viktig det er at ledelsen prioriterer en strategisk tilnærming til bruk av AI for å redusere slike risikoer. Vi har ansvaret for å forme denne teknologien på en etisk og trygg måte, og sikre at dens innvirkning er positiv og bærekraftig for alle, sier lederen.
Brasil har et høyt volum av data som sirkulerer på internett og en akselerert digitaliseringsprosess. Når det gjelder merkevarebeskyttelse, advarer Diego Daminelli, CEO i BrandMonitor, et pionerselskap og spesialist på bekjempelse av urettferdig konkurranse i det digitale miljøet, om at den brasilianske sikkerhetsinfrastrukturen fortsatt beveger seg sakte, noe som gjør landet til et av de største målene for cyberangrep i verden, med en økt sofistikering av angrepene fra kriminelle. Sikkerhetskulturen er fortsatt et lite verdsatt tema for mange selskaper, som ikke bruker kunstig intelligens, men utdaterte teknologier som kan gjøre dem sårbare for angrep og ikke er i stand til å overvåke merkevarens digitale tilstedeværelse i hele sin bredde.
Eksperten gir eksemplet påfiskeletingstort problem for segmenter som detaljhandel og tjenesteytende næringer. Annonser blir vist på digitale plattformer med hele merkevarens identitet og lover urealistiske rabatter. Denne annonsen fører til en side som etterligner det offisielle oppsettet til selskapet, men med en annen adresse. På denne siden tilbys produkter eller tjenester til ekstremt lave priser, noe som lurer kunden til å kjøpe, avslutter den.
