Da eksperterne, der deltog i Gartner Security & Risk Management Summit, et arrangement i Sydney, Australien, analyserede de vigtigste seneste cybersikkerhedstendenser og vejledte de handlinger, som CISO'er bør foretage for at muliggøre en sikker rejse for generativ kunstig intelligens i deres organisationer, henledte de opmærksomheden på, at denne nye teknologi vil kræve ekstra omhu og udvikling af nye cybersikkerhedskapaciteter, hvilket potentielt kan resultere i en stigning på op til 15 % i mængden af cybersikkerhedsinvesteringer.
Gartners seniordirektøranalytiker Richard Addiscott forklarede om emnet, at CISO'er skal opdatere applikations- og datasikkerhedspraksis for at integrere nye angrebsflader, såsom prompts eller orkestreringslag, i instrument-AI-modeller.
Ifølge Fernando Guimarães, chef for Stone Age, forretningsområdet Credit and Anti-Fraud hos TIVIT, kan estimatet endda være konservativt, i betragtning af at der ud over behovet for at beskytte applikationer, der fungerer med generativ AI, er en voksende tendens til at integrere generativ AI i værktøjer til at bekæmpe svindlere. Fordelene ved generativ AI er ubestridelige og har et enormt vækstpotentiale; disse fordele skal dog ledsages af omhyggelige investeringer i cybersikkerhed. "Nettoresultatet vil være meget positivt i de fleste tilfælde, men der findes ikke sådan noget som en gratis frokost," siger Guimarães.
Han nævner, at dette skridt blev foretaget af Stone Age selv med inkorporeringen af den generative kunstige intelligens-løsning Athena, udviklet af TIVIT, i deres løsninger. I begyndelsen af 2024 begyndte teknologien at blive tilbudt som en ny funktion i Identify, et produkt med fokus på identitetsvalidering til onboarding- og salgsprocesser.
Athena, der blev lanceret i december sidste år af TIVIT, giver Identify mulighed for blandt andet at udføre intelligent aflæsning af data fra en virksomheds vedtægter på 30 sekunder automatisk. Derudover udtrækker den struktureret information fra disse dokumenter, som straks omdannes til samarbejdsbaseret indsigt, der forsyner datakanalen, hvilket muliggør mere effektiv og hurtigere beslutningstagning.
Guimarães kommenterer, at implementeringen af Athena giver Identify nye funktioner, der gør værktøjets brugsproces langt mere komplet. I praksis har virksomheden ifølge ham nu en version 2.0, der kan forbedres med hensyn til driftseffektivitet med reduceret manuel indgriben, øget beslutningsdygtighed og omkostningsreduktion, samt muligheden for at arbejde med mindre kundeservice- og analyseteams.
"Jeg mener, at denne type gevinst kan spredes på tværs af forskellige andre løsninger på markedet. I betragtning af de fordele, som generativ kunstig intelligens bringer med sig til cybersikkerhed, er øgede investeringer for at forbedre brugen af denne teknologi fuldt ud berettigede," konkluderer han.
Et alternativ til at bruge AI mere sikkert er at anvende løsninger, der kan tilpasses virksomhedens behov. Ifølge Daniel Galante, CCO og CPO hos TIVIT, har AI gjort processer og virksomheder mere agile; det skal dog bruges meget assertivt. "Forestil dig et stort advokatfirma, der betjener vigtige klienter, og hvor alle advokater indtaster klient- og sagsdata i et 100 % åbent miljø, der kan blive offentligt tilgængeligt. Dette kan skabe et stort problem ved at eksponere disse data for offentligheden. Et alternativ er at bruge en brugerdefineret generativ AI, såsom Athena, hvor klienten kan vælge, hvilke databaser der skal forespørges på, eksponere alle data kun på forudbestemte steder og begrænse adgangen til dem, der rent faktisk burde have dem. Dette er den bedste måde at bruge AI på, da det giver den agilitet, det tilbyder, men samtidig den nødvendige sikkerhed til en proces som denne," siger Galante.
