Ved å analysere de siste trender innen cybersikkerhet og veilede hvilke tiltak CISOer bør ta for å sikre en trygg reise for generativ kunstig intelligens i sine organisasjoner, påpekte ekspertene som deltok på Gartner Security & Risk Management Summit, arrangementet som fant sted i Sydney, Australia, at denne nye teknologien vil kreve ytterligere forsiktighetsregler og utvikling av nye cybersikkerhetsressurser, noe som kan føre til en økning på opptil 15 % i cybersikkerhetsinvesteringer.
Når man snakker om emnet, forklarede Gartner's Senior Director Analyst, Richard Addiscott, at CISOs bør oppdatere praksis for applikasjons- og databeskyttelse for å integrere nye angrepsflater, som prompts eller orkestrasjonslag, for å instrumentere AI-modeller.
For Fernando Guimarães, leder for Stone Age, avdelingen for kreditt og antifraud i TIVIT, kan estimatet være ganske konservativ ettersom, i tillegg til behovet for å beskytte applikasjoner som bruker generativ AI, det er en trend at generativ AI i økende grad vil bli integrert i verktøy for å bekjempe svindlere. Fordelene med generativ AI er ubestridelige og har et enormt vekstpotensial, men slike fordeler må følges opp med forsiktighet og investeringer i cybersikkerhet."Det nettoresultatet vil i de fleste tilfeller være veldig positivt, men det finnes ingen gratis lunsj," sier Guimarães.
Han sier at denne bevegelsen ble utført av Stone Age selv med integreringen av den generative kunstig intelligensløsningen Athena, utviklet av TIVIT i deres løsninger. På begynnelsen av 2024 ble teknologien tilbudt som en ny funksjon i Identify, et produkt fokusert på identitetsbekreftelse for onboarding- og salgsprosesser.
Lansiert i desember i fjor av TIVIT, gjør Athena det mulig for Identify å utføre, blant annet, intelligent lesing av data fra et selskapsavtale på 30 sekunder automatisk. I tillegg, trekke ut strukturerte opplysninger fra disse dokumentene, som umiddelbart blir til samarbeidsinnsikt for å drive datastøtten som muliggjør en mer effektiv og rask beslutningstaking.
Guimarães kommenterer at innføringen av Athena gir Identify nye funksjoner som gjør brukerreisen med verktøyet mye mer komplett. I praksis, ifølge ham, har selskapet nå en versjon 2.0 som kan fremme operasjonell effektivitet, med redusert manuell inngripen, økt beslutningstreffsikkerhet, samt bidra til kostnadsreduksjon, med muligheten til å arbeide med mindre kundeservice- og analyse-team.
Jeg tror at denne typen gevinst kan spres gjennom mange andre løsninger på markedet. På denne måten, med tanke på fordelene som generativ AI gir for cybersikkerhet, blir økningen i investeringer for å øke bruken av denne teknologien fullt ut begrunnet, avslutter han.
Et alternativ for å bruke AI på en tryggere måte er å benytte løsninger som er tilpassbare etter bedriftens behov. Ifølge Daniel Galante, CCO og CPO i TIVIT, kom AI for å gjøre prosesser og bedrifter mer smidige, men det er nødvendig å bruke den på en veldig presis måte. "Forestill deg et stort advokatfirma som betjener viktige klienter, og alle advokatene legger inn data om klienter og saker i et 100 % åpent miljø som kan bli offentlig. Dette kan føre til store problemer ved at disse dataene blir eksponert for allmennheten. Et alternativ er å bruke en generativ AI som er tilpassbar, som for eksempel Athena, hvor klienten kan velge hvilke databaser som skal brukes, og gjøre alle data tilgjengelige bare på forhåndsbestemte steder med begrenset tilgang til de som virkelig skal ha det. Dette er den beste måten å bruke AI på, da den gir økt effektivitet, men samtidig den nødvendige sikkerheten for en slik prosess," sier Galante.