Dejstvo je: podjetja v Braziliji so v svoje poslovne strategije vključila umetno inteligenco – vsaj 98 % jih je, glede na raziskavo, opravljeno konec leta 2024. Težava pa je v tem, da je le 25 % organizacij izjavilo, da so pripravljene na uvedbo umetne inteligence. Preostale trpijo zaradi omejitev infrastrukture, upravljanja podatkov in pomanjkanja specializiranih talentov. Vendar to ne pomeni, da preostalih 75 % čaka na idealne pogoje za napredovanje svojih projektov: nasprotno, ta podjetja še naprej uvajajo tehnologijo.
Težava je v tem, da je le eno od petih podjetij sposobno integrirati umetno inteligenco v svoje poslovanje – v skladu z nedavno objavljenim globalnim poročilom, ki ga je Qlik pripravil v sodelovanju z ESG. Poleg tega je le 47 % podjetij poročalo o izvajanju politik upravljanja podatkov. Te številke so globalne – in ne bi bilo presenetljivo, če bi bila brazilska statistika še višja. In čeprav se umetna inteligenca trenutno uporablja v silosih in je "vstopna točka" tehnologije običajno služba za stranke, še vedno obstajajo finančna, regulativna in ugledna tveganja.
Podjetja, ki se odločijo za uvedbo umetne inteligence brez ustrezne priprave, se soočajo s številnimi ovirami. Študije primerov so pokazale, da lahko slabo upravljani algoritmi ohranjajo pristranskosti ali ogrozijo zasebnost, kar povzroči škodo za ugled in finančno škodo. Upravljanje umetne inteligence ni le tehnološko vprašanje, temveč tudi vprašanje izvedbe in skrbnega pregleda: brez dobro opredeljene strategije tveganja naraščajo skladno s priložnostmi – od kršitev zasebnosti in zlorabe podatkov do nepreglednih ali pristranskih avtomatiziranih odločitev, ki ustvarjajo nezaupanje.
Regulativni pritisk in skladnost: Temelji upravljanja umetne inteligence
Potreba po vzpostavitvi upravljanja umetne inteligence ni nastala le na poslovnem področju: pojavljajo se novi predpisi in napredek je hiter, tudi v Braziliji.
Decembra 2024 je zvezni senat odobril zakon 2338/2023 , ki predlaga regulativni okvir za umetno inteligenco s smernicami za odgovorno uporabo. Zakon uporablja pristop, ki temelji na tveganju , podoben pristopu Evropske unije, in sisteme umetne inteligence razvršča glede na njihov potencial za škodo temeljnim pravicam. Aplikacije, ki predstavljajo prekomerno tveganje, kot so algoritmi avtonomnega orožja ali orodja za množični nadzor, bodo prepovedane , generativni in splošni sistemi pred prihodom na trg opraviti predhodne ocene tveganja.
Obstajajo tudi zahteve glede preglednosti, na primer, ki od razvijalcev zahtevajo, da razkrijejo, ali so pri usposabljanju modelov uporabili avtorsko zaščiteno vsebino. Hkrati potekajo razprave o tem, da bi Nacionalnemu organu za varstvo podatkov (ANPD) dodelili osrednjo vlogo pri usklajevanju upravljanja umetne inteligence v državi, pri čemer bi izkoristili obstoječi okvir za varstvo podatkov. Te zakonodajne pobude kažejo, da bodo imela podjetja kmalu jasne obveznosti glede razvoja in uporabe umetne inteligence – od praks poročanja in zmanjševanja tveganj do upoštevanja algoritemskih vplivov.
V Združenih državah Amerike in Evropi so regulatorji okrepili nadzor nad algoritmi, zlasti po popularizaciji generativnih orodij umetne inteligence, ki je sprožila javno razpravo. Zakon o umetni inteligenci (AI ACT) je v EU že začel veljati, njegovo izvajanje pa naj bi se končalo 2. avgusta 2026, ko bo začela veljati večina obveznosti standarda, vključno z zahtevami za visoko tvegane sisteme umetne inteligence in splošne modele umetne inteligence.
Preglednost, etika in algoritemska odgovornost
Poleg pravnega vidika upravljanje umetne inteligence zajema etična in odgovorna načela, ki presegajo zgolj "skladnost z zakonom". Podjetja se zavedajo, da je za pridobitev zaupanja strank, vlagateljev in družbe kot celote bistvena preglednost glede uporabe umetne inteligence. To vključuje sprejetje vrste internih praks, kot so predhodna ocena algoritemskega vpliva, strogo upravljanje kakovosti podatkov in neodvisna revizija modelov.
Prav tako je ključnega pomena izvajati politike upravljanja podatkov, ki skrbno filtrirajo in izbirajo podatke za usposabljanje, s čimer se izognemo diskriminatornim pristranskostim, ki so lahko vgrajene v zbrane informacije.
Ko je model umetne inteligence operativen, mora podjetje izvajati redno testiranje, validacijo in revizije svojih algoritmov ter dokumentirati uporabljene odločitve in merila. Ta evidenca ima dve prednosti: pomaga razložiti delovanje sistema in omogoča odgovornost v primeru napake ali nepravilnega izida.
Upravljanje: inovacije s konkurenčno vrednostjo
Pogosto zmotno prepričanje je, da upravljanje umetne inteligence omejuje inovacije. Nasprotno, dobra strategija upravljanja omogoča varne inovacije in odgovorno sprošča polni potencial umetne inteligence. Podjetja, ki zgodaj strukturirajo svoje okvire upravljanja, lahko ublažijo tveganja, preden postanejo težave, in se tako izognejo predelavi ali škandalom, ki bi lahko odložili projekte.
Posledično te organizacije hitreje izkoriščajo svoje pobude. Tržni dokazi to korelacijo potrjujejo: globalna raziskava je pokazala, da podjetja z aktivnim vodstvenim nadzorom nad upravljanjem umetne inteligence poročajo o boljših finančnih učinkih uporabe napredne umetne inteligence.
Poleg tega smo v času, ko se potrošniki in vlagatelji vse bolj zavedajo etične uporabe tehnologije – in če pokažemo to zavezanost upravljanju, se lahko podjetje loči od konkurence.
V praksi organizacije z zrelim upravljanjem poročajo o izboljšavah ne le na področju varnosti, temveč tudi na področju učinkovitosti razvoja – vodstvo opozarja na skrajšanje časa projektnega cikla umetne inteligence zaradi jasnih standardov že od samega začetka. To pomeni, da se dragim popravkom, ki jih je treba upoštevati že v zgodnji fazi načrtovanja, izognemo pozneje, ko se zahteve glede zasebnosti, razložljivosti in kakovosti upoštevajo že v zgodnji fazi načrtovanja.
Upravljanje torej deluje kot vodilo za trajnostne inovacije, ki usmerja, kam vlagati in kako odgovorno prilagajati rešitve. Z usklajevanjem pobud za umetno inteligenco s korporativno strategijo in vrednotami podjetja upravljanje zagotavlja, da inovacije vedno služijo širšim poslovnim in uglednim ciljem, namesto da bi sledile izolirani ali potencialno škodljivi poti.
Razvoj strategije upravljanja umetne inteligence je predvsem strateška poteza za konkurenčno pozicioniranje. V današnjem ekosistemu, kjer so države in podjetja ujeti v tehnološki tekmi, tisti, ki inovirajo z zaupanjem in verodostojnostjo, vodijo. Velika podjetja, ki vzpostavijo učinkovite sisteme upravljanja, so sposobna uravnotežiti blaženje tveganj z maksimiranjem koristi umetne inteligence, namesto da bi žrtvovala eno za drugo.
Končno, upravljanje umetne inteligence ni več neobvezno, temveč strateška nujnost. Za velika podjetja oblikovanje strategije upravljanja zdaj pomeni opredelitev standardov, kontrol in vrednot, ki bodo v prihodnjih letih vodile uporabo umetne inteligence. To vključuje vse od skladnosti z nastajajočimi predpisi do ustvarjanja notranjih mehanizmov etike in preglednosti, s ciljem uravnoteženega zmanjšanja tveganja in maksimiranja vrednosti. Tisti, ki bodo ukrepali hitro, bodo poželi sadove v obliki doslednih inovacij in trdnega ugleda, s čimer si bodo zagotovili prednost na trgu, ki ga vse bolj poganja umetna inteligenca.
