Činjenica je: tvrtke u Brazilu uključile su umjetnu inteligenciju u svoje poslovne strategije - barem 98% njih, prema istraživanju provedenom krajem 2024. Problem je, međutim, što se samo 25% organizacija izjasnilo spremnim za implementaciju umjetne inteligencije. Preostale pati od ograničenja infrastrukture, upravljanja podacima i nedostatka specijaliziranih talenata. Ali to ne znači da preostalih 75% čeka idealne uvjete za napredak svojih projekata: naprotiv, te tvrtke nastavljaju implementirati tehnologiju.
Problem je što samo jedna od pet tvrtki može integrirati umjetnu inteligenciju u svoje poslovanje - prema nedavno objavljenom globalnom izvješću koje je pripremio Qlik u partnerstvu s ESG-om. Nadalje, samo 47% tvrtki izvijestilo je o provedbi politika upravljanja podacima. Ove su brojke globalne - i ne bi bilo iznenađujuće da je brazilska statistika još veća. I premda se umjetna inteligencija trenutno primjenjuje izolirano, a "ulazna točka" tehnologije obično je korisnička služba, financijski, regulatorni i reputacijski rizici i dalje postoje.
Tvrtke koje se odluče za implementaciju umjetne inteligencije bez odgovarajuće pripreme suočavaju se s mnogim preprekama. Studije slučaja pokazale su da loše upravljani algoritmi mogu održavati pristranosti ili ugroziti privatnost, što rezultira reputacijskom i financijskom štetom. Upravljanje umjetnom inteligencijom nije samo tehnološko pitanje, već i pitanje izvršenja i dubinske analize: bez dobro definirane strategije, rizici rastu u skladu s prilikama - od kršenja privatnosti i zlouporabe podataka do neprozirnih ili pristranih automatiziranih odluka koje stvaraju nepovjerenje.
Regulatorni pritisak i usklađenost: Temelji upravljanja umjetnom inteligencijom
Potreba za uspostavljanjem upravljanja umjetnom inteligencijom nije proizašla samo iz poslovnog svijeta: pojavljuju se novi propisi, a napredak je brz, uključujući i u Brazilu.
U prosincu 2024. Savezni senat odobrio je Zakon 2338/2023 , kojim se predlaže regulatorni okvir za umjetnu inteligenciju sa smjernicama za odgovornu upotrebu. Zakon usvaja pristup temeljen na riziku , sličan onome u Europskoj uniji, klasificirajući sustave umjetne inteligencije prema njihovom potencijalu da naruše temeljna prava. Aplikacije koje predstavljaju prekomjerni rizik, poput algoritama autonomnog oružja ili alata za masovni nadzor, bit će zabranjene , sustavi umjetne inteligencije opće namjene morati proći prethodne procjene rizika prije nego što dođu na tržište.
Postoje i zahtjevi za transparentnost, na primjer, koji zahtijevaju od programera da otkriju jesu li koristili sadržaj zaštićen autorskim pravima prilikom obuke modela. Istovremeno, vode se rasprave o dodjeljivanju središnje uloge Nacionalnom tijelu za zaštitu podataka (ANPD) u koordinaciji upravljanja umjetnom inteligencijom u zemlji, koristeći postojeći okvir za zaštitu podataka. Ove zakonodavne inicijative signaliziraju da će tvrtke uskoro imati jasne obveze u vezi s razvojem i korištenjem umjetne inteligencije - od praksi izvješćivanja i ublažavanja rizika do obračuna algoritamskih utjecaja.
U Sjedinjenim Državama i Europi, regulatori su pojačali nadzor nad algoritmima, posebno nakon popularizacije generativnih alata umjetne inteligencije, što je potaknulo javnu raspravu. Zakon o umjetnoj inteligenciji (AI ACT) već je stupio na snagu u EU, a njegova provedba trebala bi završiti 2. kolovoza 2026., kada će se većina obveza standarda početi primjenjivati, uključujući zahtjeve za visokorizične AI sustave i AI modele opće namjene.
Transparentnost, etika i algoritamska odgovornost
Osim pravnog aspekta, upravljanje umjetnom inteligencijom obuhvaća etička i odgovorna načela koja nadilaze puko "poštivanje zakona". Tvrtke shvaćaju da je, kako bi stekle povjerenje kupaca, investitora i društva u cjelini, transparentnost o tome kako se umjetna inteligencija koristi ključna. To podrazumijeva usvajanje niza internih praksi, kao što su prethodna procjena algoritamskog utjecaja, rigorozno upravljanje kvalitetom podataka i neovisna revizija modela.
Također je ključno implementirati politike upravljanja podacima koje pažljivo filtriraju i odabiru podatke za obuku, izbjegavajući diskriminatorne pristranosti koje mogu biti ugrađene u prikupljene informacije.
Nakon što je AI model operativan, tvrtka mora provoditi periodična testiranja, validacije i revizije svojih algoritama, dokumentirajući odluke i korištene kriterije. Ovaj zapis ima dvije prednosti: pomaže objasniti kako sustav funkcionira i omogućuje odgovornost u slučaju kvara ili nepravilnog ishoda.
Upravljanje: inovacija s konkurentnom vrijednošću
Uobičajena je zabluda da upravljanje umjetnom inteligencijom ograničava inovacije. Naprotiv, dobra strategija upravljanja omogućuje sigurne inovacije, odgovorno otključavajući puni potencijal umjetne inteligencije. Tvrtke koje rano strukturiraju svoje okvire upravljanja mogu ublažiti rizike prije nego što postanu problemi, izbjegavajući preradu ili skandale koji bi odgodili projekte.
Kao rezultat toga, te organizacije brže ostvaruju veću vrijednost od svojih inicijativa. Tržišni dokazi potvrđuju ovu korelaciju: globalno istraživanje pokazalo je da tvrtke s aktivnim nadzorom vodstva nad upravljanjem umjetnom inteligencijom prijavljuju superiorne financijske učinke korištenja napredne umjetne inteligencije.
Nadalje, nalazimo se u vremenu kada su potrošači i investitori sve više svjesni etičkog korištenja tehnologije – a demonstracija ove predanosti upravljanju može razlikovati tvrtku od konkurencije.
U praksi, organizacije sa zrelim upravljanjem izvještavaju o poboljšanjima ne samo u sigurnosti već i u učinkovitosti razvoja – rukovoditelji ističu smanjenje vremena ciklusa AI projekta zahvaljujući jasnim standardima od samog početka. To jest, kada se zahtjevi za privatnost, objašnjivost i kvalitetu uzmu u obzir rano u fazi dizajna, kasnije se izbjegavaju skupe ispravke.
Upravljanje, dakle, djeluje kao vodič za održive inovacije, usmjeravajući gdje ulagati i kako odgovorno skalirati rješenja. Usklađivanjem inicijativa za umjetnu inteligenciju s korporativnom strategijom i vrijednostima tvrtke, upravljanje osigurava da inovacija uvijek služi širim poslovnim i reputacijskim ciljevima, umjesto da slijedi izoliran ili potencijalno štetan put.
Razvoj strategije upravljanja umjetnom inteligencijom prije svega je strateški potez za konkurentsko pozicioniranje. U današnjem ekosustavu, gdje su zemlje i tvrtke uhvaćene u tehnološkoj utrci, oni koji inoviraju s povjerenjem i kredibilitetom prednjače. Velike tvrtke koje uspostavljaju učinkovite sustave upravljanja mogu uravnotežiti ublažavanje rizika s maksimiziranjem koristi umjetne inteligencije, umjesto da žrtvuju jedno za drugo.
Konačno, upravljanje umjetnom inteligencijom više nije opcionalno, već strateški imperativ. Za velike tvrtke, stvaranje strategije upravljanja sada znači definiranje standarda, kontrola i vrijednosti koje će voditi korištenje umjetne inteligencije u nadolazećim godinama. To uključuje sve, od usklađivanja s novim propisima do stvaranja internih mehanizama etike i transparentnosti, s ciljem minimiziranja rizika i maksimiziranja vrijednosti na uravnotežen način. Oni koji djeluju brzo ubrajat će plodove u dosljednoj inovaciji i solidnoj reputaciji, pozicionirajući se ispred na tržištu koje je sve više vođeno umjetnom inteligencijom.
