Je to fakt: spoločnosti v Brazílii začlenili umelú inteligenciu do svojich obchodných stratégií – najmenej 98 % z nich, podľa výskumu uskutočneného na konci roka 2024. Problém je však v tom, že iba 25 % organizácií vyhlásilo, že sú pripravené implementovať umelú inteligenciu. Zvyšok trpí obmedzeniami infraštruktúry, správy údajov a nedostatku špecializovaných talentov. To však neznamená, že zvyšných 75 % čaká na ideálne podmienky na napredovanie svojich projektov: naopak, tieto spoločnosti pokračujú v implementácii tejto technológie.
Problém je v tom, že iba jedna z piatich spoločností je schopná integrovať umelú inteligenciu do svojho podnikania – podľa nedávno zverejnenej globálnej správy, ktorú vypracovala spoločnosť Qlik v spolupráci s ESG. Okrem toho iba 47 % spoločností uviedlo, že implementovalo politiky riadenia údajov. Tieto čísla sú globálne – a nebolo by prekvapujúce, keby brazílske štatistiky boli ešte vyššie. A hoci sa umelá inteligencia v súčasnosti používa izolovane a „vstupným bodom“ technológie je zvyčajne zákaznícky servis, finančné, regulačné a reputačné riziká stále existujú.
Spoločnosti, ktoré sa rozhodnú implementovať umelú inteligenciu bez riadnej prípravy, čelia mnohým prekážkam. Prípadové štúdie ukázali, že zle spravované algoritmy môžu pretrvávať predsudky alebo ohrozovať súkromie, čo vedie k poškodeniu reputácie a finančným škodám. Riadenie umelej inteligencie nie je len technologickou otázkou, ale aj otázkou jej vykonávania a due diligence: bez dobre definovanej stratégie rastú riziká v súlade s príležitosťami – od narušení súkromia a zneužívania údajov až po nepriehľadné alebo zaujaté automatizované rozhodnutia, ktoré vyvolávajú nedôveru.
Regulačný tlak a dodržiavanie predpisov: Základy riadenia umelej inteligencie
Potreba zaviesť riadenie umelej inteligencie nevznikla len z podnikateľskej sféry: objavujú sa nové predpisy a pokrok je rýchly, a to aj v Brazílii.
V decembri 2024 schválil Federálny senát návrh zákona 2338/2023 , ktorý navrhuje regulačný rámec pre umelú inteligenciu s usmerneniami pre zodpovedné používanie. Návrh zákona prijíma prístup založený na riziku , podobný prístupu Európskej únie, ktorý klasifikuje systémy umelej inteligencie podľa ich potenciálu poškodiť základné práva. Aplikácie predstavujúce nadmerné riziko, ako sú algoritmy autonómnych zbraní alebo nástroje hromadného sledovania, budú zakázané , generatívne a univerzálne systémy budú musieť pred uvedením na trh prejsť predchádzajúcim posúdením rizika.
Existujú aj požiadavky na transparentnosť, napríklad vyžadujúce od vývojárov zverejnenie, či pri trénovaní modelov použili obsah chránený autorskými právami. Zároveň prebiehajú diskusie o pridelení ústrednej úlohy Národnému úradu pre ochranu údajov (ANPD) pri koordinácii riadenia umelej inteligencie v krajine s využitím existujúceho rámca ochrany údajov. Tieto legislatívne iniciatívy signalizujú, že spoločnosti budú mať čoskoro jasné povinnosti týkajúce sa vývoja a používania umelej inteligencie – od postupov podávania správ a zmierňovania rizík až po zohľadňovanie algoritmických vplyvov.
V Spojených štátoch a Európe regulačné orgány zvýšili kontrolu algoritmov, najmä po popularizácii generatívnych nástrojov umelej inteligencie, ktorá vyvolala verejnú diskusiu. Zákon o umelej inteligencii (AI ACT) už v EÚ nadobudol účinnosť a jeho implementácia by sa mala skončiť 2. augusta 2026, kedy sa začne uplatňovať väčšina povinností vyplývajúcich z tejto normy vrátane požiadaviek na vysoko rizikové systémy umelej inteligencie a univerzálne modely umelej inteligencie.
Transparentnosť, etika a algoritmická zodpovednosť
Okrem právneho aspektu zahŕňa riadenie umelej inteligencie etické a zodpovedné princípy, ktoré idú nad rámec jednoduchého „dodržiavania zákona“. Spoločnosti si uvedomujú, že na získanie dôvery zákazníkov, investorov a spoločnosti ako celku je nevyhnutná transparentnosť o tom, ako sa umelá inteligencia používa. To zahŕňa prijatie série interných postupov, ako je predchádzajúce posúdenie algoritmického vplyvu, prísne riadenie kvality údajov a nezávislý audit modelov.
Je tiež dôležité implementovať politiky riadenia údajov, ktoré starostlivo filtrujú a vyberajú tréningové údaje, pričom sa zabráni diskriminačným predsudkom, ktoré môžu byť súčasťou zhromaždených informácií.
Keď je model umelej inteligencie v prevádzke, spoločnosť musí vykonávať pravidelné testovanie, validáciu a audity svojich algoritmov a dokumentovať použité rozhodnutia a kritériá. Tento záznam má dve výhody: pomáha vysvetliť, ako systém funguje, a umožňuje zodpovednosť v prípade zlyhania alebo nesprávneho výsledku.
Riadenie: inovácia s konkurencieschopnou hodnotou
Častým omylom je, že riadenie umelej inteligencie obmedzuje inovácie. Naopak, dobrá stratégia riadenia umožňuje bezpečnú inováciu a zodpovedne uvoľňuje plný potenciál umelej inteligencie. Spoločnosti, ktoré včas štruktúrujú svoje rámce riadenia, môžu zmierniť riziká skôr, ako sa stanú problémami, a vyhnúť sa tak prepracovaniu alebo škandálom, ktoré by mohli projekty zdržať.
V dôsledku toho tieto organizácie rýchlejšie získavajú väčšiu hodnotu zo svojich iniciatív. Trhové dôkazy túto koreláciu potvrdzujú: globálny prieskum zistil, že spoločnosti s aktívnym dohľadom vedenia nad riadením umelej inteligencie vykazujú lepšie finančné dopady z používania pokročilej umelej inteligencie.
Okrem toho sa nachádzame v čase, keď si spotrebitelia a investori čoraz viac uvedomujú etické používanie technológií – a preukázanie tohto záväzku k riadeniu môže spoločnosť odlíšiť od konkurencie.
V praxi organizácie so zrelým riadením hlásia zlepšenia nielen v oblasti bezpečnosti, ale aj v efektivite vývoja – vedúci pracovníci poukazujú na skrátenie doby cyklu projektu AI vďaka jasným štandardom od samého začiatku. To znamená, že keď sa požiadavky na súkromie, vysvetliteľnosť a kvalitu zohľadnia už v počiatočnej fáze návrhu, neskôr sa vyhneme nákladným opravám.
Riadenie teda slúži ako sprievodca pre udržateľné inovácie, ktorý určuje, kam investovať a ako zodpovedne škálovať riešenia. Zosúladením iniciatív v oblasti umelej inteligencie s firemnou stratégiou a hodnotami spoločnosti riadenie zabezpečuje, že inovácie vždy slúžia širším obchodným a reputačným cieľom, a nie že sa uberajú izolovanou alebo potenciálne škodlivou cestou.
Vypracovanie stratégie riadenia umelej inteligencie je predovšetkým strategickým krokom pre konkurenčné postavenie. V dnešnom ekosystéme, kde sú krajiny a spoločnosti uväznené v technologických pretekoch, tí, ktorí inovujú s dôverou a dôveryhodnosťou, vedú cestu. Veľké spoločnosti, ktoré zavádzajú efektívne systémy riadenia, dokážu vyvážiť zmierňovanie rizík s maximalizáciou výhod umelej inteligencie, a nie obetovať jedno pre druhé.
Nakoniec, riadenie umelej inteligencie už nie je voliteľné, ale strategické imperatív. Pre veľké spoločnosti teraz vytvorenie stratégie riadenia znamená definovanie štandardov, kontrol a hodnôt, ktoré budú v nasledujúcich rokoch usmerňovať používanie umelej inteligencie. To zahŕňa všetko od dodržiavania vznikajúcich predpisov až po vytvorenie interných mechanizmov etiky a transparentnosti s cieľom minimalizovať riziko a maximalizovať hodnotu vyváženým spôsobom. Tí, ktorí konajú promptne, budú žať odmenu v podobe neustálych inovácií a solídnej reputácie, čím sa dostanú na vedúcu pozíciu na trhu, ktorý je čoraz viac riadený umelou inteligenciou.
