Je to fakt: firmy v Brazílii začlenily umělou inteligenci do svých obchodních strategií – nejméně 98 % z nich, podle výzkumu provedeného na konci roku 2024. Problém je však v tom, že pouze 25 % organizací prohlásilo, že jsou připraveny implementovat umělou inteligenci. Zbytek trpí omezeními infrastruktury, správy dat a nedostatku specializovaných talentů. To však neznamená, že zbývajících 75 % čeká na ideální podmínky pro pokrok ve svých projektech: naopak tyto firmy pokračují v implementaci této technologie.
Problém je v tom, že pouze jedna z pěti společností je schopna integrovat umělou inteligenci do svého podnikání – uvádí nedávno zveřejněná globální zpráva, kterou vypracovala společnost Qlik ve spolupráci s ESG. Navíc pouze 47 % společností uvedlo, že implementovalo zásady správy dat. Tato čísla jsou globální – a nebylo by překvapivé, kdyby brazilské statistiky byly ještě vyšší. A i když se umělá inteligence v současnosti používá izolovaně a „vstupním bodem“ technologie je obvykle zákaznický servis, stále existují finanční, regulační a reputační rizika.
Společnosti, které se rozhodnou implementovat umělou inteligenci bez řádné přípravy, čelí mnoha překážkám. Případové studie ukázaly, že špatně spravované algoritmy mohou udržovat předsudky nebo ohrozit soukromí, což vede k poškození reputace a finančním škodám. Řízení umělé inteligence není jen technologickou otázkou, ale také otázkou provádění a due diligence: bez dobře definované strategie rostou rizika v souladu s příležitostmi – od narušení soukromí a zneužití dat až po neprůhledná nebo zaujatá automatizovaná rozhodnutí, která vyvolávají nedůvěru.
Regulační tlak a dodržování předpisů: Základy správy a řízení umělé inteligence
Potřeba zavést správu a řízení umělé inteligence nevznikla pouze z obchodního hlediska: objevují se nové předpisy a pokrok je rychlý, a to i v Brazílii.
V prosinci 2024 schválil federální senát návrh zákona 2338/2023 , který navrhuje regulační rámec pro umělou inteligenci s pokyny pro zodpovědné používání. Návrh zákona zaujímá přístup založený na riziku , podobný přístupu Evropské unie, který klasifikuje systémy umělé inteligence podle jejich potenciálu poškodit základní práva. Aplikace představující nadměrné riziko, jako jsou algoritmy autonomních zbraní nebo nástroje hromadného sledování, budou zakázány , generativní a univerzální systémy budou muset před uvedením na trh projít předchozím posouzením rizik.
Existují také požadavky na transparentnost, například povinnost vývojářů zveřejnit, zda při trénování modelů použili obsah chráněný autorskými právy. Zároveň probíhají diskuse o tom, že by Národní úřad pro ochranu osobních údajů (ANPD) měl být ústřední rolí v koordinaci správy a řízení umělé inteligence v zemi s využitím stávajícího rámce pro ochranu osobních údajů. Tyto legislativní iniciativy signalizují, že společnosti budou brzy mít jasné povinnosti týkající se vývoje a používání umělé inteligence – od postupů podávání zpráv a zmírňování rizik až po zohledňování algoritmických dopadů.
Ve Spojených státech a Evropě regulační orgány zvýšily kontrolu nad algoritmy, zejména po popularizaci generativních nástrojů umělé inteligence, která vyvolala veřejnou debatu. Zákon o AI (AI ACT) již v EU vstoupil v platnost a jeho implementace by měla skončit 2. srpna 2026, kdy se začne uplatňovat většina povinností vyplývajících z normy, včetně požadavků na vysoce rizikové systémy umělé inteligence a univerzální modely umělé inteligence.
Transparentnost, etika a algoritmická odpovědnost
Kromě právního aspektu zahrnuje správa umělé inteligence etické a odpovědné principy, které jdou nad rámec pouhého „dodržování zákona“. Společnosti si uvědomují, že pro získání důvěry zákazníků, investorů a společnosti jako celku je nezbytná transparentnost ohledně používání umělé inteligence. To zahrnuje přijetí řady interních postupů, jako je předchozí posouzení dopadu algoritmů, důsledné řízení kvality dat a nezávislý audit modelů.
Je také zásadní zavést zásady správy dat, které pečlivě filtrují a vybírají tréninková data a vyhýbají se diskriminačním předsudkům, které mohou být obsaženy ve shromážděných informacích.
Jakmile je model umělé inteligence v provozu, musí společnost provádět pravidelné testování, ověřování a audity svých algoritmů a dokumentovat použitá rozhodnutí a kritéria. Tento záznam má dvě výhody: pomáhá vysvětlit, jak systém funguje, a umožňuje odpovědnost v případě selhání nebo nesprávného výsledku.
Řízení: inovace s konkurenceschopnou hodnotou
Častým omylem je, že správa a řízení umělé inteligence omezuje inovace. Naopak, dobrá strategie správy a řízení umožňuje bezpečné inovace a zodpovědně uvolňuje plný potenciál umělé inteligence. Společnosti, které včas strukturují své rámce správy a řízení, mohou zmírnit rizika dříve, než se stanou problémy, a vyhnout se tak přepracování nebo skandálům, které by mohly projekty zpozdit.
V důsledku toho tyto organizace rychleji dosahují větší hodnoty ze svých iniciativ. Tržní důkazy tuto korelaci potvrzují: globální průzkum zjistil, že společnosti s aktivním dohledem vedení nad řízením umělé inteligence vykazují lepší finanční dopady z používání pokročilé umělé inteligence.
Navíc se nacházíme v době, kdy si spotřebitelé a investoři stále více uvědomují etické používání technologií – a prokázání tohoto závazku ke správě a řízení může společnost odlišit od konkurence.
V praxi organizace se zralým systémem řízení hlásí zlepšení nejen v oblasti bezpečnosti, ale také v efektivitě vývoje – manažeři poukazují na zkrácení doby cyklu projektů AI díky jasným standardům od samého začátku. To znamená, že když se požadavky na soukromí, vysvětlitelnost a kvalitu zohlední již v rané fázi návrhu, vyhne se později nákladným opravám.
Řízení a správa tedy slouží jako vodítko pro udržitelné inovace, určuje, kam investovat a jak zodpovědně škálovat řešení. A propojením iniciativ v oblasti umělé inteligence s firemní strategií a hodnotami společnosti zajišťuje, že inovace vždy slouží širším obchodním a reputačním cílům, a nesledují izolovanou nebo potenciálně škodlivou cestu.
Vypracování strategie řízení umělé inteligence je především strategickým krokem pro dosažení konkurenčního postavení. V dnešním ekosystému, kde jsou země a společnosti uvězněny v technologickém závodě, vedou ti, kteří inovují s důvěrou a důvěryhodností. Velké společnosti, které zavádějí efektivní systémy řízení, jsou schopny vyvážit zmírňování rizik s maximalizací výhod umělé inteligence, spíše než obětovat jedno ve prospěch druhého.
A konečně, správa umělé inteligence (AI governance) již není dobrovolná, ale strategická nutnost. Pro velké společnosti nyní vytvoření strategie správy a řízení znamená definování standardů, kontrol a hodnot, které budou v nadcházejících letech řídit používání umělé inteligence. To zahrnuje vše od dodržování nově vznikajících předpisů až po vytváření interních mechanismů etiky a transparentnosti s cílem minimalizovat rizika a maximalizovat hodnotu vyváženým způsobem. Ti, kteří jednají rychle, sklidí odměnu v podobě neustálých inovací a solidní pověsti, čímž se umístí na špici trhu, který je stále více řízen umělou inteligencí.
