És un fet: les empreses del Brasil han incorporat la intel·ligència artificial a les seves estratègies empresarials, almenys el 98% d'elles, segons una investigació realitzada a finals del 2024. El problema, però, és que només el 25% de les organitzacions es van declarar preparades per implementar la IA. La resta pateix limitacions d'infraestructura, gestió de dades i escassetat de talent especialitzat. Però això no vol dir que el 75% restant estigui esperant les condicions ideals per avançar en els seus projectes: al contrari, aquestes empreses continuen implementant la tecnologia.
El problema és que només una de cada cinc empreses és capaç d'integrar la IA al seu negoci, segons un informe global publicat recentment i elaborat per Qlik en col·laboració amb ESG. A més, només el 47% de les empreses van informar que implementaven polítiques de governança de dades. Aquestes xifres són globals, i no seria sorprenent que les estadístiques brasileres fossin encara més altes. I tot i que actualment la IA s'aplica de manera aïllada, i el "punt d'entrada" de la tecnologia sol ser el servei d'atenció al client, encara existeixen riscos financers, regulatoris i de reputació.
Les empreses que opten per implementar la IA sense una preparació adequada s'enfronten a molts obstacles. Els estudis de casos han demostrat que els algoritmes mal gestionats poden perpetuar biaixos o comprometre la privadesa, cosa que provoca danys a la reputació i a la finances. La governança de la IA no és només una qüestió tecnològica, sinó també d'execució i diligència deguda: sense una estratègia ben definida, els riscos creixen a mesura que les oportunitats, des de violacions de la privadesa i ús indegut de dades fins a decisions automatitzades opaques o esbiaixades que generen desconfiança.
Pressió i compliment normatiu: fonaments de la governança de la IA
La necessitat d'establir una governança de la IA no va sorgir només del front empresarial: estan sorgint noves regulacions i el progrés ha estat ràpid, fins i tot al Brasil.
El desembre de 2024, el Senat Federal va aprovar el projecte de llei 2338/2023 , que proposa un marc regulador per a la IA amb directrius per a un ús responsable. El projecte de llei adopta un enfocament basat en el risc , similar al de la Unió Europea, classificant els sistemes d'IA segons el seu potencial per perjudicar els drets fonamentals. Es prohibiran les aplicacions que representin un risc excessiu, com ara els algoritmes d'armes autònomes o les eines de vigilància massiva, mentre els sistemes d'IA generatius i d'ús general hauran de sotmetre's a avaluacions de riscos prèvies abans d'arribar al mercat.
També hi ha requisits de transparència, per exemple, que exigeixen als desenvolupadors que revelin si han utilitzat contingut protegit per drets d'autor en entrenar models. Al mateix temps, hi ha debats sobre l'assignació a l'Autoritat Nacional de Protecció de Dades (ANPD) d'un paper central en la coordinació de la governança de la IA al país, aprofitant el marc de protecció de dades existent. Aquestes iniciatives legislatives indiquen que les empreses aviat tindran obligacions clares pel que fa al desenvolupament i l'ús de la IA, des de les pràctiques d'informació i la mitigació de riscos fins a la comptabilització dels impactes algorítmics.
Als Estats Units i Europa, els reguladors han augmentat l'escrutini dels algoritmes, sobretot després de la popularització de les eines d'IA generatives, que va generar debat públic. La Llei sobre l'IA (IA Act) ja ha entrat en vigor a la UE i la seva implementació està prevista que finalitzi el 2 d'agost de 2026, quan la majoria de les obligacions de la norma siguin aplicables, inclosos els requisits per a sistemes d'IA d'alt risc i models d'IA d'ús general.
Transparència, ètica i responsabilitat algorítmica
Més enllà de l'aspecte legal, la governança de la IA engloba principis ètics i de responsabilitat que van més enllà del simple "compliment de la llei". Les empreses s'estan adonant que, per guanyar-se la confiança dels clients, els inversors i la societat en general, la transparència sobre com s'utilitza la IA és essencial. Això implica adoptar una sèrie de pràctiques internes, com ara l'avaluació prèvia de l'impacte algorítmic, una gestió rigorosa de la qualitat de les dades i una auditoria independent de models.
També és fonamental implementar polítiques de governança de dades que filtrin i seleccionin acuradament les dades de formació, evitant biaixos discriminatoris que puguin estar integrats en la informació recopilada.
Un cop un model d'IA està operatiu, l'empresa ha de dur a terme proves, validacions i auditories periòdiques dels seus algoritmes, documentant les decisions i els criteris utilitzats. Aquest registre té dos beneficis: ajuda a explicar com funciona el sistema i permet la rendició de comptes en cas d'error o resultat inadequat.
Governança: innovació amb valor competitiu
Una idea errònia comuna és que la governança de la IA limita la innovació. Al contrari, una bona estratègia de governança permet una innovació segura, desbloquejant tot el potencial de la IA de manera responsable. Les empreses que estructuren els seus marcs de governança aviat poden mitigar els riscos abans que es converteixin en problemes, evitant reelaboracions o escàndols que podrien retardar els projectes.
Com a resultat, aquestes organitzacions obtenen un valor més gran més ràpidament de les seves iniciatives. L'evidència del mercat reforça aquesta correlació: una enquesta global va trobar que les empreses amb una supervisió activa del lideratge de la governança de la IA reporten impactes financers superiors de l'ús de la IA avançada.
A més, ens trobem en un moment en què els consumidors i els inversors són cada cop més conscients de l'ús ètic de la tecnologia, i demostrar aquest compromís amb la bona governança pot diferenciar una empresa de la competència.
En termes pràctics, les organitzacions amb una governança madura informen de millores no només en seguretat sinó també en eficiència del desenvolupament: els executius assenyalen reduccions en el temps del cicle del projecte d'IA gràcies a estàndards clars des del principi. És a dir, quan els requisits de privadesa, explicabilitat i qualitat es consideren des del principi de la fase de disseny, s'eviten correccions costoses posteriors.
La governança, doncs, actua com a guia per a la innovació sostenible, orientant on invertir i com escalar les solucions de manera responsable. I, en alinear les iniciatives d'IA amb l'estratègia i els valors corporatius de l'empresa, la governança garanteix que la innovació sempre serveixi als objectius empresarials i de reputació més amplis, en lloc de seguir un camí aïllat o potencialment perjudicial.
Desenvolupar una estratègia de governança de la IA és, sobretot, un moviment estratègic per al posicionament competitiu. En l'ecosistema actual, on els països i les empreses estan immersos en una cursa tecnològica, aquells que innoven amb confiança i credibilitat lideren el camí. Les grans empreses que estableixen sistemes de governança eficients són capaces d'equilibrar la mitigació del risc amb la maximització dels beneficis de la IA, en lloc de sacrificar l'un per l'altre.
Finalment, la governança de la IA ja no és opcional sinó un imperatiu estratègic. Per a les grans empreses, crear una estratègia de governança ara significa definir els estàndards, els controls i els valors que guiaran l'ús de la intel·ligència artificial en els propers anys. Això inclou tot, des del compliment de les regulacions emergents fins a la creació de mecanismes interns d'ètica i transparència, amb l'objectiu de minimitzar el risc i maximitzar el valor de manera equilibrada. Aquells que actuïn amb promptitud obtindran les recompenses en innovació constant i una sòlida reputació, posicionant-se al capdavant en un mercat cada cop més impulsat per la IA.
