In een wereld die steeds meer door technologie wordt gedreven, is de verspreiding van Kunstmatige Intelligentie (KI) al een realiteit. Daarom is de regulering ervan het onderwerp van internationale aandacht en proberen verschillende landen, waaronder Brazilië, zich hierop voor te bereiden. Hier hebben verschillende punten van meningsverschil bijgedragen aan het uitstellen van de stemming over het wetsvoorstel (PL) 2.338/2023 en recentelijk heeft het Controlebureau van de Unie (TCU) verschillende risico's vastgesteld met betrekking tot deze regelgeving die in behandeling is bij het Nationale Congres.
Het werk van de TCU zette de Braziliaanse Strategie voor Kunstmatige Intelligentie (Ebia) in perspectief, door te bespreken en te analyseren op welke manier dit de implementatie ervan zou kunnen schaden, evenals de mogelijke gevolgen van de eventuele goedkeuring van deze voorstellen voor de publieke en private sectoren. Ingesteld via portaria van het Ministerie van Wetenschap, Technologie en Innovatie (MCTI), neemt Ebia de rol op zich om de Braziliaanse staat te begeleiden in het ondersteunen van initiatieven, in hun verschillende vormen, die de ontwikkeling van oplossingen in Kunstmatige Intelligentie stimuleren, evenals het bewust en ethisch gebruik ervan.
Voor de professor aan de Universiteit van Brasília (UnB) en onderzoeker op het gebied van technologische innovatie toegepast op de gezondheidszorg, Dr. Paulo Henrique de Souza Bermejo, is het vooral belangrijk om rekening te houden met de vraag of de Braziliaanse regelgeving de innovatie kan beperken, wat in tegenspraak is met Ebia. Het is vermeldenswaard dat Ebia zes hoofddoelstellingen heeft: bijdragen aan de ontwikkeling van ethische principes voor de ontwikkeling en het verantwoord gebruik van AI; het bevorderen van duurzame investeringen in onderzoek en ontwikkeling van AI; het wegnemen van barrières voor innovatie in AI; het opleiden en trainen van professionals voor het AI-ecosysteem; het stimuleren van innovatie en Braziliaanse AI in een internationale omgeving; en het bevorderen van samenwerking tussen publieke en private entiteiten, de industrie en onderzoekscentra voor de vooruitgang van Kunstmatige Intelligentie.
Paulo benadrukte dat een te strikte regelgeving de ontwikkeling van AI-systemen in het land kan belasten en duurder maken, waardoor bedrijven te veel tijd en geld kwijt zijn aan het naleven van complexe regelgeving in plaats van middelen te besteden aan het verbeteren van de technologie. Dit zou het monopolie van enkele bedrijven die financieel in staat zijn om regelmatig systemen te creëren, aanmoedigen, om te voldoen aan de mogelijke gepubliceerde normen. Zo zouden startups en kleinere bedrijven hier niet tegenop kunnen, waardoor de doelstellingen van Ebia in gevaar zouden komen. "Dit hele scenario kan leiden tot verlies van internationale concurrentievermogen voor verschillende productieve sectoren, daarom is het zo belangrijk om een evenwicht te vinden tussen regelgeving en innovatie om ervoor te zorgen dat AI op een ethische en verantwoorde manier wordt ontwikkeld en gebruikt, zonder de evolutie ervan te belemmeren," voegde de professor eraan toe.
Hij legde uit dat een van de meest essentiële aspecten van het gebied in Brazilië is om het land te positioneren als een internationale concurrent, zowel in de eigen ontwikkeling van AI's als in de toepassing in de productiesector. De hoeveelheid investering en de voorgestelde regelgeving in elk land zullen rechtstreeks invloed hebben op de positie ten opzichte van andere landen. Dit betekent dat de nationale industrie meer autonomie kan hebben, haar eigen technologie kan ontwikkelen en zich richten op export, of afhankelijker kan zijn van de import van technologie uit andere landen. In een geglobaliseerde markt moeten Braziliaanse bedrijven in staat zijn om te concurreren met buitenlandse bedrijven, door technologische evolutie bij te houden om het productieproces efficiënter te maken, legde hij uit.
De professor benadrukte ook dat de regelgeving onderscheid maakt tussen AI-systemen en andere systemen. Naar mijn mening zal dit op de middellange en lange termijn vrijwel op alle soorten software van toepassing zijn, aangezien minder intelligente softwaresystemen de neiging zullen hebben om in onbruik te raken en sneller vervangen te worden door andere. Met andere woorden, dit zal mogelijk leiden tot de toepassing van een reeks beperkingen op alle soorten software, inclusief die uit het buitenland. Met andere woorden, het zal de nationale software-industrie en ook de Braziliaanse samenleving in haar geheel beïnvloeden, omdat het de invoering van nieuwe technologieën in het land kan vertragen, die het nationale productiesysteem, gerelateerd aan diverse sectoren van de economie, efficiënter en competitiever zullen maken, benadrukte hij.
Een ander aspect dat in overweging moet worden genomen, betreft de beperkingen op experimentatie, aangezien academisch onderzoek in AI gewoonlijk experimenten met nieuwe methoden en algoritmen omvat. Restrictieve regelgeving kan de vrijheid van onderzoekers beperken om andere benaderingen te testen, wat het moeilijk kan maken om nieuwe oplossingen te ontdekken. Bovendien kunnen ze de samenwerking tussen onderzoekers belemmeren, of het nu van verschillende instellingen of landen is. Dit kan gebeuren, bijvoorbeeld, als de regelgeving het delen van essentiële datasets voor de vooruitgang van AI verbiedt, waardoor de mogelijkheid om efficiëntere algoritmen te creëren wordt beperkt, aldus hij.
Van de noodzaak van een flexibele regulering
De onderzoeker gaf aan dat een flexibele AI-regelgeving in Brazilië ideaal zou zijn, die meegaat met het begrip van de samenleving met betrekking tot de technologie. Omdat er zoveel factoren betrokken zijn, is het niet het beste om de regulering in Brazilië te haasten, maar wel om het debat te verdiepen en alle betrokkenen, zoals de overheid, de private sector, de civil society en de academische wereld, bij het besluitvormingsproces te betrekken. Regulering is zeer noodzakelijk, maar moet met voorzichtigheid worden gedaan, zodat alle aspecten van de huidige omstandigheden worden meegenomen. Zelfs omdat de evolutie van deze technologieën snel gaat, ontstaan er dagelijks nieuwe situaties die nog niet eens voorzien zijn in de bestaande wetten, noch in enkele wetsvoorstellen die in behandeling zijn in Brazilië. Daarom is het dringend om het onderwerp te bespreken en erover na te denken, maar hoeft het onderwerp niet per se afgesloten te worden.
Een andere kant van deze context, volgens Paulo, is het belangrijk om in gedachten te houden dat AI-toepassingen verschillende sectoren van de economie omvatten, zodat elk van hen specifieke regelgeving zou vereisen, waarbij het redelijker is om verschillende governance-maatregelen te hanteren, als voorbeeld van wat er in de VS gebeurt.
Auteursrechten en datamining
Voor de docent kan een regulering die het redelijke overschrijdt niet alleen het potentieel beperken, maar ook het vermogen van een hele gemeenschap om vooruit te komen en te bloeien. Hierdoor is een van de besproken punten hoe de bescherming van individuele en collectieve rechten te balanceren zonder de technologische vooruitgang te belemmeren, vooral met betrekking tot datamining.
Volgens Paulo zijn beschikbaarheid en datamining cruciaal voor de ontwikkeling van AI's, vooral voor machine learning-modellen die een verkenning van grote hoeveelheden gegevens vereisen. Een van de voorbeelden hiervan bevindt zich op het gebied van grote taalmodellen, zoals GPT-3 en 4, de basis voor ChatGPT, die worden getraind op enorme hoeveelheden tekst van het internet, en leren inhoud te genereren die op die van een mens lijkt, instructies te begrijpen, onder andere.
De vraag die zich dan aftekent, zoals hij aangaf, gaat over de auteursrechten op deze gegevens die voor training worden gebruikt. Een onproportionele beslissing in de regulering kan de ontwikkeling en het gebruik van AI-systemen die grote hoeveelheden gegevens vereisen, waaronder tekst, audio en beelden, belemmeren. Dit zou nog meer obstakels voor de nationale markt creëren, aldus hij.
In een andere visie op deze context, merkte de specialist op dat het auteursrecht een onderwerp is dat wereldwijd veel besproken wordt, met deze technologieën die talloze kritieken ontvangen. Voor professor Bermejo is het noodzakelijk dat er consensus bestaat, in de zin dat de grote fabrikanten van deze technologische instrumenten tot een overeenkomst komen met de makers van inhoud, in het geval van inbreuk op intellectueel eigendom.
Tot slot, volgens de specialist, is het trainen van taalmodellen in het Portugees een belangrijk punt, omdat commerciële modellen zoals Gemini en ChatGPT "spreken" onze taal, maar vaak via vertalingen, waardoor het kan leiden tot bevooroordeelde en onjuiste antwoorden. Aan de andere kant produceren de Brazilianen ook een groot volume aan gegevens, die worden gericht door de buitenlandse "big techs", in staat om grote modellen voor kunstmatige intelligentie te trainen, dus zouden ze rendabele alternatieven zijn binnen deze markt, met een AI die echt Braziliaans zou zijn.
