Kunstmatige intelligentie (AI) wordt vaak gezien als een revolutionaire technologie die efficiëntie, nauwkeurigheid kan bieden en nieuwe strategische kansen kan openen. Echter, terwijl bedrijven profiteren van de voordelen van AI, ontstaat er ook een kritische en soms over het hoofd geziene uitdaging: algoritmische rechtvaardigheid. Verborgen vooroordelen in deze systemen kunnen niet alleen de efficiëntie van zakelijke beslissingen ondermijnen, maar ook leiden tot aanzienlijke juridische, ethische en sociale gevolgen.
De aanwezigheid van algoritmische vooroordelen kan worden verklaard door de aard van de AI zelf, vooral in machine learning. Modellen worden getraind met historische gegevens, en wanneer deze gegevens vooroordelen of sociale vertekeningen weerspiegelen, blijven de algoritmen deze vooroordelen natuurlijk versterken. Naast de vooroordelen in de informatie kan het algoritme zelf ook een disbalans veroorzaken in de gewogen factoren, of in de gegevens die als proxy worden gebruikt, dat wil zeggen gegevens die de oorspronkelijke informatie vervangen, maar niet ideaal zijn voor die analyse.
Een emblematisch voorbeeld van dit fenomeen is te vinden in het gebruik van gezichtsherkenning, vooral in gevoelige contexten zoals openbare veiligheid. Verschillende Braziliaanse steden hebben geautomatiseerde systemen geïmplementeerd om de effectiviteit van politieacties te vergroten, maar analyses tonen aan dat deze algoritmen vaak aanzienlijke fouten maken, vooral bij het identificeren van individuen uit specifieke etnische groepen, zoals zwarte mensen. Onderzoeken van onderzoekster Joy Buolamwini van MIT hebben aangetoond dat commerciële algoritmen foutpercentages van meer dan 30% vertonen voor zwarte vrouwen, terwijl voor witte mannen het percentage drastisch daalt tot minder dan 1%.
Braziliaanse wetgeving: meer striktheid in de toekomst
In Brazilië loopt naast de Algemene Verordening Gegevensbescherming (LGPD) ook de Juridische Kader voor AI (PL nº 2338/2023), dat algemene richtlijnen vastlegt voor de ontwikkeling en toepassing van AI in het land.
Hoewel het nog niet is goedgekeurd, wijst dit wetsvoorstel al op rechten die bedrijven moeten respecteren, zoals: het recht op voorafgaande informatie (informatie geven wanneer de gebruiker interactie heeft met een AI-systeem), het recht op uitleg van geautomatiseerde beslissingen, het recht om algoritmische beslissingen aan te vechten en het recht op non-discriminatie door algoritmische vooroordelen.
Deze punten vereisen dat bedrijven transparantie implementeren in generatieve AI-systemen (bijvoorbeeld door duidelijk te maken wanneer een tekst of antwoord door een machine is gegenereerd) en auditmechanismen om uit te leggen hoe het model tot een bepaalde output is gekomen.
Algoritmische governance: de oplossing voor de vooroordelen
Voor bedrijven gaan algoritmische vooroordelen verder dan de ethische sfeer; ze worden relevante strategische problemen. Biaserende algoritmes hebben het potentieel om essentiële beslissingen te vervormen in interne processen zoals werving, kredietverlening en marktanalyse. Bijvoorbeeld, een algoritme voor filialenprestatie-analyse dat systematisch stedelijke gebieden overschat ten koste van perifere gebieden (door onvolledige gegevens of vooroordelen) kan leiden tot verkeerd gerichte investeringen. Zo verbergen verborgen vooroordelen de effectiviteit van data-gedreven strategieën, waardoor leidinggevenden besluiten nemen op basis van gedeeltelijk onjuiste informatie.
Deze vooroordelen kunnen worden gecorrigeerd, maar ze zullen afhangen van een algoritmisch bestuurskader, met de nadruk op de diversiteit van de gebruikte gegevens, transparantie van de processen en de inclusie van diverse en multidisciplinaire teams bij technologische ontwikkeling. Door te investeren in diversiteit binnen technische teams kunnen bedrijven bijvoorbeeld potentiële bronnen van vooringenomenheid sneller identificeren, ervoor zorgen dat verschillende perspectieven worden meegenomen en dat fouten vroegtijdig worden opgespoord.
Bovendien is het gebruik van continue monitoring tools essentieel. Deze systemen helpen bij het detecteren van algoritmische bias in realtime, waardoor snelle aanpassingen mogelijk zijn en de negatieve impact wordt geminimaliseerd.
Transparantie is een andere essentiële praktijk bij het verminderen van vooroordelen. Algoritmen mogen niet functioneren als zwarte dozen, maar als duidelijke en uitlegbare systemen. Wanneer bedrijven kiezen voor transparantie, winnen ze het vertrouwen van klanten, investeerders en regelgevers. Transparantie vergemakkelijkt externe audits en bevordert een cultuur van gedeelde verantwoordelijkheid in het beheer van AI.
Andere initiatieven omvatten het aansluiten bij kaders en certificeringen voor verantwoord AI-beheer. Dit omvat het oprichten van interne ethiekcommissies voor AI, het vaststellen van bedrijfsbeleid voor het gebruik ervan en het aannemen van internationale normen. Bijvoorbeeld, raamwerken zoals: ISO/IEC 42001 (kunstmatige intelligentiebeheer), ISO/IEC 27001 (informatiebeveiliging) en ISO/IEC 27701 (privacy) helpen bij het structureren van controles in de dataprocessen die door generatieve AI worden gebruikt. Een ander voorbeeld is de set aanbevolen praktijken van het NIST (National Institute of Standards and Technology) van de VS, die het beheer van algoritmisch risico richtlijnen geeft, inclusief biasdetectie, datakwaliteitscontroles en voortdurende monitoring van modellen.
Consultancies gespecializadas desempenham um papel estratégico nesse cenário. Met expertise in verantwoordelijke kunstmatige intelligentie, algoritmisch bestuur en regelgevende naleving, helpen deze bedrijven organisaties niet alleen risico's te vermijden, maar ook gelijkheid om te zetten in concurrentievoordeel. De werking van deze adviesbureaus varieert van gedetailleerde risicobeoordelingen tot het ontwikkelen van interne beleidslijnen, inclusief bedrijfstrainingen over ethiek in AI, om ervoor te zorgen dat teams voorbereid zijn om mogelijke algoritmische vooroordelen te identificeren en te mitigeren.
Op deze manier is het verminderen van algoritmische vooroordelen niet alleen een preventieve maatregel, maar een strategische aanpak. Bedrijven die zich zorgen maken over algoritmische rechtvaardigheid tonen maatschappelijke verantwoordelijkheid, versterken hun reputatie en beschermen zich tegen juridische sancties en publieke crises. Onpartijdige algoritmen bieden doorgaans nauwkeurigere en evenwichtigere inzichten, waardoor de effectiviteit van zakelijke beslissingen wordt verhoogd en de concurrentiepositie van organisaties op de markt wordt versterkt.
Door Sylvio Sobreira Vieira, CEO & Head Consulting van SVX Consultoria
