De Braziliaanse Nationale Gegevensbeschermingsautoriteit (ANPD) heeft onlangs een functie afgewezen van Meta, het bedrijf dat eigenaar was van Facebook, dat gegevens van Braziliaanse gebruikers probeerde te gebruiken om zijn kunstmatige intelligentie (AI) te trainen. Dit besluit benadrukt aanzienlijke zorgen over ethiek en veiligheid bij het gebruik van gegevens voor de ontwikkeling van AI.
Marcell Rosa, General Manager en Vice President Sales in Latijns-Amerika bij Clevertap, waarschuwt voor de risico's die verbonden zijn aan het gebruik van gegevens die verzameld zijn van platforms waar desinformatie en persoonlijke aanvallen veel voorkomen. “Als AI leert van bevooroordeelde en vaak schadelijke informatie, bestaat het risico dat deze machines niet alleen negatief en vervormd” gedrag reproduceren maar versterken, zegt Rosa.
Het probleem krijgt zorgwekkende dimensies als we kijken naar de Braziliaanse electorale context. Tijdens de verkiezingen van 2022 meldde het Superior Electoral Court (TSE) dat het alleen al in de tweede ronde meer dan 500 dagelijkse waarschuwingen had ontvangen over nepnieuws.
De belangrijkste zorg is dat AI, getraind met meningen van gewone mensen die vaak worden beïnvloed door verkeerde informatie, negatieve patronen kan repliceren en versterken.“A AI heeft de neiging menselijk gedrag te repliceren, en wanneer dit gedrag wordt gekenmerkt door polarisatie en gebrek aan beleefdheid, weerspiegelt de technologie onvermijdelijk deze tekortkomingen”, legt Rosa uit.
Het ANPD-besluit wordt gezien als een belangrijke stap om het verantwoord en ethisch gebruik van data in AI-training te waarborgen.“De privacy en informatie-integriteit van gebruikers zijn essentieel voor de ontwikkeling van technologieën die de samenleving echt ten goede komen, concludeert Rosa.
Deze zaak onderstreept de dringende behoefte aan een meer kritische en gereguleerde aanpak van het verzamelen en gebruiken van gegevens door digitale platforms, gericht op het beschermen van de informatie-integriteit en het garanderen dat de ontwikkeling van AI gebaseerd is op betrouwbare en respectvolle gegevens.
