Den nationella dataskyddsmyndigheten (ANPD) i Brasilien avvisade nyligen ett överklagande från Meta, företaget som äger Facebook, som försökte använda data från brasilianska användare för att träna sin artificiella intelligens (AI). Detta beslut tydliggör betydande oro kring etik och säkerhet vid användning av data för utveckling av AI.
Marcell Rosa, General Manager och Vice President för försäljning i Latinamerika på Clevertap, varnar för riskerna med att använda data som samlats in från plattformar där desinformation och personliga attacker är vanliga. "När AI lär sig från partiska och ofta skadliga informationer är risken att dessa maskiner inte bara reproducerar utan också förstärker negativa och förvrängda beteenden", säger Rosa.
Problemet får oroande dimensioner när vi tar hänsyn till den brasilianska valkontexten. Under 2022 års val rapporterade den högsta valmyndigheten (TSE) att de mottagit mer än 500 dagliga varningar om falska nyheter bara under andra omgången.
Den främsta oro är att AI, tränad med åsikter från vanliga människor som ofta är påverkade av desinformation, kan replikera och förstärka negativa mönster. "AI tenderar att replikera mänskligt beteende, och när detta beteende präglas av polarisering och brist på civilt uppförande, speglar teknologin oundvikligen dessa brister," förklarar Rosa.
ANPD:s beslut ses som ett viktigt steg för att säkerställa ansvarsfull och etisk användning av data vid träning av AI. "Användarnas integritet och informationsintegritet är avgörande för utvecklingen av teknologier som verkligen gynnar samhället", avslutar Rosa.
Det här fallet understryker det akuta behovet av en mer kritisk och reglerad strategi för insamling och användning av data av digitala plattformar, för att skydda informationsintegriteten och säkerställa att AI-utvecklingen bygger på pålitliga och respektfulla data.
