Den brasilianska nationella dataskyddsmyndigheten (ANPD) avvisade nyligen en funktion från Meta, företaget som äger Facebook, som försökte använda data från brasilianska användare för att träna sin artificiella intelligens (AI).Detta beslut belyser betydande oro för etik och säkerhet i användningen av data för utveckling av AI.
Marcell Rosa, General Manager och Vice President of Sales in Latin America på Clevertap, varnar för riskerna i samband med att använda data som samlats in från plattformar där desinformation och personangrepp är vanliga. “När AI lär sig av partisk och ofta skadlig information är risken att dessa maskiner inte bara reproducerar utan förstärker negativa och förvrängda summar beteenden, säger Rosa.
Problemet får oroande dimensioner när vi överväger det brasilianska valsammanhanget. Under valet 2022 rapporterade Superior Electoral Court (TSE) att ha fått mer än 500 dagliga varningar om falska nyheter bara i den andra omgången.
Den största oro är att AI, tränad med åsikter från vanliga människor ofta påverkas av desinformation, kan replikera och förstärka negativa mönster.“A AI tenderar att replikera mänskligt beteende, och när detta beteende kännetecknas av polarisering och brist på hövlighet, tekniken oundvikligen återspeglar dessa brister”, förklarar Rosa.
ANPD-beslutet ses som ett viktigt steg för att säkerställa ansvarsfull och etisk användning av data i AI-utbildning.“Användarnas integritet och informationsintegritet är avgörande för utvecklingen av teknologier som verkligen gynnar det sumpariska samhället, avslutar Rosa.
Detta fall understryker det akuta behovet av ett mer kritiskt och reglerat tillvägagångssätt för datainsamling och användning av digitala plattformar, som syftar till att skydda informationsintegriteten och säkerställa att AI-utvecklingen baseras på tillförlitliga och respektfulla data.
