ANPD afviser brug af brasilianske data til at træne mål AI, hvilket rejser etiske spørgsmål

Den brasilianske nationale databeskyttelsesmyndighed (ANPD) afviste for nylig en funktion fra Meta, virksomheden, der ejer Facebook, som forsøgte at bruge data fra brasilianske brugere til at træne sin kunstige intelligens (AI). Denne beslutning fremhæver væsentlige bekymringer om etik og sikkerhed i brugen af data til udvikling af AI.

Marcell Rosa, General Manager og Vice President of Sales in Latin America hos Clevertap, advarer om de risici, der er forbundet med at bruge data indsamlet fra platforme, hvor misinformation og personlige angreb er almindelige. “Når AI lærer af forudindtaget og ofte skadelig information, er risikoen, at disse maskiner ikke kun reproducerer, men forstærker negativ og forvrænget” adfærd, siger Rosa.

Problemet får bekymrende dimensioner, når vi betragter den brasilianske valgkontekst. Under valget i 2022 rapporterede Superior Electoral Court (TSE) at have modtaget mere end 500 daglige advarsler om falske nyheder alene i anden runde.

Den største bekymring er, at AI, trænet med meninger fra almindelige mennesker, der ofte er påvirket af misinformation, kan replikere og forstærke negative mønstre.“En AI har en tendens til at replikere menneskelig adfærd, og når denne adfærd er karakteriseret ved polarisering og mangel på høflighed, afspejler teknologien uundgåeligt disse fejl”, forklarer Rosa.

ANPD-beslutningen ses som et vigtigt skridt for at sikre ansvarlig og etisk brug af data i AI-træning.“Brugerens privatliv og informationsintegritet er afgørende for udviklingen af teknologier, der virkelig gavner” samfundet, konkluderer Rosa.

Denne sag understreger det presserende behov for en mere kritisk og reguleret tilgang til dataindsamling og brug af digitale platforme, rettet mod at beskytte informationsintegriteten og sikre, at AI-udvikling er baseret på pålidelige og respektfulde data.