ANPD odmítá použití brazilských dat k výcviku AI cílů a vyvolává etické problémy

Brazilský národní úřad pro ochranu dat (ANPD) nedávno odmítl funkci od Meta, společnosti, která vlastnila Facebook, která se snažila využít data od brazilských uživatelů k trénování své umělé inteligence (AI).Toto rozhodnutí zdůrazňuje značné obavy o etiku a bezpečnost při používání dat pro vývoj AI.

Marcell Rosa, generální ředitel a viceprezident prodeje v Latinské Americe ve společnosti Clevertap, varuje před riziky spojenými s používáním dat shromážděných z platforem, kde jsou běžné dezinformace a osobní útoky. „Když se AI učí z neobjektivních a často škodlivých informací, existuje riziko, že tyto stroje nejen reprodukují, ale zesilují negativní a zkreslené chování, říká Rosa.

Problém nabývá znepokojivých rozměrů, vezmeme-li v úvahu brazilský volební kontext. Během voleb v roce 2022 Nejvyšší volební soud (TSE) oznámil, že jen ve druhém kole obdržel více než 500 denních upozornění na falešné zprávy.

Hlavní obavou je, že AI, trénovaná s názory obyčejných lidí často ovlivněných dezinformacemi, může replikovat a zesilovat negativní vzorce AI z důvodu protivzdušné obrany má tendenci replikovat lidské chování, a když je toto chování charakterizováno polarizací a nedostatkem zdvořilosti, technologie nevyhnutelně odráží tyto nedostatky, vysvětluje Rosa.

Rozhodnutí ANPD je považováno za důležitý krok k zajištění odpovědného a etického využití dat při školení AI. Soukromí a integrita informací ze strany uživatelů jsou zásadní pro vývoj technologií, které skutečně prospívají společnosti, uzavírá Rosa.

Tento případ podtrhuje naléhavou potřebu kritičtějšího a regulovanějšího přístupu ke sběru a používání dat digitálními platformami, jehož cílem je ochrana integrity informací a zajištění toho, aby vývoj AI byl založen na spolehlivých a respektujících datech.