브라질의 국가 데이터 보호 기관(ANPD)은 최근 페이스북의 모회사인 Meta의 항소를 기각했으며, 이는 브라질 사용자 데이터를 인공지능(AI) 훈련에 활용하려던 시도였습니다. 이 결정은 인공지능 개발을 위한 데이터 사용에 관한 윤리와 안전에 대한 중요한 우려를 부각시킵니다.
클레버탭의 라틴 아메리카 총괄 매니저이자 영업 부사장인 마르셀 로사(Marcell Rosa)는 허위 정보와 개인 공격이 흔한 플랫폼에서 수집된 데이터를 사용하는 것과 관련된 위험에 대해 경고합니다. "인공지능이 편향된 정보와 종종 해로운 정보를 학습할 때, 이러한 기계가 부정적이고 왜곡된 행동을 단순히 재생산하는 것뿐만 아니라 증폭시킬 위험이 있다"고 로사가 말한다.
문제는 브라질 선거 맥락을 고려할 때 우려스러운 차원으로 확대됩니다. 2022년 선거 동안, 고등 선거 법원(TSE)은 이차 투표에서만 하루에 500건이 넘는 가짜 뉴스 경고를 접수했다고 보고했습니다.
주요 우려는 일반 사람들의 의견에 자주 영향을 받는 인공지능이 부정적인 패턴을 복제하고 증폭시킬 수 있다는 점입니다. "인공지능은 인간의 행동을 모방하는 경향이 있으며, 이러한 행동이 양극화와 시민의식 부족으로 특징지어질 때, 기술은 불가피하게 이러한 결함을 반영한다"고 로사가 설명했다.
ANPD의 결정은 AI 훈련에서 책임 있고 윤리적인 데이터 사용을 보장하기 위한 중요한 발걸음으로 간주됩니다. "사용자의 프라이버시와 정보의 무결성은 사회에 실질적인 혜택을 주는 기술 개발에 필수적이다"고 로사가 결론지었다.
이 사례는 디지털 플랫폼의 데이터 수집 및 사용에 대해 보다 비판적이고 규제된 접근이 시급히 필요하다는 점을 강조하며, 정보의 무결성을 보호하고 인공지능 개발이 신뢰할 수 있고 존중받는 데이터를 기반으로 이루어지도록 하는 것을 목표로 한다.
