브라질 국가 데이터 보호국 (ANPD) 은 최근 인공 지능 (AI) 을 교육하기 위해 브라질 사용자의 데이터를 사용하려고했던 Facebook 을 소유 한 회사 인 Meta 의 기능을 거부했습니다.이 결정은 AI 개발을위한 데이터 사용에 대한 윤리 및 보안에 대한 중요한 우려를 강조합니다.
클레버탭의 라틴 아메리카 영업 총괄 매니저 겸 부사장인 Marcell Rosa는 잘못된 정보와 인신 공격이 흔한 플랫폼에서 수집한 데이터를 사용하는 것과 관련된 위험에 대해 경고합니다. “AI가 편향되고 종종 유해한 정보로부터 학습할 때, 이러한 기계는 부정적인 행동과 왜곡된 행동을 재현할 뿐만 아니라 증폭시킬 위험이 있습니다” 라고 Rosa는 말합니다.
브라질 선거 상황을 고려하면 문제는 걱정스러운 차원이 됩니다. 2022년 선거 기간 동안 고등선거법원(TSE)은 2차 투표에서만 가짜 뉴스에 대한 일일 경고를 500건 이상 받았다고 보고했습니다.
주된 관심사는 잘못된 정보에 영향을받는 일반 사람들의 의견으로 훈련 된 AI 가 부정적인 패턴을 복제하고 증폭시킬 수 있다는 것입니다.“AI 는 인간의 행동을 복제하는 경향이 있으며,이 행동이 양극화와 예의가 부족한 것이 특징 일 때 기술은 필연적으로 이러한 결함을 반영합니다.”라고 Rosa 는 설명합니다.
ANPD 결정은 AI 교육에서 데이터의 책임감 있고 윤리적인 사용을 보장하는 중요한 단계로 간주됩니다. “사용자 개인 정보 보호 및 정보 무결성은 사회에 진정으로 이익이 되는 기술 개발에 필수적입니다”라고 Rosa는 결론지었습니다.
이 사례는 정보 무결성을 보호하고 AI 개발이 신뢰할 수 있고 존중하는 데이터를 기반으로 하도록 보장하는 것을 목표로 하는 디지털 플랫폼의 데이터 수집 및 사용에 대한 보다 중요하고 규제된 접근 방식이 시급히 필요하다는 점을 강조합니다.
