Национальное управление по защите данных (АНПД) Бразилии недавно отклонило апелляцию компании Meta, владеющей Facebook, на использование данных бразильских пользователей для обучения своего искусственного интеллекта (ИИ). Это решение выдвигает на первый план серьезные опасения по поводу этики и безопасности использования данных для развития ИИ.
Марсель Роза, генеральный менеджер и вице-президент по продажам в Латинской Америке компании Clevertap, предупреждает о рисках, связанных с использованием данных, собранных с платформ, где распространена дезинформация и личные нападки. «Когда ИИ обучается на предвзятых и зачастую вредных данных, существует риск, что эти машины не только воспроизведут, но и усилят негативные и искаженные модели поведения», — говорит Роза.
Проблема приобретает тревожные масштабы, если учесть бразильский избирательный контекст. Во время выборов 2022 года Высший избирательный суд (TSE) сообщил о получении более 500 ежедневных предупреждений о фейковых новостях только во время второго тура.
Основная озабоченность заключается в том, что ИИ, обученный мнениям обычных людей, часто подверженных дезинформации, может воспроизводить и усиливать негативные тенденции. «ИИ склонен воспроизводить человеческое поведение, и когда это поведение характеризуется поляризацией и отсутствием гражданственности, эта технология неизбежно отражает эти недостатки», — объясняет Роза.
Решение ANPD рассматривается как важный шаг для обеспечения ответственного и этичного использования данных при обучении ИИ. «Приватность пользователей и целостность информации являются важнейшими для развития технологий, которые действительно принесут пользу обществу», — заключает Роза.
Этот случай подчеркивает настоятельную необходимость более критического и регулируемого подхода к сбору и использованию данных цифровыми платформами, направленного на защиту целостности информации и обеспечение того, чтобы развитие ИИ основывалось на надежных и уважительных данных.
