L'Autorité Nationale de Protection des Données (ANPD) du Brésil a récemment rejeté un recours de Meta, la société propriétaire de Facebook, qui cherchait à utiliser les données des utilisateurs brésiliens pour entraîner son intelligence artificielle (IA). Cette décision met en évidence des préoccupations importantes concernant l'éthique et la sécurité dans l'utilisation des données pour le développement de l'IA.
Marcell Rosa, Directeur Général et Vice-Président des Ventes en Amérique Latine chez Clevertap, met en garde contre les risques liés à l'utilisation des données collectées sur des plateformes où la désinformation et les attaques personnelles sont courantes. « Lorsque l'IA apprend à partir d'informations biaisées et souvent nuisibles, le risque est que ces machines ne se contentent pas de reproduire, mais amplifient des comportements négatifs et déformés », affirme Rosa.
Le problème prend des dimensions préoccupantes lorsque l'on considère le contexte électoral brésilien. Lors des élections de 2022, le Tribunal supérieur électoral (TSE) a signalé avoir reçu plus de 500 alertes quotidiennes concernant de fausses informations, uniquement lors du second tour.
La préoccupation principale est que l'IA, entraînée avec les opinions de personnes ordinaires souvent influencées par la désinformation, puisse reproduire et amplifier des schémas négatifs. L'IA tend à reproduire le comportement humain, et lorsque ce comportement est caractérisé par la polarisation et le manque de civisme, la technologie reflète inévitablement ces défauts, explique Rosa.
La décision de l'ANPD est considérée comme une étape importante pour garantir l'utilisation responsable et éthique des données dans la formation de l'IA. « La vie privée des utilisateurs et l'intégrité de l'information sont essentielles au développement de technologies qui bénéficient réellement à la société », conclut Rosa.
Cette affaire met en évidence le besoin urgent d’une approche plus critique et réglementée de la collecte et de l’utilisation des données par les plateformes numériques, visant à protéger l’intégrité des informations et à garantir que le développement de l’IA repose sur des données fiables et respectueuses.
