La Autoridad Nacional de Protección de Datos (ANPD) de Brasil recientemente rechazó un recurso de Meta, empresa propietaria de Facebook, que buscaba utilizar datos de usuarios brasileños para entrenar su Inteligencia Artificial (IA). Esta decisión pone de manifiesto preocupaciones significativas sobre la ética y la seguridad en el uso de datos para el desarrollo de IA.
Marcell Rosa, Gerente General y Vicepresidente de Ventas para Latinoamérica de Clevertap, alerta sobre los riesgos asociados al uso de datos recolectados de plataformas donde la desinformación y los ataques personales son comunes. "Cuando la IA aprende de información sesgada y, muchas veces, perjudicial, el riesgo es que estas máquinas no solo reproduzcan, sino que amplíen comportamientos negativos y distorsionados", afirma Rosa.
El problema adquiere dimensiones preocupantes cuando consideramos el contexto electoral brasileño. Durante las elecciones de 2022, el Tribunal Superior Electoral (TSE) informó haber recibido más de 500 alertas diarias sobre noticias falsas solo en la segunda vuelta.
La principal preocupación es que la IA, entrenada con opiniones de personas comunes, frecuentemente influenciadas por desinformación, pueda replicar y amplificar patrones negativos. “La IA tiende a replicar el comportamiento humano, y cuando este comportamiento se caracteriza por la polarización y la falta de civismo, la tecnología inevitablemente refleja estas fallas”, explica Rosa.
La decisión de la ANPD es vista como un paso importante para garantizar el uso responsable y ético de los datos en el entrenamiento de IA. "La privacidad de los usuarios y la integridad de la información son esenciales para el desarrollo de tecnologías que realmente beneficien a la sociedad", concluye Rosa.
Este caso destaca la necesidad urgente de un enfoque más crítico y regulado sobre la recopilación y el uso de datos por parte de las plataformas digitales, con el objetivo de proteger la integridad de la información y garantizar que el desarrollo de la IA se base en datos confiables y respetuosos.
