La Autoridad Nacional de Protección de Datos (ANPD) de Brasil recientemente rechazó un recurso de Meta, la empresa propietaria de Facebook, que buscaba utilizar datos de usuarios brasileños para entrenar su Inteligencia Artificial (IA). Esta decisión pone de manifiesto preocupaciones significativas sobre la ética y la seguridad en el uso de datos para el desarrollo de IA.
Marcell Rosa, Gerente General y Vicepresidente de Ventas en América Latina de Clevertap, advierte sobre los riesgos asociados al uso de datos recopilados de plataformas donde la desinformación y los ataques personales son comunes. "Cuando la IA aprende a partir de información sesgada y, a menudo, perjudicial, el riesgo es que estas máquinas no solo reproduzcan, sino que amplifiquen comportamientos negativos y distorsionados", afirma Rosa.
El problema adquiere dimensiones preocupantes cuando consideramos el contexto electoral brasileño. Durante las elecciones de 2022, el Tribunal Superior Electoral (TSE) informó haber recibido más de 500 alertas diarias sobre noticias falsas solo en la segunda vuelta.
La principal preocupación es que la IA, entrenada con opiniones de personas comunes frecuentemente influenciadas por desinformación, pueda replicar y amplificar patrones negativos. La IA tiende a replicar el comportamiento humano, y cuando ese comportamiento se caracteriza por polarización y falta de civismo, la tecnología inevitablemente refleja esas fallas, explica Rosa.
La decisión de la ANPD se ve como un paso importante para garantizar el uso responsable y ético de los datos en el entrenamiento de IA. "La privacidad de los usuarios y la integridad de la información son esenciales para el desarrollo de tecnologías que realmente beneficien a la sociedad", concluye Rosa.
Este caso resalta la necesidad urgente de un enfoque más crítico y regulado en la recopilación y uso de datos por parte de plataformas digitales, con el objetivo de proteger la integridad de la información y garantizar que el desarrollo de la IA se base en datos confiables y respetuosos.
