IA, ciberseguridad y privacidad: cómo proteger datos confidenciales en la era de la Inteligencia Artificial Generativa

La rápida adopción de la Inteligencia Artificial Generativa (IA Gen) en las empresas está redefiniendo los procesos, permitiendo innovaciones e impulsando la automatización. Según un estudio reciente de Bloomberg Intelligence, la tasa de crecimiento de la IA en la próxima década debería ser de 42% al año 4, casi duplicando su alcance. Sin embargo, el éxito de estas soluciones depende de una gestión cuidadosa de los datos que alimentan estos modelos. Aquí es donde entra en juego la ciberseguridad, un elemento vital para proteger la privacidad y la integridad de la información.

La IA generativa va más allá de los modelos tradicionales de inteligencia artificial, que sólo clasifican o predicen comportamientos, porque crea nuevos contenidos como textos, imágenes y códigos. Esta capacidad de innovación abre nuevas posibilidades en varios sectores, pero requiere un enfoque cuidadoso en el uso y seguridad de los datos y esto es reconocido por las personas que utilizan la tecnología a diario. Según la investigación de Developer Survey 2024 de Stack OverFlow, uno de los principales desafíos (31.5%) de trabajar con IA es no tener políticas adecuadas para mitigar los riesgos de seguridad.   

En este sentido, el Responsable Técnico de Producto John Batista, responsable de la plataforma Zup StackSpot AI, explica que para mitigar estos riesgos, las empresas deben implementar estrictas medidas de seguridad, dado que el cibercrimen es cada vez más sofisticado y para 2025 puede costar 10,5 billones de dólares, según Cyber Security Almanac. 

“Garantizar que los modelos de IA funcionen de forma segura y ética requiere un enfoque multifacético que combine un cifrado sólido, una gobernanza de datos eficaz, prácticas estrictas de privacidad y controles de acceso estrictos durante la capacitación del modelo. Si hacemos un recorte para las empresas que crean tecnología, contar con un El asistente de desarrollo de software impulsado por IA capacitado en seguridad puede ayudar al equipo a garantizar que el código siga las mejores prácticas de codificación segura. Este, por ejemplo, es un mecanismo predictivo de identificación de vulnerabilidades. Cada vez más, la forma es pensar en una estrategia conjunta que considere la innovación, la seguridad y la protección de datos como un trípode esencial para la aplicación de este tipo de tecnología.

Respecto a la legislación, Henrique Flores, cofundador de Contractor y líder del desarrollo de CK Reader, IA de la startup, explica que mientras esperamos legislación que regule mejor el uso de la IA Generativa, corresponde a los profesionales de la tecnología asegurar la aplicación de buenas prácticas de cifrado, anonimización de datos y políticas de gobernanza de ti que puedan asegurar el equilibrio de los intereses comerciales de las partes, transparencia en los mecanismos de entrenamiento de algoritmos y uso ético en la manipulación de datos”. 

Si bien reconoce que innovar con tecnologías emergentes, como la Inteligencia Artificial Generativa, es una oportunidad única de transformación, Giovanna Rossi, CPO de Rethink, consultoría tecnológica, diseño y estrategia, refuerza que no se puede negar que va acompañada de riesgos significativos, como como la exposición de información sensible y la posibilidad de ciberataques sofisticados. “Como responsable del área de los productos digitales, veo cuán fundamental es para el liderazgo priorizar un enfoque estratégico en el uso de la IA para mitigar dichos riesgos. Tenemos la responsabilidad de dar forma a esta tecnología de manera ética y segura, asegurando que su impacto sea positivo y sostenible para todos”, afirma el ejecutivo. 

Brasil tiene un alto volumen de datos circulando en Internet y un proceso de digitalización acelerado. En cuanto a la protección de la marca, Diego Daminelli, director general de BrandMonitor, pionero y experto en combatir la competencia desleal en el entorno digital, advierte que la infraestructura de seguridad brasileña sigue avanzando lentamente, convirtiendo al país en uno de los mayores objetivos de ciberataques del mundo, con una mayor sofisticación de los ataques por parte de delincuentes. “La cultura de la seguridad sigue siendo un tema poco valorado por varias empresas, que no utilizan IA sino tecnologías obsoletas, que pueden dejarlas vulnerables a ataques y no son capaces de monitorear la presencia digital de la marca en toda su gama.

El experto da el ejemplo de phishing, gran problema para segmentos como el comercio minorista y la prestación de servicios. “Los anuncios se sirven en plataformas digitales utilizando toda la identidad de una marca y prometiendo descuentos poco prácticos. Este anuncio da lugar a una página que imita el diseño oficial de la empresa, pero con una dirección diferente. En esta página los productos o servicios se ofrecen a un precio extremadamente bajo, lo que induce al cliente a comprar”, concluye