La rápida adopción de la Inteligencia Artificial Generativa (IA Generativa) en las empresas está redefiniendo procesos, permitiendo innovaciones y impulsando la automatización. Según un estudio reciente de Bloomberg Intelligence, la tasa de crecimiento de la IA en la próxima década será del 42% anual, casi duplicando su alcance. Sin embargo, el éxito de estas soluciones depende de una gestión cuidadosa de los datos que alimentan estos modelos. Aquí es donde entra la ciberseguridad, elemento vital para la protección de la privacidad y la integridad de la información.
La IA Generativa va más allá de los modelos tradicionales de inteligencia artificial, que solo clasifican o predicen comportamientos, ya que crea nuevos contenidos como textos, imágenes y códigos. Esa capacidad de innovación abre nuevas posibilidades en diversos sectores, pero requiere un enfoque cuidadoso en relación con el uso y la seguridad de los datos y eso es reconocido por las personas que usan la tecnología en su día a día. Según la encuesta de desarrolladores 2024 de Stack Overflow, uno de los principales desafíos (31,5%) de trabajar con IA es no tener políticas adecuadas para mitigar los riesgos de seguridad.
En este sentido, laGerente de producto técnicoJoão Batista, responsable de la plataforma StackSpot AI de Zup, explica que para mitigar estos riesgos, las empresas deben implementar medidas de seguridad rigurosas, teniendo en cuenta que los delitos cibernéticos son cada vez más sofisticados y que hasta 2025 podrían costar 10,5 billones de dólares, según el Cyber Security Almanac.
“Garantizar que los modelos de IA funcionen de forma segura y ética requiere un enfoque multifacético que combine un cifrado sólido, una gobernanza de datos eficaz, prácticas de privacidad rigurosas y controles de acceso estrictos durante el entrenamiento del modelo. Si nos centramos en empresas que desarrollan tecnología, contar con un asistente de desarrollo de software impulsado por IA y capacitado en seguridad puede ayudar al equipo a garantizar que el código siga las mejores prácticas de codificación segura. Éste, por ejemplo, es un mecanismo de identificación predictiva de vulnerabilidades. “Cada vez más, el camino a seguir es pensar en una estrategia conjunta que considere la innovación, la seguridad y la protección de datos como un trípode esencial para la aplicación de este tipo de tecnología”, destaca João Batista.
En lo que respecta a la legislación, Henrique Flôres, cofundador de Contraktor y líder del desarrollo del CK Reader, IA de la startup, explica que "mientras esperamos una legislación para regular mejor el uso de la I.A. Generativa, corresponde a los profesionales de tecnología velar por la aplicación de buenas prácticas de criptografía, anonimización de datos y políticas de gobernanza de TI que puedan garantizar el equilibrio de los intereses comerciales de las partes, la transparencia en los mecanismos de entrenamiento de algoritmos y el uso ético en la manipulación de los datos".
Aunque reconoce que innovar con tecnologías emergentes, como la Inteligencia Artificial Generativa, es una oportunidad única de transformación, Giovanna Rossi, CPO de Rethink, consultoría de tecnología, diseño y estrategia, enfatiza que no se puede negar que viene acompañada de riesgos significativos, como la exposición de información sensible y la posibilidad de ataques cibernéticos sofisticados. Como responsable del área de productos digitales, veo lo fundamental que es que el liderazgo priorice un enfoque estratégico en el uso de la IA para mitigar dichos riesgos. Tenemos la responsabilidad de moldear esta tecnología de manera ética y segura, garantizando que su impacto sea positivo y sostenible para todos, afirma la ejecutiva.
Brasil tiene un alto volumen de datos circulando en internet y un proceso de digitalización acelerado. En lo que se refiere a la protección de marca, Diego Daminelli, CEO de BrandMonitor, empresa pionera y especialista en la lucha contra la competencia desleal en el entorno digital, advierte que la infraestructura de seguridad brasileña aún avanza a paso lento, convirtiendo al país en uno de los mayores objetivos de ciberataques del mundo, con una mayor sofisticación de los ataques por parte de los delincuentes. La cultura de seguridad sigue siendo un tema poco valorado por muchas empresas, que no utilizan IA sino tecnologías obsoletas, lo que puede dejarlas vulnerables a ataques y no son capaces de monitorear la presencia digital de la marca en toda su amplitud.
El experto pone el ejemplo deSuplantación de identidad (phishing), gran problema para segmentos como el comercio minorista y la prestación de servicios. “Os anúncios são veiculados em plataformas digitais utilizando toda a identidade de uma marca e prometendo descontos impraticáveis. Esse anúncio leva a uma pagina que imita o layout oficial da empresa, mas com um endereço diferente. Nessa página são oferecidos produtos ou serviços com um preço extremamente baixo, induzindo o cliente a compra”, finaliza
