在澳大利亚悉尼举行的 Gartner 安全与风险管理峰会上，与会专家通过分析近期主要的网络安全趋势，并指导首席信息安全官 (CISO) 应采取的行动，以确保生成人工智能在其组织中安全运行，提请人们注意，这项新技术将需要额外的关注和开发新的网络安全能力，这可能导致网络安全投资额增加高达 15%。
在谈到这个话题时，Gartner 高级主管分析师 Richard Addiscott 解释说，CISO 必须更新应用程序和数据安全实践，以整合新的攻击面（例如提示或编排层）来监测 AI 模型。
对于TIVIT的Stone Age信用和反欺诈业务负责人Fernando Guimarães来说，这一估计可能偏向保守，因为除了需要保护使用生成式人工智能的应用程序外，越来越多的趋势是将生成式人工智能集成到打击欺诈者的工具中。 生成式人工智能的好处是不容置疑的，具有巨大的增长潜力，但这些好处必须伴随着网络安全的关注和投资。“净结果在大多数情况下将非常积极，但没有免费的午餐，”吉马良斯说。
他评论说，这一行动是由Stone Age公司自行进行的，结合了TIVIT在其解决方案中开发的生成式人工智能解决方案Athena。 在2024年初，技术作为一种新功能被引入Identify中，Identify是专注于身份验证的产品，适用于入职和销售流程。
由TIVIT于去年12月推出的Athena，使Identify能够实现包括在内的多项功能，能够在30秒内自动进行公司章程数据的智能读取。 此外，从这些文件中提取结构化信息，这些信息立即转化为协作洞察，以支持数据流程，从而实现更有效、更快速的决策。
Guimarães评论说，采用Athena为Identify带来了新的功能，使工具的使用过程更加完整。 实际上，根据他的说法，现在公司拥有一个版本2.0，能够朝着运营效率的方向前进，减少人工干预，提高决策的准确性，同时在降低成本方面发挥作用，并且可以用更少的客服和分析团队进行工作。
“我相信这种收益可以传播到市场上的其他几种解决方案中。因此，考虑到生成式人工智能为网络安全带来的好处，增加投资以增加该技术的使用是完全合理的”，他总结道。
一种更安全使用人工智能的替代方案是采用可根据企业需求定制的解决方案。 根据TIVIT的首席商业官兼首席产品官丹尼尔·加兰特（Daniel Galante）所说，人工智能的出现旨在使流程和企业更加敏捷，但必须非常准确地加以利用。 “想象一个大型律师事务所，为重要客户提供服务，所有律师都在一个100%开放的环境中输入客户和案件数据，这个环境可能会变成公开的。这可能会带来重大问题，使这些数据暴露给公众。一个解决方案是使用可定制的生成式人工智能，比如Athena，客户可以选择哪些数据库进行查询，将所有数据仅在预定位置暴露，并限制访问权限，只允许真正需要的人访问。这是使用人工智能的最佳方式，既能带来它的高效，又能确保此类流程所需的安全性。”——加兰特如此表示。
