人工智能（AI），曾经是一个有前景的趋势，如今已成为令人着迷的现实。 根据数据的 麦肯锡企业采用人工智能的比例在2024年跃升至72%。 应用于个人的不同用例、组织甚至政府，人工智能，特别是生成式人工智能（GenAI），预计将继续快速增长，为全球经济带来数万亿美元的新增价值。
虽然其益处无可争议，但仍有一些模糊的方面。 一项调查的 德勤发现许多组织认为，由于人工智能试点项目的扩展、关于机密数据的法规不明确以及对外部数据（例如，许可的第三方数据）使用的疑虑，可能会出现新的问题。 被访企业中，55%表示由于与数据相关的问题而避免某些人工智能的使用案例，另有同样比例的企业正在努力改善其数据的安全性。
数字安全在2024年世界经济论坛的议题中占据重要地位，被认为是当今的主要风险之一，仅次于虚假信息和假新闻、极端气候事件以及政治极化。 受访的领导者提到，诸如人工智能提供的新工具和技术能力，应该会在本十年内使网络犯罪变得更加困难。
预防始终优于治疗
人工智能的发展如果不正确实施，将给组织带来风险。 然而，一个设计良好的人工智能不仅可以预防漏洞，还可以成为应对潜在攻击的高效工具。 为此，第一步是要牢记，采用人工智能应分阶段进行。
当保护优先于检测，通过预防措施时，违规行为变得更加明显且易于控制。 企业的首要关注点应是其基础设施的安全。 一个具有成熟组件的强大人工智能平台有助于创新、提高效率，从而营造一个更安全的环境。
在这方面的一种策略是采用开源技术，今天它是人工智能的主要推动力之一。 开源一直是创新的驱动力，结合全球开发者社区的经验与人工智能算法的力量，释放出极大的安全创新潜力。 开源解决方案，基于开放混合云，为组织提供在任何数据环境中运行其AI应用和系统的灵活性，无论是公共云、私有云还是边缘，确保更高的安全性。
比起更安全，值得信赖的人工智能
在降低风险时，应考虑多个因素。 从透明度和可解释性的角度来看，算法应当是可理解的。 此外，确保人工智能系统不延续偏见也至关重要。 作为开源解决方案的领导企业，Red Hat 推广协作和开放的开发模式，社区可以审查和改进算法，便于实时控制和减轻偏见。
此外，我们致力于让人工智能的使用实现全民普及通过开源代码和像小型语言模型这样的倡议，使更多的组织能够利用人工智能，而没有技术或成本方面的障碍。 最近的报告 达布拉克斯显示超过75%的企业正在选择这些较小且定制的开源模型以满足特定的用例。
一个例子是开放式人工智能环境，为数据科学家、工程师和开发人员提供了一个灵活的框架，以更快、更高效地创建、部署和集成项目。 由开源开发的平台在设计中内置安全性，使组织更容易培训和部署符合严格数据保护标准的人工智能模型。
与未来保持一致
企业和社会对人工智能使用的另一个担忧是什么？大规模与可持续性相关。 根据一个 高德纳公司人工智能正在推动电力消费的快速增长，咨询公司预测到2027年，现有的40%的人工智能数据中心将因能源供应限制而受到运营限制。
优化技术基础设施的能源消耗对于减少碳足迹和缓解气候变化的影响至关重要，有助于实现联合国2030年议程的目标。 像Kepler和Climatik这样的项目对于可持续创新至关重要。
人工智能及其补充技术，如生成式人工智能和机器学习，能够——实际上已经在这样做——通过创新的解决方案，彻底改变关键行业，例如自动化的医疗诊断或司法系统中的风险分析。 结合量子计算、物联网（IoT）、边缘计算、5G 和 6G 等其他技术，这项技术将成为智能城市发展的基础，推动前所未有的创新，并书写历史的新篇章。 但是，虽然所有这些解决方案都起着关键作用，我们始终要记住，是人才开发、实施并战略性地使用它们，以解决特定问题，将技术与业务相结合。
合作因此对于减轻风险和更安全地迈向以人工智能为基础的可持续未来至关重要。 基于开源原则的合作促进了透明度、开放文化和社区控制，同时也推动了短期和长期内伦理、包容和负责任的人工智能技术的发展。
