Red Hat 刚刚推出了 Red Hat AI 的新更新,这是其旨在加快在混合云中开发和部署人工智能解决方案的产品和服务组合。 Red Hat AI 提供企业级人工智能平台,用于模型训练和推理,提供更多的经验、灵活性以及简化的部署体验,能够在任何混合云环境中部署系统。
为了降低大规模语言模型(LLMS)实施成本,以满足日益增长的用例,企业仍面临将这些系统与其专有数据集成并随时随地访问的挑战:无论是在数据中心、公共云还是边缘。
通过集成 Red Hat OpenShift AI 和 Red Hat Enterprise Linux AI(RHEL AI),Red Hat AI 回应了这些关切,提供了一个企业级人工智能平台,允许采用更高效、优化的模型,并根据特定业务数据进行调整,且可以在混合云中部署,用于在各种计算架构中训练模型。
对于Red Hat人工智能业务单元副总裁兼总经理乔·费尔南德斯来说,这次更新使组织能够在人工智能旅程中实现精准和经济。 红帽知道,随着企业将更多用例投入生产并大规模运营,他们将需要管理其生成式人工智能部署不断增长的成本。红帽AI帮助组织应对这些挑战,使其能够拥有更高效、针对特定用途开发、用自有数据训练的模型,并实现灵活的推理,支持本地、云端和边缘环境。
红帽 OpenShift 人工智能
Red Hat OpenShift AI 提供一个完整的人工智能平台,用于在混合云中管理预测性和生成式(gen AI)人工智能的生命周期,包括机器学习操作(MLOps)和大型语言模型操作(LLMOps)能力。 该平台提供构建预测模型和调整生成式AI模型的功能,以及简化AI模型管理的工具,包括数据科学管道和模型、模型监控、治理等。
平台的最新版本,Red Hat OpenShift AI 2.18,新增了更新和功能,以支持Red Hat AI的目标,即将更优化、更高效的AI模型带入混合云。 主要功能包括
● 分布式服务通过 vLLM 推理服务器提供的分布式服务,允许IT团队在多个GPU之间分配模型服务。 这有助于减轻单个服务器的负载,加快训练和微调的速度,并促进计算资源的更高效利用,同时有助于在节点之间分配服务以支持人工智能模型。
● 端到端模型调整经验使用 InstructLab 和 Red Hat OpenShift AI 的数据科学管道,这一新功能有助于简化大型语言模型(LLMs)的微调,使其在大型生产环境中更具可扩展性、效率和可审计性,同时通过 Red Hat OpenShift AI 的控制面板实现管理。
● 人工智能护栏Red Hat OpenShift AI 2.18 通过 AI Guardrails 技术预览,帮助提高大型语言模型(LLMs)的准确性、性能、延迟和透明度,该技术监控并保护用户输入交互和模型输出。 AI Guardrails 提供额外的检测功能,帮助IT团队识别和缓解潜在的仇恨、辱骂或亵渎言论、个人身份信息、竞争对手数据或其他受公司政策限制的信息。
● 模型评估使用语言模型评估组件(lm-eval)提供有关模型整体质量的重要信息,模型评估使数据科学家能够比较其大型语言模型(LLMs)在各种任务中的表现,从逻辑和数学推理到对抗性自然语言,帮助打造更有效、更敏捷、更适应的人工智能模型。
RHEL AI
Red Hat AI 组合中的一部分,RHEL AI 是一个基础模型平台,旨在更一致地开发、测试和运行大型语言模型(LLMs),以推动企业应用。 RHEL AI 提供 Granite LLM 模型和 InstructLab 模型对齐工具,这些都是在可引导的 Red Hat Enterprise Linux 镜像中的软件包,可以在混合云中部署。
于2025年2月发布的RHEL 1.4带来了多项改进,包括:
● Granite 3.1 8B 模型支持作为 Granite 模型家族的最新成员,采用开源许可证。 该模型增加了多语言推理和知识/分类法个性化支持(开发者预览),以及128k的上下文窗口,以改善摘要结果和增强检索生成(RAG)任务的应用。
● 新的用户界面以贡献技能和先前知识提供开发者预览版,旨在简化数据的使用和碎片化,并允许用户向AI模型添加自己的技能和贡献。
● 文档知识基准(DK-bench)为了方便比较使用相关私有数据调整的人工智能模型与未调整的基础模型的性能。
红帽AI InstructLab在IBM云上
越来越多的企业在寻找以数据的准确性和安全性为优先,同时尽可能降低成本和复杂性的人工智能解决方案。 Red Hat AI InstructLab,作为IBM云上的一项服务,旨在简化、扩展并帮助改善在AI系统的训练和部署中的安全性。 通过简化InstructLab模型的调整,组织可以构建更高效的平台,满足其独特的需求,同时保持对机密信息的控制。
关于人工智能基础的免费培训
人工智能是一种变革性的机遇,正在重新定义企业的运营和竞争方式。 为了支持组织应对这一动态环境,Red Hat 提供免费的在线人工智能基础培训。 公司提供两种人工智能学习证书,面向经验丰富的高级领导和初学者,帮助各级用户了解人工智能如何帮助转变业务运营、加快决策速度和推动创新。
可用性
Red Hat OpenShift AI 2.18 和 Red Hat Enterprise Linux AI 1.4 已经推出。 有关其他功能、改进、错误修复以及如何将您的Red Hat OpenShift AI版本更新到最新版本的更多信息,请参见这里可以找到最新版本的 RHEL AI这里.
Red Hat AI InstructLab将在IBM Cloud上很快推出。 Red Hat的人工智能基础培训现已向客户开放。