红帽刚刚在红帽人工智能上发布了新的更新, 您的产品和服务组合旨在加速混合云中人工智能解决方案的开发和部署. 红帽AI提供了一个企业级AI平台，用于模型训练和推理, 提供更多经验, 灵活性和简化的体验，以在任何地方部署混合云系统
在寻求降低实施大型语言模型（LLMS）成本以满足日益增长的用例数量时, 企业仍面临将这些系统与其专有数据集成并从任何地方访问它们的挑战：无论是在数据中心, 在公共云中或甚至在边缘
集成红帽OpenShift AI和红帽企业Linux AI（RHEL AI）, 红帽AI通过提供一个企业级AI平台来应对这些担忧，使得能够采用更高效和优化的模型, 与业务的具体数据相结合, 可以在混合云中部署，以训练各种计算架构的模型
给乔·费尔南德斯, 红帽人工智能业务单元副总裁兼总经理, 该更新使组织能够在其人工智能旅程中实现精准和经济. 红帽知道企业需要找到管理其生成性人工智能部署日益增长成本的方法, 随着他们带来更多的生产用例并在规模上运营.. 红帽人工智能帮助组织应对这些挑战, 允许它们拥有更高效的模型, 为一个目的而开发, 经过训练的数据，使得在本地环境中能够进行灵活推断, 云端和边缘.”
红帽 OpenShift 人工智能
红帽OpenShift AI提供了一个完整的AI平台，用于管理混合云中预测性和生成性AI的生命周期, 包括机器学习操作（MLOps）和大型语言模型操作（LLMOps）的能力. 该平台提供构建预测模型和调整生成性人工智能模型的功能, 与简化人工智能模型管理的工具一起, 从数据科学管道和模型到模型监控, 治理和更多.
平台的最新版本, 红帽OpenShift AI 2.18, 添加新的更新和功能，以支持红帽人工智能的目标，即为混合云带来更优化和高效的人工智能模型. 主要功能包括
● 分布式服务通过vLLM推理服务器提供, 分布式服务允许IT团队在多个图形处理单元（GPU）之间分配模型服务. 这有助于减轻单个服务器的负担, 加速训练和微调，并促进计算资源的更有效使用, 同时帮助在节点之间分配服务以用于人工智能模型
● 端到端模型调整经验使用 InstructLab 和 Red Hat OpenShift AI 的数据科学管道, 这个新功能有助于简化对LLM的微调, 使它们更具可扩展性, 高效且可审计的大型生产环境, 同时通过Red Hat OpenShift AI的控制面板提供管理
● 人工智能护栏红帽OpenShift AI 2.18 有助于提高准确性, 表现, 通过对AI Guardrails技术的预览，LLMs的延迟和透明度, 监控和保护用户输入的交互和模型的输出. AI Guardrails 提供额外的检测功能，以帮助 IT 团队识别和减轻潜在仇恨言论, 滥用或亵渎, 可识别个人信息, 竞争对手的数据或其他因公司政策而受限的数据
● 模型评估使用语言模型评估组件（lm-eval）提供有关模型整体质量的重要信息, 模型评估使数据科学家能够比较他们的LLM在各种任务中的表现, 从逻辑和数学推理到对抗性自然语言, 帮助创建更有效的人工智能模型, 响应式和适应性
RHEL AI
红帽人工智能投资组合的一部分, RHEL AI 是一个基础模型平台，用于开发, 以更一致的方式测试和执行LLMs, 旨在推动企业应用程序. RHEL AI 提供 Granite LLM 模型和 InstructLab 模型对齐工具, 什么是可启动的Red Hat Enterprise Linux映像中的软件包，并可以在混合云中部署
于2025年2月发布, RHEL 1.4 带来了多项改进, 包括：
● 对Granite 3模型的支持.1 8B作为Granite模型家族中最新的开源许可证添加. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), 除了128k的上下文窗口以改善摘要结果和检索增强生成（RAG）任务的采用
● 新的用户界面以贡献技能和先前知识, 以开发者预览格式提供, 旨在简化数据的消费和碎片化, 以及允许用户将自己的技能和贡献添加到人工智能模型中
● 文档知识基准（DK-bench）为了方便比较使用相关私有数据调整的AI模型与未调整的基模型的性能
红帽AI InstructLab在IBM云上
越来越多, 企业正在寻求优先考虑数据准确性和安全性的人工智能解决方案, 同时保持成本和复杂性尽可能低. 红帽AI InstructLab, 作为IBM Cloud上的一项服务可用, 旨在简化, 扩大并帮助提高人工智能系统训练和部署的安全性. 通过简化InstructLab模型的调整, 组织可以构建更高效的平台, 适应您独特需求的, 保持对您机密信息的控制.
关于人工智能基础的免费培训
人工智能是一个变革性的机会，正在重新定义企业的运营和竞争方式. 为了支持组织在这种动态环境中, 红帽公司提供关于人工智能基础的免费在线培训. 公司正在提供两个人工智能学习证书, 面向经验丰富的高级领导和初学者, 帮助教育各级用户了解人工智能如何帮助转变商业运营, 加快决策过程并推动创新
可用性
红帽OpenShift AI 2.18和红帽企业Linux AI 1.4 已经可用. 更多关于额外资源的信息, 改进, 可以找到关于错误修复和如何将您的 Red Hat OpenShift AI 更新到最新版本的信息这里,最新版本的RHEL AI可以在这里找到这里.
红帽AI InstructLab将在IBM Cloud上很快推出. 红帽的人工智能基础培训现已向客户开放
