Red Hat AI利用了企业AI在所有模型、AI加速器和云中的采用

Red Hat AI 产品组合中的新更新推动了企业行业的重大转型,通过 Red Hat AI,该公司寻求进一步扩展加速技术采用所需的功能,为客户在混合云环境中的生成式 AI (gen AI) 部署提供更多自由和信心。随着 Red Hat AI 推理服务器的推出、Red Hat AI 中第三方验证的模型以及与 Llama 堆栈和模型上下文协议 (MCP) API 的集成,该公司将各种人工智能模式重新定位到市场。. 

Forrester 表示,开源软件将成为加速企业人工智能努力的引擎。随着人工智能格局变得更加复杂和动态, 红帽人工智能推理服务器 第三方验证模型在红帽 AI 平台上提供高效的推理和经过测试的性能优化 AI 模型集合。通过集成用于 gen AI 代理开发的新 API(包括 Llama Stack 和 MCP),红帽致力于简化部署复杂性,赋予 IT 领导者、数据科学家和开发人员以更多控制和效率推进其 AI 计划的能力。.

使用红帽 AI 推理服务器进行高效混合云推理

红帽人工智能产品组合采用全新产品 红帽人工智能推理服务器,、跨混合云环境大规模提供更快、一致且经济高效的推理,这一新增功能与最新版本的红帽OpenShift AI和红帽企业Linux AI集成在一起,同时也可作为独立解决方案使用,使组织能够以更高的效率、灵活性和性能部署智能应用程序。.

尝试并优化了具有红帽人工智能和第三方验证的模型

Red Hat AI 的第三方验证模型, ,可在 拥抱脸, 、让企业轻松选择适合自己需求的模型 红帽AI提供了一系列经过验证的模型,以及部署指导,可提高客户对模型性能和结果再现性的信心 精选模型还经过红帽优化,具有缩小其尺寸并提高推理速度的模型压缩技术,有助于最大限度地减少资源消耗和运营成本 此外,持续的模型验证过程可帮助红帽AI客户保持在gen AI创新的前沿。.

使用 Llama Stack 和 MCP 进行 AI 应用程序和代理开发的标准化 API

红帽AI正在整合 美洲驼堆栈的, 最初由 Meta 与 MCP anthropic,以提供用于构建和部署ai应用程序和代理的标准化api。目前在红帽ai中的开发者预览版本中,llama Stack提供了一个统一的API,用于具有vLLM的推理访问,恢复增强生成(RAG),模型评估等, 护栏 和代理,在任何 AI 基因模型中。MCP 允许模型与外部工具集成,为连接到代理工作流程中的 API、插件和数据源提供标准化接口。.

的最新版本 红帽 OpenShift AI (v2.20)) 提供额外的改进, 以大规模构建、训练、部署和监控生成和预测性 AI 模型, 亮点包括:

• 优化模型目录(技术预览): 通过 Web 控制台部署和完整的生命周期管理以及集成的 OpenShift 注册,可以轻松访问经过验证的红帽和第三方模型。.

• KubeFlow 培训操作员的分布式培训:使用分布在多个红帽 OpenShift 节点和 GPU 上的 InstructLab 和 PyTorch 工作负载运行模型调整,并使用分布式 RDMA 网络进行加速和更好的 GPU 使用,以降低成本。. 

• 功能商店(技术预览): kubeflow Feast上游项目为基础,提供一个集中存储库,用于管理和提供用于训练和推理的数据,优化数据流并提高模型的准确性和可重用性。.

这 红帽企业 Linux AI 1.5 red Hat的核心模型平台带来新的更新,专注于开发、测试和执行大规模语言模型(LLM)。RHEL AI 1.5版的主要功能包括:

• Google 云市场中的可用性, 扩大客户在公共云(除了 AWS 和 Azure)上运行 Red Hat Enterprise Linux AI 的选择,从而使在 Google Cloud 上部署和管理 AI 工作负载变得更加容易。.

• 多种语言的增强功能 instructlab的西班牙语、德语、法语和意大利语,允许使用原生脚本定制模型,并扩展多语言ai应用程序的可能性。用户还可以使用自己的“老师”和“学生”在定制和测试中进行更大的控制,未来预计将支持日本语、印地语和韩国语。.

这 IBM 云上的红帽 AI 指令实验室 zhe项新的云服务进一步简化了定制模型的过程,提高了可扩展性和用户体验,企ye可以更有效率地使用其数据,并具有更大的控制力。.

Visão da Red Hat: qualquer modelo, qualquer acelerador, qualquer nuvem

O futuro da IA deve ser definido por oportunidades ilimitadas e não restrito por silos de infraestrutura. A Red Hat enxerga um horizonte no qual as organizações possam implantar qualquer modelo, em qualquer acelerador, em qualquer nuvem, entregando uma experiência de usuário excepcional e mais consistente, sem custos exorbitantes. Para desbloquear o verdadeiro potencial dos investimentos em gen AI, as empresas precisam de uma plataforma universal de inferência — um novo padrão para inovações em IA contínuas e de alto desempenho, tanto no presente quanto nos próximos anos.

红帽峰会

加入红帽峰会主题演讲,聆听红帽高管、客户和合作伙伴的最新消息:

• 现代基础设施与企业人工智能保持一致 美国东部时间 5 月 20 日 8 点至 10 点(YouTube)
• 混合云不断发展以推动业务创新 5 月 21 日,美国东部时间 8 点至 9 点 30 分(YouTube)