紅帽人工智慧利用所有模型、人工智慧加速器和雲端的企業人工智慧採用

紅帽人工智慧產品組合的新更新推動了企業產業的重大變革。透過紅帽人工智慧,該公司尋求進一步擴展加速技術採用所需的功能,為客戶在混合雲端環境中的生成式人工智慧(gen AI) 部署提供更多自由和信心。紅帽人工智慧推理伺服器的推出、第三方驗證模型在紅帽人工智慧中,以及與 Llama Stack 和模型上下文協定 (MCP) API 的集成,該公司重新定位到市場上的各種人工智慧模式。 

Forrester 表示,開源軟體將成為加速企業人工智慧工作的引擎。隨著人工智慧格局變得更加複雜和動態, 紅帽人工智慧推理伺服器 第三方驗證的模型在紅帽人工智慧平台上提供高效的推理和經過測試的效能最佳化人工智慧模型集合。透過整合用於 Gen AI 代理開發的新 API(包括 Llama Stack 和 MCP),Red Hat 致力於簡化部署複雜性,使 IT 領導者、資料科學家和開發人員能夠以更高的控制力和效率推進他們的人工智慧計劃。

使用紅帽 AI 推理伺服器進行高效的混合雲端推理

紅帽人工智慧產品組合採用了新的功能 紅帽人工智慧推理伺服器,在混合雲環境中進行更快、一致且經濟高效的大規模推理。此新增功能與最新版本的 Red Hat OpenShift AI 和 Red Hat Enterprise Linux AI 集成,並且還可以作為獨立解決方案提供,使組織能夠以更高的效率、靈活性和效能部署智慧應用程式。

使用紅帽人工智慧和第三方驗證嘗試並優化模型

第三方驗證的紅帽人工智慧模型,可在 擁抱臉,讓企業輕鬆選擇適合自己需求的模型。紅帽人工智慧提供了一系列經過驗證的模型以及部署指導,可增強客戶對模型效能和結果可重複性的信心。紅帽還對選定的模型進行了最佳化,採用模型壓縮技術,縮小了模型尺寸並提高了推理速度,有助於最大限度地減少資源消耗和營運成本。此外,持續的模型驗證過程有助於紅帽人工智慧客戶保持在人工智慧創新的前沿。

使用 Llama Stack 和 MCP 進行人工智慧應用和代理開發的標準化 API

紅帽人工智慧正在整合 駱駝棧的最初由 Meta 與 一起開發 MCP 來自anthropic,為建置和部署人工智慧應用程式和代理程式提供標準化api。目前,llama Stack 在 Red Hat AI 的開發人員預覽版本中提供,它提供了一個統一的 API,用於透過 vLLM、復原增強生成 (RAG)、模型評估等進行推理存取 護欄 和代理,在任何人工智慧世代模型中。MCP 允許模型與外部工具集成,提供用於連接到代理工作流程中的 API、插件和資料來源的標準化介面。

最新版本 紅帽 OpenShift AI (v2.20) 為大規模建置、訓練、部署和監控生成和預測人工智慧模型提供額外改進。亮點包括:

• 優化模型目錄(技術預覽): 透過 Web 控制台部署和整合 OpenShift 註冊的完整生命週期管理,輕鬆存取經過驗證的紅帽和第三方模型。

• 使用 KubeFlow 培訓操作員進行分散式培訓:使用分佈在多個 Red Hat OpenShift 節點和 GPU 上的 InstructLab 和 PyTorch 工作負載運行模型調整,並使用分散式 RDMA 網路進行加速和更好的 GPU 使用以降低成本。 

• 功能商店(技術預覽): 它基於上游 Kubeflow Feast 項目,提供了一個集中式儲存庫,用於管理和傳遞用於培訓和推理的數據、優化數據流並提高模型的準確性和可重複使用性。

O 紅帽企業 Linux AI 1.5 為紅帽核心模型平台帶來新更新,專注於開發、測試和執行大規模語言模型(LLM)。 RHEL AI 1.5 版的主要功能包括:

• Google Cloud Marketplace 中的可用性 擴大客戶在公有雲(除了 AWS 和 Azure 之外)上運行 Red Hat Enterprise Linux AI 的選擇,從而更輕鬆地在 Google Cloud 上部署和管理 AI 工作負載。

• 增強多種語言的功能 透過 InstructLab 提供西班牙語、德語、法語和義大利語,允許使用本機腳本自訂模型,並擴展多語言人工智慧應用程式的可能性。用戶還可以使用自己的"“teacher”和“student”來更好地控制定制和測試,並預測未來將支援日語、印地語和韓語。

O IBM Cloud 上的紅帽 AI InstructLab 這項新的雲端服務進一步簡化了客製化模型的過程,提高了可擴展性和使用者體驗。企業可以更有效率、更嚴格地使用資料。

紅帽願景:任何模型、任何加速器、任何雲端

人工智慧的未來必須由無限的機會來定義,而不是受到基礎設施孤島的限制。紅帽看到了一個地平線,組織可以在任何加速器、任何雲端中部署任何模型,以不過高成本提供卓越且更一致的用戶體驗。為了釋放人工智慧投資的真正潛力,公司需要一個通用的推理平台和一個新標準,以實現持續、高效能的人工智慧創新,無論是在現在還是在未來幾年。

紅帽峰會

參加紅帽高峰會主題演講,聆聽紅帽高階主管、客戶和合作夥伴的最新動態:

• 現代基礎設施與企業人工智慧保持一致 美國東部時間 5 月 20 日 8 點至 10 點(優柔寡斷)
• 混合雲的發展推動業務創新 5 月 21 日,美國東部時間 8 點至 9 點 30 分(優柔寡斷)