紅帽與紅帽人工智慧在混合雲中為企業人工智慧提供支援

紅帽剛剛發布了紅帽人工智慧的新更新,其產品和服務組合旨在加速混合雲中人工智慧解決方案的開發和部署。紅帽人工智慧為模型培訓和推理提供了企業人工智慧平台,提供更多經驗,靈活性和簡化體驗,可在混合雲中的任何位置部署系統。.

為了降低實施大型語言模型 (LLMS) 的成本以滿足越來越多的用例,公司仍然面臨著將這些系統與其專有資料整合並從任何地方存取它們的挑戰:無論是在資料中心、在公有雲甚至邊緣。.

紅帽人工智慧整合了紅帽OpenShift AI 和紅帽企業Linux AI (RHEL AI),透過提供企業人工智慧平台來解決這些問題,使您能夠採用更有效率和優化的模型,並根據特定業務的數據進行調整,並有可能部署在混合雲端中,以訓練各種運算架構的模型。.

對於紅帽人工智慧業務部門副總裁兼總經理 Joe Fernandes 來說,此次更新使組織能夠在人工智慧之旅中準確且經濟高效。 “紅帽知道,隨著公司為生產和大規模運營帶來更多用例,他們將需要方法來管理不斷上漲的生成式人工智慧部署成本。紅帽人工智慧幫助組織應對這些挑戰,使他們能夠使用數據訓練更有效率、專門構建的模型,並在本地、雲端和邊緣環境中實現靈活的推理。”。”。”

红帽OpenShift AI

紅帽 OpenShift AI 提供了一個完整的人工智慧平台來管理混合雲端中預測和生成人工智慧 (gen AI) 的生命週期,包括機器學習操作 (MLOps) 和大型語言模型操作 (LLMOps) 功能。該平台提供建立預測模型和微調一代人工智慧模型的功能,以及簡化人工智慧模型管理的工具,從資料科學管道和模型到模型監控、治理等。.  

該平台的最新版本 Red Hat OpenShift AI 2.18 增加了新的更新和功能,以支援 Red Hat AI 將更優化和高效的 AI 模型引入混合雲的目標

'''      分散式服務:分散式服務可透過 vLLM 推理伺服器使用,讓 IT 團隊在多個圖形處理單元 (GPU) 之間分割模型服務。這有助於減輕單一伺服器上的負載,加快培訓和微調,並促進更有效地使用運算資源,同時幫助在人工智慧模型的節點之間分配服務。.

'''      端到端模型調整的經驗: 使用 InstructLab 和 Red Hat OpenShift AI 資料科學管道,這項新功能有助於簡化 LLM 的微調,使其在大型生產環境中更具可擴展性、高效性和可審核性,同時透過 Red Hat OpenShift AI 控制面板提供管理。.

'''      護欄人工智慧:Red Hat OpenShift AI 2.18 透過 AI Guardrails 技術的預覽來幫助提高法學碩士的準確性、效能、延遲和透明度,該技術監控和保護使用者輸入互動和模型輸出。 AI Guardrails 提供額外的偵測功能,幫助 IT 團隊識別和減輕潛在的仇恨、辱罵或褻瀆言論、個人識別資訊、競爭對手資料或其他公司政策限制言論。.

'''      模型評估:使用語言模型評估組件(lm-eval)提供有關模型整體品質的重要信息,模型評估允許數據科學家比較他們在一系列任務中的法學碩士表現,從邏輯和數學推理到對抗性自然語言,幫助創建更有效、反應靈敏和客製化的人工智慧模型。.

RHEL

作為紅帽人工智慧產品組合的一部分,RHEL AI 是一個基本模型平台,用於更一致地開發、測試和運行法學碩士,目標是驅動企業應用程式。RHEL AI 提供Granite LLM 模型和InstructLab 模型對齊工具,這些工具是Red Hat Enterprise Linux 可啟動映像,可部署在混合雲中。.

RHEL 1.4 於 2025 年 2 月推出,帶來了多項改進,包括:

'''      支援型號 Granite 3.1 8B 作為開源 Granite 模型系列的最新成員,該模型增加了對分類/知識推理和自訂(開發人員預覽)的多語言支持,以及 128k 上下文窗口,以改善摘要結果和檢索增強生成 (RAG) 的採用任務

'''      新的圖形使用者介面可貢獻先前的技能和知識, 以開發人員預覽格式提供,目的是簡化資料消耗和碎片,並允許使用者將自己的技能和貢獻添加到人工智慧模型中。.

'''      文件知識台(DK-bench) 促進調整後的人工智慧模型與相關私人資料以及相同未調整基礎模型的效能之間的比較。.

IBM Cloud 上的紅帽 AI InstructLab

企業越來越多地尋找人工智慧解決方案,優先考慮資料的準確性和安全性,同時盡可能降低成本和複雜性。紅帽人工智慧指令實驗室作為IBM 雲端上的服務提供,旨在簡化、擴展和幫助提高培訓和部署人工智慧系統的安全性。透過簡化指令實驗室模型的調整,組織可以建立更有效率的平台,以滿足其獨特的需求,同時追蹤他們的敏感資訊。. 

人工智慧基礎知識免費培訓

人工智慧是一個變革性的機會,它正在重新定義公司的運作和競爭方式。為了支持這種動態環境中的組織,紅帽提供人工智慧基礎知識的免費線上培訓。該公司提供兩種人工智慧學習證書,針對經驗豐富的高級領導者和初學者,幫助教育各級用戶人工智慧如何幫助轉型業務營運、簡化決策並推動創新。.

可用性

紅帽 OpenShift AI 2.18 和紅帽企業 Linux AI 1.4 現已推出。可以找到有關附加功能、改進、錯誤修復以及如何將 Red Hat OpenShift AI 版本更新到最新版本的更多資訊 這裡,並且可以找到最新版本的RHEL AI 這裡.

IBM Cloud 上的紅帽 AI InstructLab 即將推出。紅帽人工智慧基礎培訓現已向客戶提供。.