紅帽和谷歌雲端擴大聯盟以推動人工智慧和人工智慧代理的開放

兩個大的 球員 從人工智慧的開放轉型開始,我們剛剛宣布擴大合作以推動人工智慧。紅帽與google雲端合作關係的推進重點是擴大人工智慧業務應用程式列表,將開源領導者的開源技術與google及其模型系列 Gemma 的專業基礎設施相結合。

公司將共同推進人工智慧擴展的用例:

• 啟動開源 llm-d 項目,Google 作為創始合作者;
• 支援 Google Cloud TPU 和支援 GPU 的虛擬機器 (VM) 上的 vLLM,以增強 AI 推理;
• 使用 Gemma 3 模型發行版零日支援 vLLM;
• Google Cloud 上紅帽 AI 推理伺服器的可用性; 
• 與紅帽作為 Google Agent2Agent (A2A) 協定的合作者開發人工智慧代理。

透過 vLLM 加強人工智慧推理

表明其從零開始就做好準備的承諾 Red Hat 現在是 Google 開放模型系列 Gemma 的首批測試者之一,從 Gemma 3 開始,立即支援 vllm. vLLM 是一個開源推理伺服器,可加速生成式人工智慧應用程式的執行。作為 vLLM 的主要商業貢獻者,紅帽正在使該平台對於一代人工智慧應用程式更加高效和靈敏。

另外,呃 google Cloud TPU 是整合 Google AI 產品組合的高效能 AI 加速器,現已與 vLLM 完全相容. 這種整合使開發人員能夠最大限度地利用資源,同時獲得快速、準確推理所需的效能和效率。

認識到從人工智慧研究到現實世界部署的轉變,許多組織面臨著多樣化人工智慧生態系統的複雜性以及採用更分散式運算策略的需要 開源專案 llm-d,谷歌作為創始貢獻者。在 vLLM 社群的勢頭基礎上,該舉措旨在開創人工智慧推理的新時代。目標是在異質資源中實現更大的可擴展性,優化成本並提高工作負載效率,同時促進持續創新。

透過社區為基礎的創新來推動企業人工智慧的發展

將開源社群的最新進展帶入企業環境 紅帽人工智慧推理伺服器 現在 它可以在 Google Cloud 上使用與紅帽vllm 的企業發行版類似,AI 推理伺服器可協助企業在其混合雲端環境中優化模型推理。透過利用Google Cloud 可信的基礎設施,組織可以部署可生產就緒的生成式AI 模型,這些模型既響應靈敏又靈敏。規模經濟高效。

強調對開放人工智慧的共同承諾 紅帽也繼續為該協議做出了貢獻 Agent2Agent (A2A) 谷歌的 2an 應用程式級協議,促進代理商和最終用戶之間跨不同平台和雲端的通訊。透過積極參與 A2A 生態系統,紅帽力求加速創新並確保人工智慧工作流程保持動態和有效 人工智慧代理.

紅帽峰會

觀看紅帽高峰會主題演講,聆聽紅帽高階主管、客戶和合作夥伴的最新動態:

• 現代基礎設施與企業人工智慧保持一致 美國東部時間 5 月 20 日 8 點至 10 點(優柔寡斷)
• 混合雲的發展推動業務創新 5 月 21 日,美國東部時間 8 點至 9 點 30 分(優柔寡斷)