Dvě velké hráči od otevřené transformace umělé inteligence jsme právě oznámili rozšíření spolupráce na podporu AI. Pokrok partnerství mezi Red Hat a Google Cloud je zaměřen na rozšíření seznamu podnikových aplikací pro AI, kombinující open source technologie lídra open source se specializovanou infrastrukturou Google a jeho rodiny modelů Gemma.
Společnosti společně posouvají případy použití pro škálování AI prostřednictvím:
- Spuštění open source projektu llm-d se zakládajícím spolupracovníkem Google;
- Podpora vLLM na Google Cloud TPU a virtuálních počítačích (VM) poháněných GPU pro zlepšení odvození AI;
- Podpora nulových dnů pro vLLM s distribucemi modelů Gemma 3;
- Dostupnost Red Hat AI Inference Serveru na Google Cloud;
- Vývoj AI agentic s Red Hat jako spolupracovníkem v protokolu Agent2Agent (A2A) společnosti Google.
Posílení odvození AI pomocí vLLM
Prokazuje svůj závazek k připravenosti od nulového dne Red Hat je nyní jedním z prvních testerů v rodině otevřených modelů Google, Gemma, počínaje Gemmou 3, s okamžitou podporou "vLLM" zůstává stejné v češtině, protože se jedná o zkratku, která nevyžaduje překlad. Pokud se jedná o název produktu nebo technologie, měli byste ji ponechat v původní formě. Pokud potřebujete přeložit další text, dejte mi prosím vědět.. vLLM je open source inferenční server, který urychluje spouštění generativních aplikací AI. Red Hat jako přední komerční přispěvatel do vLLM činí tuto platformu efektivnější a citlivější pro aplikace gen AI.
Kromě toho, uh google Cloud TPU, vysoce výkonné akcelerátory AI, které integrují portfolio AI společnosti Google, jsou nyní plně kompatibilní s vLLM. Tato integrace umožňuje vývojářům maximalizovat zdroje a zároveň získat výkon a efektivitu nezbytnou pro rychlé a přesné vyvozování.
Mnoho organizací si uvědomuje přechod od výzkumu umělé inteligence k nasazení v reálném světě a čelí složitosti rozmanitého ekosystému umělé inteligence a potřebě přijmout více distribuovaných výpočetních strategií open source projekt llm-d, se zakládajícím přispěvatelem Google. Tato iniciativa staví na hybnosti komunity vLLM a jejím cílem je zahájit novou éru pro genové odvozování AI. Cílem je umožnit větší škálovatelnost napříč heterogenními zdroji, optimalizovat náklady a zvýšit efektivitu pracovní zátěže - to vše při podpoře neustálé inovace.
Posílení podnikové umělé inteligence pomocí komunitních inovací
Přináší nejnovější pokroky z open source komunity do podnikového prostředí Red Hat AI Inference Server teď je k dispozici na Google Cloudpodobně jako podniková distribuce vLLM od Red Hat pomáhá AI Inference Server podnikům optimalizovat odvození modelů v jejich hybridním cloudovém prostředí. Využitím důvěryhodné infrastruktury Google Cloud mohou organizace nasadit generativní modely AI připravené na výrobu, které jsou vysoce citlivé a zároveň nákladově efektivní ve velkém měřítku.
Zdůraznění společného závazku otevřít AI, Red Hat také přispěl do protokolu Agent2Agent (A2A) google's 2 protokol na úrovni aplikací, který usnadňuje komunikaci mezi agenty a koncovými uživateli napříč různými platformami a cloudy. Aktivní účastí v ekosystému A2A se Red Hat snaží urychlit inovace a zajistit, aby pracovní postupy AI zůstaly dynamické a efektivní s jejich silou AI Agentní.
Summit Red Hat
Podívejte se na hlavní poznámky Red Hat Summit a poslechněte si nejnovější informace od vedoucích pracovníků, zákazníků a partnerů Red Hat:
- Moderní infrastruktura v souladu s podnikovou AI 20. května, 8:00 - 10:00 EDT (YouTube)
- Hybridní cloud se vyvíjí, aby poháněl obchodní inovace 21. května, 8h-9h30 EDT (YouTube)
