dva velika igrači Otvorena transformacija umjetne inteligencije upravo je najavila opseg suradnje za jačanje umjetne inteligencije. Napredak partnerstva između Red Hata i Google Clouda usredotočuje se na proširenje popisa poslovnih aplikacija za AI, spajajući tehnologije otvorenog koda lidera otvorenog koda sa specijaliziranom infrastrukturom Googlea i njegove obitelji modela, Gemma.
Zajedno, tvrtke će unaprijediti u slučajevima korištenja za eskalaciju umjetne inteligencije putem:
- pokretanje LLM-D projekta otvorenog koda, s Googleom kao osnivačem;
- Podržite VLLM na Google Cloud TPU-ovima i VM-ovima s GPU-ovima za poboljšanje AI zaključivanja;
- Podrška na dan nula do VLLM s distribucijama modela Gemma 3;
- dostupnost Red Hat AI poslužitelja za zaključivanje na Google Cloudu;
- AI Agentski razvoj s Red Hatom kao suradnikom na Googleovom protokolu Agent2Agent (A2A).
Pojačavanje AI zaključivanja s VLLM
pokazujući svoju predanost spremnosti od nultog dana, Red Hat je sada jedan od prvih testera Googleove obitelji Open Model Gemma, počevši od Gemme 3, uz neposrednu podršku za vllm. VLLM je poslužitelj za zaključivanje otvorenog koda koji ubrzava izvršavanje generativnih AI aplikacija. Kao vodeći poslovni suradnik VLLM-a, Red Hat ovu platformu čini učinkovitijom i odgovornijom za Genia aplikacije.
Osim toga, Google Cloud TPU, AI akceleratori visokih performansi koji integriraju Googleov AI portfelj, sada su potpuno kompatibilni s VLLM-om. Ova integracija omogućuje programerima da maksimiziraju resurse uz dobivanje bitnih performansi i učinkovitosti za brzo i točno zaključivanje.
Prepoznajući prijelaz s istraživanja umjetne inteligencije na implementaciju u stvarnom svijetu, mnoge se organizacije suočavaju sa složenošću raznolikog ekosustava umjetne inteligencije i potrebom za usvajanjem više distribuiranih računalnih strategija. Kako bi zadovoljio ovu potražnju, Red Hat je pokrenuo LLM-D projekt otvorenog koda, s Googleom kao osnivačem. Koristeći prednost impulsa VLLM zajednice, ova inicijativa ima za cilj inaugurirati novu eru za zaključivanje generacije AI. Cilj je omogućiti veću skalabilnost u heterogenim resursima, optimizirati troškove i povećati učinkovitost radnog opterećenja — sve uz promicanje kontinuirane inovacije.
Poticanje poslovne umjetne inteligencije inovacijama u zajednici
donoseći najnovija dostignuća iz zajednice otvorenog koda u poslovno okruženje, Red Hat AI poslužitelj za zaključivanje sada Dostupan je na Google Cloudu. Baš kao i VLLM-ova poslovna distribucija od strane Red Hata, AI Inference Server pomaže tvrtkama da optimiziraju zaključivanje modela u svom hibridnom okruženju oblaka. Koristeći pouzdanu infrastrukturu Google Clouda, organizacije mogu implementirati generativne modele AI spremne za proizvodnju, koji su i vrlo osjetljivi i ekonomični u razmjeru.
naglašavajući zajedničku obvezu s otvorenim umjetnom inteligencijom, Red Hat je također počeo pridonositi protokolu Agent2Agent (A2A) Google — Protokol na razini aplikacije koji olakšava komunikaciju između agenata i krajnjih korisnika na različitim platformama i oblacima. Aktivnim sudjelovanjem u A2A ekosustavu, Red Hat nastoji ubrzati inovacije i osigurati da tijekovi rada AI ostanu dinamični i učinkoviti uz moć AI agent.
Vrh od crvenog šešira
Gledajte ključne riječi Red Hat Summita kako biste čuli najnovije vijesti rukovoditelja, kupaca i partnera Red Hata:
- Moderna infrastruktura usklađena s poslovnom AI —Utorak, 20. svibnja, 8-10 sati EDTYouTube)
- Hibridna oblak evoluira kako bi potaknula poslovnu inovaciju — Srijeda, 21. svibnja, 8-9:30 EDTYouTube)
