Dva glavna akterja na področju odprte transformacije umetne inteligence sta pravkar napovedala širitev sodelovanja za izboljšanje umetne inteligence. Napredek partnerstva med Red Hatom in Google Cloudom se osredotoča na širitev nabora poslovnih aplikacij za umetno inteligenco, pri čemer združuje odprtokodne tehnologije vodilnega ponudnika odprte kode z Googlovo specializirano infrastrukturo in njegovo družino modelov Gemma.
Podjetji bosta skupaj pospešili primere uporabe za skaliranje umetne inteligence z:
- Začetek odprtokodnega projekta llm-d, katerega ustanovitelj je Google;
- Podpora za vLLM na TPU-jih Google Cloud in virtualnih strojih (VM) z omogočeno grafično kartico za izboljšanje sklepanja umetne inteligence;
- Podpora za ničelni dan za vLLM z distribucijami modela Gemma 3;
- Razpoložljivost strežnika Red Hat AI Inference Server v storitvi Google Cloud;
- Razvoj agentne umetne inteligence z Red Hatom kot sodelavcem pri Googlovem protokolu Agent2Agent (A2A).
Krepitev sklepanja umetne inteligence z vLLM
dokazuje svojo zavezanost pripravljenosti že prvi dan in je zdaj eden prvih preizkuševalcev Googlove družine odprtih modelov Gemma, začenši z Gemma 3, s takojšnjo podporo za vLLM . vLLM je odprtokodni strežnik za sklepanje, ki pospešuje izvajanje generativnih aplikacij umetne inteligence. Kot vodilni komercialni sodelavec vLLM Red Hat to platformo izboljšuje in povečuje njeno odzivnost za generativne aplikacije umetne inteligence.
Poleg tega so Google Cloud TPU-ji, visokozmogljivi pospeševalniki umetne inteligence, ki so del Googlovega portfelja umetne inteligence, zdaj popolnoma združljivi z vLLM . Ta integracija razvijalcem omogoča maksimiranje virov, hkrati pa doseganje zmogljivosti in učinkovitosti, ki sta bistveni za hitro in natančno sklepanje.
Ob prepoznavanju prehoda od raziskav umetne inteligence k uporabi v resničnem svetu se številne organizacije soočajo s kompleksnostjo raznolikega ekosistema umetne inteligence in potrebo po sprejetju bolj porazdeljenih računalniških strategij. Da bi odgovorili na to povpraševanje, je Red Hat zagnal odprtokodni projekt llm-d , pri katerem je Google eden od ustanovnih sodelavcev. Ta pobuda, ki izkorišča zagon skupnosti vLLM, želi uvesti novo dobo za sklepanje genov umetne inteligence. Cilj je omogočiti večjo skalabilnost med heterogenimi viri, optimizirati stroške in povečati učinkovitost delovne obremenitve – vse to ob spodbujanju nenehnih inovacij.
Spodbujanje umetne inteligence v podjetjih z inovacijami, ki temeljijo na skupnosti
Red Hat AI Inference Server , ki v poslovno okolje prinaša najnovejše dosežke skupnosti odprtokodnih programov, je zdaj . Podobno kot Red Hatova distribucija vLLM za podjetja tudi AI Inference Server pomaga podjetjem optimizirati sklepanje modelov v njihovem hibridnem oblačnem okolju. Z uporabo zaupanja vredne infrastrukture Google Cloud lahko organizacije uvedejo generativne modele umetne inteligence, pripravljene za produkcijo, ki so hkrati zelo odzivni in stroškovno učinkoviti v velikem obsegu.
s poudarkom na svoji skupni zavezanosti odprti umetni inteligenci začel prispevati tudi k Googlovemu Agent2Agent (A2A) – protokolu na ravni aplikacije, ki omogoča komunikacijo med agenti in končnimi uporabniki na različnih platformah in v oblakih. Z aktivnim sodelovanjem v ekosistemu A2A si Red Hat prizadeva pospešiti inovacije in zagotoviti, da delovni tokovi umetne inteligence ostanejo dinamični in učinkoviti z močjo Agentic AI .
Vrh Red Hat
Oglejte si glavne govore na vrhu Red Hat Summit in prisluhnite najnovejšim novicam vodilnih delavcev, strank in partnerjev Red Hata:
- Sodobna infrastruktura, usklajena z umetno inteligenco v podjetjih — torek, 20. maj, 8.–10.00 EDT ( YouTube )
- Hibridni oblak se razvija za spodbujanje poslovnih inovacij – sreda, 21. maj, 8.–9.30 EDT ( YouTube )
