Dvi didelės žaidėjai nuo atviros dirbtinio intelekto transformacijos ką tik paskelbėme apie bendradarbiavimo išplėtimą, kad paskatintume AI. Red Hat ir Google Cloud partnerystės pažanga yra orientuota į AI verslo programų sąrašo išplėtimą, derinant atvirojo kodo lyderio atvirojo kodo technologijas su specializuota Google infrastruktūra ir jos modelių šeima Gemma.
Kartu įmonės išplės AI naudojimo atvejus:
- Atvirojo kodo llm-d projekto paleidimas, kai Google yra bendradarbis;
- Palaikykite vLLM Google Cloud TPU ir GPU įgalintose virtualiosiose mašinose (VM), kad pagerintumėte AI išvadas;
- Nulinės dienos palaikymas vLLM su Gemma 3 modelių platinimais;
- Red Hat AI išvadų serverio prieinamumas Google Cloud;
- AI agentikos kūrimas su Red Hat kaip bendradarbiu Google Agent2Agent (A2A) protokole.
AI išvados stiprinimas naudojant vLLM
Parodydamas savo įsipareigojimą būti pasirengusiam nuo nulinės dienos, Red Hat dabar yra vienas iš pirmųjų bandytojų Google atvirų modelių šeimoje Gemma, pradedant Gemma 3, su neatidėliotinu palaikymu vllm. vLLM yra atvirojo kodo išvadų serveris, kuris pagreitina generatyvių AI programų vykdymą. Kaip pirmaujanti komercinė vLLM bendradarbė, Red Hat daro šią platformą efektyvesnę ir reaguojančią į gen AI programas.
Be to, uh google Cloud TPU, didelio našumo AI greitintuvai, integruojantys Google AI portfelį, dabar yra visiškai suderinami su vLLM. Ši integracija leidžia kūrėjams maksimaliai padidinti išteklius, tuo pačiu užtikrinant našumą ir efektyvumą, būtinus norint greitai ir tiksliai daryti išvadas.
Pripažįstant perėjimą nuo dirbtinio intelekto tyrimų prie diegimo realiame pasaulyje, daugelis organizacijų susiduria su įvairios dirbtinio intelekto ekosistemos sudėtingumu ir poreikiu priimti labiau paskirstytas skaičiavimo strategijas atvirojo kodo projektas llm-d„google kaip steigėjas. Remiantis vLLM bendruomenės impulsu, šia iniciatyva siekiama pradėti naują gen AI išvadų erą. Tikslas yra sudaryti sąlygas didesniam mastelio keitimui tarp nevienalyčių išteklių, optimizuoti išlaidas ir padidinti darbo krūvio efektyvumą - visa tai skatinant nuolatines naujoves.
Įmonės AI skatinimas bendruomeninėmis naujovėmis
Naujausius atvirojo kodo bendruomenės pasiekimus į įmonės aplinką Red Hat AI išvadų serveris dabar jis pasiekiamas Google Cloudpanašiai kaip Red Hat įmonės vLLM platinimas, AI Inference Server padeda įmonėms optimizuoti modelio išvadas visoje hibridinėje debesies aplinkoje. Pasinaudodamos patikima Google Cloud infrastruktūra, organizacijos gali įdiegti gamybai paruoštus generatyvius AI modelius, kurie yra labai jautrūs ir ekonomiški. - efektyvus mastu.
Pabrėždamas bendrą įsipareigojimą atverti AI, Red Hat taip pat prisidėjo prie protokolo Agent2Agent (A2A) google's 2an programos lygio protokolas, kuris palengvina agentų ir galutinių vartotojų bendravimą įvairiose platformose ir debesyse. aktyviai dalyvaudama A2A ekosistemoje, Red Hat siekia paspartinti naujoves ir užtikrinti, kad dirbtinio intelekto darbo eigos išliktų dinamiškos ir veiksmingos AI agentas.
Raudonosios kepurės viršūnių susitikimas
Žiūrėkite Red Hat Summit pagrindinius pranešimus, kad išgirstumėte naujausius Red Hat vadovų, klientų ir partnerių pranešimus:
- Šiuolaikinė infrastruktūra, suderinta su įmonės AI Gegužės 20 d., 8h - 10h EDT (YouTube)
- Hibridinis debesis vystosi, kad paskatintų verslo naujoves Gegužės 21 d., 8h-9h30 EDT (YouTube)
