Due leader giocatori della trasformazione aperta dell'intelligenza artificiale hanno appena annunciato l'estensione della collaborazione per potenziare l'IA. L'evoluzione del partenariato tra Red Hat e Google Cloud si concentra sull'ampliamento del panorama delle applicazioni aziendali per l'IA, unendo le tecnologie open source del leader dell'open source con l'infrastruttura specializzata di Google e la sua famiglia di modelli, Gemma.
Insieme, le aziende faranno avanzare i casi d'uso per il ridimensionamento dell'IA attraverso:
- Lancio del progetto open source llm-d, con Google come collaboratore fondatore;
- Supporto per vLLM su TPU di Google Cloud e macchine virtuali (VM) con GPU per potenziare l'inferenza di IA;
- Supporto al day zero per vLLM con le distribuzioni del modello Gemma 3;
- Disponibilità di Red Hat AI Inference Server su Google Cloud;
- Sviluppo di IA agenziale con Red Hat come collaboratrice nel protocollo Agent2Agent (A2A) di Google.
Rafforzamento dell'inferenza di IA con vLLM
Dimostrando il proprio impegno per la prontezza fin dal day zero, Red Hat è ora una dei primi tester della famiglia di modelli aperti di Google, Gemma, a partire da Gemma 3, con supporto immediato per vLLM. vLLM è un server di inferenza open source che accelera l'esecuzione di applicazioni di IA generativa. Come principale collaboratrice commerciale di vLLM, Red Hat sta rendendo questa piattaforma più efficiente e reattiva per le applicazioni di IA generativa.
Inoltre, ehm Le TPU di Google Cloud, acceleratori di IA ad alte prestazioni che integrano il portafoglio IA di Google, sono ora completamente compatibili con vLLM. Questa integrazione consente agli sviluppatori di massimizzare le risorse ottenendo al contempo le prestazioni e l'efficienza essenziali per un'inferenza rapida e precisa.
Riconoscendo la transizione dalla ricerca in IA alla distribuzione nel mondo reale, molte organizzazioni affrontano le complessità di un ecosistema di IA diversificato e la necessità di adottare strategie di computing più distribuite. Per soddisfare questa domanda, Red Hat ha lanciato il progetto open source llm-d, con Google come collaboratore fondatore. Sfruttando lo slancio della comunità di vLLM, questa iniziativa mira a inaugurare una nuova era per l'inferenza di IA generativa. L'obiettivo è consentire una maggiore scalabilità su risorse eterogenee, ottimizzare i costi e aumentare l'efficienza dei carichi di lavoro, tutto promuovendo al contempo l'innovazione continua.
Potenziamento dell'IA aziendale con l'innovazione basata sulla comunità
Portando i più recenti progressi della comunità open source nell'ambiente aziendale, Red Hat AI Inference Server è ora disponibile su Google Cloud. Come distribuzione aziendale di vLLM da parte di Red Hat, AI Inference Server aiuta le aziende a ottimizzare l'inferenza dei modelli in tutto il loro ambiente di cloud ibrido. Utilizzando l'infrastruttura affidabile di Google Cloud, le organizzazioni possono distribuire modelli di IA generativa pronti per la produzione, che sono sia altamente reattivi che convenienti su scala.
Evidenziando l'impegno congiunto per un'IA aperta, Red Hat ha anche iniziato a contribuire al protocollo Agent2Agent (A2A) di Google — un protocollo a livello applicativo che facilita la comunicazione tra agenti e utenti finali su piattaforme e cloud diversi. Partecipando attivamente all'ecosistema A2A, Red Hat mira ad accelerare l'innovazione e garantire che i flussi di lavoro di IA rimangano dinamici ed efficaci con la potenza della IA Agenziale.
Red Hat Summit
Guarda le keynote del Red Hat Summit per ascoltare le ultime novità dai dirigenti, clienti e partner di Red Hat:
- Infrastruttura moderna allineata all'intelligenza artificiale aziendale 20 maggio, 8h - 10h EDT (YouTube)
- Il cloud ibrido si evolve per guidare l'innovazione aziendale 21 maggio, 8h-9h30 EDT (YouTube)
