Nuove aggiornamenti in tutto il portafoglio di IA di Red Hat promuovono grandi trasformazioni nel settore aziendale. Attraverso Red Hat AI, l'azienda cerca di ampliare ulteriormente le capacità necessarie per accelerare l'adozione della tecnologia, offrendo maggiore libertà e fiducia ai clienti nelle implementazioni di IA generativa (gen AI) in ambienti di cloud ibrido. A partire dal lancio del Red Hat AI Inference Server, dei modelli validati da terzi su Red Hat AI e dell'integrazione con le API Llama Stack e Model Context Protocol (MCP), l'azienda si riposiziona sul mercato per diverse modalità di intelligenza artificiale.
Secondo Forrester, il software open source sarà il motore per accelerare gli sforzi di IA aziendale. Man mano che lo scenario dell'IA diventa più complesso e dinamico, ilRed Hat AI Inference Servere i modelli validati da terzi offrono inferenza efficiente e una collezione testata di modelli di IA ottimizzati per le prestazioni sulla piattaforma Red Hat AI. Con l'integrazione di nuove API per lo sviluppo di agenti di gen AI, che include Llama Stack e MCP, Red Hat lavora per semplificare la complessità dell'implementazione, consentendo a leader IT, scienziati dei dati e sviluppatori di avanzare nelle loro iniziative di IA con maggiore controllo ed efficienza.
Inferenza efficiente nel cloud ibrido con Red Hat AI Inference Server
Il portafoglio Red Hat AI include la novitàRed Hat AI Inference Server, disponendo de uma inferência mais rápida, consistente e econômica em escala, em ambientes de nuvem híbrida. Questa aggiunta è integrata nelle versioni più recenti di Red Hat OpenShift AI e Red Hat Enterprise Linux AI, ed è anche disponibile come soluzione indipendente, consentendo alle organizzazioni di implementare applicazioni intelligenti con maggiore efficienza, flessibilità e prestazioni.
Modelli testati e ottimizzati con Red Hat AI e validazione di terze parti
I modelli validati da terzi di Red Hat AIdisponibili suHugging Face, facilitano la scelta delle aziende nel momento di trovare i modelli giusti per le loro esigenze. Red Hat AI offre una raccolta di modelli validati, oltre a linee guida per l'implementazione che aumentano la fiducia dei clienti nelle prestazioni dei modelli e nella riproducibilità dei risultati. Anche i modelli selezionati sono ottimizzati da Red Hat, con tecniche di compressione del modello che ne riducono la dimensione e aumentano la velocità di inferenza, contribuendo a minimizzare il consumo di risorse e i costi operativi. Inoltre, il processo continuo di convalida dei modelli aiuta i clienti di Red Hat AI a rimanere all'avanguardia nell'innovazione in gen AI.
API standardizzate per lo sviluppo di applicazioni e agenti di IA con Llama Stack e MCP
Red Hat AI sta integrando ilStack di Lamainizialmente sviluppato da Meta, insieme alMCPda Anthropic, per fornire API standardizzate per la costruzione e l'implementazione di applicazioni e agenti di IA. Attualmente disponibile in versione preview per gli sviluppatori su Red Hat AI, Llama Stack offre un'API unificata per l'accesso all'inferenza con vLLM, generazione aumentata tramite recupero (RAG), valutazione dei modelli,barriere di sicurezzae agenti, in qualsiasi modello di intelligenza artificiale generativa. L'MCP consente ai modelli di integrarsi con strumenti esterni, fornendo un'interfaccia standardizzata per la connessione con API, plugin e fonti di dati nei flussi di lavoro degli agenti.
L'ultima versione delRed Hat OpenShift AI (v2.20)) offre miglioramenti aggiuntivi per costruire, addestrare, distribuire e monitorare modelli di IA generativa e predittiva su larga scala. Le novità includono:
- Catalogo di modelli ottimizzato (anteprima tecnica):accesso facilitato a modelli validati da Red Hat e di terzi, con implementazione tramite console web e gestione completa del ciclo di vita con registrazione integrata di OpenShift.
- Addestramento distribuito con KubeFlow Training Operatoresecuzione di regolazioni del modello con InstructLab e carichi di lavoro PyTorch distribuiti su più nodi e GPU di Red Hat OpenShift, con rete RDMA distribuita per accelerazione e migliore utilizzo della GPU, al fine di ridurre i costi.
- Store di funzionalità (bozza tecnica):basato sul progetto upstream Kubeflow Feast, offre un repository centralizzato per la gestione e la fornitura dei dati per l'addestramento e l'inferenza, ottimizzando il flusso dei dati e migliorando la precisione e la riusabilità dei modelli.
ILRed Hat Enterprise Linux AI 1.5porta nuove aggiornamenti alla piattaforma di modelli di base di Red Hat, dedicata allo sviluppo, test e esecuzione di modelli di linguaggio di grandi dimensioni (LLMs). Le principali funzionalità della versione 1.5 di RHEL AI includono:
- Disponibilità nel Google Cloud Marketplaceampliando a scelta dei clienti per eseguire Red Hat Enterprise Linux AI su cloud pubblici (oltre AWS e Azure), facilitando il deployment e la gestione dei carichi di lavoro di IA su Google Cloud.
- Capacità avanzate in più lingueper lo spagnolo, tedesco, francese e italiano tramite InstructLab, consentendo la personalizzazione dei modelli con script nativi e ampliando le possibilità di applicazioni di IA multilingue. Gli utenti possono anche utilizzare i propri modelli "insegnante" e "studente" per un maggiore controllo nella personalizzazione e nei test, con un supporto futuro previsto per giapponese, hindi e coreano.
IL Red Hat AI InstructLab su IBM Cloud ora è disponibile per tutti. Questo nuovo servizio cloud semplifica ancora di più il processo di personalizzazione dei modelli, migliorando la scalabilità e l'esperienza dell'utente. Le aziende possono utilizzare i propri dati in modo più efficiente e con un maggiore controllo.
Visione di Red Hat: qualsiasi modello, qualsiasi acceleratore, qualsiasi cloud
Il futuro dell'IA deve essere definito da opportunità illimitate e non limitato da silos di infrastrutture. Red Hat vede un orizzonte in cui le organizzazioni possano implementare qualsiasi modello, su qualsiasi acceleratore, in qualsiasi cloud, offrendo un'esperienza utente eccezionale e più coerente, senza costi esorbitanti. Per sbloccare il vero potenziale degli investimenti in gen AI, le aziende hanno bisogno di una piattaforma universale di inferenza — un nuovo standard per innovazioni in IA continue e ad alte prestazioni, sia nel presente che negli anni a venire.
Red Hat Summit
Partecipa alle keynote del Red Hat Summit per ascoltare le ultime novità di dirigenti, clienti e partner di Red Hat:
- Infrastruttura moderna allineata all'IA aziendale—Martedì 20 maggio, 8h-10h EDTYouTube)
- Il cloud ibrido si evolve per guidare l'innovazione aziendale— Mercoledì 21 maggio, 8:00-9:30 EDTYouTube)
