Red Hat AI sfrutta l'adozione dell'intelligenza artificiale aziendale su tutti i modelli, acceleratori di intelligenza artificiale e cloud

Nuovi aggiornamenti nel portafoglio AI di Red Hat guidano importanti trasformazioni nel settore enterprise Attraverso Red Hat AI, l'azienda cerca di estendere ulteriormente le funzionalità necessarie per accelerare l'adozione della tecnologia, offrendo maggiore libertà e fiducia ai clienti nelle implementazioni di IA generativa (gen AI) in ambienti cloud ibridi, A partire dal lancio di Red Hat AI Inference Server, modelli convalidati di terze parti in Red Hat AI e integrazione con le API Llama Stack e Model Context Protocol (MCP), l'azienda si affida al mercato per varie modalità di intelligenza artificiale. 

Secondo Forrester, il software open source sarà il motore per accelerare gli sforzi di intelligenza artificiale aziendale. Man mano che il panorama dell’intelligenza artificiale diventa più complesso e dinamico, il Red Hat AI Inference Server e i modelli convalidati di terze parti offrono un'inferenza efficiente e una raccolta testata di modelli di AI ottimizzati per le prestazioni sulla piattaforma di AI Red Hat Integrando nuove API per lo sviluppo di agenti di intelligenza artificiale gen, che include Llama Stack e MCP, Red Hat lavora per semplificare la complessità della distribuzione, consentendo ai leader IT, ai data scientist e agli sviluppatori di portare avanti le loro iniziative di intelligenza artificiale con maggiore controllo ed efficienza.

Inferenza efficiente del cloud ibrido con Red Hat AI Inference Server

Il portfolio Red Hat AI presenta il nuovo Red Hat AI Inference Server, dotato di inferenza più rapida, coerente ed economica su larga scala in ambienti cloud ibridi Questa aggiunta è integrata con le ultime versioni di Red Hat OpenShift AI e Red Hat Enterprise Linux AI, ed è disponibile anche come soluzione autonoma, consentendo alle organizzazioni di implementare applicazioni intelligenti con maggiore efficienza, flessibilità e prestazioni.

Modelli provati e ottimizzati con Red Hat AI e validazione di terze parti

I modelli convalidati di terze parti di Red Hat AI, disponibile in Faccia abbracciante, Rendere facile per le aziende scegliere i modelli giusti per le loro esigenze Red Hat AI offre una raccolta di modelli convalidati, nonché una guida alla distribuzione che aumenta la fiducia dei clienti nelle prestazioni del modello e la riproducibilità dei risultati I modelli selezionati sono inoltre ottimizzati da Red Hat, con tecniche di compressione dei modelli che ne riducono le dimensioni e aumentano la velocità di inferenza, contribuendo a ridurre al minimo il consumo di risorse e i costi operativi Inoltre, il processo di convalida continua del modello aiuta i clienti Red Hat AI a rimanere in prima linea nell'innovazione gen AI.

API standardizzate per applicazioni AI e sviluppo di agenti con Llama Stack e MCP

Red Hat AI sta integrando il Pila di lama, inizialmente sviluppato da Meta, insieme al MCP da Anthropic, per fornire API standardizzate per la creazione e la distribuzione di applicazioni e agenti AI. Attualmente disponibile nella versione di anteprima per sviluppatori in Red Hat AI, Llama Stack fornisce un'API unificata per l'accesso all'inferenza con vLLM, generazione potenziata dal ripristino (RAG), valutazione del modello e altro ancora, parapetti e agenti, in qualsiasi modello di generazione AI.MCP consente ai modelli di integrarsi con strumenti esterni, fornendo un'interfaccia standardizzata per la connessione ad API, plugin e origini dati nei flussi di lavoro degli agenti.

L'ultima versione di Red Hat OpenShift AI (v2.20) Fornisce ulteriori miglioramenti per costruire, addestrare, implementare e monitorare modelli di IA generativa e predittiva su larga scala I punti salienti includono

• Catalogo modelli ottimizzato (anteprima tecnica): facile accesso a Red Hat convalidato e modelli di terze parti, con distribuzione su console Web e gestione completa del ciclo di vita con registrazione OpenShift integrata.

• Formazione distribuita con KubeFlow Training Operator: esegui le regolazioni del modello con i carichi di lavoro InstructLab e PyTorch distribuiti su più nodi e GPU Red Hat OpenShift, con rete RDMA distribuita per l'accelerazione e un migliore utilizzo della GPU, per ridurre i costi. 

• Negozio di funzionalità (anteprima tecnica): basato sul progetto upstream Kubeflow Feast, offre un repository centralizzato per la gestione e la fornitura di dati per la formazione e l'inferenza, ottimizzando il flusso di dati e migliorando l'accuratezza e la riutilizzabilità del modello.

O Red Hat Enterprise Linux AI 1.5 apporta nuovi aggiornamenti alla piattaforma di modelli principali di Red Hat, che si concentra sullo sviluppo, il test e l'esecuzione di modelli linguistici su larga scala (LLM). Le caratteristiche principali di RHEL AI versione 1.5 includono:

• Disponibilità in Google Cloud Marketplace, espansione della scelta dei clienti di eseguire Red Hat Enterprise Linux AI su cloud pubblici (oltre ad AWS e Azure), semplificando la distribuzione e la gestione dei carichi di lavoro AI su Google Cloud.

• Funzionalità migliorate in più lingue per spagnolo, tedesco, francese e italiano tramite InstructLab, consentendo la personalizzazione di modelli con script nativi e ampliando le possibilità di applicazioni AI multilingue Gli utenti possono anche utilizzare i propri “teacher” e “student” per un maggiore controllo nella personalizzazione e nei test, con un supporto futuro previsto per giapponese, hindi e coreano.

O Red Hat AI InstructLab su IBM Cloud questo nuovo servizio cloud semplifica ulteriormente il processo di personalizzazione dei modelli, migliorando la scalabilità e l'esperienza utente Le aziende possono utilizzare i propri dati in modo più efficiente e con un maggiore controllo.

Visione Red Hat: qualsiasi modello, qualsiasi acceleratore, qualsiasi cloud

Il futuro dell'IA deve essere definito da opportunità illimitate e non vincolato da silos infrastrutturali, Red Hat vede un orizzonte in cui le organizzazioni possono implementare qualsiasi modello, su qualsiasi acceleratore, in qualsiasi cloud, offrendo un'esperienza utente eccezionale e più coerente, senza costi esorbitanti Per sbloccare il vero potenziale degli investimenti gen AI, le aziende hanno bisogno di una piattaforma di inferenza universale e di un nuovo standard per innovazioni AI continue e ad alte prestazioni, sia ora che negli anni a venire.

Red Hat Summit

Unisciti ai keynote di Red Hat Summit per ascoltare le ultime novità di dirigenti, clienti e partner di Red Hat:

• Infrastruttura moderna allineata all'intelligenza artificiale aziendale 20 maggio, 8h - 10h EDT (YouTube)
• Il cloud ibrido si evolve per guidare l'innovazione aziendale 21 maggio, 8h-9h30 EDT (YouTube)