Nuwe opdaterings in die hele AI-portfolio van Red Hat bring groot transformasies in die sakewêreld. Deur Red Hat AI streef die maatskappy daarna om die nodige vermoëns verder uit te brei om die aanvaarding van die tegnologie te versnel, deur meer vryheid en selfvertroue aan kliënte te bied in die implementering van generatiewe KI (gen AI) in omgewings van hibriede wolk. Vanaf die afkondiging van die Red Hat AI Inference Server, derdeparty-gesertifiseerde modelle op Red Hat AI, en die integrasie met die Llama Stack API's en Model Context Protocol (MCP), herposisioneer die maatskappy hom in die mark vir verskeie vorme van kunsmatige intelligensie.
Volgens Forrester sal open source sagteware die dryfkrag wees om die ondernemings-KI-inisiatiewe te versnel. Namakha lapho isimo se-AI siba nzima futhi sishintsha njalo, i-Red Hat KI Inferensieserveren die deur derde partye bevestigde modelle bied doeltreffende inferensie en 'n getoetste versameling van KI-modelle wat geoptimaliseer is vir prestasie op die Red Hat AI-platform. Met die integrasie van nuwe API's vir die ontwikkeling van gen AI-agente, insluitend Llama Stack en MCP, werk Red Hat om die kompleksiteit van implementering te vereenvoudig, en sodoende IT-leiers, datawetenskaplikes en ontwikkelaars in staat te stel om hul AI-inisiatiewe met meer beheer en doeltreffendheid vorentoe te neem.
Effektiewe inferensie in die hybride wolk met Red Hat AI Inference Server
Die Red Hat AI-portefeulje bevat die nuutheidRed Hat KI Inferensieservermet 'n vinniger, meer konsekwente en meer koste-effektiewe inferensie op skaal, in hibriede wolkomgewings. Hier toevoeging is geïntegreer in die nuutste weergawes van Red Hat OpenShift AI en Red Hat Enterprise Linux AI, en is ook beskikbaar as 'n onafhanklike oplossing, wat organisasies toelaat om intelligente toepassings meer doeltreffend, buigsaam en met beter prestasie te implementeer.
Modelle getoets en geoptimaliseer met Red Hat AI en derdepartyevaluering
Die derdeparty-gesertifiseerde modelle van Red Hat AIbeschikbaar opHugging Face, vergem die keuse van maatskappye tydens die vind van die regte modelle vir hul behoeftes. Red Hat AI bied 'n versameling gevalideerde modelle aan, asook implementeringsriglyne wat die vertroue van kliënte in die prestasie van die modelle en die herhaalbaarheid van die resultate verhoog. Modelle wat gekies is, word ook deur Red Hat geoptimaliseer, met modelkompressietegnieke wat hul grootte verminder en die inferensiespoed verhoog, wat help om hulpbronnegebruik en bedryfskoste te minimaliseer. Verder help die voortdurende proses van modelvalidasie Red Hat AI-klante om voor te bly in innovasie in gen AI.
APIs gestandaardiseerd vir die ontwikkeling van toepassings en KI-agente met Llama Stack en MCP
Red Hat AI is integrating theLlama Stapel, aanvanklik ontwikkel deur Meta, saam met dieMCPvan Anthropic, om voorsiening te maak vir gestandaardiseerde API's vir die bou en implementering van toepassings en KI-agente. Op tans is tans beskikbaar as 'n voorvertoning vir ontwikkelaars op Red Hat AI, bied die Llama Stack 'n gesamentlike API vir toegang tot inferensie met vLLM, verhoogde generasie deur herwinning (RAG), modellevaluering,barragensen agente, in enige model van gen AI. Die MCP laat toe dat modelle integreer met eksterne gereedskap, deur 'n gestandaardiseerde koppelvlak te bied vir verbinding met API's, inproppe en databronne in agentwerkvloei.
Die nuutste weergawe vanRed Hat OpenShift KI (v2.20)) bied verdere verbeterings aan om generatiewe en voorspellende KI-modelle op skaal te bou, te oefen, uit te rol en te monitor. Die hoogtepunte sluit in:
- Modellelysingskatalog (tegniese voorlegging):Toegang vergemaklik tot gevalideerde modelle van Red Hat en derde partye, met implementering via webkonsol en volledige lewensiklusbestuur met geïntegreerde OpenShift-registrasie.
- Opleiding verspreid met KubeFlow OpleidingsoperateurUitvoering van modelaanpassings met InstructLab en verdeelde PyTorch-werkladingen op verskeie knooppunte en GPU's van Red Hat OpenShift, met verspreide RDMA-netwerk vir versneling en beter gebruik van GPU, om koste te verlaag.
- Kenmerkewinkel ( tegniese voorlegging):gebaseer op die upstream Kubeflow Feast-projek, bied 'n gesentraliseerde repository vir die bestuur en voorsiening van data vir opleiding en inferensie, wat die datastroom optimaliseer en die akkuraatheid en herbruikbaarheid van modelle verbeter.
DIERed Hat Enterprise Linux AI 1.5Bring nuwe opdaterings vir die Red Hat-basismodelleplatform, gefokus op die ontwikkeling, toetsing en uitvoering van grootskaalse taalmodelle (LLMs). Die hoofkenmerke van RHEL AI weergawe 1.5 sluit in:
- Beskikbaarheid op Google Cloud Marketplaceuitbreiding van die keuse vir kliënte om Red Hat Enterprise Linux AI in openbare wolke te gebruik (benewens AWS en Azure), wat die implementering en bestuur van KI-lasings op Google Cloud vergemaklik.
- Vaardighede verbeter in veel talevir Spaans, Duits, Frans en Italiaans via InstructLab, waarmee modelaanpassing met inheemse scripts mogelijk is en de mogelijkheden van meertalige AI-toepassingen worden uitgebreid. Gebruikers kan ook hul eie "onderwyser" en "student" modelle gebruik vir meer beheer oor personalisering en toetse, met toekomstige ondersteuning voorsien vir Japans, Hindi en Koreaans.
DIE Red Hat AI InstructLab op IBM Cloud Nou is algemeen beskikbaar. Hierdie nuwe wolkdiens vereenvoudig die proses van modelaanpassing verder, en verbeter skaalbaarheid en gebruikerservaring. Maatskappye kan hul data meer doeltreffend gebruik en met groter beheer.
Uitsig van Red Hat: enige model, enige versneller, enige wolk
Die toekoms van KI moet bepaal word deur onbeperkte geleenthede en nie beperk word deur infrastruktuur-silo's nie. Red Hat sien 'n toekoms waarin organisasies enige model kan uitrol, op enige versnellingsinstrument, in enige wolk, en 'n uitsonderlike en meer konsekwente gebruikerservaring kan bied, sonder buitensporige koste. Om die ware potensiaal van belegging in generatiewe KI te ontsluit, benodig maatskappye 'n universele inferensiesplatform — 'n nuwe standaard vir voortdurende en hoëprestasie KI-innovasies, both tans en in die komende jare.
Red Hat Topwerk
Neem deel aan die Red Hat Summit-sleutopnames om die nuutste inligting van Red Hat-bestuurders, kliënte en vennote te hoor:
- Infrastruktuur modern in lyn met bedryfs-KIDinsdag, 20 Mei, 8h -10h EDTYouTube)
- Die hybride wolk ontwikkel om sake-innovasie aan te dryfWoensdag, 21 Mei, 8:00-9:30 EDTYouTube)
