Red Hat AI utnytter AI-adopsjon for bedrifter på tvers av alle modeller, AI-akseleratorer og skyer

Nye oppdateringer på tvers av Red Hats AI-portefølje driver store transformasjoner i bedriftsindustrien. Gjennom Red Hat AI søker selskapet å utvide mulighetene som trengs for å akselerere teknologiadopsjon ytterligere, og tilby mer frihet og tillit til kunder i generative AI (gen AI)-distribusjoner i hybride skymiljøer. Fra lanseringen av Red Hat AI Inference Server, tredjepartsvaliderte modeller i Red Hat AI, og integrasjon med Llama Stack og Model Context Protocol (MCP) APIer, reposisjonerer selskapet seg til markedet for ulike kunstig intelligens-modaliteter. 

Ifølge Forrester vil åpen kildekode-programvare være motoren for å akselerere bedriftens AI-innsats. Ettersom AI-landskapet blir mer komplekst og dynamisk, vil Red Hat AI Inference Server og tredjeparts validerte modeller leverer effektiv slutning og en testet samling av ytelsesoptimaliserte AI-modeller på Red Hat AI-plattformen. Ved å integrere nye APIer for utvikling av gen AI-agenter, som inkluderer Llama Stack og MCP, jobber Red Hat for å forenkle distribusjonskompleksiteten, og gi IT-ledere, dataforskere og utviklere mulighet til å fremme AI-initiativene sine med mer kontroll og effektivitet.

Effektiv hybrid sky-inferens med Red Hat AI Inference Server

Red Hat AI-porteføljen inneholder den nye Red Hat AI Inference Server, Med raskere, konsistent og kostnadseffektiv slutning i skala på tvers av hybride skymiljøer. Dette tillegget er integrert med de nyeste versjonene av Red Hat OpenShift AI og Red Hat Enterprise Linux AI, og er også tilgjengelig som en frittstående løsning, som gjør det mulig for organisasjoner å distribuere intelligente applikasjoner med større effektivitet, fleksibilitet og ytelse.

Prøvde og optimaliserte modeller med Red Hat AI og tredjepartsvalidering

De tredjepartsvaliderte modellene av Red Hat AI, tilgjengelig i Kramme Ansikt, Gjør det enkelt for bedrifter å velge de riktige modellene for deres behov Red Hat AI tilbyr en samling av validerte modeller, samt distribusjonsveiledning som øker kundenes tillit til modellytelse og reproduserbarhet av resultater Utvalgte modeller er også optimalisert av Red Hat, med modellkomprimeringsteknikker som reduserer størrelsen og øker slutningshastigheten, og bidrar til å minimere ressursforbruk og driftskostnader. I tillegg hjelper den kontinuerlige modellvalideringsprosessen Red Hat AI-kunder med å holde seg i forkant av gen AI-innovasjon.

Standardiserte APIer for AI-applikasjon og agentutvikling med Llama Stack og MCP

Red Hat AI integrerer Llama Stack's, opprinnelig utviklet av Meta, sammen med MCP fra Anthropic, for å tilby standardiserte APIer for bygging og distribusjon av AI-applikasjoner og -agenter. Llama Stack er for tiden tilgjengelig i utviklerforhåndsvisningsversjon i Red Hat AI, og gir en enhetlig API for slutningstilgang med vLLM, gjenopprettingsforbedret generasjon (RAG), modellevaluering og mer, autovern og agenter, i enhver AI gen-modell.MCP lar modeller integreres med eksterne verktøy, og gir et standardisert grensesnitt for tilkobling til APIer, plugins og datakilder i agentarbeidsflyter.

Den nyeste versjonen av Red Hat OpenShift AI (v2.20) Gir ytterligere forbedringer for å bygge, trene, distribuere og overvåke generative og prediktive AI-modeller i skala. Høydepunkter inkluderer:

• Optimalisert modellkatalog (teknisk forhåndsvisning): enkel tilgang til validerte Red Hat og tredjepartsmodeller, med distribusjon av nettkonsoller og komplett livssyklusadministrasjon med integrert OpenShift-registrering.

• Distribuert opplæring med KubeFlow Training Operator: kjør modelljusteringer med InstructLab- og PyTorch-arbeidsbelastninger fordelt på flere Red Hat OpenShift-noder og GPUer, med distribuert RDMA-nettverk for akselerasjon og bedre GPU-bruk for å redusere kostnadene. 

• Funksjonsbutikk (teknisk forhåndsvisning): basert på oppstrøms Kubeflow Feast-prosjektet, tilbyr det et sentralisert depot for å administrere og levere data for opplæring og slutninger, optimalisere dataflyt og forbedre modellnøyaktighet og gjenbrukbarhet.

O Red Hat Enterprise Linux AI 1.5 bringer nye oppdateringer til Red Hats kjernemodellplattform, fokusert på utvikling, testing og utførelse av storskala språkmodeller (LLM) . Nøkkelfunksjoner i RHEL AI versjon 1.5 inkluderer:

• Tilgjengelighet i Google Cloud Marketplace, utvide kundenes valg for å kjøre Red Hat Enterprise Linux AI på offentlige skyer (i tillegg til AWS og Azure), noe som gjør det enklere å distribuere og administrere AI-arbeidsbelastninger på Google Cloud.

• Forbedrede muligheter på flere språk for spansk, tysk, fransk og italiensk via InstructLab, som tillater tilpasning av modeller med native skript og utvider mulighetene for flerspråklige AI-applikasjoner. Brukere kan også bruke sine egne “teacher” og “student” for større kontroll i tilpasning og testing, med fremtidig støtte spådd for japansk, hindi og koreansk.

O Red Hat AI InstructLab på IBM Cloud denne nye skytjenesten forenkler prosessen med å tilpasse modeller ytterligere, forbedre skalerbarheten og brukeropplevelsen Bedrifter kan bruke dataene sine mer effektivt og med større kontroll.

Red Hat visjon: enhver modell, enhver akselerator, enhver sky

Fremtiden til AI må defineres av ubegrensede muligheter og ikke begrenses av infrastruktursiloer. Red Hat ser en horisont der organisasjoner kan distribuere hvilken som helst modell, på hvilken som helst akselerator, i hvilken som helst sky, og levere en eksepsjonell og mer konsistent brukeropplevelse, uten ublu kostnader For å låse opp det sanne potensialet til gen AI-investeringer, trenger selskaper en universell slutningsplattform og en ny standard for kontinuerlige, høyytelses AI-innovasjoner, både nå og i årene som kommer.

Red Hat Summit

Bli med i Red Hat Summit keynotes for å høre det siste fra Red Hat-ledere, kunder og partnere:

• Moderne infrastruktur på linje med bedriftens AI 20. mai, 8. - 10. EDT (YouTube)
• Hybrid sky utvikler seg for å drive forretningsinnovasjon 21. mai, 8.-9.30 EDT (YouTube)