Nya uppdateringar i hela Red Hats AI-portfölj driver stora omvandlingar inom näringslivet. Genom Red Hat AI strävar företaget efter att ytterligare utöka de nödvändiga förmågorna för att påskynda adoptionen av teknologin, och erbjuda mer frihet och förtroende till kunderna vid implementeringar av generativ AI (gen AI) i hybridmolnmiljöer. Från och med lanseringen av Red Hat AI Inference Server, tredjargodkända modeller på Red Hat AI och integrationen med Llama Stack API:er och Model Context Protocol (MCP), ompositionerar sig företaget på marknaden för olika former av artificiell intelligens.
Enligt Forrester kommer öppen källkod att vara motorn för att accelerera företags-IA-insatser. Allt eftersom AI-landskapet blir mer komplext och dynamiskt, blir detRed Hat AI Inferensserveroch de tredjeparts validerade modeller erbjuder effektiv inferens och en testad samling av AI-modeller optimerade för prestanda på Red Hat AI-plattformen. Med integrationen av nya API:er för utveckling av generativa AI-agenter, inklusive Llama Stack och MCP, arbetar Red Hat för att förenkla implementeringskomplexiteten och ge IT-ledare, datavetare och utvecklare möjlighet att driva sina AI-initiativ med mer kontroll och effektivitet.
Effektiv inferens i hybridmolnet med Red Hat AI Inference Server
Red Hat AI-portföljen innehåller nyhetenRed Hat AI Inferensserver, med en snabbare, mer konsekvent och kostnadseffektiv inferens i stor skala, i hybridmolnmiljöer. Denna tillägg är integrerad i de senaste versionerna av Red Hat OpenShift AI och Red Hat Enterprise Linux AI, och är också tillgänglig som en fristående lösning, vilket gör det möjligt för organisationer att implementera intelligenta applikationer med större effektivitet, flexibilitet och prestanda.
Testade och optimerade modeller med Red Hat AI och tredjepartsvalidering
De tredje parts validerade modeller för Red Hat AI, tillgängliga påHugging Face, underlättar företagens val när de ska hitta rätt modeller för deras behov. Red Hat AI erbjuder en samling validerade modeller samt implementeringsriktlinjer som ökar kundernas förtroende för modellernas prestanda och reproducerbarheten av resultaten. Valda modeller är också optimerade av Red Hat, med modellkomprimeringstekniker som minskar deras storlek och ökar inferenshastigheten, vilket hjälper till att minimera resursförbrukningen och driftskostnaderna. Dessutom hjälper den kontinuerliga modellvalideringsprocessen Red Hat AI-kunder att ligga i framkant av innovation inom generativ AI.
Standardiserade API:er för utveckling av applikationer och AI-agenter med Llama Stack och MCP
Red Hat AI integrerar denLlama Stack, initialt utvecklad av Meta, tillsammans med denMCPfrån Anthropic för att tillhandahålla standardiserade API:er för byggande och distribution av AI-applikationer och agenter. För närvarande tillgänglig i en förhandsversion för utvecklare på Red Hat AI erbjuder Llama Stack ett enhetligt API för åtkomst till inferens med vLLM, generering förbättrad med återhämtning (RAG), modellutvärdering,räckenoch agenter, i vilken som helst modell av generativ AI. MCP möjliggör att modeller integreras med externa verktyg genom att tillhandahålla ett standardiserat gränssnitt för anslutning till API:er, plugins och datakällor i agentarbetsflöden.
Den senaste versionen avRed Hat OpenShift AI (v2.20)) erbjuder ytterligare förbättringar för att bygga, träna, distribuera och övervaka generativa och prediktiva AI-modeller i stor skala. Höjdpunkterna inkluderar:
- Optimerad modellkatalog (teknisk förhandsgranskning):Förenklad tillgång till validerade modeller från Red Hat och tredje part, med implementering via webbkonsole och fullständig livscykelhantering med integrerad registrering i OpenShift.
- Distribuerad träning med KubeFlow Training OperatorGenomförande av modelljusteringar med InstructLab och distribuerade PyTorch-arbetsbelastningar över flera noder och GPU:er i Red Hat OpenShift, med distribuerat RDMA-nätverk för acceleration och bättre GPU-användning, för att minska kostnaderna.
- Funktionstillgång (teknisk förhandsvisning):Baserat på upstream-projektet Kubeflow Feast erbjuder det ett centraliserat repository för hantering och tillhandahållande av data för träning och inferens, vilket optimerar dataflödet och förbättrar modellernas noggrannhet och återanvändbarhet.
ORed Hat Enterprise Linux AI 1.5Förnyade uppdateringar för Red Hat:s plattformsbaserade modellplattform, inriktad på utveckling, testning och körning av stora språkmodeller (LLMs). De huvudsakliga funktionerna i version 1.5 av RHEL AI inkluderar:
- Tillgänglighet på Google Cloud Marketplaceutökar kundernas val att köra Red Hat Enterprise Linux AI i offentliga moln (förutom AWS och Azure), vilket underlättar implementering och hantering av AI-arbetsbelastningar i Google Cloud.
- Förbättrade förmågor på flera språkpara espanhol, alemán, francés e italiano a través de InstructLab, permitiendo la personalización de modelos con scripts nativos y ampliando las posibilidades de aplicaciones de IA multilingüe. Användare kan också använda sina egna "lärare" och "elev" modeller för större kontroll vid anpassning och testning, med framtida stöd för japanska, hindi och koreanska.
O Red Hat AI InstructLab på IBM Cloud nu finns allmän tillgång nu Den här nya molntjänsten förenklar ännu mer processen för att anpassa modeller, förbättrar skalbarheten och användarupplevelsen. Företagen kan använda sina data mer effektivt och med större kontroll.
Red Hat:s vision: vilken modell, vilken accelerator, vilken molnplattform som helst
Framtiden för AI bör definieras av obegränsade möjligheter och inte begränsas av infrastruktursilos. Red Hat ser ser att en horisont där organisationer kan implementera vilken modell som helst, i vilken accelerator som helst, i vilken moln som helst, och leverera en enastående och mer konsekvent användarupplevelse utan orimliga kostnader. För att låsa upp den verkliga potentialen hos investeringar i generativ AI behöver företagen en universell inferensplattform — en ny standard för kontinuerlig och högpresterande AI-innovation, både nu och under de kommande åren.
Red Hat-uppsättningen
Delta i Red Hat Summit:s huvudtal för att höra de senaste nyheterna från Red Hat:s ledare, kunder och partners:
- Modern infrastruktur i linje med företags-IA—Tisdag, 20 maj, 8-10 EDTYouTube)
- Den hybrida molnplattformen utvecklas för att driva företagsinnovation— Onsdag den 21 maj, 8:00-9:30 EDTYouTube)
