Red Hat driver bedrifts-IA i hybrid sky med Red Hat AI

Red Hat har nettopp lansert nye oppdateringer for Red Hat AI, deres portefølje av produkter og tjenester designet for å akselerere utviklingen og implementeringen av AI-løsninger i hybrid sky. Red Hat AI tilbyr en bedrifts-IA-plattform for modelltrening og inferens, og gir mer erfaring, fleksibilitet og en forenklet opplevelse for å implementere systemer hvor som helst i hybrid sky.

I jakten på å redusere kostnadene ved implementering av store språkmodeller (LLMS) for å møte et økende antall bruksområder, står selskaper fortsatt overfor utfordringen med å integrere disse systemene med sine proprietære data og få tilgang til dem hvor som helst: enten i et datasenter, i offentlig sky eller til og med i kantene.

Ved å integrere både Red Hat OpenShift AI og Red Hat Enterprise Linux AI (RHEL AI), svarer Red Hat AI på disse bekymringene ved å tilby en bedrifts-IA-plattform som gjør det mulig å ta i bruk mer effektive og optimaliserte modeller, tilpasset med bedriftsspesifikke data, med mulighet for å implementere dem i hybrid sky for å trene modeller på et bredt spekter av databehandlingsarkitekturer.

For Joe Fernandes, vice president and general manager of Red Hat's AI Business Unit, the update enables organizations to be precise and cost-effective in their AI journeys. Red Hat vet at bedrifter vil trenge måter å håndtere de økende kostnadene ved sine generative AI-implementeringer, etter hvert som de bringer flere bruksområder i produksjon og opererer i stor skala. Red Hat AI hjelper organisasjoner med å takle disse utfordringene ved å gjøre det mulig å ha mer effektive modeller, utviklet for et formål, trent med deres data, og som muliggjør fleksibel inferens i lokale, sky- og edge-miljøer.

Red Hat OpenShift AI

Red Hat OpenShift AI tilbyr en komplett AI-plattform for å håndtere livssyklusen til prediktiv og generativ AI (gen AI) i hybrid sky, inkludert maskinlæringsoperasjoner (MLOps) og Large Language Model Operations (LLMOps)-kapasiteter. Plattformen tilbyr funksjoner for å bygge prediktive modeller og justere generative AI-modeller, sammen med verktøy for å forenkle administrasjonen av AI-modeller, fra data science-pipelines og modeller til modellovervåkning, styring og mye mer.  

Den siste versjonen av plattformen, Red Hat OpenShift AI 2.18, legger til nye oppdateringer og funksjoner for å støtte Red Hat AI's mål om å bringe mer optimaliserte og effektive AI-modeller til hybrid sky. De viktigste funksjonene inkluderer:

●      Distribuert tjenestetilgjengelig via inferensserveren vLLM, gjør den distribuerte tjenesten det mulig for IT-team å dele modellservicen mellom flere grafikkprosessorenheter (GPUs). Dette hjelper med å lette belastningen på en enkelt server, akselererer trening og finjustering, og fremmer mer effektiv bruk av databehandlingsressurser, samtidig som det bidrar til å fordele tjenestene mellom nodene for AI-modellene.

●      End-to-end modelltilpasning erfaringVed bruk av InstructLab og dataforskning pipelineene i Red Hat OpenShift AI, hjelper denne nye funksjonen med å forenkle finjustering av LLM-er, og gjør dem mer skalerbare, effektive og revisjonsvennlige i store produksjonsmiljøer, samtidig som den gir administrasjon via Red Hat OpenShift AI-kontrollpanelet.

●      AI-restriksjonerRed Hat OpenShift AI 2.18 forbedrer nøyaktigheten, ytelsen, latensen og åpenheten til LLM-er gjennom en forhåndsvisning av AI Guardrails-teknologien, som overvåker og beskytter brukerens inndata og modellens utdata. AI Guardrails tilbyr ekstra deteksjonsfunksjoner for å hjelpe IT-team med å identifisere og mitigere potensielt hatefulle, krenkende eller blasfemiske ytringer, personlig identifiserbar informasjon, konkurrentdata eller annen informasjon som er begrenset av bedriftsretningslinjer.

●      ModellvurderingVed bruk av språkmodellvurderingskomponenten (lm-eval) for å gi viktig informasjon om den generelle kvaliteten på modellen, gjør modellvurderingen det mulig for dataforskere å sammenligne ytelsen til sine LLM-er på ulike oppgaver, fra logisk og matematisk resonnement til adversarial naturlig språk, og hjelper med å utvikle mer effektive, responsive og tilpassede AI-modeller.

RHEL AI

En del av Red Hat AI-porteføljen er RHEL AI en plattform for grunnleggende modeller for å utvikle, teste og kjøre LLM-er mer konsistent, med mål om å drive bedriftsapplikasjoner. RHEL AI tilbyr Granite LLM-modeller og InstructLab-modelljusteringsverktøy, som er pakker i en oppstartbar Red Hat Enterprise Linux-bilde og kan distribueres i hybrid sky.

Utgitt i februar 2025, ga RHEL 1.4 flere forbedringer, inkludert:

●      Støtte for Granite 3.1 8B-modellensom den nyeste tilføjelsen til Granite-modellfamilien med open source-lisens. Modellen legger til flerspråklig støtte for inferens og tilpasning av taksonomi/kunnskap (forhåndsvisning for utviklere), i tillegg til en kontekstvindu på 128k for å forbedre bruken av oppsummeringsresultater og Retrieval-Augmented Generation (RAG)-oppgaver

●      Ny brukergrensesnitt for å bidra med ferdigheter og tidligere kunnskap, tilgjengelig i forhåndsvisningsformat for utviklere, med mål om å forenkle databruk og fragmentering, samt å la brukere legge til sine egne ferdigheter og bidrag til AI-modeller.

●      Dokument Kunnskapsbenk (DK-benk)for å lette sammenligninger mellom justerte AI-modeller med relevante private data og ytelsen til de samme ujustede grunnmodellene

Red Hat AI InstructLab på IBM Cloud

stadig flere selskaper søker AI-løsninger som prioriterer nøyaktighet og datasikkerhet, samtidig som de holder kostnader og kompleksitet så lave som mulig. Red Hat AI InstructLab, tilgjengelig som en tjeneste på IBM Cloud, er utformet for å forenkle, skalere og bidra til å forbedre sikkerheten ved trening og implementering av AI-systemer. Ved å forenkle justeringen av InstructLab-modeller kan organisasjoner bygge mer effektive plattformer, tilpasset deres unike behov, samtidig som de beholder kontrollen over konfidensiell informasjon.

Gratis trening om grunnleggende kunstig intelligens

AI er en transformerende mulighet som redefinerer hvordan bedrifter opererer og konkurrerer. For å støtte organisasjoner i dette dynamiske landskapet, tilbyr Red Hat gratis nettkurs om AI-grunnleggende. Selskapet tilbyr to sertifikater i AI-læring, rettet mot både erfarne seniorledere og nybegynnere, og hjelper brukere på alle nivåer med å forstå hvordan AI kan bidra til å transformere forretningsdrift, effektivisere beslutningstaking og drive innovasjon.

Tilgjengelighet

Red Hat OpenShift AI 2.18 og Red Hat Enterprise Linux AI 1.4 er allerede tilgjengelige. Mer informasjon om tilleggsegenskaper, forbedringer, feilrettinger og hvordan oppdatere din versjon av Red Hat OpenShift AI til den nyeste kan finnesherog den nyeste versjonen av RHEL AI kan finnesher.