Red Hat het pas nuwe opdaterings vir Red Hat AI, hul produk- en diensportefeulje, bekendgestel wat ontwerp is om die ontwikkeling en implementering van KI-oplossings in die hibriede wolk te versnel. Red Hat AI bied 'n ondernemings KI-platform aan vir modelopleiding en inferensie, wat meer ervaring, buigsaamheid en 'n eenvoudige ervaring bied om stelsels oral in die hibriede wolk te implementeer.
In die soeke na die vermindering van die implementeringskoste van groot taalmodelle (LLMS) om aan ’n toenemende aantal gebruiksgevalle te voldoen, staan maatskappye steeds voor die uitdaging om hierdie stelsels met hul eie data te integreer en vanaf enige plek te toegang: hetsy in ’n datacentrum, in die openbare wolk of selfs aan die rand.
Deur die integrasie van Red Hat OpenShift AI sowel as Red Hat Enterprise Linux AI (RHEL AI), beantwoord Red Hat AI hierdie bekommernisse deur 'n ondernemings- KI-platform te bied wat die aanvaarding van meer doeltreffende en geoptimaliseerde modelle moontlik maak, aangepas met die spesifieke data van die besigheid, met die moontlikheid om dit in 'n hibriede wolk te implementeer om modelle te train op 'n wye verskeidenheid rekenaarargitekture.
Vir Joe Fernandes, vise-president en algemeen bestuurder van die AI Business Unit by Red Hat, sê dat die opdatering organisasies in staat stel om presies en koste-effektief te wees in hul AI-reise. Red Hat weet dat maatskappye maniere sal nodig hê om die toenemende koste van hul generatiewe KI-implementasies te bestuur, terwyl hulle meer gebruiksgevalle in produksie bring en op skaal werk. Red Hat AI help organisasies om hierdie uitdagings aan te spreek deur meer doeltreffende modelle te voorsien, ontwikkel vir 'n spesifieke doel, getoets met hul data en wat buigsame inferensie in on-premises, wolk- en randomgewings moontlik maak.
Red Hat OpenShift AI
Red Hat OpenShift AI bied 'n volledige AI-platform aan om die lewensiklus van voorspellende en generatiewe AI (gen AI) in die hybride wolk te bestuur, insluitend masjienleertoepassings (MLOps) en vermoëns vir Large Language Model Operations (LLMOps). Die platform bied funksies om voorspellende modelle te bou en generatiewe KI-modelle aan te pas, saam met gereedskap om die bestuur van KI-modelle te vereenvoudig, van datastroompype en modelle tot modelmonitering, bestuur en baie meer.
Die nuutste weergawe van die platform, Red Hat OpenShift AI 2.18, voeg nuwe opdaterings en vermoëns by om die doelwit van Red Hat AI te ondersteun om meer geoptimaliseerde en doeltreffende KI-modelle na die hibriede wolk te bring. Die belangrikste hulpbronne sluit in
● Gedistribueerde diensbeskikbaar via die inferensiediens vLLM, stel die verspreide diens IT-spanne in staat om modelldienste tussen verskeie grafiese verwerkingseenhede (GPUs) te verdeel. Dit help om die las op 'n enkele bediener te verlig, die opleiding en finetuning te versnel en die meer doeltreffende gebruik van rekenhulpbronne te bevorder, terwyl dit help om dienste tussen die knooppunte vir KI-modelle te versprei.
● Eind-tot-eind model aanpassingservaringDeur die gebruik van InstructLab en die datawetenskappipelines van Red Hat OpenShift AI help hierdie nuwe funksie om die fyninstelling van LLM's te vereenvoudig, dit meer skaalbaar, doeltreffender en ouditeerbaarder te maak in groot produksie-omgewings, terwyl dit ook bestuur via die Red Hat OpenShift AI-beheerpaneel bied.
● KI BeskermingRed Hat OpenShift AI 2.18 help om die akkuraatheid, prestasie, latensie en deursigtigheid van LLM's te verbeter deur middel van 'n voorafbeelding van die AI Guardrails-tegnologie, wat die gebruikersinvoerintersaksies en die uitsette van die model monitor en beskerm. Die AI Guardrails bied addisionele opsporingsfunksies om IT-spanne te help om potensieel haatlike, mishandelende of profane toesprake, identifiseerbare persoonlike inligting, mededingers se data of ander inligting wat deur korporatiewe beleid beperk word, te identifiseer en te beperk.
● Model evalueringgebruik van die taalmodel-evaluasiestelsel (lm-eval) om belangrike inligting oor die algehele kwaliteit van die model te verskaf, stel die model-evaluasie datawetenskaplikes in staat om die prestasie van hul LLMs in verskeie take te vergelyk, van logiese en wiskundige redenasie tot vyandige natuurlike taal, en help om meer effektiewe, reaksie- en aangepaste KI-modelle te ontwikkel.
RHEL KI
Deel van die Red Hat AI-portefeulje, is RHEL AI 'n platform vir fundamentele modelle om groot taalmodelle (LLMs) meer konsekwent te ontwikkel, te toets en uit te voer, met die doel om sake-toepassings te bevorder. Die RHEL AI bied Granite LLMs-modelle en InstructLab-modelle-uitlijningshulpmiddels aan, wat pakkette is in 'n opstartbare beeld van Red Hat Enterprise Linux en in die hybride wolk ontplooi kan word.
Uitgereik in Februarie 2025, het RHEL 1.4 verskeie verbeterings gebring, insluitend:
● Ondersteuning vir die Granite 3.1 8B-modelsoos die nuutste toevoeging aan die Granite-modellefamilie met oopbron-lisensie. Die model voeg meertalige ondersteuning by vir inferensie en persoonlike aanpassing van taksonomie/kennis (voorvertoning vir ontwikkelaars), asook 'n konteksvenster van 128k om die gebruik van samestellingsresultate en Retrieval-Augmented Generation (RAG) take te verbeter.
● Nuwe grafiese gebruikerskoppelvlak om by te dra tot vaardighede en vorige kennisbeschikbaar in die voorvertoningsformaat vir ontwikkelaars, met die doel om die verbruik en fragmentasie van data te vereenvoudig, sowel as om gebruikers toe te laat om hul eie vaardighede en bydraes tot KI-modelle by te voeg.
● Dokument Kennis-bench (DK-bench)om te help vergelykings tussen aangepaste KI-modelle met relevante private data en die prestasie van die ongewysigde basismodelle.
Red Hat AI InstructLab op IBM Cloud
Al hoe meer soek maatskappye na KI-oplossings wat die akkuraatheid en veiligheid van hul data prioriseer, terwyl hulle terselfdertyd die koste en kompleksiteit so laag as moontlik hou. Die Red Hat AI InstructLab, beskikbaar as 'n diens op IBM Cloud, is ontwerp om te vereenvoudig, te skaal en te help om die sekuriteit in die opleiding en implementering van KI-stelsels te verbeter. Deur die aanpassing van InstructLab-modelle eenvoudig te maak, kan organisasies meer doeltreffende platforms bou, aangepas by hul unieke behoeftes, terwyl hulle die beheer oor hul geheime inligting behou.
Gratis opleiding oor die Grondbeginsels van KI
AI is 'n transformasiegeleenthede wat besig is om te herdefinieer hoe maatskappye funksioneer en meeding. Om die organisasies in hierdie dinamiese omgewing te ondersteun, bied Red Hat gratis aanlynopleiding oor AI-grondbeginsels. Die maatskappy bied twee sertifikate in KI-opleiding aan, gerig op both ervare senior leiers en beginners, en help om gebruikers van alle vlakke op te lei oor hoe KI kan help om besigheidsbedrywighede te transformeer, besluitneming te versnel en innovasie aan te wakker.
Beskikbaarheid
Red Hat OpenShift AI 2.18 en Red Hat Enterprise Linux AI 1.4 is reeds beskikbaar. Meer inligting oor bykomende funksies, verbeterings, foutoplossings en hoe om jou Red Hat OpenShift AI-weergawe na die nuutste te werk, kan gevind wordhieren die mees onlangse weergawe van RHEL AI kan gevind wordhier.
Die Red Hat AI InstructLab op IBM Cloud sal binnekort beskikbaar wees. Die opleiding oor die Grondbeginsels van KI van Red Hat is reeds beskikbaar vir kliënte.