Red Hat a lansat recent actualizări noi în Red Hat AI, portofoliul său de produse și servicii concepute pentru a accelera dezvoltarea și implementarea soluțiilor de IA în cloudul hibrid. Red Hat AI oferă o platformă de IA pentru afaceri pentru antrenarea modelelor și inferență, oferind mai multă experiență, flexibilitate și o experiență simplificată pentru implementarea sistemelor oriunde în cloudul hibrid
În căutarea reducerii costurilor de implementare a modelelor mari de limbaj (LLMS) pentru a răspunde unui număr tot mai mare de cazuri de utilizare, companiile se confruntă în continuare cu provocarea de a integra aceste sisteme cu datele lor proprietare și de a le accesa de oriunde: fie într-un datacenter, în norul public sau chiar la margine
Integrând atât Red Hat OpenShift AI, cât și Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI răspunde acestor preocupări prin furnizarea unei platforme de IA pentru afaceri care permite adoptarea unor modele mai eficiente și optimizate, ajustate cu datele specifice ale afacerii, cu posibilitatea de a fi implementate în cloud hibrid pentru a antrena modele într-o gamă largă de arhitecturi de calcul
Pentru Joe Fernandes, vicepreședinte și director general al Unității de Afaceri AI de la Red Hat, actualizarea permite organizațiilor să fie precise și economice în călătoriile lor de IA. Red Hat știe că companiile vor avea nevoie de modalități pentru a gestiona costul în creștere al implementărilor lor de IA generativă, pe măsură ce aduc mai multe cazuri de utilizare pentru producție și operează la scară.. Red Hat AI ajută organizațiile să abordeze aceste provocări, permițându-le să dispună de modele mai eficiente, dezvoltate pentru un scop, antrenați cu datele lor și care permit inferență flexibilă în medii on-premises, de nor și la margine.”
Red Hat OpenShift AI
Red Hat OpenShift AI oferă o platformă completă de IA pentru a gestiona ciclurile de viață ale IA predictive și generative (gen AI) în cloudul hibrid, inclusiv operațiuni de învățare automată (MLOps) și capacități de operațiuni cu modele lingvistice mari (LLMOps). Platforma oferă funcționalități pentru a construi modele predictive și a ajusta modele AI generative, împreună cu instrumente pentru a simplifica gestionarea modelelor de IA, de la conductele de știință a datelor și modele până la monitorizarea modelelor, guvernanță și mult mai mult.
Versiunea cea mai recentă a platformei, Red Hat OpenShift AI 2.18, adaugă actualizări și capacități noi pentru a susține obiectivul Red Hat AI de a aduce modele de IA mai optimizate și eficiente pentru cloudul hibrid. Principalele caracteristici includ
● Serviciu distribuitdisponibil pe serverul de inferență vLLM, serviciul distribuit permite echipelor IT să împartă serviciul de modele între mai multe unități de procesare grafică (GPU-uri). Aceasta ajută la reducerea încărcăturii pe un singur server, accelerează antrenamentul și ajustarea fină și promovează utilizarea mai eficientă a resurselor de calcul, în același timp în care ajută la distribuirea serviciilor între noduri pentru modelele de IA
● Experiență de ajustare a modelului de la un capăt la altulfolosind InstructLab și pipeline-urile de știință a datelor de la Red Hat OpenShift AI, această nouă funcție ajută la simplificarea ajustării fine a LLM-urilor, făcându-i mai scalabili, eficiente și auditabile în medii mari de producție, în același timp în care oferă gestionare prin intermediul panoului de control Red Hat OpenShift AI
● Garduri de protecție AIRed Hat OpenShift AI 2.18 ajută la îmbunătățirea preciziei, performanța, latenta și transparența LLM-urilor printr-o previzualizare a tehnologiei AI Guardrails, care monitorizează și protejează interacțiunile de intrare ale utilizatorului și ieșirile modelului. AI Guardrails oferă resurse suplimentare de detectare pentru a ajuta echipele IT să identifice și să atenueze discursurile potențial ur odioase, abuzivi sau profane, informații personale identificabile, date despre concurenți sau alte date restricționate de politicile corporative
● Evaluarea modeluluifolosind componenta de evaluare a modelului de limbaj (lm-eval) pentru a oferi informații importante despre calitatea generală a modelului, evaluarea modelului permite ca oamenii de știință în domeniul datelor să compare performanța LLM-urilor lor în diverse sarcini, de la raționamentul logic și matematic până la limbajul natural adversarial, ajutând la crearea unor modele de IA mai eficiente, responsivi și adaptați
RHEL AI
Partea din portofoliul Red Hat AI, RHEL AI este o platformă de modele fundamentale pentru a dezvolta, testarea și executarea LLM-urilor într-un mod mai consistent, cu scopul de a impulsiona aplicațiile de afaceri. RHEL AI oferă modele Granite LLMs și instrumente de aliniere a modelelor InstructLab, ce sunt pachete într-o imagine bootabilă a Red Hat Enterprise Linux și pot fi implementate în cloudul hibrid
Lansat în februarie 2025, RHEL 1.4 a adus diverse îmbunătățiri, inclusiv
● Suport pentru modelul Granite 3.1 8Bca cea mai recentă adăugare la familia de modele Granite cu licență open source. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), în afară de o fereastră de context de 128k pentru a îmbunătăți adoptarea rezultatelor de sumarizare și a sarcinilor de Generare Augmentată prin Recuperare (RAG)
● Noua interfață grafică a utilizatorului pentru a contribui cu abilități și cunoștințe anterioare, disponibil în format de previzualizare pentru dezvoltatori, cu scopul de a simplifica consumul și fragmentarea datelor, precum și a permite utilizatorilor să adauge propriile abilități și contribuții la modelele de IA
● Document Knowledge-bench (DK-bench)pentru a facilita comparațiile între modelele de IA ajustate cu date private relevante și performanța acelorași modele de bază neajustate
Red Hat AI InstructLab pe IBM Cloud
Din fiecare dată mai mult, companiile caută soluții de IA care să prioritizeze precizia și securitatea datelor lor, în același timp în care mențin costurile și complexitatea la cele mai scăzute niveluri posibile. Red Hat AI InstructLab, disponibil ca un serviciu în IBM Cloud, a fost proiectat pentru a simplifica, escaladă și ajută la îmbunătățirea securității în formarea și implementarea sistemelor de IA. Prin simplificarea ajustării modelelor din InstructLab, organizațiile pot construi platforme mai eficiente, adaptate nevoilor tale unice, menținând controlul asupra informațiilor dumneavoastră confidențiale.
Instruire gratuită despre Fundamentele IA
IA este o oportunitate transformatoare care redefinește modul în care companiile operează și concurează. Pentru a sprijini organizațiile în acest peisaj dinamic, Red Hat oferă cursuri online gratuite despre Fundamentele IA. Compania oferă două certificate de învățare în IA, îndreptați atât către lideri seniori experimentați, cât și către începători, ajutând la educarea utilizatorilor de toate nivelurile despre cum IA poate ajuta la transformarea operațiunilor comerciale, accelerarea procesului decizional și stimularea inovației
Disponibilitate
Red Hat OpenShift AI 2.18 și Red Hat Enterprise Linux AI 1.4 sunt deja disponibile. Mai multe informații despre resurse suplimentare, îmbunătățiri, corecții de erori și cum să actualizați versiunea dvs. de Red Hat OpenShift AI la cea mai recentă pot fi găsiteaici,și cea mai recentă versiune a RHEL AI poate fi găsităaici.
Red Hat AI InstructLab pe IBM Cloud va fi disponibil în curând. Instruirea privind Fundamentele IA de la Red Hat este deja disponibilă pentru clienți
