Red Hat on juuri julkaissut uusia päivityksiä Red Hat AI:hin, tuote- ja palveluportfolioon, joka on suunniteltu nopeuttamaan tekoälyratkaisujen kehittämistä ja käyttöönottoa hybridipilvessä. Red Hat AI tarjoaa yritystason tekoälyalustan mallien koulutukseen ja päättelyyn, tarjoten enemmän kokemusta, joustavuutta ja yksinkertaistetun käyttökokemuksen järjestelmien käyttöönottoon missä tahansa hybridipilvessä.
Etsittäessä suurien kielimallien (LLMS) käyttöönoton kustannusten vähentämistä yhä kasvavaan käyttötapausten määrään, yritykset kohtaavat edelleen haasteen integroida nämä järjestelmät omien tietojensa kanssa ja käyttää niitä mistä tahansa: datakeskuksessa, julkisessa pilvessä tai jopa reunalla.
Integroimalla sekä Red Hat OpenShift AI:n että Red Hat Enterprise Linux AI:n (RHEL AI:n), Red Hat AI vastaa näihin huoliin tarjoamalla yritystason tekoälyalustan, joka mahdollistaa tehokkaampien ja optimoidumpien mallien käyttöönoton, räätälöitynä yrityksen erityistietoihin, ja jonka voi ottaa käyttöön hybridipilvessä mallien kouluttamiseksi laajalla skaalalla laskenta-arkkitehtuureja.
Joe Fernandes, Red Hat'n tekoälyliiketoimintayksikön varatoimitusjohtaja ja toimitusjohtaja, toteaa päivityksen mahdollistavan organisaatioiden olla tarkkoja ja kustannustehokkaita tekoälymatkoissaan. Red Hat tietää, että yritykset tarvitsevat keinoja hallita kasvavia kustannuksia generatiivisen tekoälyn käyttöönotossa, kun ne tuovat lisää käyttötapauksia tuotantoon ja toimivat laajasti. Red Hat AI auttaa organisaatioita kohtaamaan nämä haasteet mahdollistamalla tehokkaampien mallien käytön, jotka on kehitetty tarkoitukseen, koulutettu niiden omilla tiedoilla ja jotka mahdollistavat joustavan päättelyn paikallisissa, pilvi- ja reunaympäristöissä.
Red Hat OpenShift AI
Red Hat OpenShift AI tarjoaa kattavan tekoälyalustan ennustavan ja generatiivisen tekoälyn (gen AI) elinkaarien hallintaan hybridipilvessä, mukaan lukien koneoppimisen operatiiviset toiminnot (MLOps) ja suurten kielimallien operointikyvyt (LLMOps). Alusta tarjoaa ominaisuuksia ennustavien mallien rakentamiseen ja gen AI -mallien säätämiseen sekä työkaluja tekoälymallien hallinnan yksinkertaistamiseen, alkaen datatieteen putkista ja malleista aina mallien valvontaan, hallintoon ja paljon muuta.
Uusin versio Red Hat OpenShift AI 2.18 -alustasta lisää uusia päivityksiä ja ominaisuuksia tukemaan Red Hat AI:n tavoitetta tuoda optimoidumpia ja tehokkaampia tekoälymalleja hybridipilveen. Pääominaisuudet sisältävät
● Jakautettu palveluSaatavilla inference-palvelimen vLLM kautta, jakelupalvelu mahdollistaa IT-tiimien jakaa mallipalvelun useiden grafiikkasuorittimien (GPU) kesken. Tämä auttaa keventämään kuormitusta yhdellä palvelimella, nopeuttaa koulutusta ja hienosäätöä sekä edistää tehokkaampaa laskentaresurssien käyttöä samalla kun se auttaa jakamaan palveluita tekoälymallien solmujen välillä.
● Kokonaisvaltainen mallin säätökokemusKäyttämällä InstructLabia ja Red Hat OpenShift AI:n datatieteen putkia, tämä uusi ominaisuus auttaa yksinkertaistamaan LLM:ien hienosäätöä, tehden niistä skaalautuvampia, tehokkaampia ja auditointikelpoisia suurissa tuotantoympäristöissä samalla kun se tarjoaa hallinnan Red Hat OpenShift AI:n hallintapaneelin kautta.
● AI-turvakaiteetRed Hat OpenShift AI 2.18 auttaa parantamaan suurkielimallien (LLM) tarkkuutta, suorituskykyä, viivettä ja läpinäkyvyyttä AI Guardrails -teknologian esikatselun avulla, joka valvoo ja suojaa käyttäjän syötteitä ja mallin tuottoja. AI Guardrails tarjoaa lisäominaisuuksia havaitsemiseen, jotka auttavat IT-tiimejä tunnistamaan ja lieventämään mahdollisesti vihamielisiä, loukkaavia tai profaanisia puheita, henkilötietoja, kilpailijoiden tietoja tai muita yrityspolitiikkojen alaista tietoa.
● Mallin arviointiKäyttämällä kielimallin arviointikomponenttia (lm-eval) tarjoamaan tärkeitä tietoja mallin yleisestä laadusta, mallin arviointi mahdollistaa datatieteilijöiden vertailla suurkielimalliensa (LLM) suorituskykyä eri tehtävissä, aina loogisesta ja matemaattisesta päättelystä luonnollisen kielen vastustaviin tehtäviin, auttaen luomaan tehokkaampia, reagoivampia ja räätälöityjä tekoälymalleja.
RHEL AI
Red Hat AI -portfolion osa, RHEL AI on perusmallialusta, joka on suunniteltu kehittämään, testaamaan ja suorittamaan LLM:itä johdonmukaisemmin yrityssovellusten edistämiseksi. RHEL AI tarjoaa Granite LLM -malleja ja InstructLab-mallien kohdistustyökaluja, jotka ovat Red Hat Enterprise Linuxin käynnistettävän kuvan paketteja ja joita voidaan ottaa käyttöön hybridipilvessä.
Julkaistu helmikuussa 2025, RHEL 1.4 toi mukanaan useita parannuksia, mukaan lukien:
● Granite 3.1 8B -mallin tukikuten uusin lisäys Granite-malliperheeseen avoimen lähdekoodin lisenssillä. Malli lisää monikielisen tuen päättelyyn ja taksonomian/tiedon personointiin (esikatselu kehittäjille), sekä 128k:n kontekstin ikkunan parantamaan tiivistystulosten ja Retrieval-Augmented Generation (RAG) -tehtävien käyttöönottoa
● Uusi graafinen käyttöliittymä, joka auttaa hyödyntämään taitoja ja aiempaa tietämystäSaatavilla esikatselumuodossa kehittäjille, tarkoituksena yksinkertaistaa datan kulutusta ja hajautumista sekä mahdollistaa käyttäjien lisätä omia taitojaan ja panoksiaan tekoälymalleihin.
● Dokumentti Knowledge-bench (DK-bench)helpottaakseen vertailuja yksityisillä tiedoilla hienosäädettyjen tekoälymallien ja niiden perusmallien suorituskykyyn
Red Hat AI InstructLab IBM Cloudissa
Yhä enemmän yritykset etsivät tekoälyratkaisuja, jotka painottavat tietojensa tarkkuutta ja turvallisuutta samalla kun kustannukset ja monimutkaisuus pidetään mahdollisimman alhaisina. Red Hat AI InstructLab, joka on saatavilla IBM Cloud -palveluna, on suunniteltu yksinkertaistamaan, skaalaamaan ja parantamaan turvallisuutta tekoälyjärjestelmien koulutuksessa ja käyttöönotossa. Mallinnettaessa InstructLab-mallien säätöä organisaatiot voivat rakentaa tehokkaampia alustoja, jotka on räätälöity heidän ainutlaatuisiin tarpeisiinsa, säilyttäen hallinnan luottamuksellisista tiedoistaan.
Ilmainen koulutus tekoälyn perusteista
Tekoäly on muutosmahdollisuus, joka muuttaa yritysten toimintaa ja kilpailua. Tukeakseen organisaatioita tässä dynaamisessa ympäristössä Red Hat tarjoaa ilmaisia verkkokoulutuksia tekoälyn perusteista. Yritys tarjoaa kahta tekoälyoppimisen sertifikaattia, jotka on suunnattu sekä kokeneille johtajille että aloittelijoille, auttaen kouluttamaan kaiken tasoisia käyttäjiä siitä, miten tekoäly voi auttaa muuttamaan liiketoimintaprosesseja, nopeuttamaan päätöksentekoa ja edistämään innovaatioita.
Saatavuus
Red Hat OpenShift AI 2.18 ja Red Hat Enterprise Linux AI 1.4 ovat nyt saatavilla. Lisätietoja lisäominaisuuksista, parannuksista, bugikorjauksista ja siitä, miten päivittää Red Hat OpenShift AI -version uusimpaan, löytyytässäja viimeisin versio RHEL AI:sta löytyytässä.
Red Hat AI InstructLab IBM Cloudissa tulee pian saataville. Red Hatin tekoälyn perusteiden koulutus on nyt saatavilla asiakkaille.