Red Hat AI hyödyntää yritysten tekoälyn käyttöönottoa kaikissa malleissa, tekoälykiihdyttimissä ja pilvissä

Uudet päivitykset Red Hatin tekoälyportfoliossa johtavat suuriin muutoksiin yritysteollisuudessa. Red Hat AI:n kautta yritys pyrkii edelleen laajentamaan teknologian käyttöönoton nopeuttamiseen tarvittavia valmiuksia ja tarjoaa asiakkaille enemmän vapautta ja luottamusta generatiivisiin tekoälyn (gen AI) käyttöönottoihin hybridipilviympäristöissä. Red Hat AI Inference Serverin, Red Hat AI:n kolmannen osapuolen validoitujen mallien ja integraation Llama Stack and Model Context Protocol (MCP) -sovellusliittymien kanssa yritys asettuu markkinoille. erilaisia tekoälymenetelmiä. 

Forresterin mukaan avoimen lähdekoodin ohjelmisto on moottori, joka nopeuttaa yrityksen tekoälypyrkimyksiä. Kun tekoälymaisema muuttuu monimutkaisemmaksi ja dynaamisemmaksi, Red Hat AI-päätelmäpalvelin ja kolmannen osapuolen validoidut mallit tarjoavat tehokkaan johtopäätöksen ja testatun kokoelman suorituskykyyn optimoituja tekoälymalleja Red Hat AI -alustalla. Integroimalla uusia API:ita tekoälyagenttien kehittämiseen, joka sisältää Llama Stackin ja MCP:n, Red Hat pyrkii yksinkertaistamaan käyttöönoton monimutkaisuutta ja antaa IT-johtajille, datatieteilijöille ja kehittäjille mahdollisuuden edistää tekoälyaloitteitaan entistä tehokkaammin.

Tehokas hybridipilvipäätelmä Red Hat AI Inference Serverin kanssa

Red Hat AI -portfoliossa on uusi Red Hat AI-päätelmäpalvelin, Mukana nopeampi, johdonmukainen ja kustannustehokas päättely mittakaavassa hybridipilviympäristöissä. Tämä lisäys on integroitu Red Hat OpenShift AI:n ja Red Hat Enterprise Linux AI:n uusimpiin versioihin, ja se on saatavana myös erillisenä ratkaisuna, jonka avulla organisaatiot voivat ottaa käyttöön älykkäitä sovelluksia, joilla on suurempi tehokkuus, joustavuus ja suorituskyky.

Yritettiin ja optimoitiin malleja Red Hat AI: lla ja kolmannen osapuolen validoinnilla

Red Hat AI:n kolmannen osapuolen validoidut mallit, saatavilla Halaavat Kasvot, Tee yrityksille helpoksi valita tarpeisiinsa sopivat mallit Red Hat AI tarjoaa kokoelman validoituja malleja, sekä käyttöönotto-opastuksen, joka lisää asiakkaiden luottamusta mallin suorituskykyyn ja tulosten toistettavuuteen Valittuja malleja optimoi myös Red Hat, mallin pakkaustekniikoilla, jotka pienentävät niiden kokoa ja lisäävät päättelynopeutta, mikä auttaa minimoimaan resurssien kulutuksen ja käyttökustannukset. Lisäksi jatkuva mallin validointiprosessi auttaa Red Hat AI -asiakkaita pysymään gen AI -innovaation eturintamassa.

Standardoidut API:t tekoälysovellukseen ja agenttien kehittämiseen Llama Stackin ja MCP:n kanssa

Red Hat AI integroi Llama Stack's, alun perin kehittänyt Meta yhdessä MCP anthropicista tarjota standardoituja sovellusliittymiä tekoälysovellusten ja -agenttien rakentamiseen ja käyttöönottoon. Tällä hetkellä saatavilla Red Hat AI:n kehittäjän esikatseluversiona, Llama Stack tarjoaa yhtenäisen sovellusliittymän päättelyyn vLLM:n, palautumisen tehostaman sukupolven (RAG), mallin kanssa. arviointi ja paljon muuta, suojakaiteet ja agentit missä tahansa AI-geenimallissa.MCP mahdollistaa mallien integroinnin ulkoisiin työkaluihin, mikä tarjoaa standardoidun käyttöliittymän yhdistämiseen API:ihin, laajennuksiin ja tietolähteisiin agenttien työnkuluissa.

Uusin versio Red Hat OpenShift AI (v2.20) Tarjoaa lisäparannuksia generatiivisten ja ennakoivien tekoälymallien rakentamiseksi, kouluttamiseksi, käyttöönottamiseksi ja valvomiseksi mittakaavassa. Korostuksia ovat mm

• Optimoitu malliluettelo (tekninen esikatselu): helppo pääsy validoituihin Red Hat - ja kolmannen osapuolen malleihin, verkkokonsolin käyttöönotolla ja täydellisellä elinkaarihallinnalla integroidulla OpenShift-ilmoittautumisella.

• Jaettu koulutus KubeFlow Training Operatorin kanssa: suorita mallin säädöt InstructLab- ja PyTorch-työkuormilla, jotka on jaettu useille Red Hat OpenShift -solmuille ja GPU:ille, ja hajautettu RDMA-verkko nopeuttaa ja parantaa GPU:n käyttöä kustannusten vähentämiseksi. 

• Ominaisuuskauppa (tekninen esikatselu): alkupään Kubeflow Feast - projektin pohjalta se tarjoaa keskitetyn arkiston tietojen hallintaan ja toimittamiseen koulutusta ja päättelyä varten, tiedonkulun optimoimiseksi ja mallin tarkkuuden ja uudelleenkäytettävyyden parantamiseksi.

O Red Hat Enterprise Linux AI 1.5 tuo uusia päivityksiä Red Hatin ydinmallialustaan, joka keskittyy suurten kielimallien (LLM) kehittämiseen, testaamiseen ja suorittamiseen. RHEL AI -version 1.5 keskeisiä ominaisuuksia ovat mm

• Saatavuus Google Cloud Marketplacessa, laajentaa asiakkaiden valintaa käyttää Red Hat Enterprise Linux AI:ta julkisissa pilvissä (AWS:n ja Azuren lisäksi), mikä helpottaa tekoälytyökuormien käyttöönottoa ja hallintaa Google Cloudissa.

• Parannetut ominaisuudet useilla kielillä espanjalle, saksalle, ranskaksi ja italiaksi InstructLabin kautta, mikä mahdollistaa mallien räätälöinnin alkuperäisillä skripteillä ja laajentaa monikielisten tekoälysovellusten mahdollisuuksia Käyttäjät voivat myös käyttää omia “teacher¹ ja ”student¹eral-ohjelmiaan räätälöinnin ja testauksen parempaan hallintaan, ja tulevaisuuden tuki on ennustettu. japanilaisille, hindille ja korealaisille.

O Red Hat AI InstructLab IBM Cloudissa tämä uusi pilvipalvelu yksinkertaistaa entisestään mallien räätälöintiprosessia, parantaa skaalautuvuutta ja käyttökokemusta. Yritykset voivat käyttää tietojaan tehokkaammin ja suuremmalla ohjauksella.

Red Hatin visio: mikä tahansa malli, mikä tahansa kiihdytin, mikä tahansa pilvi

Tekoälyn tulevaisuus on määriteltävä rajoittamattomilla mahdollisuuksilla, eikä sitä rajoita infrastruktuurisiilot.Punainen hattu näkee horisontin, jossa organisaatiot voivat ottaa käyttöön minkä tahansa mallin missä tahansa kiihdyttimessä, missä tahansa pilvessä, joka tarjoaa poikkeuksellisen ja johdonmukaisemman käyttökokemuksen ilman kohtuuttomia kustannuksia. Avatakseen tekoälyinvestointien todellisen potentiaalin yritykset tarvitsevat yleisen päättelyalustan ja uuden standardin jatkuville, korkean suorituskyvyn tekoälyinnovaatioille sekä nyt että tulevina vuosina.

Red Hat Summit

Liity Red Hat Summitin pääpuhujiin kuullaksesi viimeisimmät tiedot Red Hatin johtajilta, asiakkailta ja kumppaneilta:

• Moderni infrastruktuuri, joka on linjassa yrityksen tekoälyn kanssa 20. toukokuuta, 8 h - 10 h EDT (YouTube)
• Hybridipilvi kehittyy ohjaamaan yritysinnovaatioita 21. toukokuuta, 8h-9h30 EDT (YouTube)