Red Hat Summit

A Red Hat mesterségesintelligencia-portfóliójának új frissítései jelentős átalakulásokat hajtanak végre a vállalati iparágban. A Red Hat AI révén a vállalat arra törekszik, hogy tovább bővítse a technológia bevezetésének felgyorsításához szükséges képességeket, nagyobb szabadságot és bizalmat kínálva az ügyfeleknek a generatív mesterséges intelligencia (gen AI) hibrid felhőkörnyezetekben történő telepítése iránt. A Red Hat AI Inference Server elindítása, a Red Hat AI harmadik féltől származó validált modelljei, valamint a Llama Stack and Model Context Protocol (MCP) API-kkal való integráció, a vállalat a különféle mesterséges intelligencia módozatok piacára való áthelyezése. 

Forrester szerint a nyílt forráskódú szoftverek lesznek a motor a vállalati mesterséges intelligencia erőfeszítéseinek felgyorsítására. Ahogy az AI-környezet egyre összetettebbé és dinamikusabbá válik, a Red Hat AI Inference Server a harmadik féltől származó validált modellek pedig hatékony következtetéseket és teljesítmény-optimalizált mesterségesintelligencia-modellek tesztelt gyűjteményét biztosítják a Red Hat AI platformon. A Llama Stacket és az MCP-t is magában foglaló gen AI-ügynökfejlesztéshez új API-k integrálásával a Red Hat a telepítés bonyolultságának egyszerűsítésén dolgozik, lehetővé téve az IT-vezetők, adattudósok és fejlesztők számára, hogy nagyobb ellenőrzéssel és hatékonysággal mozdítsák elő mesterségesintelligencia-kezdeményezéseiket.

Hatékony hibrid felhő következtetés a Red Hat AI Inference Server segítségével

A Red Hat AI portfólió tartalmazza az új Red Hat AI Inference Server, Gyorsabb, konzisztens és költséghatékony következtetéseket tartalmaz a hibrid felhőkörnyezetekben. Ez a kiegészítés integrálva van a Red Hat OpenShift AI és a Red Hat Enterprise Linux AI legújabb verzióival, és önálló megoldásként is elérhető, lehetővé téve a szervezetek számára, hogy intelligens alkalmazásokat telepítsenek nagyobb hatékonysággal, rugalmassággal és teljesítménnyel.

Kipróbált és optimalizált modellek Red Hat AI-val és harmadik féltől származó érvényesítéssel

A Red Hat AI harmadik féltől származó validált modelljei, elérhető itt Ölelkező Arc, Tegye egyszerűvé a vállalkozások számára, hogy az igényeiknek megfelelő modelleket válasszanak A Red Hat AI validált modellek gyűjteményét kínálja, valamint olyan üzembe helyezési útmutatást, amely növeli az ügyfelek bizalmát a modell teljesítményében és az eredmények reprodukálhatóságában A kiválasztott modelleket a Red Hat is optimalizálja, olyan modelltömörítési technikákkal, amelyek csökkentik méretüket és növelik a következtetési sebességet, segítve az erőforrás-felhasználás és a működési költségek minimalizálását. Emellett a folyamatos modellérvényesítési folyamat segít a Red Hat AI ügyfeleinek abban, hogy a gen AI innováció élvonalában maradjanak.

Szabványosított API-k mesterséges intelligencia alkalmazásokhoz és ügynökfejlesztéshez a Llama Stack és az MCP segítségével

A Red Hat AI integrálja a Láma Stack, kezdetben a Meta fejlesztette ki, a MCP az Anthropictól kezdve szabványos API-k biztosítására AI-alkalmazások és ügynökök építéséhez és telepítéséhez. Jelenleg a Red Hat AI fejlesztői előnézeti verziójában érhető el, a Llama Stack egységes API-t biztosít a vLLM-mel való következtetéshez való hozzáféréshez, a helyreállításhoz továbbfejlesztett generáláshoz (RAG), a modellértékeléshez és még sok máshoz, védőkorlátok az ügynökök pedig bármely AI gen modellben. Az MCP lehetővé teszi a modellek integrálását külső eszközökkel, szabványos interfészt biztosítva az API-khoz, beépülő modulokhoz és adatforrásokhoz való csatlakozáshoz az ügynöki munkafolyamatokban.

A legújabb verzió Red Hat OpenShift AI (v2.20) További fejlesztéseket biztosít a generatív és prediktív mesterséges intelligencia modellek méretarányos felépítéséhez, betanításához, telepítéséhez és figyeléséhez. A legfontosabb jellemzők a következők

• Optimalizált modellkatalógus (műszaki előnézet): könnyű hozzáférés az érvényesített Red Hat és harmadik féltől származó modellekhez, webkonzol telepítéssel és teljes életciklus-kezeléssel integrált OpenShift regisztrációval.

• Elosztott képzés a KubeFlow Training Operatorral: futtassa a modellbeállításokat több Red Hat OpenShift csomóponton és GPU-n elosztott InstructLab és PyTorch munkaterheléssel, elosztott RDMA hálózattal a gyorsítás és a jobb GPU-használat érdekében a költségek csökkentése érdekében. 

• Funkciótár (műszaki előnézet): az upstream Kubeflow Feast projekt alapján központi adattárat kínál a képzéshez és következtetésekhez szükséges adatok kezelésére és továbbítására, az adatáramlás optimalizálására, valamint a modell pontosságának és újrafelhasználhatóságának javítására.

O Red Hat Enterprise Linux AI 1.5 új frissítéseket hoz a Red Hat alapmodell-platformjába, amely a nagyméretű nyelvi modellek (LLM-ek) fejlesztésére, tesztelésére és végrehajtására összpontosít. Az RHEL AI 1.5-ös verziójának legfontosabb jellemzői a következők

• Elérhetőség a Google Cloud Marketplace-en, az ügyfelek választási lehetőségeinek bővítése a Red Hat Enterprise Linux AI nyilvános felhőkön való futtatására (az AWS és az Azure mellett), megkönnyítve az AI-munkaterhelések telepítését és kezelését a Google Cloudon.

• Továbbfejlesztett képességek több nyelven spanyol, német, francia és olasz nyelven az InstructLab segítségével, lehetővé téve a modellek testreszabását natív szkriptekkel és bővítve a többnyelvű AI-alkalmazások lehetőségeit. A felhasználók saját “teacher” és “student” eszközeiket is használhatják a testreszabás és tesztelés nagyobb ellenőrzésére, a jövőbeni támogatást pedig japán, hindi és koreai nyelvre jósolják.

O Red Hat AI InstructLab az IBM Cloudon ez az új felhőszolgáltatás tovább egyszerűsíti a modellek testreszabásának folyamatát, javítva a méretezhetőséget és a felhasználói élményt A vállalkozások hatékonyabban és nagyobb ellenőrzés mellett használhatják adataikat.

Red Hat látás: bármilyen modell, bármilyen gyorsító, bármilyen felhő

Az AI jövőjét korlátlan lehetőségeknek kell meghatározniuk, és nem korlátozzák az infrastrukturális silók. A Red Hat olyan horizontot lát, ahol a szervezetek bármilyen modellt, bármilyen gyorsítón, bármilyen felhőben telepíthetnek, kivételes és következetesebb felhasználói élményt nyújtva, túlzott költségek nélkül. A gen AI befektetésekben rejlő valódi potenciál felszabadításához a vállalatoknak univerzális következtetési platformra és új szabványra van szükségük a folyamatos, nagy teljesítményű mesterséges intelligencia innovációkhoz, mind most, mind az elkövetkező években.

Red Hat csúcstalálkozó

Csatlakozzon a Red Hat Summit vitaindítóihoz, és hallgassa meg a Red Hat vezetőinek, ügyfeleinek és partnereinek legfrissebb híreit:

• Modern infrastruktúra a vállalati mesterséges intelligenciához igazodva május 20., 8-10 óra EDT (YouTube)
• A hibrid felhő az üzleti innováció ösztönzésére fejlődik május 21., 8h-9h30 EDT (YouTube)