Red Hat AI využívá podnikové přijetí AI napříč všemi modely, AI akcelerátory a cloudy

Nové aktualizace napříč portfoliem AI společnosti Red Hat vedou k velkým transformacím v podnikovém průmyslu. Prostřednictvím Red Hat AI se společnost snaží dále rozšiřovat možnosti potřebné k urychlení přijetí technologií a nabízí zákazníkům větší svobodu a důvěru v generativní nasazení AI (gen AI) v hybridních cloudových prostředích. Od uvedení Red Hat AI Inference Server, ověřených modelů třetích stran v Red Hat AI a integrace s rozhraními Llama Stack and Model Context Protocol (MCP) API společnost přechází na trh pro různé způsoby umělé inteligence. 

Podle Forrestera bude open source software motorem pro urychlení podnikového úsilí o umělou inteligenci. Jak se prostředí umělé inteligence stává složitějším a dynamičtějším, Red Hat AI Inference Server a modely ověřené třetími stranami poskytují efektivní odvození a testovanou sbírku výkonově optimalizovaných modelů AI na platformě Red Hat AI. Integrací nových rozhraní API pro vývoj agentů gen AI, která zahrnuje Llama Stack a MCP, pracuje Red Hat na zjednodušení složitosti nasazení a umožňuje IT lídrům, datovým vědcům a vývojářům prosazovat své iniciativy AI s větší kontrolou a efektivitou.

Efektivní hybridní cloudová inference s Red Hat AI Inference Server

Portfolio Red Hat AI obsahuje nové Red Hat AI Inference Server, Obsahuje rychlejší, konzistentní a nákladově efektivní odvození v měřítku napříč hybridními cloudovými prostředími Tento přírůstek je integrován s nejnovějšími verzemi Red Hat OpenShift AI a Red Hat Enterprise Linux AI a je také k dispozici jako samostatné řešení, které organizacím umožňuje nasazovat inteligentní aplikace s větší efektivitou, flexibilitou a výkonem.

Vyzkoušené a optimalizované modely s Red Hat AI a ověřením třetí stranou

Modely Red Hat AI ověřené třetí stranou, dostupné v Objímání Obličeje, Usnadněte podnikům výběr správných modelů pro jejich potřeby Red Hat AI nabízí kolekci ověřených modelů, stejně jako pokyny pro nasazení, které zvyšují důvěru zákazníků ve výkon modelu a reprodukovatelnost výsledků Vybrané modely jsou také optimalizovány společností Red Hat, s technikami komprese modelů, které snižují jejich velikost a zvyšují rychlost odvozování, což pomáhá minimalizovat spotřebu zdrojů a provozní náklady. Kromě toho proces průběžného ověřování modelů pomáhá zákazníkům Red Hat AI zůstat v popředí gen AI inovací.

Standardizovaná API pro vývoj aplikací a agentů AI s Llama Stack a MCP

Red Hat AI integruje Llama Stack's, původně vyvinutý společností Meta, spolu s MCP od společnosti Anthropic, aby poskytovala standardizovaná rozhraní API pro vytváření a nasazování aplikací a agentů AI. Llama Stack, který je v současné době k dispozici ve verzi náhledu vývojářů v Red Hat AI, poskytuje jednotné rozhraní API pro inferenční přístup s vLLM, generováním vylepšeným obnovou (RAG), vyhodnocováním modelů a dalšími, mantinely a agenti v jakémkoli modelu AI gen.MCP umožňuje modelům integraci s externími nástroji a poskytuje standardizované rozhraní pro připojení k rozhraním API, pluginům a zdrojům dat v pracovních postupech agentů.

Nejnovější verze Red Hat OpenShift AI (v2.20) Poskytuje další vylepšení pro vytváření, trénování, nasazení a monitorování generativních a prediktivních modelů AI ve velkém měřítku. Mezi nejvýznamnější patří:

• Optimalizovaný katalog modelů (technický náhled): snadný přístup k ověřeným modelům Red Hat a modelů třetích stran s nasazením webové konzole a kompletní správou životního cyklu s integrovanou registrací OpenShift.

• Distribuované školení s KubeFlow Training Operator: spusťte úpravy modelu pomocí úloh InstructLab a PyTorch distribuovaných ve více uzlech Red Hat OpenShift a GPU, s distribuovanou sítí RDMA pro zrychlení a lepší využití GPU pro snížení nákladů. 

• Obchod s funkcemi (technický náhled): na základě upstreamového projektu Kubeflow Feast nabízí centralizované úložiště pro správu a dodávání dat pro školení a vyvozování, optimalizaci toku dat a zlepšení přesnosti a opětovné použitelnosti modelu.

O Red Hat Enterprise Linux AI 1.5 přináší nové aktualizace základní modelové platformy Red Hat zaměřené na vývoj, testování a spouštění rozsáhlých jazykových modelů (LLM). Mezi klíčové funkce RHEL AI verze 1.5 patří:

• Dostupnost na Google Cloud Marketplace, rozšíření výběru zákazníků pro spouštění Red Hat Enterprise Linux AI na veřejných cloudech (kromě AWS a Azure), což usnadňuje nasazení a správu úloh AI v Google Cloud.

• Vylepšené možnosti ve více jazycích pro španělštinu, němčinu, francouzštinu a italštinu prostřednictvím InstructLab, umožňující přizpůsobení modelů nativním skriptům a rozšíření možností vícejazyčných aplikací AI. Uživatelé mohou také využít vlastní “provozování učitelů a ”zadního studenta pro větší kontrolu při přizpůsobování a testování, přičemž budoucí podpora je předpovídaná pro japonštinu, hindštinu a korejštinu.

O Red Hat AI InstructLab na IBM Cloud tato nová cloudová služba dále zjednodušuje proces přizpůsobení modelů, zlepšuje škálovatelnost a uživatelskou zkušenost Podniky mohou využívat svá data efektivněji a s větší kontrolou.

Vize Red Hat: jakýkoli model, jakýkoli akcelerátor, jakákoli cloudová platforma

Budoucnost umělé inteligence musí být definována neomezenými příležitostmi a nesmí být omezena infrastrukturními sily. Red Hat vidí horizont, kdy organizace mohou nasadit jakýkoli model, na jakýkoli akcelerátor, v jakémkoli cloudu, poskytující výjimečnou a konzistentnější uživatelskou zkušenost bez přemrštěných nákladů. K odemknutí skutečného potenciálu investic gen AI potřebují společnosti univerzální inferenční platformu a nový standard pro nepřetržité, vysoce výkonné inovace AI, a to jak nyní, tak v nadcházejících letech.

Summit Red Hat

Připojte se k hlavním poznámkám Red Hat Summit a vyslechněte si nejnovější informace od vedoucích pracovníků, zákazníků a partnerů Red Hat:

• Moderní infrastruktura v souladu s podnikovou AI 20. května, 8:00 - 10:00 EDT (YouTube)
• Hybridní cloud se vyvíjí, aby poháněl obchodní inovace 21. května, 8h-9h30 EDT (YouTube)