Á miðvikudaginn (13) lauk Red Hat kaupferlinu á Neural Magic, bandarísku fyrirtæki, brautryðjanda í hugbúnaði og reikniritum fyrir kynslóðargervigreind (GenAI). Sérþekking Neural Magic í afkastaverkfræði, ásamt skuldbindingu fyrirtækisins við opinn hugbúnað, er í samræmi við framtíðarsýn Red Hat um að skila afkastamiklum gervigreind sem hentar mismunandi aðstæðum viðskiptavina og notkunartilvikum, hvar sem er í blönduðu skýinu.
Þó að loforð um gervigreind (GenAI) ráði miklu af núverandi tækniumhverfi, halda stóru tungumálamódelin (LLM) sem undirstrika þessi kerfi áfram að vaxa. Þar af leiðandi krefst uppbyggingar áreiðanlegrar og hagkvæmrar LLM þjónustu mikillar reikniafls, orkuauðlinda og sérhæfðrar rekstrarhæfni. Eins og er koma þessar hindranir í veg fyrir að flest fyrirtæki geti nýtt sér ávinninginn af öruggari, innleiðingarhæfari og sérsniðnari gervigreind.
Með kaupunum á Neural Magic stefnir Red Hat að því að takast á við þessar áskoranir með því að gera GenAI aðgengilegra fyrir fleiri stofnanir með opinni nýsköpun vLLM. vLLM, sem þróað var af UC Berkeley, er samfélagsreynt opið hugbúnaðarverkefni fyrir opna líkanaþjónustu (hvernig GenAI líkön álykta og leysa vandamál), sem styður allar helstu líkanfjölskyldur, háþróaða rannsóknir á ályktunarhröðun og fjölbreyttan vélbúnaðarbakgrunn, þar á meðal AMD GPU-einingar, AWS Neuron, Google TPU-einingar, Intel Gaudi, NVIDIA GPU-einingar og x86 örgjörva. Forysta Neural Magic í vLLM verkefninu ásamt sterku úrvali Red Hat af blönduðum skýjatækni fyrir gervigreind mun bjóða fyrirtækjum opna leið til að byggja upp gervigreindarstefnur sem uppfylla einstakar þarfir þeirra, hvar sem gögn þeirra eru geymd.
Fyrir Matt Hicks, forseta og forstjóra fyrirtækisins, eru kaupin á Neural Magic, ásamt þróun vLLM-frumkvæðisins, fyrsta skrefið í að koma fyrirtækinu á framfæri sem viðmiðunarpunkti í gervigreind. „Við erum spennt að bæta við skýjatengda gervigreindarframleiðslu okkar með byltingarkenndri gervigreindarnýjung Neural Magic, sem eflir metnað okkar til að vera ekki aðeins „Red Hat opins hugbúnaðar“ heldur einnig „Red Hat gervigreindar“,“ sagði hann.
Red Hat + taugatöfrar: Að gera framtíð mögulega með blönduðum skýjatilbúnum gervigreindum.
Neural Magic var stofnað frá MIT árið 2018 með það að markmiði að smíða afkastamikla ályktunarhugbúnað fyrir djúpnám. Með tækni Neural Magic og sérþekkingu á afkastaverkfræði stefnir Red Hat að því að flýta fyrir framtíðarsýn sinni á gervigreind, knúin áfram af gervigreindartækniframleiðslu Red Hat. Fyrirtækið er hannað til að sigrast á áskorunum stórfyrirtækja sem felast í gervigreind og notar opinn hugbúnað til að auðvelda enn frekar aðgang að umbreytingarkrafti gervigreindar með því að:
- Leyfisbundin opin hugbúnaðarlíkön sem ná yfir 1 milljarð til 405 milljarða breyta sem geta virkað hvar sem er í blönduðu skýi — í gagnaverum fyrirtækja, í mörgum skýjum og á jaðrinum.
- Sérstillingaraðgerðir sem gera fyrirtækjum kleift að sníða LLM-verkefni auðveldlegar að einkagögnum sínum og notkunartilvikum með öflugra öryggisumgjörð.
- Reynsla af ályktunarverkfræði, sem leiðir til meiri skilvirkni í rekstri og innviðum.
- Opið vistkerfi og net samstarfsaðila og stuðningsstofnana sem veita viðskiptavinum meiri valkosti, allt frá lögfræðinámi og tólum til vottaðs netþjónavélbúnaðar og örgjörvaarkitektúrs.
Leiðtogahlutverk vLLM til að efla gervigreind Red Hat
Neural Magic mun nýta sérþekkingu sína og þekkingu á vLLM til að byggja upp tæknilegan grunn á fyrirtækjastigi sem gerir viðskiptavinum kleift að hámarka, dreifa og stækka LLM vinnuálag í blönduðu skýjaumhverfi með fullri stjórn á vali á innviðum, öryggisstefnu og líftíma líkana. Neural Magic framkvæmir einnig rannsóknir á líkanabestun, smíðar LLM Compressor (sameint bókasafn til að hámarka LLM með nýjustu dreifðleika- og magngreiningarreikniritum) og viðheldur gagnagrunni af forbestuðum líkönum sem eru tilbúin til dreifingar með vLLM.
Red Hat AI miðar að því að hjálpa viðskiptavinum að draga úr kostnaði við gervigreind og færnihindranir með öflugri tækni eins og:
- Red Hat Enterprise Linux AI (RHEL AI) , vettvangur til að smíða líkön til að þróa, prófa og reka IBM Granite fjölskylduna af opnum LLM-kerfum fyrir fyrirtækjaforrit í Linux-þjónadreifingu á óaðfinnanlegan hátt;
- Red Hat OpenShift AI er gervigreindarvettvangur sem býður upp á verkfæri til að þróa, þjálfa, þjóna og fylgjast hratt með vélanámslíkönum í dreifðum Kubernetes umhverfum, á staðnum, í almenningsskýinu eða á jaðrinum.
- InstructLab er samfélagsverkefni með opnum hugbúnaði, búið til af Red Hat og IBM, sem gerir hverjum sem er kleift að móta framtíð GenAI með samvinnu umbótum á Granite LLMs, sem eru leyfisbundin sem opinn hugbúnaður, með því að nota fínstillingartækni InstructLab.
Tæknileg forysta Neural Magic í vLLM mun auka getu Red Hat AI til að styðja LLM innleiðingar í hvaða umhverfi sem er og hvar sem er í blönduðu skýinu með tilbúnum, mjög fínstilltum og opnum ályktunarstafla.
Viðskiptin eru enn háð samþykki bandarískra eftirlitsaðila og öðrum hefðbundnum skilyrðum fyrir lokun.
