Þessa miðvikudag (13), Red Hat hefur lokið kaupsferlinu til að eignast Neural Magic, amerísk fyrirtæki, pioner í hugbúnaði og reikniritum fyrir sköpunargáfu gervigreindar (GenAI). Fagurð Neural Magic í frammistöðuhandverki, saman með skuldbindingu þinni við opinn hugbúnað, samræmist sýn Red Hat um veitingu háþróaðrar gervigreindar sem fellur að mismunandi aðstæðum og notkunartilfellum viðskiptavina, hvar sem stað í blandaðri skýjakerfi.
Þrátt fyrir að loforð GenAI ráði yfir stórum hluta núverandi tæknilandslagsins, stórstu tungumódelin (LLM) sem styðja þessar kerfi halda áfram að vaxa. Sem niðurstöðu, bygging áre LLM þjónustu sem eru áreiðanlegar og kostnaðarsamar krafist verulegs útreikningsgetu, orkuauðlindir og sérhæfðar rekstrarhæfileikar. Að þessu sinni, þessir hindranir gera ómöguleika á ávinningi af sérsniðinni gervigreind, undir fyrir innleiðingu og öruggari fyrir flestar stofnanir
Með kaupum á Neural Magic, Red Hat hefur í hyggju að takast á við þessi áskorun með því að gera GenAI aðgengilegri fyrir fleiri stofnanir í gegnum opinberar nýsköpun vLLM. Þróað af UC Berkeley, vLLM er opinn uppspretta verkefni sem er haldið af samfélaginu fyrir opinn líkan þjónustu (eins og líkanin í gen AI draga ályktanir og leysa vandamál), með stuðningi við allar helstu módelfjölskyldur, vísindaleit um hraðauppfærslu og ýmsum vélbúnaðarbakendunum, þ.m. AMD GPU, AWS Neuron, Google TPU, Intel Gaudi, NVIDIA GPU og x86 CPU. Leiðtoginn í Neural Magic í vLLM verkefninu, ásamt sterku vöruúrvali Red Hat á skýja-gervigreindartækni, mun bjóða stofnunum opinn leið að því að byggja upp gervigreindarstefnur sem uppfylla þeirra einstöku þarfir, hvar sem er gögnin þín
Fyrir Matt Hicks, Forseti og forstjóri fyrirtækisins, kaup Neural Magic, saman með þróun á vLLM frumkvæðinu, eru fyrsta skrefið til að gera fyrirtækið að viðmiði í gervigreind.Við erum spennt fyrir því að bæta við okkar skýja-íhalds AI vöruflokk með byltingarkenndri AI nýsköpun Neural Magic, aukandi okkar löngun til að vera ekki aðeins 'Red Hat opinn hugbúnaður', en einnig „Red Hat í gervigreind“, sagði.
Red Hat + Neural Magic: að gera framtíðina mögulega með gen AI tilbúin fyrir skýjaþjónustu
Neural Magic gerði spin-off frá MIT árið 2018 með það að markmiði að byggja upp hugbúnað fyrir háþróaða ályktun fyrir djúpan námsvettvang. Með tækni og sérfræðiþekkingu í frammistöðuhandverki frá Neural Magic, Red Hat leitir að flýta fyrir sýn sinni um framtíð gervigreindar, drifin af tækni AI vöruflokk Red Hat. Byggð til að yfirstíga áskoranir stórfelldrar fyrirtækja-gervigreindar, fyrirtækið notar opinn hugbúnað til að gera aðgengi að umbreytandi krafti gervigreindar enn frekar aðgengilegt með:
- Leyfið opinn hugbúnaður líkan á skala frá 1 milljarði upp í 405 milljarða breyta sem getur starfað hvar sem er í skýjaumhverfi — í fyrirtækjagagnaverum, í mörgum skýjum og á jaðrinum.
- Aðgerðir til að aðlaga sem leyfa stofnunum að sérsníða LLMs auðveldara með sínum einkagögnum og notkunartilfellum með öflugri öryggistrúnað
- Reynsla í frammistöðuhönnun á ályktun, sem að leiði til meiri rekstrar- og innviðaárangurs
- Eitt opinn hugbúnaðar- og samstarfskerfi með stuðningsstrúktúrum sem gerir viðskiptavinum kleift að hafa fleiri valkostir, frá LLMs og verkfæri til vottuð þjónustuhardware og örgjörvaarkitektúr
Leiðtogahæfni vLLM til að bæta Red Hat AI
Neural Magic munar sérfræðingu sína og þekkingu á vLLM til að byggja upp tæknigrunn, á fyrirtækjaskyni, semur viðskiptavinum að hámarka, setja upp og mæla LLM vinnslulastir í skýjaumhverfi með blönduðum skýjum með fullkomnu stjórn á valinu á innviðum, öryggisstefnur og líftími módelsins. Neural Magic þróar einnig rannsóknir á módelhagræðingu, byggir LLM Compressor (sameina bókasafn til að hámarka LLM með nútíma þéttleika- og kvantunaraðferðum) og heldur uppi safni af fyrirhönnuðum módelum tilbúnum til að vera sett í notkun með vLLM
Red Hat AI leitir að hjálpa viðskiptavinum að draga úr kostnaði við gervigreind og hindrunum í færni með öflugum tækni, eins og
- Red Hat Enterprise Linux AI (RHEL AI), vettvangur fyrir grunnlíkön til að þróa, prófa og starfa fullkomlega með IBM Granite fjölskyldu LLMs opinn uppspretta fyrir fyrirtækjaforrit í Linux þjónustuframkvæmdum;
- Red Hat OpenShift AI, vettvangur fyrir gervigreind sem veitir verkfæri til að þróa, þjálfa, þjóna og fylgjast fljótt með vélanámslíkönum í dreifðum Kubernetes umhverfum á staðnum, í skýjinu opinberu eða á jaðrinum;
- InstructLab, opnun heimildarverkefni sem var skapað af Red Hat og IBM sem gerir öllum kleift að móta framtíð GenAI með samstarfsbættri þróun á LLMs Granite, leyfið sem opinn hugbúnaður með tækni fyrir fínstillingu frá InstructLab.
Tæknileiðtoginn hjá Neural Magic í vLLM mun auka getu Red Hat AI til að styðja við útfærslur á LLM í hvaða umhverfi sem er og hvar sem er í skýinu með tilbúinni inntökustöð, mjög hámarkað og opið
Transaksjónin þarf enn að fara í gegnum bandaríska reglugerðarsamþykkt og aðrar venjulegar skilyrði fyrir lokun samninga
