Ar an gCéadaoin seo (13), comhlíonfaidh Red Hat an próiseas ceannaigh chun Neural Magic a fháil, cuideachta Mheiriceá Thuaidh, pionéir i gcláir agus i halgartaim Intleacht Shaorga Gineadóra (GenAI). Táirgeadh Neural Magic i ghinneadh feidhmíochta, i gcomhoibriú le do thiomantas don chód oscailte, comhoibríonn sé le fís Red Hat maidir le soláthar AI ardchaighdeáin a oireann do shaoil éagsúla agus cásanna úsáide an chustaiméara, in aon áit sa néal híbrid.
Cé go bhfuil gealltanas na GenAI ag rialú cuid mhór den chás teicneolaíochta reatha, tá na móra móra teanga (LLMs) a choinníonn na córais seo ag fás. Mar thoradh, táirgeadh seirbhísí LLM iontaofa agus cost-éifeachtach ag teastáil cumas ríomhaireachta suntasach, acmhainní fuinnimh agus scileanna oibríochta speisialta. Faoi láthair, cuirtear na n-íocaidí sin na sochair a bhaineann le hIA pearsanta, réidh le cur i bhfeidhm agus níos sábháilte do chuid is mó eagraíochtaí
Leis an ceannaigh Neural Magic, Tá sé an Red Hat ag iarraidh na dúshláin seo a chur i gcrích trí GenAI a dhéanamh níos inrochtana do níos mó eagraíochtaí trí nuálaíocht oscailte vLLM. Forbartha ag UC Berkeley, is é tionscadal open source a choinnítear ag an bpobal do sheirbhís samhail oscailte (mar a dhéanann na samhlacha AI giniúna tuairimí agus réitíonn fadhbanna), le taca le haghaidh gach príomhchórais samhlacha, taighde chun cinn ar luathú tuairimíochta agus éagsúla cúlraí crua-earraí, lena GPUs AMD, AWS Neuron, TPUs Google, Intel Gaudi, GPUanna NVIDIA agus CPUanna x86. Beartas Neural Magic ar an tionscadal vLLM i gcomhcheangal le laige láidir teicneolaíochtaí IA néata de Red Hat tabharfaidh sé bealach oscailte do eagraíochtaí chun straitéis IA a thógáil a freastal ar a gcuid riachtanas uathúla, aon a bhfuil do shonraí
Do Matt Hicks, Uachtarán agus CEO na comhlachta, ceannach Neural Magic, i gcomhoibriú le forbairt an tionscadail vLLM, tá an chéad chéim chun an comhlacht a chur mar thagairt i gclisteacht intleachtúil.Táimid ar bís chun ár gclár AI atá dírithe ar chloud hybrid a chomhlánú le nuálaíocht AI réabhlóideach Neural Magic, aghaidh ár mian nach bíodh muid ach 'Red Hat an foinse oscailte', ach an 'Red Hat na hIA', dúirt.
Red Hat + Neural Magic: ag cur leasa don todhchaí le AI ginte atá réidh don néal hybrid
Rinne Neural Magic spin-off ón MIT i 2018 leis an gcuspóir bogearraí inference ardfheidhmíochta a thógáil le haghaidh foghlama domhain (Deep Learning). Le teicneolaíocht agus an saineolas i ghinnearacht feidhmíochta ó Neural Magic, tá Red Hat ag iarraidh luas a thabhairt dá fhís do thodhchaí an AI, tiomáinte ag an bportfóil teicneolaíochta AI de Red Hat. Tógtha chun na dúshláin atá ag AI fiontar ar scála mór a shárú, úsáideann an chuideachta nuálaíocht open source chun rochtain ar chumhacht athraitheach an AI a dhaonlathú tuilleadh trí:
- Múnlaí ceadúnaithe open source ar scála ó 1 bhilliún go 405 bhilliún paraiméadar a d'fhéadfadh oibriú in aon áit sa néal híbrid — i lárionad sonraí corparáideach, i roinnt scamaill agus ar an edge.
- Feidhmeanna oiriúnaithe a ligeann do eagraíochtaí customize LLMs níos éasca lena gcuid sonraí príobháideacha agus cásanna úsáide le struchtúr slándála níos láidre
- Taithí in innealtóireacht feidhmíochta inference, mar thoradh ar níos mó éifeachtúlachtaí oibríochtúla agus de bhonneagar
- Éiceachóras oscailte foinse agus de chomhpháirtithe agus struchtúir tacaíochta a chuireann ar chumas go bhfuil níos mó rogha rogha ag custaiméirí, ó LLMs agus uirlisí go dtí crua-earraí freastalaí deimhnithe agus ailtireachtaí cip
Conradh vLLM chun Red Hat AI a fheabhsú
Bainfidh Neural Magic úsáid as a saineolas agus eolas i vLLM chun bunús teicneolaíochta a thógáil, ar leibhéal fiontraíochta, a ligeann do chustaiméirí uasmhéadú, imscaradh agus méidú ualach oibre LLM i dtimpeallachtaí scamall hibrideach le rialú iomlán maidir le rogha na bonneagair, beartais slándála agus saolré an mhúnla. Déantar Neural Magic freisin taighde barrfheabhsú samhail, tógann an LLM Compressor (leabharlann aontaithe chun LLMs a bharrfheabhsú le algartam sparsity agus cuantization deireanach glúin) agus coinníonn sé stór de mhúnlaí réamh-oibrithe réidh le bheith curtha i bhfeidhm le vLLM
Tá Red Hat AI ag iarraidh cabhrú le custaiméirí costais AI a laghdú agus bacainní scileanna le teicneolaíochtaí cumhachtacha, conas
- Red Hat Enterprise Linux AI (RHEL AI), ardán le haghaidh samhlacha bunúsacha chun forbairt, tástáil agus oibriú go foirfe an teaghlach IBM Granite de LLMs open source le haghaidh iarratais fiontair i bhforálacha freastalaí Linux;
- Red Hat OpenShift AI, ardán de AI a sholáthraíonn uirlisí chun forbairt, traenáil, freastal agus monatóireacht go tapa na samhlacha foghlaim meaisín i dtimpeallachtaí de Kubernetes scaipthe ar an suíomh, ar an scamall poiblí nó ar an edge;
- InstructLab, tionscadal pobal foinse oscailte cruthaithe ag Red Hat agus ag IBM a ligeann do dhuine ar bith cruthú todhchaí GenAI trí fheabhsú comhoibritheach LLMs Granite, ceadúnaithe mar foinse oscailte ag baint úsáide as teicneolaíocht fine-tuning ón InstructLab.
Beidh ceannaireacht teicneolaíochta Neural Magic i vLLM ag méadú cumas Red Hat AI chun tacaíocht a thabhairt do imscaradh LLM in aon timpeallacht agus in aon áit den scamall hibrideach le stailc inference réidh, ard optamaithe agus oscailte
Ní mór an t-idirbheart fós a bheith faoi cheadú rialála Meiriceánach agus coinníollacha eile gnáth de dhúnadh conarthaí
