Dé Céadaoin (13), chríochnaigh Red Hat an próiseas ceannaigh chun Neural Magic, cuideachta SAM, ceannródaí i mbogearraí agus halgartaim Intleachta Saorga Giniúnach (GenAI) a fháil. Tá saineolas Neural Magic san innealtóireacht feidhmíochta, mar aon lena thiomantas don fhoinse oscailte, ag teacht le fís Red Hat maidir le hintleacht shaorga ardfheidhmíochta a sheachadadh a oireann do chásanna custaiméirí agus cásanna úsáide éagsúla, in áit ar bith sa scamall hibrideach.
Cé go bhfuil gealltanas GenAI i réim i gcuid mhór den tírdhreach teicneolaíoch reatha, leanann na samhlacha teanga móra (LLManna) atá mar bhonn leis na córais seo ag fás. Mar thoradh air sin, teastaíonn cumhacht ríomhaireachta shuntasach, acmhainní fuinnimh agus scileanna oibríochtúla speisialaithe chun seirbhísí LLM iontaofa agus cost-éifeachtacha a thógáil. Faoi láthair, cuireann na constaicí seo cosc ar fhormhór na n-eagraíochtaí buntáistí AI níos sláine, níos réidh le himscaradh agus níos pearsantaithe a bhaint amach.
Le fáil Neural Magic, tá sé mar aidhm ag Red Hat aghaidh a thabhairt ar na dúshláin seo trí GenAI a dhéanamh níos inrochtana do níos mó eagraíochtaí tríd an nuálaíocht oscailte de vLLM. Forbartha ag UC Berkeley, is tionscadal foinse oscailte é vLLM atá á chothabháil ag an bpobal le haghaidh seirbhís mhúnla oscailte (conas a dhéanann samhlacha GenAI infheistiú agus fadhbanna a réiteach), ag tacú le gach teaghlach mór mhúnla, taighde luasghéaraithe infheistiúcháin chun cinn, agus cúltaca crua-earraí éagsúla, lena n-áirítear GPUanna AMD, AWS Neuron, TPUanna Google, Intel Gaudi, GPUanna NVIDIA, agus LAPanna x86. Cuirfidh ceannaireacht Neural Magic sa tionscadal vLLM in éineacht le punann láidir Red Hat de theicneolaíochtaí AI scamall hibrideacha cosán oscailte ar fáil d'eagraíochtaí chun straitéisí AI a thógáil a chomhlíonann a riachtanais uathúla, cibé áit a bhfuil a gcuid sonraí.
I gcás Matt Hicks, Uachtarán agus POF na cuideachta, is é éadáil Neural Magic, mar aon le forbairt thionscnamh vLLM, an chéad chéim i suíomh na cuideachta mar thagarmharc san intleacht shaorga. "Táimid ar bís ár bpunann hibrideach AI atá dírithe ar an scamall a chomhlánú le nuálaíocht cheannródaíoch AI Neural Magic, rud a chuireann lenár n-uaillmhian a bheith ní hamháin mar 'Red Hat na foinse oscailte,' ach mar 'Red Hat na hintleachta saorga' freisin," a dúirt sé.
Red Hat + Draíocht Néarónach: Todhchaí a chumasú le hintleacht shaorga hibrideach atá réidh don scamall.
Scaipeadh Neural Magic ó MIT in 2018 leis an sprioc bogearraí inference ardfheidhmíochta a thógáil le haghaidh foghlama domhain. Le saineolas teicneolaíochta agus innealtóireachta feidhmíochta Neural Magic, tá Red Hat ag iarraidh a fhís do thodhchaí na hintleachta saorga a luathú, á thiomáint ag punann teicneolaíochta hintleachta saorga Red Hat. Tógtha chun dul i ngleic le dúshláin na hintleachta saorga fiontar ar scála mór, úsáideann an chuideachta nuálaíocht foinse oscailte chun rochtain ar chumhacht chlaochlaitheach na hintleachta saorga a dhaonlathú tuilleadh trí:
- Samhlacha foinse oscailte ceadúnaithe idir 1 billiún agus 405 billiún paraiméadar ar féidir leo oibriú in áit ar bith sa scamall hibrideach—in ionaid sonraí fiontar, trasna il-néal, agus ar an imeall.
- Gnéithe saincheaptha a ligeann d’eagraíochtaí LLManna a chur in oiriúint níos éasca dá sonraí príobháideacha agus cásanna úsáide le creat slándála níos láidre.
- Taithí ar innealtóireacht feidhmíochta inferéinse, rud a fhágann go mbíonn éifeachtúlachtaí oibríochtúla agus bonneagair níos fearr ann.
- Éiceachóras foinse oscailte agus líonra comhpháirtithe agus struchtúr tacaíochta a thugann níos mó rogha do chustaiméirí, ó LLManna agus uirlisí go crua-earraí freastalaí deimhnithe agus ailtireachtaí sliseanna.
Ceannaireacht vLLM chun feabhas a chur ar AI Red Hat
Bainfidh Neural Magic leas as a saineolas agus a eolas i vLLM chun bunchloch teicneolaíochta ar leibhéal fiontraíochta a thógáil a chuireann ar chumas custaiméirí ualaí oibre LLM a bharrfheabhsú, a imscaradh agus a scálú i dtimpeallachtaí scamall hibrideacha le smacht iomlán ar rogha bonneagair, beartais slándála agus saolré samhail. Déanann Neural Magic taighde ar bharrfheabhsú samhail freisin, tógann sé an Comhbhrúiteoir LLM (leabharlann aontaithe chun LLManna a bharrfheabhsú le halgartaim spársachta agus cainníochtaithe den scoth), agus coinníonn sé stór de shamhlacha réamh-optamaithe atá réidh le himscaradh le vLLM.
Tá sé mar aidhm ag Red Hat AI cabhrú le custaiméirí costais agus bacainní scileanna AI a laghdú le teicneolaíochtaí cumhachtacha amhail:
- Red Hat Enterprise Linux AI (RHEL AI) , ardán chun samhlacha a thógáil chun teaghlach IBM Granite de LLManna foinse oscailte a fhorbairt, a thástáil agus a oibriú go gan uaim le haghaidh feidhmchlár fiontraíochta in imscaradh freastalaí Linux;
- Red Hat OpenShift AI a sholáthraíonn uirlisí chun samhlacha foghlama meaisín a fhorbairt, a oiliúint, a sheirbheáil agus a mhonatóiriú go tapa i dtimpeallachtaí Kubernetes dáilte ar an láthair, sa scamall poiblí, nó ar an imeall.
- InstructLab arna chruthú ag Red Hat agus IBM a ligeann d’aon duine todhchaí GenAI a mhúnlú trí fheabhsú comhoibríoch ar Granite LLMs, atá ceadúnaithe mar fhoinse oscailte, ag baint úsáide as teicneolaíocht mhionchoigeartaithe InstructLab.
Cuirfidh ceannaireacht theicneolaíoch Neural Magic i vLLM feabhas ar chumas Red Hat AI tacú le himscaradh LLM in aon timpeallacht agus in áit ar bith sa scamall hibrideach le cruach inference réidh, ard-optamaithe, agus oscailte.
Tá an t-idirbheart fós faoi réir cheadú rialála na Stát Aontaithe agus coinníollacha deiridh gnáth eile.
