ജെൻഎ സോഫ്റ്റ്‌വെയർ, അൽഗോരിതം കമ്പനിയായ ന്യൂറൽ മാജിക്കിനെ റെഡ് ഹാറ്റ് ഏറ്റെടുത്തു.

ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (ജെൻഎഐ) സോഫ്റ്റ്‌വെയറിലും അൽഗോരിതങ്ങളിലും മുൻപന്തിയിലുള്ള യുഎസ് കമ്പനിയായ ന്യൂറൽ മാജിക്കിനെ ഏറ്റെടുക്കുന്നതിനുള്ള വാങ്ങൽ പ്രക്രിയ ബുധനാഴ്ച (13) റെഡ് ഹാറ്റ് പൂർത്തിയാക്കി. പ്രകടന എഞ്ചിനീയറിംഗിലെ ന്യൂറൽ മാജിക്കിന്റെ വൈദഗ്ധ്യവും ഓപ്പൺ സോഴ്‌സിനോടുള്ള പ്രതിബദ്ധതയും, ഹൈബ്രിഡ് ക്ലൗഡിലെവിടെയും വ്യത്യസ്ത ഉപഭോക്തൃ സാഹചര്യങ്ങൾക്കും ഉപയോഗ സാഹചര്യങ്ങൾക്കും അനുയോജ്യമായ ഉയർന്ന പ്രകടനമുള്ള AI നൽകുന്നതിനുള്ള റെഡ് ഹാറ്റിന്റെ കാഴ്ചപ്പാടുമായി യോജിക്കുന്നു.  

നിലവിലെ സാങ്കേതിക മേഖലയിൽ GenAI യുടെ വാഗ്ദാനങ്ങൾ ഏറെയും നിലനിൽക്കുന്നുണ്ടെങ്കിലും, ഈ സംവിധാനങ്ങളെ പിന്തുണയ്ക്കുന്ന വലിയ ഭാഷാ മോഡലുകൾ (LLM-കൾ) വളർന്നുകൊണ്ടിരിക്കുന്നു. തൽഫലമായി, വിശ്വസനീയവും ചെലവ് കുറഞ്ഞതുമായ LLM സേവനങ്ങൾ നിർമ്മിക്കുന്നതിന് ഗണ്യമായ കമ്പ്യൂട്ടിംഗ് ശക്തി, ഊർജ്ജ സ്രോതസ്സുകൾ, പ്രത്യേക പ്രവർത്തന കഴിവുകൾ എന്നിവ ആവശ്യമാണ്. നിലവിൽ, കൂടുതൽ സുരക്ഷിതവും, വിന്യാസത്തിന് തയ്യാറായതും, വ്യക്തിഗതമാക്കിയതുമായ ഒരു AI യുടെ നേട്ടങ്ങൾ തിരിച്ചറിയുന്നതിൽ നിന്ന് മിക്ക സ്ഥാപനങ്ങളെയും ഈ തടസ്സങ്ങൾ തടയുന്നു.

ന്യൂറൽ മാജിക് ഏറ്റെടുക്കുന്നതിലൂടെ, vLLM-ന്റെ തുറന്ന നവീകരണത്തിലൂടെ കൂടുതൽ സ്ഥാപനങ്ങൾക്ക് GenAI കൂടുതൽ ആക്‌സസ് ചെയ്യാവുന്നതാക്കുന്നതിലൂടെ ഈ വെല്ലുവിളികളെ നേരിടാനാണ് Red Hat ലക്ഷ്യമിടുന്നത്. UC ബെർക്ക്‌ലി വികസിപ്പിച്ചെടുത്ത vLLM, ഓപ്പൺ മോഡൽ സേവനത്തിനായുള്ള (GenAI മോഡലുകൾ എങ്ങനെ പ്രശ്നങ്ങൾ അനുമാനിക്കുകയും പരിഹരിക്കുകയും ചെയ്യുന്നു) കമ്മ്യൂണിറ്റി പരിപാലിക്കുന്ന ഒരു ഓപ്പൺ സോഴ്‌സ് പ്രോജക്റ്റാണ്, എല്ലാ പ്രധാന മോഡൽ കുടുംബങ്ങളെയും പിന്തുണയ്ക്കുന്നു, വിപുലമായ അനുമാന ത്വരിതപ്പെടുത്തൽ ഗവേഷണം, AMD GPU-കൾ, AWS ന്യൂറോൺ, Google TPU-കൾ, Intel Gaudi, NVIDIA GPU-കൾ, x86 CPU-കൾ എന്നിവയുൾപ്പെടെ വൈവിധ്യമാർന്ന ഹാർഡ്‌വെയർ ബാക്കെൻഡുകൾ. vLLM പ്രോജക്റ്റിലെ ന്യൂറൽ മാജിക്കിന്റെ നേതൃത്വം, Red Hat-ന്റെ ഹൈബ്രിഡ് ക്ലൗഡ് AI സാങ്കേതികവിദ്യകളുടെ ശക്തമായ പോർട്ട്‌ഫോളിയോയുമായി സംയോജിപ്പിച്ച്, അവരുടെ ഡാറ്റ എവിടെയായിരുന്നാലും, അവരുടെ അതുല്യമായ ആവശ്യങ്ങൾ നിറവേറ്റുന്ന AI തന്ത്രങ്ങൾ നിർമ്മിക്കുന്നതിനുള്ള തുറന്ന പാത ഓർഗനൈസേഷനുകൾക്ക് നൽകും.

കമ്പനിയുടെ പ്രസിഡന്റും സിഇഒയുമായ മാറ്റ് ഹിക്‌സിന്, ന്യൂറൽ മാജിക്കിന്റെ ഏറ്റെടുക്കലും vLLM സംരംഭത്തിന്റെ വികസനവും, കമ്പനിയെ കൃത്രിമബുദ്ധിയിൽ ഒരു മാനദണ്ഡമായി സ്ഥാപിക്കുന്നതിനുള്ള ആദ്യപടിയാണ്. "ഞങ്ങളുടെ ഹൈബ്രിഡ് ക്ലൗഡ്-കേന്ദ്രീകൃത AI പോർട്ട്‌ഫോളിയോയെ ന്യൂറൽ മാജിക്കിന്റെ വിപ്ലവകരമായ AI നവീകരണവുമായി പൂരകമാക്കുന്നതിൽ ഞങ്ങൾ ആവേശഭരിതരാണ്, ഇത് 'ഓപ്പൺ സോഴ്‌സിന്റെ റെഡ് ഹാറ്റ്' മാത്രമല്ല, 'AI യുടെ റെഡ് ഹാറ്റ്' കൂടിയാകാനുള്ള ഞങ്ങളുടെ അഭിലാഷത്തെ മുന്നോട്ട് കൊണ്ടുപോകുന്നു," അദ്ദേഹം പറഞ്ഞു. 

റെഡ് ഹാറ്റ് + ന്യൂറൽ മാജിക്: ഹൈബ്രിഡ് ക്ലൗഡ്-റെഡി AI ഉപയോഗിച്ച് ഒരു ഭാവി പ്രാപ്തമാക്കുന്നു. 

ആഴത്തിലുള്ള പഠനത്തിനായി ഉയർന്ന പ്രകടനമുള്ള അനുമാന സോഫ്റ്റ്‌വെയർ നിർമ്മിക്കുക എന്ന ലക്ഷ്യത്തോടെ 2018-ൽ MIT-യിൽ നിന്ന് ന്യൂറൽ മാജിക് പിറവിയെടുത്തതാണ്. ന്യൂറൽ മാജിക്കിന്റെ സാങ്കേതികവിദ്യയും പ്രകടന എഞ്ചിനീയറിംഗ് വൈദഗ്ധ്യവും ഉപയോഗിച്ച്, Red Hat-ന്റെ AI ടെക്‌നോളജി പോർട്ട്‌ഫോളിയോയുടെ നേതൃത്വത്തിൽ AI-യുടെ ഭാവിയെക്കുറിച്ചുള്ള തങ്ങളുടെ കാഴ്ചപ്പാട് ത്വരിതപ്പെടുത്താൻ Red Hat ശ്രമിക്കുന്നു. വലിയ തോതിലുള്ള എന്റർപ്രൈസ് AI-യുടെ വെല്ലുവിളികളെ മറികടക്കാൻ നിർമ്മിച്ച ഈ കമ്പനി, AI-യുടെ പരിവർത്തനാത്മക ശക്തിയിലേക്കുള്ള ആക്‌സസ് കൂടുതൽ ജനാധിപത്യവൽക്കരിക്കുന്നതിന് ഓപ്പൺ സോഴ്‌സ് നവീകരണം ഉപയോഗിക്കുന്നു:

• ഹൈബ്രിഡ് ക്ലൗഡിൽ എവിടെയും പ്രവർത്തിക്കാൻ കഴിയുന്ന 1 ബില്യൺ മുതൽ 405 ബില്യൺ വരെയുള്ള പാരാമീറ്ററുകൾ വരെയുള്ള ലൈസൻസുള്ള ഓപ്പൺ സോഴ്‌സ് മോഡലുകൾ - എന്റർപ്രൈസ് ഡാറ്റ സെന്ററുകളിലും, ഒന്നിലധികം ക്ലൗഡുകളിലുടനീളം, അരികിലും. 
• സ്ഥാപനങ്ങൾക്ക് അവരുടെ സ്വകാര്യ ഡാറ്റയ്ക്ക് അനുസൃതമായി LLM-കളെ കൂടുതൽ എളുപ്പത്തിൽ ക്രമീകരിക്കാനും കൂടുതൽ ശക്തമായ സുരക്ഷാ ചട്ടക്കൂടുള്ള കേസുകൾ ഉപയോഗിക്കാനും അനുവദിക്കുന്ന ഇഷ്ടാനുസൃതമാക്കൽ സവിശേഷതകൾ.
• പ്രവർത്തനപരവും അടിസ്ഥാന സൗകര്യങ്ങളുടെയും കാര്യക്ഷമത വർദ്ധിപ്പിക്കുന്നതിന് കാരണമാകുന്ന അനുമാന പ്രകടന എഞ്ചിനീയറിംഗിൽ പരിചയം. 
• ഒരു ഓപ്പൺ സോഴ്‌സ് ആവാസവ്യവസ്ഥയും പങ്കാളികളുടെയും പിന്തുണാ ഘടനകളുടെയും ശൃംഖലയും ഉപഭോക്താക്കൾക്ക് കൂടുതൽ ചോയ്‌സ് നൽകുന്നു, LLM-കളും ഉപകരണങ്ങളും മുതൽ സർട്ടിഫൈഡ് സെർവർ ഹാർഡ്‌വെയർ, ചിപ്പ് ആർക്കിടെക്ചറുകൾ വരെ.

Red Hat AI മെച്ചപ്പെടുത്തുന്നതിനുള്ള vLLM നേതൃത്വം

ഹൈബ്രിഡ് ക്ലൗഡ് പരിതസ്ഥിതികളിൽ എൽഎൽഎം വർക്ക്‌ലോഡുകൾ ഒപ്റ്റിമൈസ് ചെയ്യാനും വിന്യസിക്കാനും സ്കെയിൽ ചെയ്യാനും ഉപഭോക്താക്കളെ പ്രാപ്തരാക്കുന്ന ഒരു എന്റർപ്രൈസ്-ലെവൽ ടെക്നോളജി ഫൗണ്ടേഷൻ നിർമ്മിക്കുന്നതിന് vLLM-ലെ ന്യൂറൽ മാജിക് അവരുടെ വൈദഗ്ധ്യവും അറിവും പ്രയോജനപ്പെടുത്തും. ഇൻഫ്രാസ്ട്രക്ചർ തിരഞ്ഞെടുപ്പ്, സുരക്ഷാ നയങ്ങൾ, മോഡൽ ലൈഫ് സൈക്കിൾ എന്നിവയിൽ പൂർണ്ണ നിയന്ത്രണത്തോടെ. ന്യൂറൽ മാജിക് മോഡൽ ഒപ്റ്റിമൈസേഷൻ ഗവേഷണം നടത്തുകയും എൽഎൽഎം കംപ്രസ്സർ (അത്യാധുനിക സ്പാർസിറ്റി, ക്വാണ്ടൈസേഷൻ അൽഗോരിതങ്ങൾ ഉപയോഗിച്ച് എൽഎൽഎമ്മുകൾ ഒപ്റ്റിമൈസ് ചെയ്യുന്നതിനുള്ള ഒരു ഏകീകൃത ലൈബ്രറി) നിർമ്മിക്കുകയും വിഎൽഎൽഎമ്മിനൊപ്പം വിന്യാസത്തിന് തയ്യാറായ പ്രീ-ഒപ്റ്റിമൈസ് ചെയ്ത മോഡലുകളുടെ ഒരു ശേഖരം പരിപാലിക്കുകയും ചെയ്യുന്നു.

ശക്തമായ സാങ്കേതികവിദ്യകൾ ഉപയോഗിച്ച് AI ചെലവുകളും വൈദഗ്ധ്യ തടസ്സങ്ങളും കുറയ്ക്കാൻ ഉപഭോക്താക്കളെ സഹായിക്കുക എന്നതാണ് Red Hat AI ലക്ഷ്യമിടുന്നത്: 

• ലിനക്സ് സെർവർ വിന്യാസങ്ങളിലെ എന്റർപ്രൈസ് ആപ്ലിക്കേഷനുകൾക്കായി ഐബിഎം ഗ്രാനൈറ്റ് കുടുംബത്തിലെ ഓപ്പൺ സോഴ്‌സ് എൽഎൽഎമ്മുകൾ സുഗമമായി വികസിപ്പിക്കാനും പരീക്ഷിക്കാനും പ്രവർത്തിപ്പിക്കാനും മോഡലുകൾ നിർമ്മിക്കുന്നതിനുള്ള ഒരു പ്ലാറ്റ്‌ഫോമായ റെഡ് ഹാറ്റ് എന്റർപ്രൈസ് ലിനക്സ് AI (RHEL AI)
• Red Hat OpenShift AI എന്നത് ഒരു AI പ്ലാറ്റ്‌ഫോമാണ്, ഇത് ഓൺ-സൈറ്റിലോ, പബ്ലിക് ക്ലൗഡിലോ, അരികിലോ വിതരണം ചെയ്ത കുബേർനെറ്റ്സ് പരിതസ്ഥിതികളിൽ മെഷീൻ ലേണിംഗ് മോഡലുകൾ വേഗത്തിൽ വികസിപ്പിക്കാനും പരിശീലിപ്പിക്കാനും സേവിക്കാനും നിരീക്ഷിക്കാനുമുള്ള ഉപകരണങ്ങൾ നൽകുന്നു.
• InstructLab . InstructLab-ന്റെ ഫൈൻ-ട്യൂണിംഗ് സാങ്കേതികവിദ്യ ഉപയോഗിച്ച്, ഓപ്പൺ സോഴ്‌സ് ആയി ലൈസൻസ് ചെയ്‌ത ഗ്രാനൈറ്റ് LLM-കളുടെ സഹകരണപരമായ മെച്ചപ്പെടുത്തലിലൂടെ GenAI-യുടെ ഭാവി രൂപപ്പെടുത്താൻ ഇത് ആരെയും അനുവദിക്കുന്നു.

vLLM-ലെ ന്യൂറൽ മാജിക്കിന്റെ സാങ്കേതിക നേതൃത്വം, റെഡിമെയ്ഡ്, ഉയർന്ന ഒപ്റ്റിമൈസ് ചെയ്ത, തുറന്ന അനുമാന സ്റ്റാക്ക് ഉപയോഗിച്ച് ഏത് പരിതസ്ഥിതിയിലും ഹൈബ്രിഡ് ക്ലൗഡിലെവിടെയും LLM വിന്യാസങ്ങളെ പിന്തുണയ്ക്കാനുള്ള Red Hat AI-യുടെ കഴിവ് വർദ്ധിപ്പിക്കും.

ഇടപാട് ഇപ്പോഴും യുഎസ് റെഗുലേറ്ററി അംഗീകാരത്തിനും മറ്റ് പതിവ് ക്ലോസിംഗ് വ്യവസ്ഥകൾക്കും വിധേയമാണ്.