புதன்கிழமை (13) அன்று, ஜெனரேட்டிவ் ஆர்ட்டிஃபிஷியல் இன்டலிஜென்ஸ் (GenAI) மென்பொருள் மற்றும் வழிமுறைகளில் முன்னோடியான அமெரிக்க நிறுவனமான நியூரல் மேஜிக்கை கையகப்படுத்துவதற்கான கொள்முதல் செயல்முறையை Red Hat நிறைவு செய்தது. செயல்திறன் பொறியியலில் நியூரல் மேஜிக்கின் நிபுணத்துவம், திறந்த மூலத்திற்கான அதன் அர்ப்பணிப்புடன், ஹைப்ரிட் கிளவுட்டில் எங்கும் வெவ்வேறு வாடிக்கையாளர் சூழ்நிலைகள் மற்றும் பயன்பாட்டு நிகழ்வுகளுக்கு பொருந்தக்கூடிய உயர் செயல்திறன் AI ஐ வழங்குவதற்கான Red Hat இன் தொலைநோக்குடன் ஒத்துப்போகிறது.
தற்போதைய தொழில்நுட்ப நிலப்பரப்பில் GenAI இன் வாக்குறுதி ஆதிக்கம் செலுத்தினாலும், இந்த அமைப்புகளை ஆதரிக்கும் பெரிய மொழி மாதிரிகள் (LLMகள்) தொடர்ந்து வளர்ந்து வருகின்றன. இதன் விளைவாக, நம்பகமான மற்றும் செலவு குறைந்த LLM சேவைகளை உருவாக்குவதற்கு குறிப்பிடத்தக்க கணினி சக்தி, ஆற்றல் வளங்கள் மற்றும் சிறப்பு செயல்பாட்டுத் திறன்கள் தேவைப்படுகின்றன. தற்போது, இந்தத் தடைகள் பெரும்பாலான நிறுவனங்கள் மிகவும் பாதுகாப்பான, பயன்படுத்தத் தயாராக மற்றும் தனிப்பயனாக்கப்பட்ட AI இன் நன்மைகளை உணரவிடாமல் தடுக்கின்றன.
நியூரல் மேஜிக்கை கையகப்படுத்துவதன் மூலம், Red Hat, vLLM இன் திறந்த கண்டுபிடிப்பு மூலம் GenAI ஐ அதிக நிறுவனங்களுக்கு அணுகக்கூடியதாக மாற்றுவதன் மூலம் இந்த சவால்களை எதிர்கொள்ள இலக்கு வைத்துள்ளது. UC பெர்க்லியால் உருவாக்கப்பட்ட vLLM என்பது திறந்த மாதிரி சேவைக்கான (GenAI மாதிரிகள் எவ்வாறு ஊகித்து சிக்கல்களைத் தீர்க்கின்றன) சமூகத்தால் பராமரிக்கப்படும் திறந்த மூலத் திட்டமாகும், இது அனைத்து முக்கிய மாதிரி குடும்பங்களையும் ஆதரிக்கிறது, மேம்பட்ட அனுமான முடுக்கம் ஆராய்ச்சி மற்றும் AMD GPUகள், AWS நியூரான், கூகிள் TPUகள், இன்டெல் கௌடி, NVIDIA GPUகள் மற்றும் x86 CPUகள் உள்ளிட்ட பல்வேறு வன்பொருள் பின்தளங்களை ஆதரிக்கிறது. vLLM திட்டத்தில் நியூரல் மேஜிக்கின் தலைமை, Red Hat இன் வலுவான கலப்பின கிளவுட் AI தொழில்நுட்பங்களுடன் இணைந்து, நிறுவனங்களுக்கு அவர்களின் தரவு எங்கிருந்தாலும், அவர்களின் தனித்துவமான தேவைகளைப் பூர்த்தி செய்யும் AI உத்திகளை உருவாக்குவதற்கான திறந்த பாதையை வழங்கும்.
நிறுவனத்தின் தலைவரும் தலைமை நிர்வாக அதிகாரியுமான மேட் ஹிக்ஸைப் பொறுத்தவரை, நியூரல் மேஜிக்கை கையகப்படுத்துவதும், vLLM முன்முயற்சியின் வளர்ச்சியும், நிறுவனத்தை செயற்கை நுண்ணறிவில் ஒரு அளவுகோலாக நிலைநிறுத்துவதற்கான முதல் படியாகும். "எங்கள் கலப்பின கிளவுட்-மையப்படுத்தப்பட்ட AI போர்ட்ஃபோலியோவை நியூரல் மேஜிக்கின் புரட்சிகரமான AI கண்டுபிடிப்புடன் பூர்த்தி செய்வதில் நாங்கள் மகிழ்ச்சியடைகிறோம், இது 'திறந்த மூலத்தின் Red Hat' மட்டுமல்ல, 'AI இன் Red Hat' ஆகவும் இருக்க வேண்டும் என்ற எங்கள் லட்சியத்தை மேலும் மேம்படுத்துகிறது," என்று அவர் கூறினார்.
Red Hat + Neural Magic: கலப்பின மேக-தயாரான AI உடன் எதிர்காலத்தை செயல்படுத்துதல்.
நியூரல் மேஜிக், 2018 ஆம் ஆண்டு MIT இலிருந்து ஆழ்ந்த கற்றலுக்கான உயர் செயல்திறன் கொண்ட அனுமான மென்பொருளை உருவாக்கும் குறிக்கோளுடன் உருவாக்கப்பட்டது. நியூரல் மேஜிக்கின் தொழில்நுட்பம் மற்றும் செயல்திறன் பொறியியல் நிபுணத்துவத்துடன், Red Hat இன் AI தொழில்நுட்ப இலாகாவால் இயக்கப்படும் AI இன் எதிர்காலத்திற்கான அதன் பார்வையை விரைவுபடுத்த முயல்கிறது. பெரிய அளவிலான நிறுவன AI இன் சவால்களை சமாளிக்க உருவாக்கப்பட்ட இந்த நிறுவனம், AI இன் மாற்றும் சக்திக்கான அணுகலை மேலும் ஜனநாயகப்படுத்த திறந்த மூல கண்டுபிடிப்புகளைப் பயன்படுத்துகிறது:
- நிறுவன தரவு மையங்கள், பல மேகங்கள் முழுவதும் மற்றும் விளிம்பில் - கலப்பின மேகத்தில் எங்கும் செயல்படக்கூடிய 1 பில்லியன் முதல் 405 பில்லியன் அளவுருக்கள் வரையிலான உரிமம் பெற்ற திறந்த மூல மாதிரிகள்.
- தனிப்பயனாக்குதல் அம்சங்கள், நிறுவனங்கள் தங்கள் தனிப்பட்ட தரவுகளுக்கு ஏற்ப LLMகளை எளிதாக வடிவமைக்கவும், மிகவும் வலுவான பாதுகாப்பு கட்டமைப்புடன் வழக்குகளைப் பயன்படுத்தவும் அனுமதிக்கின்றன.
- அனுமான செயல்திறன் பொறியியலில் அனுபவம், இதன் விளைவாக அதிக செயல்பாட்டு மற்றும் உள்கட்டமைப்பு செயல்திறன் கிடைக்கும்.
- LLMகள் மற்றும் கருவிகள் முதல் சான்றளிக்கப்பட்ட சர்வர் வன்பொருள் மற்றும் சிப் கட்டமைப்புகள் வரை வாடிக்கையாளர்களுக்கு கூடுதல் தேர்வை வழங்கும் ஒரு திறந்த மூல சுற்றுச்சூழல் அமைப்பு மற்றும் கூட்டாளர்கள் மற்றும் ஆதரவு கட்டமைப்புகளின் வலையமைப்பு.
Red Hat AI ஐ மேம்படுத்த vLLM தலைமைத்துவம்
நியூரல் மேஜிக், vLLM இல் அதன் நிபுணத்துவத்தையும் அறிவையும் பயன்படுத்தி, வாடிக்கையாளர்களுக்கு உள்கட்டமைப்பு தேர்வு, பாதுகாப்புக் கொள்கைகள் மற்றும் மாதிரி வாழ்க்கைச் சுழற்சியின் மீது முழுமையான கட்டுப்பாட்டுடன் கலப்பின மேக சூழல்களில் LLM பணிச்சுமைகளை மேம்படுத்த, பயன்படுத்த மற்றும் அளவிட உதவும் ஒரு நிறுவன அளவிலான தொழில்நுட்ப அடித்தளத்தை உருவாக்கும். நியூரல் மேஜிக் மாதிரி உகப்பாக்க ஆராய்ச்சியையும் நடத்துகிறது, LLM கம்ப்ரசரை உருவாக்குகிறது (அதிநவீன இடைவெளி மற்றும் அளவீட்டு வழிமுறைகளுடன் LLMகளை மேம்படுத்துவதற்கான ஒருங்கிணைந்த நூலகம்), மற்றும் vLLM உடன் பயன்படுத்தத் தயாராக உள்ள முன்-உகப்பாக்கப்பட்ட மாதிரிகளின் களஞ்சியத்தை பராமரிக்கிறது.
Red Hat AI, வாடிக்கையாளர்களுக்கு AI செலவுகள் மற்றும் திறன் தடைகளைக் குறைக்க உதவுவதை நோக்கமாகக் கொண்டுள்ளது, அவை பின்வரும் சக்திவாய்ந்த தொழில்நுட்பங்களுடன்:
- Red Hat Enterprise Linux AI (RHEL AI) , லினக்ஸ் சேவையக வரிசைப்படுத்தல்களில் நிறுவன பயன்பாடுகளுக்கான IBM கிரானைட் திறந்த மூல LLM குடும்பத்தை தடையின்றி உருவாக்க, சோதிக்க மற்றும் இயக்க மாதிரிகளை உருவாக்குவதற்கான ஒரு தளம்;
- Red Hat OpenShift AI என்பது ஒரு AI தளமாகும், இது விநியோகிக்கப்பட்ட Kubernetes சூழல்களில், பொது மேகத்தில் அல்லது விளிம்பில் இயந்திர கற்றல் மாதிரிகளை விரைவாக உருவாக்க, பயிற்சி அளிக்க, சேவை செய்ய மற்றும் கண்காணிக்க கருவிகளை வழங்குகிறது.
- InstructLab என்பது Red Hat மற்றும் IBM ஆல் உருவாக்கப்பட்ட ஒரு திறந்த மூல சமூக திட்டமாகும், இது InstructLab இன் ஃபைன்-ட்யூனிங் தொழில்நுட்பத்தைப் பயன்படுத்தி, திறந்த மூலமாக உரிமம் பெற்ற Granite LLM களின் கூட்டு மேம்பாட்டின் மூலம் GenAI இன் எதிர்காலத்தை வடிவமைக்க எவரையும் அனுமதிக்கிறது.
vLLM-இல் நியூரல் மேஜிக்கின் தொழில்நுட்பத் தலைமை, தயாராக, மிகவும் உகந்ததாக மற்றும் திறந்த அனுமான அடுக்கைக் கொண்டு, எந்த சூழலிலும், கலப்பின மேகத்தில் எங்கும் LLM பயன்பாடுகளை ஆதரிக்கும் Red Hat AI இன் திறனை மேம்படுத்தும்.
இந்தப் பரிவர்த்தனை இன்னும் அமெரிக்க ஒழுங்குமுறை ஒப்புதல் மற்றும் பிற வழக்கமான இறுதி நிபந்தனைகளுக்கு உட்பட்டது.
