بدھ (13) کو، ریڈ ہیٹ نے نیورل میجک کو حاصل کرنے کے لیے خریداری کا عمل مکمل کیا، جو کہ ایک امریکی کمپنی ہے، جو جنریٹیو آرٹیفیشل انٹیلی جنس (GenAI) سافٹ ویئر اور الگورتھم کی علمبردار ہے۔ پرفارمنس انجینئرنگ میں نیورل میجک کی مہارت، اوپن سورس سے وابستگی کے ساتھ، ہائی پرفارمنس AI فراہم کرنے کے لیے Red Hat کے وژن سے مطابقت رکھتی ہے جو کہ ہائبرڈ کلاؤڈ میں کہیں بھی کسٹمر کے مختلف منظرناموں اور استعمال کے معاملات میں فٹ بیٹھتا ہے۔
اگرچہ GenAI کا وعدہ موجودہ تکنیکی منظرنامے پر غالب ہے، لیکن بڑے لینگویج ماڈلز (LLMs) جو ان نظاموں کو تقویت دیتے ہیں بڑھتے رہتے ہیں۔ نتیجے کے طور پر، قابل اعتماد اور سرمایہ کاری مؤثر LLM خدمات کی تعمیر کے لیے اہم کمپیوٹنگ طاقت، توانائی کے وسائل، اور خصوصی آپریشنل مہارتوں کی ضرورت ہوتی ہے۔ فی الحال، یہ رکاوٹیں زیادہ تر تنظیموں کو زیادہ محفوظ، تعیناتی کے لیے تیار، اور ذاتی نوعیت کی AI کے فوائد کو سمجھنے سے روکتی ہیں۔
نیورل میجک کے حصول کے ساتھ، Red Hat کا مقصد VLLM کی کھلی اختراع کے ذریعے GenAI کو مزید تنظیموں کے لیے مزید قابل رسائی بنا کر ان چیلنجوں سے نمٹنا ہے۔ UC Berkeley کی طرف سے تیار کیا گیا، vLLM اوپن ماڈل سروس کے لیے ایک کمیونٹی کے زیر انتظام اوپن سورس پروجیکٹ ہے (GenAI ماڈل کس طرح مسائل کا اندازہ لگاتے ہیں اور مسائل کو حل کرتے ہیں)، تمام بڑے ماڈل فیملیز، ایڈوانس انفرنس ایکسلریشن ریسرچ، اور متنوع ہارڈ ویئر بیک اینڈز بشمول AMD GPUs، AWS نیورون، Google TPUs، Intel Gaudis، NVIDIs، NVIDIs اور X8۔ وی ایل ایل ایم پروجیکٹ میں نیورل میجک کی قیادت ریڈ ہیٹ کے ہائبرڈ کلاؤڈ AI ٹیکنالوجیز کے مضبوط پورٹ فولیو کے ساتھ مل کر تنظیموں کو AI حکمت عملی بنانے کے لیے ایک کھلا راستہ فراہم کرے گی جو ان کی منفرد ضروریات کو پورا کرتی ہیں، جہاں بھی ان کا ڈیٹا رہتا ہے۔
کمپنی کے صدر اور سی ای او میٹ ہکس کے لیے، نیورل میجک کا حصول، vLLM اقدام کی ترقی کے ساتھ، کمپنی کو مصنوعی ذہانت میں ایک معیار کے طور پر پوزیشن دینے کا پہلا قدم ہے۔ انہوں نے کہا، "ہم اپنے ہائبرڈ کلاؤڈ فوکسڈ AI پورٹ فولیو کو نیورل میجک کی شاندار AI جدت کے ساتھ مکمل کرنے کے لیے پرجوش ہیں، جس سے نہ صرف 'اوپن سورس کی ریڈ ہیٹ' بلکہ 'ریڈ ہیٹ آف AI' بننے کے اپنے عزائم کو مزید آگے بڑھایا جائے گا۔"
ریڈ ہیٹ + نیورل میجک: ہائبرڈ کلاؤڈ ریڈی AI کے ساتھ مستقبل کو فعال کرنا۔
نیورل میجک نے 2018 میں MIT سے گہرائی سے سیکھنے کے لیے اعلیٰ کارکردگی کا اندازہ لگانے والے سافٹ ویئر کی تعمیر کے ہدف کے ساتھ آغاز کیا۔ نیورل میجک کی ٹیکنالوجی اور کارکردگی انجینئرنگ کی مہارت کے ساتھ، Red Hat AI کے مستقبل کے لیے اپنے وژن کو تیز کرنے کی کوشش کرتا ہے، جو Red Hat کے AI ٹیکنالوجی پورٹ فولیو کے ذریعے کارفرما ہے۔ بڑے پیمانے پر انٹرپرائز AI کے چیلنجوں پر قابو پانے کے لیے بنایا گیا، کمپنی AI کی تبدیلی کی طاقت تک رسائی کو مزید جمہوری بنانے کے لیے اوپن سورس جدت کا استعمال کرتی ہے:
- 1 بلین سے 405 بلین پیرامیٹرز تک کے لائسنس یافتہ اوپن سورس ماڈلز جو کہ ہائبرڈ کلاؤڈ میں کہیں بھی کام کر سکتے ہیں — انٹرپرائز ڈیٹا سینٹرز میں، متعدد کلاؤڈز میں، اور کنارے پر۔
- حسب ضرورت خصوصیات جو تنظیموں کو LLMs کو اپنے نجی ڈیٹا کے مطابق زیادہ آسانی سے تیار کرنے اور زیادہ مضبوط سیکیورٹی فریم ورک کے ساتھ کیسز کو استعمال کرنے کی اجازت دیتی ہیں۔
- انفرنس پرفارمنس انجینئرنگ میں تجربہ، جس کے نتیجے میں آپریشنل اور انفراسٹرکچر کی استعداد زیادہ ہوتی ہے۔
- ایک اوپن سورس ایکو سسٹم اور پارٹنرز اور سپورٹ ڈھانچے کا نیٹ ورک جو صارفین کو LLMs اور ٹولز سے لے کر تصدیق شدہ سرور ہارڈویئر اور چپ آرکیٹیکچرز تک مزید انتخاب فراہم کرتا ہے۔
ریڈ ہیٹ AI کو بڑھانے کے لیے vLLM لیڈرشپ
نیورل میجک ایک انٹرپرائز لیول ٹیکنالوجی فاؤنڈیشن بنانے کے لیے vLLM میں اپنی مہارت اور علم کا فائدہ اٹھائے گا جو صارفین کو بنیادی ڈھانچے کے انتخاب، سیکورٹی پالیسیوں اور ماڈل لائف سائیکل پر مکمل کنٹرول کے ساتھ ہائبرڈ کلاؤڈ ماحول میں LLM ورک بوجھ کو بہتر بنانے، تعینات کرنے اور اسکیل کرنے کے قابل بناتا ہے۔ نیورل میجک ماڈل آپٹیمائزیشن ریسرچ بھی کرتا ہے، LLM کمپریسر بناتا ہے (اسٹیٹ آف دی آرٹ اسپارسٹی اور کوانٹائزیشن الگورتھم کے ساتھ LLM کو بہتر بنانے کے لیے ایک متحد لائبریری)، اور vLLM کے ساتھ تعیناتی کے لیے تیار پہلے سے بہتر ماڈلز کا ذخیرہ برقرار رکھتا ہے۔
Red Hat AI کا مقصد صارفین کو طاقتور ٹیکنالوجیز کے ساتھ AI اخراجات اور مہارت کی رکاوٹوں کو کم کرنے میں مدد کرنا ہے جیسے:
- Red Hat Enterprise Linux AI (RHEL AI) ، لینکس سرور کی تعیناتیوں میں انٹرپرائز ایپلی کیشنز کے لیے اوپن سورس LLMs کے IBM گرینائٹ فیملی کو بغیر کسی رکاوٹ کے تیار کرنے، جانچنے اور چلانے کے لیے ماڈلز بنانے کا ایک پلیٹ فارم؛
- Red Hat OpenShift AI ایک AI پلیٹ فارم ہے جو سائٹ پر، عوامی کلاؤڈ میں، یا کنارے پر تقسیم شدہ Kubernetes ماحول میں مشین لرننگ ماڈلز کو تیزی سے تیار کرنے، تربیت دینے، سرو کرنے اور مانیٹر کرنے کے لیے ٹولز فراہم کرتا ہے۔
- InstructLab ایک اوپن سورس کمیونٹی پروجیکٹ ہے جسے Red Hat اور IBM نے تخلیق کیا ہے جو کسی کو بھی انسٹرک لیب کی فائن ٹیوننگ ٹیکنالوجی کا استعمال کرتے ہوئے، اوپن سورس کے طور پر لائسنس یافتہ گرینائٹ LLMs کے باہمی تعاون سے GenAI کے مستقبل کو تشکیل دینے کی اجازت دیتا ہے۔
وی ایل ایل ایم میں نیورل میجک کی تکنیکی قیادت ریڈ ہیٹ اے آئی کی کسی بھی ماحول میں اور ہائبرڈ کلاؤڈ میں کسی بھی جگہ تیار، انتہائی بہتر اور کھلے انفرنس اسٹیک کے ساتھ ایل ایل ایم کی تعیناتیوں کو سپورٹ کرنے کی صلاحیت کو بڑھا دے گی۔
لین دین اب بھی امریکی ریگولیٹری منظوری اور دیگر روایتی بند شرائط کے تابع ہے۔
