هذا الأربعاء (13), أكملت ريد هات عملية الشراء للاستحواذ على نيورال ماجيك, شركة أمريكية, رائدة في البرمجيات والخوارزميات للذكاء الاصطناعي التوليدي. خبرة Neural Magic في هندسة الأداء, جنبًا إلى جنب مع التزامك بالبرمجيات مفتوحة المصدر, يتماشى مع رؤية ريد هات لتوفير الذكاء الاصطناعي عالي الأداء الذي يتناسب مع سيناريوهات مختلفة وحالات استخدام العملاء, في أي مكان من السحابة الهجينة.
على الرغم من أن وعد GenAI يهيمن على جزء كبير من المشهد التكنولوجي الحالي, تستمر النماذج اللغوية الكبيرة (LLMs) التي تدعم هذه الأنظمة في النمو. نتيجة لذلك, إن بناء خدمات LLM موثوقة وذات تكلفة فعالة يتطلب قدرة حسابية كبيرة, الموارد الطاقية والمهارات التشغيلية المتخصصة. حالياً, تعيق هذه العقبات فوائد الذكاء الاصطناعي المخصص, جاهزة للتنفيذ وأكثر أمانًا لمعظم المنظمات
مع استحواذ Neural Magic, تعتزم ريد هات معالجة هذه التحديات من خلال جعل GenAI أكثر وصولاً لمزيد من المنظمات من خلال الابتكار المفتوح لـ vLLM. تم تطويره بواسطة جامعة كاليفورنيا في بيركلي, vLLM هو مشروع مفتوح المصدر تديره المجتمع لخدمة النموذج المفتوح (مثل النماذج التي تستنتج وتحل المشكلات في الذكاء الاصطناعي), مع دعم لجميع العائلات الرئيسية من النماذج, البحث المتقدم في تسريع الاستدلال ومجموعة متنوعة من واجهات الأجهزة, بما في ذلك وحدات معالجة الرسوميات AMD, أيه دبليو إس نيورون, وحدات معالجة Tensor من جوجل, إنتل غاودي, بطاقات الرسوميات NVIDIA ومعالجات x86. ستوفر قيادة Neural Magic في مشروع vLLM جنبًا إلى جنب مع محفظة Red Hat القوية من تقنيات الذكاء الاصطناعي السحابية الهجينة للمنظمات طريقًا مفتوحًا لبناء استراتيجيات ذكاء اصطناعي تلبي احتياجاتها الفريدة, أينما كانت بياناتك
لمات هيكس, رئيس ومدير تنفيذي للشركة, شراء Neural Magic, بالتزامن مع تطوير مبادرة vLLM, هم الخطوة الأولى لوضع الشركة كمرجع في الذكاء الاصطناعي.نحن متحمسون لإكمال محفظتنا من الذكاء الاصطناعي التي تركز على السحابة الهجينة مع الابتكار الثوري للذكاء الاصطناعي من Neural Magic, يزيد من رغبتنا في ألا نكون مجرد "ريد هات" للمصادر المفتوحة, لكن أيضًا "ريد هات للذكاء الاصطناعي", قال.
Red Hat + Neural Magic: تمكين مستقبل الذكاء الاصطناعي الهجين الجاهز للسحابة الهجينة
قامت Neural Magic بعملًا spin-off من MIT في عام 2018 بهدف بناء برنامج استنتاج عالي الأداء للتعلم العميق (Deep Learning). مع التكنولوجيا وخبرة هندسة الأداء من Neural Magic, فإن Red Hat تسعى لتسريع رؤيتها لمستقبل الذكاء الاصطناعي, مدفوعة من محفظة تكنولوجيا الذكاء الاصطناعي لشركة Red Hat. بُنيت لتجاوز تحديات الذكاء الاصطناعي في الشركات على نطاق واسع, الشركة تستخدم الابتكار open source لزيادة ديمقراطية الوصول إلى القوة التحويلية للAI من خلال:
- نماذج مرخصة مفتوحة المصدر تتراوح من 1 مليار إلى 405 مليار من المعلمات التي يمكن أن تعمل في أي مكان في السحابة الهجينة — في مراكز البيانات المؤسسية, في العديد من الغيوم وفي الحافة.
- وظائف ضبطية التي تسمح للمنظمات بتخصيص LLMs أكثر بسهولة مع بياناتها الخاصة وحالات الاستخدام مع هيكل أمان أكثر قوة
- خبرة في هندسة أداء الاستدلال, مما يؤدي إلى مزيد من الكفاءات التشغيلية والبنية التحتية
- نظام إيكولوجي مفتوح المصدر وشركاء وهياكل دعم تمكن من أن يكون للعملاء المزيد خيار من الاختيار, من LLMs والأدوات حتى أجهزة الخادم المعتمد وهياكل الشريحة
قيادة vLLM لتطوير الذكاء الاصطناعي من Red Hat
ستستخدم Neural Magic خبرتها ومعرفتها في vLLM لبناء قاعدة تكنولوجية, على مستوى الشركة, الذي يسمح للعملاء بتحسين, نشر وقياس أعباء عمل LLM في بيئات السحابة الهجينة مع السيطرة الكاملة على اختيار البنية التحتية, سياسات الأمان ودورة حياة النموذج. تقوم Neural Magic أيضًا بتطوير بحث تحسين النمط, يبني LLM Compressor (مكتبة موحدة لتحسين LLMs مع خوارزميات التناثر والكمية من الجيل الأخير) ويحافظ على مستودع من نماذج تم تحسينها مسبقًا جاهزة ليتم نشرها مع vLLM
تبحث Red Hat AI عن مساعدة العملاء على خفض تكاليف الذكاء الاصطناعي وحواجز المهارات بتكنولوجيات قوية, مثل
- Red Hat Enterprise Linux AI (RHEL AI), منصة لنماذج أساسية لتطوير, اختبار وتشغيل تماما عائلة IBM Granite من LLMs open source لتطبيقات الأعمال التجارية في عمليات نشر خادم Linux;
- Red Hat OpenShift AI, منصة من الذكاء الاصطناعي توفر أدوات لتطوير, تدريب, خدمة ومراقبة بسرعة نماذج التعلم الآلي في بيئات من Kubernetes موزعة on-site, في السحابة العامة أو في الحافة;
- مختبر التدريب, مشروع مجتمعي مفتوح المصدر أنشأه Red Hat وشركة IBM الذي يسمح لأي شخص بتشكيل مستقبل GenAI من خلال التحسين التعاوني من LLMs Granite, مرخصة ك open source باستخدام تقنية fine-tuning من InstructLab.
القيادة التكنولوجية لشركة Neural Magic في vLLM ستزيد من قدرة Red Hat AI على تقديم الدعم لتعميمات LLM في أي بيئة وفي أي مكان من السحابة الهجينة مع كومة استنتاج جاهزة, عالية التشغيلية ومفتوحة
الصفقة لا تزال يجب أن تمر بموافقة تنظيمية أمريكية وغيرها من شروط المعتادة لإبرام عقود
