इस बुधवार (13), रेड हैट ने न्यूरल मैजिक को खरीदने की प्रक्रिया पूरी कर ली है, अमेरिकी कंपनी, जनरेटिव आर्टिफिशियल इंटेलिजेंस (GenAI) सॉफ़्टवेयर और एल्गोरिदम में अग्रणी. Neural Magic की प्रदर्शन इंजीनियरिंग में विशेषज्ञता, आपको ओपन सोर्स के प्रति अपनी प्रतिबद्धता के साथ, यह रेड हैट के दृष्टिकोण के साथ मेल खाता है जो विभिन्न परिदृश्यों और ग्राहक उपयोग के मामलों में फिट होने वाली उच्च प्रदर्शन वाली एआई प्रदान करता है, हाइब्रिड क्लाउड के किसी भी स्थान पर.
हालांकि GenAI का वादा वर्तमान तकनीकी परिदृश्य के बड़े हिस्से पर हावी है, बड़े भाषा मॉडल (LLMs) जो इन प्रणालियों का समर्थन करते हैं, बढ़ते रह रहे हैं. परिणामस्वरूप, विश्वसनीय और लागत-प्रभावी LLM सेवाओं का निर्माण महत्वपूर्ण कंप्यूटिंग क्षमता की आवश्यकता है, ऊर्जा संसाधन और विशेष परिचालन क्षमताएँ. वर्तमान में, ये बाधाएँ एक व्यक्तिगत एआई के लाभों को असंभव बना देती हैं, तैनाती के लिए तैयार और अधिकांश संगठनों के लिए अधिक सुरक्षित
न्यूरल मैजिक के अधिग्रहण के साथ, रेड हैट इन चुनौतियों का सामना करने का इरादा रखता है कि GenAI को अधिक संगठनों के लिए अधिक सुलभ बनाया जाए vLLM के ओपन इनोवेशन के माध्यम से. यूसी बर्कले द्वारा विकसित, vLLM एक ओपन सोर्स प्रोजेक्ट है जिसे समुदाय द्वारा ओपन मॉडल सेवा के लिए बनाए रखा जाता है (जैसे कि जनरल एआई मॉडल अनुमान लगाते हैं और समस्याओं को हल करते हैं), सभी प्रमुख मॉडल परिवारों के लिए समर्थन के साथ, उन्नत अनुसंधान में अनुमान लगाने की गति और विभिन्न हार्डवेयर बैकएंड, एएमडी जीपीयू शामिल करना, AWS न्यूरॉन, गूगल टीपीयू, इंटेल गॉडी, एनवीडिया जीपीयू और एक्स86 सीपीयू. Neural Magic की vLLM परियोजना में नेतृत्व और Red Hat की हाइब्रिड क्लाउड AI तकनीकों का मजबूत पोर्टफोलियो संगठनों को उनकी विशिष्ट आवश्यकताओं को पूरा करने के लिए AI रणनीतियों के निर्माण के लिए एक खुला मार्ग प्रदान करेगा, जहाँ भी आपके डेटा हों
मैट हिक्स के लिए, कंपनी के अध्यक्ष और सीईओ, न्यूरल मैजिक की खरीदारी, vLLM पहल के विकास के साथ, यह कंपनी को कृत्रिम बुद्धिमत्ता में एक संदर्भ के रूप में स्थापित करने के लिए पहला कदम है.हम अपने हाइब्रिड क्लाउड पर केंद्रित एआई पोर्टफोलियो को न्यूरल मैजिक की क्रांतिकारी एआई नवाचार के साथ पूरा करने के लिए उत्साहित हैं, हमारी इच्छा को बढ़ाते हुए कि हम केवल 'ओपन सोर्स की रेड हैट' न बनें, लेकिन यह भी 'आईए का रेड हैट', कहा.
रेड हैट + न्यूरल मैजिक: हाइब्रिड क्लाउड के लिए तैयार जन एआई के साथ एक भविष्य को संभव बनाना
न्यूरल मैजिक ने एमआईटी से 2018 में एक स्पिन-ऑफ किया जिसके उद्देश्य से डीप लर्निंग (Deep Learning) के लिए उच्च प्रदर्शन वाले inference सॉफ्टवेयर बनाना. न्यूरल मैजिक की प्रौद्योगिकी और प्रदर्शन इंजीनियरिंग में विशेषज्ञता के साथ, रेड हैट तलाश तेज अपनी दृष्टि एआई के भविष्य के लिए, Red Hat के AI प्रौद्योगिकी के पोर्टफोलियो द्वारा संचालित की गई. व्यापक स्तर पर व्यावसायिक एआई की चुनौतियों को पार करने के लिए निर्मित, कंपनी ओपन सोर्स नवाचार का उपयोग AI की परिवर्तनकारी शक्ति तक पहुंच को और अधिक लोकतांत्रिक बनाने के लिए इसके माध्यम से करती हैः
- Modelos licenciados open source em escala de 1 bi a 405 bi de parâmetros que podem operar em qualquer lugar da nuvem híbrida — em data centers corporativos, कई बादलों में और edge में.
- समायोजन कार्यक्षमताएं जो संगठनों को अपने निजी डेटा और उपयोग के मामलों के साथ एक अधिक मजबूत सुरक्षा ढांचे के साथ एलएलएम को अधिक आसानी से अनुकूलित करने की अनुमति देती हैं
- अंतर्ज्ञान प्रदर्शन इंजीनियरिंग में अनुभव, जिसके परिणामस्वरूप अधिक परिचालन और अवसंरचना की दक्षता
- एक ओपन स्रोत और भागीदारों और समर्थन संरचनाओं का पारिस्थितिकी तंत्र जो ग्राहकों को अधिक विकल्प का विकल्प देने की अनुमति देते हैं, LLMs और उपकरणों से लेकर प्रमाणित सर्वर हार्डवेयर और चिप आर्किटेक्चर तक
Red Hat AI को सुधारने के लिए vLLM में नेतृत्व
न्यूरल मैजिक अपनी विशेषज्ञता और ज्ञान में vLLM का उपयोग करेगा एक प्रौद्योगिकी आधार बनाने के लिए, उद्यम स्तर पर, जो ग्राहकों को अनुकूलित करने की अनुमति देता, लागू करना और स्केल करना LLM कार्यभार हाइब्रिड क्लाउड वातावरण में बुनियादी ढांचे की पसंद पर पूर्ण नियंत्रण के साथ, सुरक्षा नीतियां और मॉडल के जीवनचक्र. न्यूरल मैजिक भी विकसित करता है मॉडल अनुकूलन अनुसंधान, LLM Compressor का निर्माण करता है (एक एकीकृत पुस्तकालय LLMs को अगली पीढ़ी की बारीकता और क्वांटिफिकेशन एल्गोरिदम के साथ अनुकूलित करने के लिए) और vLLM के साथ तैनात करने के लिए तैयार पूर्व-अनुकूलित मॉडल का एक रिपॉजिटरी रखता है
रेड Hat AI का उद्देश्य ग्राहकों को AI की लागतों और कौशल की बाधाओं को शक्तिशाली प्रौद्योगिकियों के साथ कम करने में मदद करना है, जैसे:
- रेड हैट एंटरप्राइज लिनक्स एआई (आरएचईएल एआई), एक मंच आधारभूत मॉडल के लिए विकसित करने, परीक्षण करें और संचालित करें पूरी तरह से IBM Granite परिवार के LLMs open source के लिए उद्यम अनुप्रयोगों में लिनक्स सर्वर तैनाती;
- रेड हैट ओपनशिफ्ट एआई, एक एआई प्लेटफॉर्म जो उपकरण प्रदान करने के लिए विकसित, प्रशिक्षण देना, सेवा और मॉनिटर जल्दी मशीन सीखने के मॉडल में वातावरण के Kubernetes वितरित on-site, सार्वजनिक बादल में या एज पर;
- इंस्ट्रक्टलैब, एक open source सामुदायिक परियोजना बनाया गया Red Hat और IBM द्वारा जो किसी को भी GenAI के भविष्य को आकार देने की अनुमति देता है सहयोगात्मक सुधार के माध्यम से LLMs Granite, ओपन सोर्स के रूप लाइसेंस प्राप्त InstructLab के fine-tuning तकनीक का उपयोग करते.
vLLM में Neural Magic का तकनीकी नेतृत्व Red Hat AI की क्षमता को बढ़ाएगा किसी भी वातावरण में और किसी भी जगह पर हाइब्रिड क्लाउड के LLM की तैनाती का समर्थन करने के लिए एक तैयार inference स्टैक के साथ, अत्यधिक ऑप्टिमाइज और खुली
लेनदेन अभी एक अमेरिकी नियामक मंजूरी और अन्य सामान्य अनुबंध बंद करने की शर्तों से गुजरना है
