Çərşənbə günü (13), Red Hat, Generativ Süni İntellekt (GenAI) proqram təminatı və alqoritmləri sahəsində qabaqcıl olan ABŞ şirkəti Neural Magic-i satın almaq üçün alış prosesini başa çatdırdı. Neural Magic-in performans mühəndisliyi sahəsindəki təcrübəsi, açıq mənbəyə sadiqliyi ilə yanaşı, hibrid buludun istənilən yerində müxtəlif müştəri ssenarilərinə və istifadə hallarına uyğun yüksək performanslı süni intellekt təqdim etmək üçün Red Hat-ın vizyonu ilə uzlaşır.
GenAI-nin perspektivi mövcud texnoloji mənzərənin böyük bir hissəsində üstünlük təşkil etsə də, bu sistemlərin əsasını təşkil edən böyük dil modelləri (LLM) böyüməyə davam edir. Nəticədə, etibarlı və səmərəli LLM xidmətlərinin qurulması əhəmiyyətli hesablama gücü, enerji resursları və ixtisaslaşmış əməliyyat bacarıqları tələb edir. Hal-hazırda, bu maneələr əksər təşkilatların daha təhlükəsiz, yerləşdirməyə hazır və fərdiləşdirilmiş süni intellektdən faydalanmasını maneə törədir.
Neural Magic-i əldə etməklə, Red Hat, vLLM-in açıq innovasiyası vasitəsilə GenAI-ı daha çox təşkilat üçün daha əlçatan etməklə bu çətinlikləri həll etməyi hədəfləyir. UC Berkeley tərəfindən hazırlanan vLLM, bütün əsas model ailələrini, qabaqcıl nəticə sürətləndirmə tədqiqatlarını və AMD GPU-ları, AWS Neuron, Google TPU-ları, Intel Gaudi, NVIDIA GPU-ları və x86 CPU-ları da daxil olmaqla müxtəlif aparat təminatlarını dəstəkləyən açıq model xidməti (GenAI modellərinin problemləri necə həll etdiyi və həll etdiyi) üçün icma tərəfindən dəstəklənən açıq mənbəli bir layihədir. Neural Magic-in vLLM layihəsindəki liderliyi, Red Hat-ın hibrid bulud süni intellekt texnologiyalarının güclü portfeli ilə birləşərək, təşkilatlara məlumatların harada yerləşməsindən asılı olmayaraq, unikal ehtiyaclarını ödəyən süni intellekt strategiyaları qurmaq üçün açıq bir yol təqdim edəcək.
Şirkətin prezidenti və baş icraçı direktoru Mett Hiks üçün Neural Magic şirkətinin satın alınması və vLLM təşəbbüsünün inkişafı şirkətin süni intellekt sahəsində etalon kimi yerləşdirilməsi yolunda ilk addımdır. O, bildirib ki, "Hibrid bulud yönümlü süni intellekt portfelimizi Neural Magic-in qabaqcıl süni intellekt innovasiyası ilə tamamlamaqdan və təkcə "açıq mənbənin Qırmızı Papağı" deyil, həm də "Süni intellektin Qırmızı Papağı" olmaq ambisiyamızı daha da inkişaf etdirməkdən həyəcan duyuruq".
Qırmızı Papaq + Neyron Sehrbazlığı: Hibrid bulud texnologiyasına hazır süni intellektlə gələcəyin təmin edilməsi.
Neural Magic, dərin öyrənmə üçün yüksək performanslı nəticə çıxarma proqram təminatı yaratmaq məqsədi ilə 2018-ci ildə MIT-dən ayrıldı. Neural Magic-in texnologiya və performans mühəndisliyi təcrübəsi ilə Red Hat, Red Hat-ın süni intellekt texnologiya portfelinə əsaslanaraq süni intellektin gələcəyi üçün vizyonunu sürətləndirməyə çalışır. Genişmiqyaslı müəssisə süni intellektinin çətinliklərini aradan qaldırmaq üçün qurulan şirkət, süni intellektin transformativ gücünə çıxışı daha da demokratikləşdirmək üçün açıq mənbəli innovasiyadan istifadə edir:
- Hibrid buludun istənilən yerində - müəssisə məlumat mərkəzlərində, birdən çox bulud arasında və kənarda işləyə bilən 1 milyarddan 405 milyarda qədər parametrə malik lisenziyalı açıq mənbəli modellər.
- Təşkilatlara LLM-ləri şəxsi məlumatlara daha asanlıqla uyğunlaşdırmağa və daha möhkəm təhlükəsizlik çərçivəsi ilə hallardan istifadə etməyə imkan verən fərdiləşdirmə xüsusiyyətləri.
- Daha yüksək əməliyyat və infrastruktur səmərəliliyi ilə nəticələnən nəticə çıxarma performansı mühəndisliyi sahəsində təcrübə.
- Müştərilərə LLM-lərdən və alətlərdən tutmuş sertifikatlı server avadanlığına və çip arxitekturalarına qədər daha çox seçim imkanı verən açıq mənbəli ekosistemi və tərəfdaşlar və dəstək strukturları şəbəkəsi.
Red Hat Süni İntellekti Təkmilləşdirmək üçün vLLM Liderliyi
Neural Magic, müştərilərə infrastruktur seçimi, təhlükəsizlik siyasətləri və model həyat dövrü üzərində tam nəzarət ilə hibrid bulud mühitlərində LLM iş yüklərini optimallaşdırmağa, yerləşdirməyə və miqyaslandırmağa imkan verən müəssisə səviyyəli texnologiya təməli qurmaq üçün vLLM sahəsindəki təcrübə və biliklərindən istifadə edəcək. Neural Magic həmçinin model optimallaşdırması üzrə tədqiqatlar aparır, LLM Kompressorunu (ən müasir seyrəklik və kvantlaşdırma alqoritmləri ilə LLM-ləri optimallaşdırmaq üçün vahid kitabxana) qurur və vLLM ilə yerləşdirilməyə hazır əvvəlcədən optimallaşdırılmış modellərin depolarını saxlayır.
Red Hat AI, müştərilərə aşağıdakı kimi güclü texnologiyalarla AI xərclərini və bacarıq maneələrini azaltmağa kömək etməyi hədəfləyir:
- Red Hat Enterprise Linux AI (RHEL AI) , Linux server yerləşdirmələrində müəssisə tətbiqləri üçün IBM Granite açıq mənbəli LLM ailəsini sorunsuz şəkildə inkişaf etdirmək, sınaqdan keçirmək və idarə etmək üçün modellər qurmaq üçün platformadır;
- Red Hat OpenShift AI, paylanmış Kubernetes mühitlərində, ictimai buludda və ya kənarda maşın öyrənmə modellərini sürətlə inkişaf etdirmək, öyrətmək, xidmət göstərmək və izləmək üçün alətlər təqdim edən bir AI platformasıdır.
- InstructLab, Red Hat və IBM tərəfindən yaradılan açıq mənbəli icma layihəsidir və hər kəsə InstructLab-ın incə tənzimləmə texnologiyasından istifadə edərək açıq mənbə kimi lisenziyalı Granite LLM-lərinin birgə təkmilləşdirilməsi yolu ilə GenAI-nin gələcəyini formalaşdırmağa imkan verir.
Neural Magic-in vLLM-də texnoloji liderliyi, Red Hat süni intellektinin hazır, yüksək dərəcədə optimallaşdırılmış və açıq nəticə yığını ilə hibrid buludun istənilən mühitində və istənilən yerində LLM yerləşdirmələrini dəstəkləmək qabiliyyətini artıracaq.
Əməliyyat hələ də ABŞ tənzimləyicilərinin təsdiqinə və digər adi bağlanma şərtlərinə tabedir.
