ביום רביעי (13), רד האט השלימה את תהליך הרכישה לרכישת Neural Magic, חברה אמריקאית, חלוצה בתחום התוכנה והאלגוריתמים של בינה מלאכותית גנרטיבית (GenAI). המומחיות של Neural Magic בהנדסת ביצועים, יחד עם מחויבותה לקוד פתוח, תואמות את חזונה של רד האט לספק בינה מלאכותית בעלת ביצועים גבוהים המתאימה לתרחישי לקוח שונים ולמקרי שימוש, בכל מקום בענן ההיברידי.
למרות שההבטחה של GenAI שולטת בחלק ניכר מהנוף הטכנולוגי הנוכחי, מודלי השפה הגדולים (LLMs) העומדים בבסיס מערכות אלו ממשיכים לגדול. כתוצאה מכך, בניית שירותי LLM אמינים וחסכוניים דורשת כוח מחשוב משמעותי, משאבי אנרגיה ומיומנויות תפעוליות מיוחדות. נכון לעכשיו, מכשולים אלה מונעים מרוב הארגונים לממש את היתרונות של בינה מלאכותית מאובטחת יותר, מוכנה לפריסה ומותאמת אישית יותר.
עם רכישת Neural Magic, רד האט שואפת להתמודד עם אתגרים אלה על ידי הפיכת GenAI לנגיש יותר לארגונים רבים יותר באמצעות החדשנות הפתוחה של vLLM. vLLM, שפותח על ידי אוניברסיטת קליפורניה בברקלי, הוא פרויקט קוד פתוח המתוחזק על ידי הקהילה עבור שירות מודלים פתוחים (כיצד מודלים של GenAI מסיקים ופותרים בעיות), התומך בכל משפחות המודלים העיקריות, מחקר מתקדם להאצת הסקה, ומגוון מערכות חומרה אחוריות, כולל מעבדי GPU של AMD, AWS Neuron, מעבדי TPU של גוגל, מעבדי GPU של Intel Gaudi, מעבדי GPU של NVIDIA ומעבדי x86. ההובלה של Neural Magic בפרויקט vLLM בשילוב עם תיק העבודות החזק של רד האט של טכנולוגיות בינה מלאכותית בענן היברידי, יציעו לארגונים נתיב פתוח לבניית אסטרטגיות בינה מלאכותית העונות על צרכיהם הייחודיים, בכל מקום בו נמצאים הנתונים שלהם.
עבור מאט היקס, נשיא ומנכ"ל החברה, רכישת Neural Magic, יחד עם פיתוח יוזמת vLLM, היא הצעד הראשון במיצוב החברה כנקודת ייחוס בתחום הבינה המלאכותית. "אנו נרגשים להשלים את תיק העבודות שלנו בתחום הבינה המלאכותית, המתמקד בענן היברידי, עם החדשנות פורצת הדרך של Neural Magic בתחום הבינה המלאכותית, ובכך לקדם את שאיפתנו להיות לא רק 'הרד האט של הקוד הפתוח', אלא גם 'הרד האט של הבינה המלאכותית'", אמר.
רד האט + קסם עצבי: מאפשרים עתיד עם בינה מלאכותית היברידית מוכנה לענן.
Neural Magic פוצלה מ-MIT בשנת 2018 במטרה לבנות תוכנת הסקה בעלת ביצועים גבוהים עבור למידה עמוקה. בעזרת הטכנולוגיה והמומחיות של Neural Magic בהנדסת ביצועים, רד האט שואפת להאיץ את חזונה לעתיד הבינה המלאכותית, המונעת על ידי תיק טכנולוגיות הבינה המלאכותית של רד האט. החברה, שנבנתה כדי להתגבר על האתגרים של בינה מלאכותית בארגונים גדולים, משתמשת בחדשנות בקוד פתוח כדי להנגיש עוד יותר את הגישה לכוח הטרנספורמטיבי של הבינה המלאכותית באמצעות:
- מודלים בקוד פתוח מורשים הנעים בין מיליארד ל-405 מיליארד פרמטרים שיכולים לפעול בכל מקום בענן ההיברידי - במרכזי נתונים ארגוניים, בעננים מרובים ובקצה.
- תכונות התאמה אישית המאפשרות לארגונים להתאים בקלות רבה יותר תוכניות LLM לנתונים הפרטיים שלהם ולמקרי שימוש, עם מסגרת אבטחה חזקה יותר.
- ניסיון בהנדסת ביצועי הסקה, וכתוצאה מכך יעילות תפעולית ותשתיתית גבוהה יותר.
- מערכת אקולוגית בקוד פתוח ורשת של שותפים ומבני תמיכה המעניקים ללקוחות יותר אפשרויות בחירה, החל מתואר ראשון במשפטים וכלים ועד לחומרת שרתים וארכיטקטורות שבבים מוסמכות.
הנהגת vLLM לשיפור הבינה המלאכותית של רד האט
Neural Magic תמנף את המומחיות והידע שלה ב-vLLM כדי לבנות בסיס טכנולוגי ברמה ארגונית המאפשר ללקוחות לייעל, לפרוס ולהרחיב עומסי עבודה של LLM בסביבות ענן היברידיות עם שליטה מלאה על בחירת התשתית, מדיניות האבטחה ומחזור חיי המודל. Neural Magic מבצעת גם מחקר אופטימיזציה של מודלים, בונה את LLM Compressor (ספרייה מאוחדת לאופטימיזציה של LLMs עם אלגוריתמים חדישים של דלילות וכימות), ומתחזקת מאגר של מודלים שעברו אופטימיזציה מראש מוכנים לפריסה עם vLLM.
רד האט שמה לה למטרה לסייע ללקוחות להפחית עלויות של בינה מלאכותית ומחסומי מיומנויות בעזרת טכנולוגיות עוצמתיות כגון:
- Red Hat Enterprise Linux AI (RHEL AI) , פלטפורמה לבניית מודלים לפיתוח, בדיקה ותפעול חלקים של משפחת IBM Granite של מערכות LLM בקוד פתוח עבור יישומים ארגוניים בפריסות שרתי לינוקס;
- Red Hat OpenShift AI היא פלטפורמת בינה מלאכותית המספקת כלים לפיתוח, אימון, הגשה וניטור מהירים של מודלים של למידת מכונה בסביבות Kubernetes מבוזרות באתר, בענן הציבורי או בקצה.
- InstructLab הוא פרויקט קהילתי בקוד פתוח שנוצר על ידי Red Hat ו-IBM המאפשר לכל אחד לעצב את עתיד GenAI באמצעות שיפור שיתופי של Granite LLMs, ברישיון קוד פתוח, תוך שימוש בטכנולוגיית הכוונון העדין של InstructLab.
המנהיגות הטכנולוגית של Neural Magic ב-vLLM תשפר את יכולתה של Red Hat AI לתמוך בפריסות LLM בכל סביבה ובכל מקום בענן ההיברידי, באמצעות מחסנית הסקה פתוחה, מותאמת במיוחד ומוכנה להסקה.
העסקה עדיין כפופה לאישור רגולטורי אמריקאי ולתנאי סגירה מקובלים אחרים.
