ביום רביעי הזה (13), רד האט השלימה את תהליך הרכישה לרכישת נוירל מג'יק, חברה אמריקאית, חלוצה בתוכנה ובאלגוריתמים של אינטליגנציה מלאכותית גנרטיבית (GenAI). המומחיות של נוירל מג'יק בהנדסת ביצועים, ביחד עם המחויבות שלך לקוד פתוח, מתיישר עם החזון של רד האט לספק בינה מלאכותית בעלת ביצועים גבוהים שמתאימה לתרחישים שונים ומקרי שימוש של לקוחות, בכל מקום בענן ההיברידי.
למרות שההבטחה של GenAI שולטת בחלק גדול מהנוף הטכנולוגי הנוכחי, המודלים הגדולים של השפה (LLMs) התומכים במערכות אלו ממשיכים לגדול. כתוצאה מכך, בניית שירותי LLM אמינים ובעלי יחס עלות-תועלת טוב דורשת יכולת חישובית משמעותית, משאבים אנרגטיים וכישורים תפעוליים מיוחדים. נוכחית, המכשולים הללו מקשים על היתרונות של בינה מלאכותית מותאמת אישית, מוכנה ליישום ובטוחה יותר עבור רוב הארגונים
עם רכישת נוירל מג'יק, רד האט מתכוונת להתמודד עם האתגרים הללו על ידי הפיכת ה-GenAI לנגישה ליותר ארגונים באמצעות חדשנות פתוחה של vLLM. מפותח על ידי UC ברקלי, vLLM הוא פרויקט קוד פתוח המנוהל על ידי הקהילה לשירות מודל פתוח (כמו שהמודלים של AI גנרי מסיקים ומפתרים בעיות), עם תמיכה לכל המשפחות העיקריות של דגמים, חקר מתקדם של האצה של אינפרנציה ומגוון של בקרים חומרה, כולל GPUs של AMD, אדוורס נוירון, גוגל TPU, אינטל גאודי, כרטיסי גרפיקה NVIDIA ומעבדי x86. ההובלה של נוירל מג'יק בפרויקט vLLM בשילוב עם תיק הטכנולוגיות החזק של רד האט בתחום ה-AI בענן היברידי תציע לארגונים דרך פתוחה לבניית אסטרטגיות AI שיתאימו לצרכים הייחודיים שלהם, איפה שהנתונים שלך נמצאים
למת' היקס, נשיא ומנכ"ל החברה, הרכישה של נוירל מג'יק, ביחד עם הפיתוח של היוזמה vLLM, הם הצעד הראשון כדי למקם את החברה כמותג בתחום הבינה המלאכותית."אנחנו נרגשים להשלים את תיק המוצרים שלנו בתחום ה-AI הממוקד בענן היברידי עם החדשנות המהפכנית של Neural Magic", מגביר את רצוננו לא להיות רק ה'רד האט של הקוד הפתוח', אבל גם את 'רד האט של הבינה המלאכותית', אמר.
רד האט + נוירל מג'יק: מאפשרים עתיד עם אינטליגנציה מלאכותית מוכנה לענן היברידי
ניורל מג'יק עשתה ספין-אוף מהMIT ב-2018 עם המטרה לבנות תוכנת inference של ביצועים גבוהים ללמידה עמוקה (Deep Learning). עם הטכנולוגיה והניסיון בהנדסת ביצועים של נוירל מג'יק, הרד האט מחפשת להאיץ את החזון שלה לעתיד של AI, מונעת על ידי פורטפוליו של טכנולוגיה של AI של Red Hat. נבנתה כדי להתגבר על האתגרים של בינה מלאכותית עסקית בקנה מידה גדול, החברה משתמש חדשנות open source כדי לדמוקרטיז עוד יותר את הגישה לכוח השינוי של AI על ידי:
- Modelos licenciados open source em escala de 1 bi a 405 bi de parâmetros que podem operar em qualquer lugar da nuvem híbrida — em data centers corporativos, במספר עננים ובקצה.
- תכונות התאמה שמאפשרות לארגונים להתאים LLMs בקלות יותר עם הנתונים הפרטיים שלהם ומקרים שימוש עם מבנה אבטחה חזק יותר
- ניסיון בהנדסת ביצועים של inference, וכתוצאה מכך ביעילות גבוהה יותר תפעולית ותשתיות
- אקוסיסטם open source ושל שותפים ומבנים תמיכה שמאפשרים ללקוחות להיות להם יותר אפשרות של בחירה, מאז LLMs וכלים עד חומרה של שרת מוסמך וארכיטקטורות של שבב
מנהיגות vLLM לשיפור Red Hat AI
נוירל מג'יק תשתמש במומחיות שלה וידע ב vLLM כדי לבנות בסיס טכנולוגיה, ברמה עסקית, שמאפשר ללקוחות לייעל, להפעיל ולהגדיר עומסי עבודה LLM בסביבות ענן היברידי עם שליטה מלאה על בחירת התשתית, מדיניות אבטחה ומחזור החיים של המודל. ה Neural Magic גם מפתחת מחקר אופטימיזציה של מודל, בונה את LLM Compressor (ספרייה מאוחדת לאופטימיזציה LLMs עם אלגוריתמים של sparsity ו quantization של דור האחרון) ומחזיק מאגר של מודלים מראש אופטימיים מוכנים כדי להיות מיושמים עם vLLM
רד האט AI שואפת לעזור ללקוחות להפחית את עלויות AI ומחסומים של מיומנויות עם טכנולוגיות חזקות, כמו
- רד האט אנטרפרייז לינוקס AI (RHEL AI), פלטפורמה לדגמים בסיסיים כדי לפתח, לבחון ולפעול בצורה מושלמת את משפחת IBM Granite של LLMs open source עבור יישומים עסקיים בהפעלות שרת Linux;
- רד האט אופנשיפט AI, פלטפורמת AI המספקת כלים כדי לפתח, לאמן, לשרת ולפקח במהירות את המודלים של machine learning בסביבות של Kubernetes מופצות on-site, בענן הציבורי או בקצה;
- אינסטרקטלאב, פרויקט קהילתי open source שנוצר על ידי Red Hat וה- IBM שמאפשר לכל אחד לעצב את עתיד של GenAI באמצעות השיפור שיתופי של LLMs Granite, רישיונים כמקור פתוח באמצעות טכנולוגיה של fine-tuning של InstructLab.
המנהיגות הטכנולוגית של Neural Magic בvLLM תגדיל את היכולת של Red Hat AI לתמוך בפריסות של LLM בכל סביבה ובכל מקום מהענן ההיברידי עם ערימה של inference מוכנה, מאוד אופטימלית ופתוחה
העסקה עדיין צריכה לעבור באישור רגולטיבי צפון אמריקאי ותנאים אחרים רגילים של סגירת חוזים
