ในวันพุธนี้ (13), Red Hat ได้เสร็จสิ้นกระบวนการซื้อเพื่อเข้าซื้อ Neural Magic, บริษัทอเมริกัน, ผู้บุกเบิกในซอฟต์แวร์และอัลกอริธึมของปัญญาประดิษฐ์เชิงสร้างสรรค์ (GenAI). ความเชี่ยวชาญของ Neural Magic ในการวิศวกรรมประสิทธิภาพ, ร่วมกับความมุ่งมั่นของคุณต่อซอฟต์แวร์โอเพนซอร์ส, สอดคล้องกับวิสัยทัศน์ของ Red Hat ในการจัดหา AI ที่มีประสิทธิภาพสูงซึ่งเหมาะกับสถานการณ์และกรณีการใช้งานของลูกค้าที่แตกต่างกัน, ที่ใดก็ได้ในคลาวด์ไฮบริด.
แม้ว่าคำสัญญาของ GenAI จะครอบงำส่วนใหญ่ของฉากเทคโนโลยีในปัจจุบัน, โมเดลภาษาใหญ่ (LLMs) ที่สนับสนุนระบบเหล่านี้ยังคงเติบโต. เป็นผลลัพธ์, การสร้างบริการ LLM ที่เชื่อถือได้และคุ้มค่าต้องการความสามารถในการประมวลผลที่สำคัญ, ทรัพยากรพลังงานและทักษะการปฏิบัติการเฉพาะทาง. ปัจจุบัน, อุปสรรคเหล่านี้ทำให้ไม่สามารถใช้ประโยชน์จาก AI ที่ปรับแต่งได้, พร้อมสำหรับการนำไปใช้และปลอดภัยมากขึ้นสำหรับองค์กรส่วนใหญ่
ด้วยการเข้าซื้อ Neural Magic, Red Hat มีเป้าหมายที่จะจัดการกับความท้าทายเหล่านี้โดยทำให้ GenAI เข้าถึงได้มากขึ้นสำหรับองค์กรต่างๆ ผ่านนวัตกรรมแบบเปิดของ vLLM. พัฒนาโดย UC Berkeley, vLLM เป็นโครงการโอเพนซอร์สที่ดูแลโดยชุมชนสำหรับบริการโมเดลเปิด (เช่น โมเดล AI ที่สร้างสรรค์ในการอนุมานและแก้ปัญหา), มีการสนับสนุนสำหรับครอบครัวโมเดลหลักทั้งหมด, การวิจัยขั้นสูงเกี่ยวกับการเร่งความเร็วการอนุมานและฮาร์ดแวร์แบ็คเอนด์ที่หลากหลาย, รวมถึง GPU AMD, AWS นิวรอน, กูเกิล TPU, อินเทล กาอudi, GPU NVIDIA และ CPU x86. ความเป็นผู้นำของ Neural Magic ในโครงการ vLLM ร่วมกับพอร์ตโฟลิโอเทคโนโลยี AI แบบคลาวด์ไฮบริดที่แข็งแกร่งของ Red Hat จะมอบเส้นทางที่เปิดกว้างให้กับองค์กรในการสร้างกลยุทธ์ AI ที่ตอบสนองความต้องการเฉพาะของพวกเขา, ไม่ว่าข้อมูลของคุณจะอยู่ที่ไหน
สำหรับ Matt Hicks, ประธานและซีอีโอของบริษัท, การซื้อ Neural Magic, ร่วมกับการพัฒนาความคิดริเริ่ม vLLM, เป็นก้าวแรกในการทำให้บริษัทเป็นที่ยอมรับในด้านปัญญาประดิษฐ์.เรารู้สึกตื่นเต้นที่จะเสริมพอร์ตโฟลิโอ AI ของเราที่มุ่งเน้นไปที่คลาวด์ไฮบริดด้วยนวัตกรรม AI ที่ปฏิวัติจาก Neural Magic, เพิ่มความปรารถนาของเราไม่ให้เป็นเพียงแค่ 'Red Hat ของโอเพนซอร์ส', แต่ยังเป็น 'Red Hat ของ AI', กล่าวว่า.
เรดแฮท + นิวรัลแมจิก: ทำให้อนาคตที่มีปัญญาประดิษฐ์พร้อมสำหรับคลาวด์ไฮบริดเป็นไปได้
บริษัท Neural Magic ทําการ spin-off จาก MIT ในปี 2018 ด้วยเป้าหมายที่จะสร้างซอฟต์แวร์การ استنباطการทํางานสูงสําหรับการเรียนรู้ลึก (Deep Learning). ด้วยเทคโนโลยีและความเชี่ยวชาญด้านวิศวกรรมประสิทธิภาพของ Neural Magic, บริษัท Red Hat ตั้งใจเร่งวิสัยทัศน์ของพวกเขาสู่อนาคตของ AI, ถูกขับเคลื่อนโดยพอร์ตโฟลิโอเทคโนโลยีของ AI ของ Red Hat. สร้างขึ้นเพื่อเอาชนะความท้าทายของปัญญาประดิษฐ์ในระดับองค์กรขนาดใหญ่, บริษัทใช้นวัตกรรม open source เพื่อประชาธิปัตย์ต่อไปการเข้าถึงพลังการเปลี่ยนแปลงของ AI โดยการ:
- Modelos licenciados open source em escala de 1 bi a 405 bi de parâmetros que podem operar em qualquer lugar da nuvem híbrida — em data centers corporativos, ในหลายเมฆและที่ edge.
- ฟังก์ชันการปรับที่ทําให้องค์กรสามารถปรับแต่ง LLMs ได้อย่างง่ายดายด้วยข้อมูลส่วนตัวของพวกเขาและกรณีการใช้ด้วยโครงสร้างความปลอดภัยที่แข็งแกร่งกว่า
- ประสบการณ์ในวิศวกรรมการทํางานของ inference, ส่งผลให้มีประสิทธิภาพการดําเนินงานและของโครงสร้างพื้นฐานที่สูงขึ้น
- ระบบนิเวศของ open source และของพันธมิตรและโครงสร้างการสนับสนุนที่ทําให้เกิดว่าลูกค้ามีทางเลือกที่มากขึ้น, จาก LLMs และเครื่องมือจนถึง hardware ของเซอร์เวอร์รับรองและสถาปัตยกรรมของชิป
ความเป็นผู้นำ vLLM เพื่อพัฒนาปัญญาประดิษฐ์ Red Hat
Neural Magic จะใช้ความเชี่ยวชาญและความรู้ของมันใน vLLM เพื่อสร้างฐานเทคโนโลยี, ณ ระดับบริษัท, ที่ช่วยให้ลูกค้า optimize, จัดตั้งและปรับขนาดภาระงาน LLM ในสภาวะเมฆไฮบริดด้วยการควบคุมเต็มเกี่ยวกับการเลือกของโครงสร้างพื้นฐาน, นโยบายความปลอดภัยและวงจรชีวิตของรูปแบบ. Neural Magic ยังพัฒนาการวิจัยการปรับปรุงโมเดล, สร้าง LLM Compressor (ห้องสมุดรวมเพื่อปรับปรุง LLMs ด้วยอัลกอริทึมการ sparsity และ quantization ของรุ่นล่าสุด) และรักษาคลังของรูปแบบ pre-optimized พร้อมที่จะถูกนําไปใช้กับ vLLM
Red Hat AI พยายามช่วยลูกค้าในการลดค่าใช้จ่ายของ AI และอุปสรรคของความสามารถด้วยเทคโนโลยีที่ทรงพลัง, เหมือนกับ
- เรดแฮทเอนเตอร์ไพรส์ลินุกซ์เอไอ (RHEL AI), แพลตฟอร์มสําหรับรูปแบบพื้นฐานเพื่อพัฒนา, ทดสอบและดําเนินการอย่างสมบูรณ์ IBM Granite ครอบครัวของ LLMs open source สําหรับแอพพลิเคชันธุรกิจในการจัดตั้งเซิร์ฟเวอร์ Linux;
- เรดแฮท โอเพ่นชิฟต์ เอไอ, แพลตฟอร์มของ AI ที่ให้เครื่องมือเพื่อพัฒนา, ฝึกอบรม, บริการและติดตามแบบอย่างรวดเร็วของ machine learning ในสภาพแวดล้อมของ Kubernetes กระจาย on-site, ในเมฆสาธารณะหรือที่ edge;
- อินสตรัคแล็บ, โครงการชุมชนแหล่งเปิดที่สร้างโดย Red Hat และโดย IBM ที่อนุญาตให้ใครก็ตามสร้างสรรค์อนาคตของ GenAI ผ่านการปรับปรุงร่วมกันของ LLMs Granite, อนุญาตเป็น open source โดยใช้เทคโนโลยีการ fine-tuning ของ InstructLab.
ความเป็นผู้นําเทคโนโลยีของ Neural Magic ใน vLLM จะเพิ่มความสามารถของ Red Hat AI ในการให้การสนับสนุนการจัดตั้งของ LLM ในสภาพแวดล้อมใด ๆ และในทุกที่ของเมฆไฮบริดด้วยสตาร์กการ استنباطที่พร้อม, สูง optimized และเปิด
การซื้อขายยังต้องผ่านการอนุมัติการกํากับดูแลของอเมริกาและเงื่อนไขอื่น ๆ ปกติของการปิดสัญญา
