เรดแฮทขับเคลื่อนปัญญาประดิษฐ์ในธุรกิจบนคลาวด์แบบไฮบริดด้วยเรดแฮทเอไอ

Red Hat เพิ่งปล่อยการอัปเดตใหม่ใน Red Hat AI, พอร์ตโฟลิโอผลิตภัณฑ์และบริการของคุณที่ออกแบบมาเพื่อเร่งการพัฒนาและการนำเสนอวิธีแก้ปัญหา AI ในคลาวด์แบบไฮบริด. Red Hat AI มีแพลตฟอร์ม AI สำหรับธุรกิจเพื่อการฝึกอบรมโมเดลและการอนุมาน, การให้ประสบการณ์มากขึ้น, ความยืดหยุ่นและประสบการณ์ที่เรียบง่ายในการติดตั้งระบบในทุกที่ในคลาวด์ไฮบริด

ในการค้นหาวิธีลดต้นทุนการนำโมเดลภาษาใหญ่ (LLMS) ไปใช้เพื่อตอบสนองต่อจำนวนกรณีการใช้งานที่เพิ่มขึ้น, บริษัทต่างๆ ยังคงเผชิญกับความท้าทายในการรวมระบบเหล่านี้เข้ากับข้อมูลที่เป็นเจ้าของและเข้าถึงข้อมูลเหล่านี้จากทุกที่: ไม่ว่าจะเป็นในศูนย์ข้อมูล, ในคลาวด์สาธารณะหรือแม้แต่ที่ขอบ

การรวมทั้ง Red Hat OpenShift AI และ Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI ตอบสนองต่อความกังวลเหล่านี้โดยการจัดเตรียมแพลตฟอร์ม AI สำหรับธุรกิจที่ช่วยให้สามารถนำโมเดลที่มีประสิทธิภาพและปรับแต่งได้มาใช้, ปรับให้เข้ากับข้อมูลเฉพาะของธุรกิจ, มีความเป็นไปได้ที่จะถูกติดตั้งในคลาวด์ไฮบริดเพื่อฝึกโมเดลในสถาปัตยกรรมการคอมพิวเตอร์ที่หลากหลาย

สำหรับโจ เฟอร์นันเดส, รองประธานและผู้จัดการทั่วไปของหน่วยธุรกิจ AI ของ Red Hat, การอัปเดตทำให้องค์กรสามารถมีความแม่นยำและประหยัดในเส้นทางของ AI. เรดแฮททราบว่าบริษัทต่างๆ จะต้องการวิธีการในการจัดการกับต้นทุนที่เพิ่มขึ้นจากการนำเสนอ AI เชิงสร้างสรรค์, เมื่อพวกเขานำกรณีการใช้งานมากขึ้นสำหรับการผลิตและดำเนินการในระดับใหญ่.. Red Hat AI ช่วยองค์กรต่างๆ ในการจัดการกับความท้าทายเหล่านี้, อนุญาตให้พวกเขามีแบบจำลองที่มีประสิทธิภาพมากขึ้น, พัฒนาขึ้นเพื่อวัตถุประสงค์, ฝึกฝนด้วยข้อมูลของคุณและที่ทำให้สามารถอนุมานได้อย่างยืดหยุ่นในสภาพแวดล้อมภายในองค์กร, จากคลาวด์และที่ขอบ.”

เรดแฮท โอเพ่นชิฟต์ เอไอ

Red Hat OpenShift AI มีแพลตฟอร์ม AI ที่ครบวงจรเพื่อจัดการวงจรชีวิตของ AI เชิงพยากรณ์และเชิงสร้างสรรค์ (gen AI) ในคลาวด์ไฮบริด, รวมถึงการดำเนินงานด้านการเรียนรู้ของเครื่อง (MLOps) และความสามารถในการดำเนินงานของโมเดลภาษาขนาดใหญ่ (LLMOps). แพลตฟอร์มมีฟังก์ชันการทำงานในการสร้างโมเดลการคาดการณ์และปรับแต่งโมเดล AI, ร่วมกับเครื่องมือเพื่อทำให้การจัดการโมเดล AI ง่ายขึ้น, ตั้งแต่ท่อส่งข้อมูลทางวิทยาศาสตร์และโมเดลไปจนถึงการติดตามโมเดล, การบริหารจัดการและอีกมากมาย.  

เวอร์ชันล่าสุดของแพลตฟอร์ม, เรดแฮทโอเพนชิฟต์เอไอ 2.18, เพิ่มการอัปเดตและความสามารถใหม่เพื่อสนับสนุนเป้าหมายของ Red Hat AI ในการนำเสนอโมเดล AI ที่ปรับให้เหมาะสมและมีประสิทธิภาพมากขึ้นสำหรับคลาวด์ไฮบริด. ฟีเจอร์หลักประกอบด้วย

●      บริการกระจาย: มีให้บริการผ่านเซิร์ฟเวอร์การอนุมาน vLLM, บริการที่กระจายช่วยให้ทีมไอทีสามารถแบ่งบริการของโมเดลระหว่างหน่วยประมวลผลกราฟิกหลายหน่วย (GPU). นี่ช่วยบรรเทาภาระบนเซิร์ฟเวอร์เดียว, เร่งการฝึกอบรมและการปรับแต่งให้เหมาะสมและส่งเสริมการใช้ทรัพยากรการคอมพิวเตอร์อย่างมีประสิทธิภาพมากขึ้น, ในขณะเดียวกันก็ช่วยกระจายบริการระหว่างโหนดสำหรับโมเดล AI

●      ประสบการณ์การปรับแต่งโมเดลแบบครบวงจรการใช้ InstructLab และพายพ์ไลน์วิทยาศาสตร์ข้อมูลของ Red Hat OpenShift AI, ฟีเจอร์ใหม่นี้ช่วยให้การปรับแต่ง LLMs ง่ายขึ้น, ทำให้พวกเขามีความสามารถในการขยายตัวมากขึ้น, มีประสิทธิภาพและตรวจสอบได้ในสภาพแวดล้อมการผลิตขนาดใหญ่, ในขณะเดียวกันที่ให้การจัดการผ่านแผงควบคุมของ Red Hat OpenShift AI

●      การควบคุม AIเรดแฮทโอเพนชิฟต์เอไอ 2.18 ช่วยปรับปรุงความแม่นยำ, ประสิทธิภาพ, ความหน่วงและความโปร่งใสของ LLMs ผ่านการแสดงตัวอย่างเทคโนโลยี AI Guardrails, ที่ตรวจสอบและปกป้องการโต้ตอบของผู้ใช้และผลลัพธ์ของโมเดล. AI Guardrails มีฟีเจอร์การตรวจจับเพิ่มเติมเพื่อช่วยให้ทีม IT ระบุและบรรเทาคำพูดที่อาจมีความเกลียดชัง, หยาบคายหรือไม่สุภาพ, ข้อมูลส่วนบุคคลที่สามารถระบุได้, ข้อมูลของคู่แข่งหรือข้อมูลอื่น ๆ ที่ถูกจำกัดโดยนโยบายของบริษัท

●      การประเมินโมเดล: ใช้ส่วนประกอบการประเมินโมเดลภาษา (lm-eval) เพื่อให้ข้อมูลที่สำคัญเกี่ยวกับคุณภาพโดยรวมของโมเดล, การประเมินโมเดลช่วยให้นักวิทยาศาสตร์ข้อมูลสามารถเปรียบเทียบประสิทธิภาพของ LLMs ของพวกเขาในหลายงาน, ตั้งแต่การคิดเชิงตรรกะและคณิตศาสตร์ไปจนถึงภาษาธรรมชาติที่เป็นปฏิปักษ์, ช่วยสร้างโมเดล AI ที่มีประสิทธิภาพมากขึ้น, ตอบสนองและปรับตัว

RHEL ปัญญาประดิษฐ์

ส่วนหนึ่งของพอร์ตโฟลิโอ Red Hat AI, RHEL AI เป็นแพลตฟอร์มของโมเดลพื้นฐานสำหรับการพัฒนา, ทดสอบและดำเนินการ LLMs อย่างสม่ำเสมอมากขึ้น, ด้วยเป้าหมายในการส่งเสริมแอปพลิเคชันธุรกิจ. RHEL AI มีโมเดล Granite LLMs และเครื่องมือการปรับแต่งโมเดล InstructLab, แพ็คเกจคืออะไรในภาพที่สามารถบูตได้ของ Red Hat Enterprise Linux และสามารถนำไปใช้ในคลาวด์ไฮบริด

เปิดตัวในเดือนกุมภาพันธ์ 2025, RHEL 1.4 นำมาซึ่งการปรับปรุงหลายอย่าง, รวมถึง

●      การสนับสนุนโมเดล Granite 3.1 8Bเป็นการเพิ่มเติมล่าสุดในครอบครัวโมเดล Granite ที่มีใบอนุญาตแบบโอเพ่นซอร์ส. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), นอกจากหน้าต่างบริบทขนาด 128k เพื่อปรับปรุงการนำผลลัพธ์จากการสรุปและงานการสร้างที่เพิ่มการดึงข้อมูล (RAG) มาใช้

●      อินเทอร์เฟซกราฟิกใหม่สำหรับการมีส่วนร่วมกับทักษะและความรู้ที่มีอยู่ก่อน, มีให้ในรูปแบบการแสดงตัวอย่างสำหรับนักพัฒนา, ด้วยเป้าหมายในการทำให้การบริโภคและการแบ่งส่วนข้อมูลง่ายขึ้น, รวมถึงการอนุญาตให้ผู้ใช้เพิ่มทักษะและการมีส่วนร่วมของตนเองในโมเดล AI

●      เอกสารความรู้-เบนช์ (DK-bench)เพื่ออำนวยความสะดวกในการเปรียบเทียบระหว่างโมเดล AI ที่ปรับแต่งด้วยข้อมูลส่วนตัวที่เกี่ยวข้องกับประสิทธิภาพของโมเดลพื้นฐานที่ไม่ได้ปรับแต่ง

Red Hat AI InstructLab บน IBM Cloud

ทุกครั้งมากขึ้น, บริษัทต่างๆ กำลังมองหาวิธีแก้ปัญหา AI ที่ให้ความสำคัญกับความแม่นยำและความปลอดภัยของข้อมูลของตน, ในขณะเดียวกันที่รักษาต้นทุนและความซับซ้อนให้อยู่ในระดับต่ำที่สุดเท่าที่จะเป็นไปได้. เรดแฮท เอไอ อินสตรัคแลบ, พร้อมให้บริการใน IBM Cloud, ถูกออกแบบมาเพื่อทำให้เรียบง่าย, ขยายและช่วยปรับปรุงความปลอดภัยในการฝึกอบรมและการนำระบบปัญญาประดิษฐ์ไปใช้. การทำให้การปรับแต่งโมเดลของ InstructLab ง่ายขึ้น, องค์กรสามารถสร้างแพลตฟอร์มที่มีประสิทธิภาพมากขึ้น, ปรับให้เหมาะกับความต้องการเฉพาะของคุณ, การควบคุมข้อมูลที่เป็นความลับของคุณ. 

การฝึกอบรมฟรีเกี่ยวกับพื้นฐานของปัญญาประดิษฐ์

ปัญญาประดิษฐ์เป็นโอกาสที่เปลี่ยนแปลงซึ่งกำลังนิยามใหม่ว่า บริษัท ต่างๆ ดำเนินงานและแข่งขันอย่างไร. เพื่อสนับสนุนองค์กรในสถานการณ์ที่เปลี่ยนแปลงนี้, Red Hat มีการฝึกอบรมออนไลน์ฟรีเกี่ยวกับพื้นฐานของ AI. บริษัทกำลังเสนอใบรับรองการเรียนรู้ในด้านปัญญาประดิษฐ์สองใบ, มุ่งเน้นทั้งผู้นำที่มีประสบการณ์สูงและผู้เริ่มต้น, ช่วยในการศึกษาให้ผู้ใช้ทุกระดับเกี่ยวกับวิธีที่ AI สามารถช่วยเปลี่ยนแปลงการดำเนินธุรกิจ, เร่งการตัดสินใจและส่งเสริมการสร้างสรรค์นวัตกรรม

ความพร้อมใช้งาน

เรดแฮทโอเพนชิฟต์เอไอ 2.18 และ Red Hat Enterprise Linux AI 1.4 พร้อมใช้งานแล้ว. ข้อมูลเพิ่มเติมเกี่ยวกับทรัพยากรเพิ่มเติม, การปรับปรุง, การแก้ไขข้อบกพร่องและวิธีการอัปเดตเวอร์ชันของ Red Hat OpenShift AI เป็นเวอร์ชันล่าสุดสามารถพบได้ที่นี่,และเวอร์ชันล่าสุดของ RHEL AI สามารถพบได้ที่นี่.

Red Hat AI InstructLab บน IBM Cloud จะพร้อมใช้งานในเร็วๆ นี้. การฝึกอบรมเกี่ยวกับพื้นฐานของ AI จาก Red Hat พร้อมให้บริการแก่ลูกค้าแล้ว