Dígitro Tecnologia ได้ใช้ระบบการประสานแบบจำลองภาษาที่ลดความต้องการ GPU (หน่วยประมวลผลกราฟิกซึ่งสร้างขึ้นสำหรับรูปภาพและปัจจุบันใช้ในปัญญาประดิษฐ์) นวัตกรรมช่วยให้มั่นใจถึงประสิทธิภาพ ความสามารถในการปรับขนาด และต้นทุนที่แข่งขันได้มากขึ้นในการใช้งานตั้งแต่บริการดิจิทัลไปจนถึงการวิเคราะห์ข้อมูลขั้นสูง.
GPU เป็นวงจรอิเล็กทรอนิกส์เฉพาะทางที่ออกแบบมาเพื่อเร่งการสร้างภาพและวิดีโอ ความสามารถอันยิ่งใหญ่ในการคำนวณขนาดใหญ่ด้วยวิธีที่คล่องตัวและงานที่ต้องใช้ข้อมูลจำนวนมากในทรัพยากรที่มีปัญญาประดิษฐ์.
จากข้อมูลของ Agenor Pacheco Junior ผู้จัดการผลิตภัณฑ์และนวัตกรรมที่ Dígitro โมเดลภาษาขนาดใหญ่นั้นหนักมาก GPU มีราคาแพงและใช้พลังงานมาก. “ด้วยการประสานกัน เราสามารถเปิดใช้งานเฉพาะแบบจำลองที่จำเป็นในเวลาที่เหมาะสม โดยใช้โครงสร้างพื้นฐานเดียวกัน ทำให้ AI ใช้งานได้ทางเศรษฐกิจสำหรับการใช้งานที่หลากหลาย. เป้าหมายของเราคือการเผชิญกับความท้าทายที่ใหญ่ที่สุดอย่างหนึ่งของปัญญาประดิษฐ์ในโลกธุรกิจ: ต้นทุน, เพิ่มประสิทธิภาพทรัพยากรและส่งมอบปัญญาประดิษฐ์ด้วยวิธีที่ราคาไม่แพง มีประสิทธิภาพ และสามารถปรับขนาดได้“. อธิบายผู้บริหาร.
ตามคำกล่าวของ Agenor Junior ความท้าทายที่ยิ่งใหญ่ที่เอาชนะในโครงการนี้คือการนำการออมด้วยประสิทธิภาพ เพิ่มประสิทธิภาพการใช้ GPU และนำเสนอเวลาตอบสนองสั้น ๆ ที่จำเป็นสำหรับแอปพลิเคชันในแบบเรียลไทม์.
นวัตกรรมรองรับบริการด้าน AI
ในทางปฏิบัติ การประสานกันสนับสนุนบริการ AI ที่ฝังอยู่ในโซลูชันของบริษัทแล้ว ในบรรดาคุณสมบัติที่มีอยู่ ได้แก่ Natural Language Processing (PLN) เพื่อตีความคำถามปลายเปิด RAG (การสร้างการดึงข้อมูล) ซึ่งสร้างฐานความรู้เฉพาะสำหรับแต่ละองค์กรและวิสัยทัศน์เชิงคำนวณสามารถดึงข้อมูลจากภาพเช่นข้อมูลจากการ์ดแผนสุขภาพสำหรับการนัดหมาย.
การพัฒนาเริ่มขึ้นในเดือนตุลาคม 2024 และขณะนี้เปิดดำเนินการแล้ว พร้อมใช้งานในโซลูชัน Dígitro ทั้งหมด แต่ด้วยการมุ่งเน้นเฉพาะที่ระบบอัตโนมัติของบริการและการวิเคราะห์บทสนทนาในศูนย์การติดต่อ ซึ่งการใช้ปัญญาประดิษฐ์เป็นส่วนหนึ่งของการดำเนินงานในแต่ละวัน
