Dígitro Tecnologia внедрила систему оркестровки языковой модели, которая снижает спрос на графические процессоры (графические процессоры, изначально созданные для изображений и используемые в настоящее время в искусственном интеллекте). Инновации обеспечивают эффективность, масштабируемость и более конкурентоспособные затраты в приложениях, начиная от цифровых услуг и заканчивая расширенным анализом данных.
GPU — это специализированная электронная схема, изначально предназначенная для ускорения создания изображений и видео. Его огромная способность выполнять большие вычисления гибким способом и задачами, требующими большого объема данных, используется в ресурсах с искусственным интеллектом.
По словам Agenor Pacheco Junior, менеджера по продуктам и инновациям в Dígitro, большие языковые модели чрезвычайно тяжелы. GPU дорогой и потребляет много энергии. “С оркестровкой мы смогли активировать только необходимую модель в нужное время, используя ту же инфраструктуру. Это делает ИИ экономически жизнеспособным для различных применений. Наша цель состояла в том, чтобы столкнуться с одной из самых больших проблем искусственного интеллекта в корпоративном мире: стоимость, Оптимизация ресурсов и предоставление искусственного интеллекта доступным, эффективным и масштабируемым способом“. , йо- Объясняет исполнительный директор.
По мнению Agenor Junior, в этом проекте решалась большая проблема, которая заключалась в том, чтобы обеспечить экономию с помощью производительности, оптимизацию использования графических процессоров и краткое время отклика, необходимое для приложений в режиме реального времени.
Инновации поддерживают услуги ИИ
На практике оркестровка поддерживает услуги ИИ, уже встроенные в решения компании. Среди доступных функций - обработка естественного языка (PLN) для интерпретации открытых вопросов, Rag (генерация с расширенным числом поиска), которая создает определенную базу знаний для каждой организации, и вычислительное видение, способное извлечь информацию из изображений, например данные из карт медицинского плана для планирования встреч.
Разработка началась в октябре 2024 года и в настоящее время работает, доступна для использования во всех решениях Dígitro, но с особой ориентацией на автоматизацию обслуживания и анализ диалогов в контакт-центрах, где использование искусственного интеллекта уже является частью повседневного
