Red Hat AI использует внедрение корпоративного искусственного интеллекта во всех моделях, ускорителях искусственного интеллекта и облаках

Новые обновления в портфеле ИИ Red Hat приводят к серьезным преобразованиям в корпоративной индустрии. с помощью Red Hat AI компания стремится к дальнейшему расширению возможностей, необходимых для ускорения внедрения технологий, предлагая клиентам больше свободы и уверенности в развертывании генеративного ИИ (ген ИИ) в гибридных облачных средах.As запуска Red Hat AI Inference Server, сторонних проверенных моделей в Red Hat AI, и интеграции с API Llama Stack и Model Context Protocol (MCP), компания повторно размещает на рынке различные формы искусственного интеллекта. 

По словам Форрестера, программное обеспечение с открытым исходным кодом станет двигателем ускорения усилий по корпоративному искусственному интеллекту. Поскольку ландшафт искусственного интеллекта становится более сложным и динамичным, Сервер вывода ИИ Red Hat а проверенные сторонними организациями модели обеспечивают эффективный вывод и проверенную коллекцию оптимизированных по производительности моделей искусственного интеллекта на платформе Red Hat AI. Интегрируя новые API для разработки агентов искусственного интеллекта, включая Llama Stack и MCP, Red Hat работает над упрощением сложности развертывания, предоставляя ИТ-лидерам, специалистам по обработке данных и разработчикам возможность продвигать свои инициативы в области искусственного интеллекта с большим контролем и эффективностью.

Эффективный гибридный вывод облака с помощью сервера вывода искусственного интеллекта Red Hat

Портфолио Red Hat AI представляет новое Сервер вывода ИИ Red Hat, Сочетающий более быстрый, более последовательный и экономически эффективный вывод в масштабе в гибридных облачных средах. это дополнение интегрировано с последними версиями Red Hat OpenShift AI и Red Hat Enterprise Linux AI, а также доступно как автономное решение, позволяющее организациям развертывать интеллектуальные приложения с большей эффективностью, гибкостью и производительностью.

Испытанные и оптимизированные модели с Red Hat AI и сторонней проверкой

Сторонние проверенные модели Red Hat AI, доступен в Обнимая лицо, Сделать его легко для предприятий выбрать правильные модели для их нужд. Red Hat AI предлагает коллекцию проверенных моделей, а также руководство по развертыванию, которое повышает уверенность клиентов в производительности модели и воспроизводимости результатов. выбранные модели также оптимизированы Red Hat, с методами сжатия моделей, которые уменьшают их размер и увеличивают скорость вывода, помогая минимизировать потребление ресурсов и эксплуатационные расходы. Кроме того, непрерывный процесс проверки модели помогает клиентам Red Hat AI оставаться в авангарде инноваций gen AI.

Стандартизированные API для приложений искусственного интеллекта и разработки агентов с помощью Llama Stack и MCP

Red Hat AI интегрирует Лама Стэк, первоначально разработан Meta совместно с МКП от Anthropic, чтобы предоставить стандартизированные API для создания и развертывания приложений и агентов искусственного интеллекта. В настоящее время доступен в предварительной версии разработчика в Red Hat AI, Llama Stack предоставляет унифицированный API для доступа к выводам с vLLM, генерация с улучшенным восстановлением (RAG), оценка модели и многое другое, ограждения и агенты, в любой модели AI gen.MCP позволяет моделям интегрироваться с внешними инструментами, обеспечивая стандартизированный интерфейс для подключения к API, плагинам и источникам данных в рабочих процессах агентов.

Последняя версия Red Hat OpenShift AI (v2.20) Обеспечивает дополнительные улучшения для создания, обучения, развертывания и мониторинга генеративных и прогнозирующих моделей ИИ в масштабе. Основные моменты включают в себя

• Оптимизированный каталог моделей (технический предварительный просмотр): легкий доступ к проверенным моделям Red Hat и сторонним моделям с развертыванием веб-консоли и полным управлением жизненным циклом со встроенной регистрацией OpenShift.

• Распределенное обучение с оператором обучения KubeFlow: запустите настройки модели с помощью рабочих нагрузок InstructLab и PyTorch, распределенных по нескольким узлам и графическим процессорам Red Hat OpenShift, с распределенной сетью RDMA для ускорения и лучшего использования графического процессора, чтобы снизить затраты. 

• Хранилище функций (технический предварительный просмотр): основанный на проекте Kubeflow Feast, расположенном выше по течению, он предлагает централизованное хранилище для управления и доставки данных для обучения и вывода, оптимизации потока данных и повышения точности моделей и возможности повторного использования.

Продовольственный талон (Vale-Alimentação, VA) Red Hat Enterprise Linux AI 1.5 вносит новые обновления в основную модельную платформу Red Hat, которая ориентирована на разработку, тестирование и запуск крупномасштабных языковых моделей (LLM) Ключевые особенности RHEL AI версии 1.5 включают в себя

• Доступность в Google Cloud Marketplace, расширение выбора клиентов для запуска Red Hat Enterprise Linux AI в общедоступных облаках (в дополнение к AWS и Azure), что упрощает развертывание и управление рабочими нагрузками искусственного интеллекта в Google Cloud.

• Расширенные возможности на нескольких языках для испанского, немецкого, французского и итальянского через InstructLab, позволяющий настраивать модели с нативными скриптами и расширяющий возможности многоязычных приложений ИИ. Пользователи также могут использовать свой собственный “teacher” и “student” для большего контроля в настройке и тестировании, с будущей поддержкой, прогнозируемой для японского, хинди и корейского.

Продовольственный талон (Vale-Alimentação, VA) Red Hat AI InstructLab в IBM Cloud этот новый облачный сервис еще больше упрощает процесс настройки моделей, улучшая масштабируемость и пользовательский опыт Предприятия могут использовать свои данные более эффективно и с большим контролем.

Видение Red Hat: любая модель, любой ускоритель, любое облако

Будущее ИИ должно определяться неограниченными возможностями и не ограничиваться инфраструктурой silos.Red Hat видит горизонт, где организации могут развернуть любую модель, на любом акселераторе, в любом облаке, обеспечивая исключительный и более последовательный пользовательский опыт, без непомерных затрат. Чтобы раскрыть истинный потенциал инвестиций в ген ИИ, компаниям нужна универсальная платформа вывода и новый стандарт для непрерывных, высокопроизводительных инноваций ИИ, как сейчас, так и в ближайшие годы.

Саммит Красная Шляпа

Присоединяйтесь к основным докладам Red Hat Summit, чтобы услышать последние новости от руководителей, клиентов и партнеров Red Hat:

• Современная инфраструктура, соответствующая корпоративному искусственному интеллекту 20 мая, 8ч - 10ч ЭДТ (Ютуб)
• Гибридное облако развивается для стимулирования бизнес-инноваций 21 мая, 8:00-9:30 по восточному времени (Ютуб)