Red Hat только что выпустила новые обновления для Red Hat AI, ваш портфель продуктов и услуг, разработанных для ускорения разработки и внедрения решений ИИ в гибридном облаке. Red Hat AI предлагает платформу корпоративного ИИ для обучения моделей и вывода, предоставляя больше опыта, гибкость и упрощенный опыт развертывания систем в любом месте в гибридном облаке
В поисках снижения затрат на внедрение крупных языковых моделей (LLMS) для удовлетворения растущего числа случаев использования, компании все еще сталкиваются с задачей интеграции этих систем с их собственными данными и доступа к ним из любого места: будь то в дата-центре, в публичном облаке или даже на крае
Интегрируя как Red Hat OpenShift AI, так и Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI отвечает на эти проблемы, предоставляя корпоративную платформу ИИ, которая позволяет использовать более эффективные и оптимизированные модели, подстроенные под конкретные данные бизнеса, с возможностью развертывания в гибридном облаке для обучения моделей на широком спектре архитектур вычислений
Для Джо Фернандеса, вице-президент и генеральный директор подразделения бизнес-единиц ИИ Red Hat, обновление позволяет организациям быть точными и экономичными в своих путях ИИ. Компания Red Hat знает, что предприятиям понадобятся способы управления растущими затратами на их развертывания генеративного ИИ, по мере того как они приносят больше случаев использования для производства и работают в масштабе.. Red Hat AI помогает организациям справляться с этими вызовами, позволяя им использовать более эффективные модели, разработаны для цели, обученные на ваших данных и позволяющие гибкое вывод в локальных средах, облака и на краю.”
Red Hat OpenShift ИИ
Red Hat OpenShift AI предлагает полную платформу ИИ для управления жизненным циклом предсказательной и генеративной ИИ (gen AI) в гибридном облаке, включая операции машинного обучения (MLOps) и возможности операций с большими языковыми моделями (LLMOps). Платформа предоставляет функции для создания предсказательных моделей и настройки моделей генерирующего ИИ, вместе с инструментами для упрощения управления моделями ИИ, от пайплайнов науки о данных и моделей до мониторинга моделей, управление и многое другое.
Последняя версия платформы, Red Hat OpenShift AI 2.18, добавляет новые обновления и возможности для поддержки цели Red Hat AI по созданию более оптимизированных и эффективных моделей ИИ для гибридного облака. Основные функции включают
● Распределённая службадоступен через сервер вывода vLLM, распределённая служба позволяет командам ИТ разделять обслуживание моделей между несколькими графическими процессорами (ГП). Это помогает снизить нагрузку на один сервер, ускоряет обучение и тонкую настройку и способствует более эффективному использованию вычислительных ресурсов, в то же время помогает распределять услуги между узлами для моделей ИИ
● Опыт настройки модели от начала до концаиспользуя InstructLab и конвейеры науки о данных Red Hat OpenShift AI, эта новая функция помогает упростить тонкую настройку LLMs, делая их более масштабируемыми, эффективные и поддающиеся аудиту в крупных производственных средах, в то же время предоставляет управление через панель управления Red Hat OpenShift AI
● Искусственный интеллект охранные барьерыRed Hat OpenShift AI 2.18 помогает улучшить точность, производительность, латентность и прозрачность LLM через предварительный просмотр технологии AI Guardrails, который контролирует и защищает входные взаимодействия пользователя и выходы модели. AI Guardrails предлагает дополнительные функции обнаружения, чтобы помочь ИТ-командам выявлять и смягчать потенциально ненавистные высказывания, оскорбительные или непристойные, лично идентифицируемая информация, данные о конкурентах или другие, ограниченные корпоративными политиками
● Оценка моделииспользуя компонент оценки модели языка (lm-eval) для предоставления важной информации о общем качестве модели, оценка модели позволяет ученым данных сравнивать производительность своих LLM на различных задачах, от логического и математического мышления до противоречивого естественного языка, помогая создавать более эффективные модели ИИ, отзывчивые и адаптированные
RHEL ИИ
Часть портфолио Red Hat AI, RHEL AI — это платформа фундаментальных моделей для разработки, тестировать и выполнять LLMs более последовательно, с целью стимулирования бизнес-приложений. RHEL AI предлагает модели Granite LLM и инструменты выравнивания моделей InstructLab, что такое пакеты в загружаемом образе Red Hat Enterprise Linux и могут быть развернуты в гибридном облаке
Выпущен в феврале 2025 года, RHEL 1.4 принесло множество улучшений, включая
● Поддержка модели Granite 3.1 8Bкак самое последнее дополнение к семейству моделей Granite с лицензией open source. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), вдобавок к окну контекста 128k для улучшения усвоения результатов суммирования и задач Retrieval-Augmented Generation (RAG)
● Новый графический интерфейс пользователя для внесения навыков и предыдущих знаний, доступен в формате предварительного просмотра для разработчиков, с целью упрощения потребления и фрагментации данных, а также позволить пользователям добавлять свои собственные навыки и вклады в модели ИИ
● Документ Знание-скамейка (DK-bench)для упрощения сравнений между моделями ИИ, настроенными на основе релевантных частных данных, и производительностью тех же моделей базового уровня без настройки
Red Hat AI InstructLab на IBM Cloud
Все больше и больше, компании ищут решения ИИ, которые приоритизируют точность и безопасность их данных, в то же время, сохраняя затраты и сложность на как можно более низком уровне. Red Hat AI InstructLab, доступен как услуга в IBM Cloud, было разработано для упрощения, масштабировать и помогать улучшать безопасность в обучении и внедрении систем ИИ. Упрощая настройку моделей InstructLab, организации могут создавать более эффективные платформы, адаптированные к вашим уникальным потребностям, сохраняя контроль над вашей конфиденциальной информацией.
Бесплатное обучение основам ИИ
ИИ является трансформирующей возможностью, которая переопределяет, как компании работают и конкурируют. Чтобы поддержать организации в этом динамичном сценарии, Red Hat предлагает бесплатные онлайн-курсы по основам ИИ. Компания предлагает два сертификата обучения в области ИИ, ориентированы как на опытных старших лидеров, так и на новичков, помогая обучать пользователей всех уровней о том, как ИИ может помочь трансформировать бизнес-операции, ускорить принятие решений и стимулировать инновации
Доступность
Red Hat OpenShift AI 2.18 и Red Hat Enterprise Linux AI 1.4 уже доступны. Дополнительная информация о дополнительных ресурсах, улучшения, исправления ошибок и информация о том, как обновить вашу версию Red Hat OpenShift AI до самой последней, могут быть найденыздесь,и последняя версия RHEL AI может быть найденаздесь.
Red Hat AI InstructLab в IBM Cloud будет доступен скоро. Обучение по основам ИИ от Red Hat уже доступно для клиентов
