레드햇은 하이브리드 클라우드에서 AI 솔루션 개발 및 배포를 가속화하기 위해 설계된 제품 및 서비스 포트폴리오인 Red Hat AI의 최신 업데이트를 방금 출시했습니다. 레드햇 AI는 모델 훈련과 추론을 위한 기업용 AI 플랫폼을 제공하여 더 많은 경험과 유연성, 그리고 하이브리드 클라우드 어디에서든 시스템을 배포할 수 있는 간소화된 경험을 제공합니다.
대규모 언어 모델(LLMS)의 구현 비용을 줄이기 위해 노력하는 가운데, 기업들은 여전히 이러한 시스템을 자사 데이터와 통합하고 어디서든 접근하는 데 어려움을 겪고 있습니다: 데이터 센터, 공용 클라우드 또는 엣지에서도 가능합니다.
Red Hat OpenShift AI와 Red Hat Enterprise Linux AI(RHEL AI)를 모두 통합하여, Red Hat AI는 이러한 우려에 대응하여 기업용 AI 플랫폼을 제공하며, 보다 효율적이고 최적화된 모델을 채택할 수 있도록 하고, 비즈니스 특정 데이터에 맞게 조정하며, 하이브리드 클라우드에 배포하여 다양한 컴퓨팅 아키텍처에서 모델을 훈련할 수 있는 가능성을 제공합니다.
Red Hat의 인공지능 비즈니스 유닛 부사장 겸 총괄 매니저인 Joe Fernandes에게 이 업데이트는 조직이 인공지능 여정에서 정밀하고 비용 효율적일 수 있도록 한다고 말합니다. 레드햇은 기업들이 생성형 AI 배포의 비용 증가를 관리할 방법이 필요하다는 것을 알고 있으며, 더 많은 사용 사례를 생산에 도입하고 규모에 맞게 운영함에 따라 이를 지원합니다. 레드햇 AI는 조직이 이러한 도전 과제를 해결할 수 있도록 도와주며, 목적에 맞게 개발되고 데이터로 훈련된 더 효율적인 모델을 제공하고, 온프레미스, 클라우드 및 엣지 환경에서 유연한 추론을 가능하게 합니다.
레드햇 오픈시프트 AI
Red Hat OpenShift AI는 하이브리드 클라우드에서 예측 및 생성 AI(Gen AI)의 라이프사이클을 관리하기 위한 완전한 AI 플랫폼을 제공하며, 머신러닝 운영(MLOps) 및 대형 언어 모델 운영(LLMOps) 기능을 포함합니다. 플랫폼은 예측 모델 구축과 생성 AI 모델 조정을 위한 기능을 제공하며, 데이터 과학 파이프라인과 모델부터 모델 모니터링, 거버넌스까지 AI 모델 관리를 간소화하는 도구도 함께 제공합니다.
가장 최신 버전인 Red Hat OpenShift AI 2.18 플랫폼은 하이브리드 클라우드에 더 최적화되고 효율적인 AI 모델을 제공하려는 Red Hat AI의 목표를 지원하기 위해 새로운 업데이트와 기능을 추가했습니다. 주요 기능은 다음과 같습니다
● 분산 서비스vLLM 추론 서버를 통해 제공되는 이 분산 서비스는 IT 팀이 여러 GPU 간에 모델 서비스를 분할할 수 있도록 합니다. 이것은 단일 서버의 부담을 덜어주고, 훈련과 미세 조정을 가속화하며, 컴퓨팅 자원의 효율적인 사용을 촉진하는 동시에 AI 모델을 위한 노드 간 서비스 분배를 돕습니다.
● 엔드 투 엔드 모델 조정 경험InstructLab과 Red Hat OpenShift AI의 데이터 과학 파이프라인을 사용하여 이 새로운 기능은 LLM의 미세 조정을 단순화하는 데 도움을 주어 대규모 프로덕션 환경에서 더 확장 가능하고 효율적이며 감사 가능하게 만들고, 동시에 Red Hat OpenShift AI의 제어판을 통한 관리를 제공합니다.
● AI 가드레일Red Hat OpenShift AI 2.18은 AI Guardrails 기술의 미리보기를 통해 LLM의 정확성, 성능, 지연 시간 및 투명성을 향상시키는 데 도움을 주며, 이는 사용자 입력 상호작용과 모델 출력을 모니터링하고 보호합니다. AI 가드레일은 잠재적으로 혐오스럽거나 모욕적이거나 불경스러운 발언, 개인 식별 정보, 경쟁사 데이터 또는 기타 회사 정책에 의해 제한된 정보를 식별하고 완화하는 데 도움을 주기 위한 추가 감지 기능을 제공합니다.
● 모델 평가언어 모델 평가 컴포넌트(lm-eval)를 사용하여 모델의 전반적인 품질에 대한 중요한 정보를 제공하며, 모델 평가를 통해 데이터 과학자들은 논리적 및 수학적 추론부터 자연어 적대적 작업에 이르기까지 다양한 작업에서 자신의 LLM 성능을 비교할 수 있어 더 효과적이고 반응적이며 적응된 AI 모델을 만드는 데 도움을 줍니다.
RHEL AI
Red Hat AI 포트폴리오의 일부인 RHEL AI는 기업 애플리케이션을 촉진하기 위해 더 일관되게 LLM을 개발, 테스트 및 실행하는 기본 모델 플랫폼입니다. RHEL AI는 Granite LLM 모델과 InstructLab 모델 정렬 도구를 제공하며, 이는 Red Hat Enterprise Linux의 부팅 가능한 이미지 패키지로 하이브리드 클라우드에 배포할 수 있습니다.
2025년 2월에 출시된 RHEL 1.4는 다음과 같은 다양한 개선 사항을 도입했습니다:
● 그라나이트 3.1 8B 모델 지원가장 최신의 오픈 소스 라이선스 Granite 모델 패밀리의 추가입니다. 모델은 추론 및 분류체계/지식 맞춤화를 위한 다국어 지원(개발자를 위한 미리보기)과 함께 128k 컨텍스트 창을 추가하여 요약 결과 및 검색 증강 생성(RAG) 작업의 채택을 향상시킵니다.
● 기존 기술과 지식을 기여하기 위한 새로운 사용자 그래픽 인터페이스개발자를 위한 미리보기 형식으로 제공되어 데이터 소비와 분할을 간소화하고 사용자가 자신의 능력과 기여를 AI 모델에 추가할 수 있도록 하는 것을 목표로 합니다.
● 문서 지식 벤치(DK-bench)개별적으로 조정된 AI 모델과 관련된 개인 데이터의 성능 비교를 용이하게 하기 위해서입니다.
IBM Cloud의 Red Hat AI InstructLab
점점 더 많은 기업들이 데이터의 정확성과 안전성을 우선시하는 AI 솔루션을 찾고 있으며, 동시에 비용과 복잡성을 가능한 한 낮게 유지하려고 하고 있습니다. Red Hat AI InstructLab은 IBM Cloud에서 서비스로 제공되며, AI 시스템의 교육 및 배포에서 보안을 강화하고, 확장하며, 단순화하는 데 도움을 주도록 설계되었습니다. InstructLab의 모델 조정을 단순화함으로써 조직은 고유한 요구에 맞게 더 효율적인 플랫폼을 구축하고 기밀 정보를 통제할 수 있습니다.
인공지능 기초에 대한 무료 교육
AI는 기업이 운영하고 경쟁하는 방식을 재정의하는 변혁적인 기회입니다. 이 역동적인 환경에서 조직을 지원하기 위해, Red Hat은 인공지능 기초에 관한 무료 온라인 교육을 제공합니다. 회사는 숙련된 고위 리더와 초보자를 모두 대상으로 하는 두 가지 인공지능 학습 인증서를 제공하여 모든 수준의 사용자가 인공지능이 어떻게 비즈니스 운영을 혁신하고, 의사 결정을 신속하게 하며, 혁신을 촉진하는 데 도움을 줄 수 있는지 교육하는 데 도움을 주고 있습니다.
가용성
Red Hat OpenShift AI 2.18과 Red Hat Enterprise Linux AI 1.4가 이미 출시되었습니다. 추가 기능, 개선 사항, 버그 수정 및 Red Hat OpenShift AI 버전을 최신 버전으로 업데이트하는 방법에 대한 자세한 정보는 찾을 수 있습니다여기그리고 최신 버전의 RHEL AI를 찾을 수 있습니다여기.
Red Hat AI InstructLab은 곧 IBM Cloud에서 이용하실 수 있습니다. 레드햇 인공지능 기초 교육이 고객에게 이미 제공되고 있습니다.