Red Hat의 전체 AI 포트폴리오에 대한 새로운 업데이트는 기업 부문에 큰 변화를 가져오고 있습니다. Red Hat AI를 통해 회사는 기술 채택을 가속화하는 데 필요한 역량을 더욱 확대하고자 하며, 하이브리드 클라우드 환경에서 생성 AI(Gen AI) 구현에 있어 고객에게 더 많은 자유와 신뢰를 제공합니다. Red Hat AI 추론 서버 출시, Red Hat AI에서 제3자가 검증한 모델, Llama Stack API 및 Model Context Protocol (MCP)와의 통합을 통해 회사는 다양한 인공지능 방식에 대해 시장에서 재포지셔닝하고 있습니다.
포레스터에 따르면 오픈 소스 소프트웨어는 기업 AI 노력을 가속화하는 원동력이 될 것입니다. 인공지능 환경이 더 복잡하고 역동적으로 변함에 따라,레드햇 AI 추론 서버제3자가 검증한 모델은 효율적인 추론을 제공하며, Red Hat AI 플랫폼에서 성능을 최적화한 테스트된 AI 모델 컬렉션을 제공합니다. Gen AI 에이전트 개발을 위한 새로운 API 통합, Llama Stack 및 MCP를 포함하여, Red Hat은 배포의 복잡성을 간소화하기 위해 노력하고 있으며, IT 리더, 데이터 과학자 및 개발자가 더 많은 제어와 효율성으로 AI 이니셔티브를 추진할 수 있도록 지원하고 있습니다.
Red Hat AI 추론 서버를 통한 하이브리드 클라우드에서의 효율적인 추론
레드햇 AI 포트폴리오에는 새로운 기능이 포함되어 있습니다레드햇 AI 추론 서버하이브리드 클라우드 환경에서 더 빠르고 일관되며 비용 효율적인 추론을 제공합니다. 이 추가 기능은 최신 버전의 Red Hat OpenShift AI 및 Red Hat Enterprise Linux AI에 통합되어 있으며, 독립형 솔루션으로도 제공되어 조직이 더 효율적이고 유연하며 높은 성능으로 지능형 애플리케이션을 배포할 수 있도록 합니다.
Red Hat AI로 테스트 및 최적화된 모델과 제3자 검증
레드햇 AI의 제3자 검증 모델, 이용 가능함허깅 페이스그들은 기업이 자신의 필요에 맞는 적합한 모델을 찾는 순간에 선택을 용이하게 합니다. Red Hat AI는 검증된 모델 컬렉션과 고객이 모델 성능과 결과 재현성에 대한 신뢰를 높일 수 있는 배포 지침을 제공합니다. 선택된 모델도 Red Hat에 의해 최적화되며, 모델 압축 기술을 통해 크기를 줄이고 추론 속도를 높여 자원 소비와 운영 비용을 최소화하는 데 도움을 줍니다. 또한, 지속적인 모델 검증 프로세스는 Red Hat AI 고객이 생성 AI 분야의 혁신을 선도하는 데 도움을 줍니다.
Llama Stack 및 MCP를 통한 애플리케이션 개발 및 AI 에이전트 표준화된 API
레드햇 AI가 통합되고 있습니다라마 스택처음에는 Meta와 함께 개발된MCPAnthropic에서 AI 애플리케이션 및 에이전트 구축과 배포를 위한 표준화된 API를 제공하기 위해 현재 Red Hat AI의 개발자 미리보기 버전에서 제공되는 Llama Stack은 vLLM을 통한 추론 접근, 검색 기반 증강 생성(RAG), 모델 평가를 위한 통합 API를 제공합니다.가드레일그리고 어떤 유형의 생성 AI 모델에서도 에이전트. MCP는 모델이 외부 도구와 통합될 수 있도록 표준화된 인터페이스를 제공하여 API, 플러그인 및 에이전트 워크플로우의 데이터 소스와의 연결을 가능하게 합니다.
최신 버전의레드햇 오픈시프트 AI (v2.20)생성 및 예측 AI 모델을 대규모로 구축, 훈련, 배포 및 모니터링하기 위한 추가 개선 사항을 제공합니다. 주요 내용은 다음과 같습니다:
- 최적화된 모델 카탈로그 (기술 사전)Red Hat 및 제3자의 검증된 모델에 대한 간편한 액세스, 웹 콘솔을 통한 배포 및 OpenShift 통합 등록을 통한 전체 수명 주기 관리.
- KubeFlow 교육 운영자를 통한 분산 교육InstructLab을 사용한 모델 조정 실행과 RDMA 분산 네트워크를 통한 여러 노드와 GPU에서의 PyTorch 분산 작업 부하, 가속화 및 GPU 활용 극대화를 통해 비용 절감.
- 기능 저장소 (기술 사양)업스트림 Kubeflow Feast 프로젝트를 기반으로 하여, 훈련 및 추론을 위한 데이터 관리와 제공을 위한 중앙 저장소를 제공하며, 데이터 흐름을 최적화하고 모델의 정확성과 재사용성을 향상시킵니다.
오레드햇 엔터프라이즈 리눅스 AI 1.5레드햇의 대규모 언어 모델(LLMs) 개발, 테스트 및 실행을 위한 플랫폼의 최신 업데이트를 가져옵니다. RHEL AI 버전 1.5의 주요 기능은:
- 구글 클라우드 마켓플레이스에서의 이용 가능성고객의 선택 범위를 확대하여 공용 클라우드( AWS 및 Azure 외에도)에서 Red Hat Enterprise Linux AI를 실행할 수 있도록 하여 Google Cloud에서 AI 작업 부하의 배포 및 관리를 용이하게 합니다.
- 다중 언어 능력 향상InstructLab을 통해 스페인어, 독일어, 프랑스어, 이탈리아어로 번역하여, 기본 모델의 맞춤화와 원시 스크립트 활용을 가능하게 하여 다국어 AI 응용 분야의 가능성을 확장합니다. 사용자들은 또한 맞춤화 및 테스트에서 더 큰 제어를 위해 자신의 "교사" 및 "학생" 모델을 사용할 수 있으며, 앞으로 일본어, 힌디어 및 한국어에 대한 지원이 예정되어 있습니다.
오 레드햇 AI 인스트럭트랩 온 IBM 클라우드 이제 일반적으로 이용 가능합니다. 이 새로운 클라우드 서비스는 모델 맞춤화 과정을 더욱 간소화하여 확장성과 사용자 경험을 향상시킵니다. 기업들은 데이터를 더 효율적이고 더 높은 통제력으로 사용할 수 있습니다.
레드햇의 비전: 어떤 모델이든, 어떤 가속기든, 어떤 클라우드든
인공지능의 미래는 무한한 기회에 의해 결정되어야 하며, 인프라의 사일로에 의해 제한되어서는 안 됩니다. 레드햇은 조직이 어떤 가속기든, 어떤 클라우드든, 어떤 모델이든 배포할 수 있는 미래를 내다보고 있으며, 뛰어난 사용자 경험과 더 일관된 서비스를 제공하면서도 과도한 비용 없이 실현할 수 있음을 보여줍니다. 진정한 AI 생성 투자 잠재력을 발휘하려면 기업들은 범용 추론 플랫폼이 필요합니다 — 현재와 앞으로의 지속적이고 고성능 AI 혁신을 위한 새로운 표준입니다.
레드햇 서밋
Red Hat Summit의 기조 연설에 참여하여 Red Hat의 임원, 고객 및 파트너의 최신 소식을 들어보세요:
- 기업용 인공지능에 부합하는 현대적 인프라—화요일, 5월 20일, 오전 8시 - 오전 10시 EDT유튜브)
- 하이브리드 클라우드가 기업 혁신을 촉진하기 위해 진화하다— 수요일, 5월 21일, 8시-9시 30분 EDT유튜브)
