Red Hat AI thúc đẩy việc áp dụng AI doanh nghiệp trên tất cả các mô hình, bộ tăng tốc AI và đám mây

Các bản cập nhật mới trên danh mục AI của Red Hat thúc đẩy các chuyển đổi lớn trong ngành doanh nghiệp.Thông qua Red Hat AI, công ty tìm cách mở rộng hơn nữa các khả năng cần thiết để đẩy nhanh việc áp dụng công nghệ, mang lại nhiều tự do và tự tin hơn cho khách hàng trong việc triển khai AI (gen AI) tổng quát trong môi trường đám mây lai. Kể từ khi ra mắt Máy chủ suy luận AI Red Hat, các mô hình được xác thực của bên thứ ba trong Red Hat AI và tích hợp với API Llama Stack và Giao thức bối cảnh mô hình (MCP), công ty sẽ định vị lại thị trường cho các phương thức trí tuệ nhân tạo khác nhau. 

Theo Forrester, phần mềm nguồn mở sẽ là động cơ để tăng tốc các nỗ lực AI của doanh nghiệp.Khi bối cảnh AI trở nên phức tạp và năng động hơn, các 现已在 Và các mô hình được xác thực của bên thứ ba cung cấp suy luận hiệu quả và một bộ sưu tập đã được thử nghiệm các mô hình AI được tối ưu hóa hiệu suất trên nền tảng AI của Red Hat.Bằng cách tích hợp các API mới để phát triển tác nhân AI gen, bao gồm Llama Stack và MCP, Red Hat hoạt động để đơn giản hóa sự phức tạp trong triển khai, trao quyền cho các nhà lãnh đạo CNTT, nhà khoa học dữ liệu và nhà phát triển để thúc đẩy các sáng kiến AI của họ với nhiều quyền kiểm soát và hiệu quả hơn.

Suy luận đám mây lai hiệu quả với Red Hat AI Inference Server

Danh mục đầu tư AI của Red Hat có tính năng mới 现已在, Có khả năng suy luận nhanh hơn, nhất quán và tiết kiệm chi phí ở quy mô trên các môi trường đám mây lai. bổ sung này được tích hợp với các phiên bản mới nhất của Red Hat OpenShift AI và Red Hat Enterprise Linux AI, và cũng có sẵn như một giải pháp độc lập, cho phép các tổ chức triển khai các ứng dụng thông minh với hiệu quả, tính linh hoạt và hiệu suất cao hơn.

Đã thử và tối ưu hóa các mô hình với Red Hat AI và xác thực của bên thứ ba

Các mô hình được xác thực của bên thứ ba về Red Hat AI, có sẵn trong Ôm Mặt, Giúp doanh nghiệp dễ dàng lựa chọn các mô hình phù hợp với nhu cầu của họ. Red Hat AI cung cấp một bộ sưu tập các mô hình được xác nhận, cũng như hướng dẫn triển khai giúp tăng sự tự tin của khách hàng về hiệu suất mô hình và khả năng tái tạo kết quả.Các mô hình được chọn cũng được tối ưu hóa bởi Red Hat, với các kỹ thuật nén mô hình giúp giảm kích thước của chúng và tăng tốc độ suy luận, giúp giảm thiểu tiêu thụ tài nguyên và chi phí hoạt động.Ngoài ra, quá trình xác nhận mô hình liên tục giúp khách hàng của Red Hat AI luôn đi đầu trong đổi mới AI gen.

API được tiêu chuẩn hóa để phát triển ứng dụng AI và tác nhân với Llama Stack và MCP

Red Hat AI đang tích hợp các của Llama Stack, ban đầu được phát triển bởi Meta, cùng với MCP từ Anthropic, để cung cấp các API được chuẩn hóa để xây dựng và triển khai các ứng dụng và tác nhân AI. hiện có sẵn trong phiên bản xem trước của nhà phát triển trong Red Hat AI, Llama Stack cung cấp một API thống nhất để truy cập suy luận với vLLM, thế hệ được tăng cường phục hồi (RAG), đánh giá mô hình, và nhiều hơn nữa, lan can và các agent, trong bất kỳ AI gen model.MCP cho phép các model tích hợp với các công cụ bên ngoài, cung cấp một giao diện chuẩn hóa để kết nối với API, plugin và nguồn dữ liệu trong quy trình làm việc của agent.

Phiên bản mới nhất của Red Hat OpenShift AI (v2.20) Cung cấp các cải tiến bổ sung để xây dựng, đào tạo, triển khai và giám sát các mô hình AI tổng quát và dự đoán trên quy mô lớn.Các điểm nổi bật bao gồm:

• Danh mục mẫu được tối ưu hóa (xem trước kỹ thuật): dễ dàng truy cập vào các mô hình Red Hat và bên thứ ba đã được xác thực, với việc triển khai bảng điều khiển web và quản lý vòng đời hoàn chỉnh với đăng ký OpenShift tích hợp.

• Đào tạo phân tán với KubeFlow Training Operator: chạy điều chỉnh mô hình với khối lượng công việc InstructLab và PyTorch được phân phối trên nhiều nút và GPU OpenShift của Red Hat, với mạng RDMA phân tán để tăng tốc và sử dụng GPU tốt hơn nhằm giảm chi phí. 

• Cửa hàng tính năng (xem trước kỹ thuật): dựa trên dự án Kubeflow Feast ngược dòng, nó cung cấp một kho lưu trữ tập trung để quản lý và cung cấp dữ liệu để đào tạo và suy luận, tối ưu hóa luồng dữ liệu và cải thiện độ chính xác cũng như khả năng tái sử dụng của mô hình.

O O Red Hat Enterprise Linux AI 1.5 mang đến những cập nhật mới cho nền tảng mô hình cốt lõi của Red Hat, tập trung vào phát triển, thử nghiệm và thực thi các mô hình ngôn ngữ quy mô lớn (LLM). Các tính năng chính của RHEL AI phiên bản 1.5 bao gồm:

• Tính khả dụng trong Google Cloud Marketplace, mở rộng sự lựa chọn của khách hàng để chạy Red Hat Enterprise Linux AI trên các đám mây công cộng (ngoài AWS và Azure), giúp triển khai và quản lý khối lượng công việc AI trên Google Cloud dễ dàng hơn.

• Khả năng nâng cao trong nhiều ngôn ng đối với tiếng Tây Ban Nha, tiếng Đức, tiếng Pháp và tiếng Ý thông qua InstructLab, cho phép tùy chỉnh các mô hình với các tập lệnh bản địa và mở rộng khả năng của các ứng dụng AI đa ngôn ngữ. người dùng cũng có thể sử dụng “giáo viên” và “học sinh” của riêng họ để kiểm soát tốt hơn trong việc tùy chỉnh và thử nghiệm, với sự hỗ trợ trong tương lai được dự đoán cho tiếng Nhật, tiếng Hin-ddi và tiếng Hàn.

O O Red Hat AI InstructLab trên Đám mây IBM dịch vụ đám mây mới này đơn giản hóa hơn nữa quá trình tùy chỉnh mô hình, cải thiện khả năng mở rộng và trải nghiệm người dùng.Các doanh nghiệp có thể sử dụng dữ liệu của họ hiệu quả hơn và với sự kiểm soát tốt hơn.

Tầm nhìn Red Hat: bất kỳ mô hình, bất kỳ máy gia tốc, bất kỳ đám mây

Tương lai của AI phải được xác định bởi các cơ hội không giới hạn và không bị hạn chế bởi cơ sở hạ tầng silos.Red Hat nhìn thấy một chân trời nơi các tổ chức có thể triển khai bất kỳ mô hình nào, trên bất kỳ máy gia tốc nào, trong bất kỳ đám mây nào, mang lại trải nghiệm người dùng đặc biệt và nhất quán hơn, không tốn kém quá nhiều. Để mở khóa tiềm năng thực sự của các khoản đầu tư AI gen, các công ty cần một nền tảng suy luận phổ quát & một tiêu chuẩn mới cho các đổi mới AI liên tục, hiệu suất cao, cả hiện tại và trong những năm tới.

与现代企业人工智能保持一致的基础设施

Tham gia các bài phát biểu quan trọng của Red Hat Summit để nghe thông tin mới nhất từ các giám đốc điều hành, khách hàng và đối tác của Red Hat:

• 混合云演进推动企业创新 — 5月21日，星期三，上午8:00 - 9:30 EDTYouTube)
• SVG 徽标 红帽与谷歌云扩大联盟以推动开放人工智能和人工智能智能体 | 电子商务更新YouTube)