今週の水曜日（13日）, レッドハットはニューラルマジックの買収プロセスを完了しました, アメリカの企業, 生成型人工知能（GenAI）のソフトウェアとアルゴリズムのパイオニア. Neural Magicのパフォーマンスエンジニアリングの専門知識, オープンソースへのコミットメントとともに, Red Hatの高性能AI提供に関するビジョンに沿っており、さまざまなシナリオや顧客のユースケースに適合しています, ハイブリッドクラウドのどこでも.
GenAIの約束は現在の技術シーンの大部分を支配しているにもかかわらず, これらのシステムを支える大規模言語モデル（LLM）は成長し続けています. 結果として, 信頼性が高くコストパフォーマンスの良いLLMサービスの構築には、かなりの計算能力が必要です, エネルギー資源と専門的な運用スキル. 現在, これらの障害は、パーソナライズされたAIの利点を無効にします, 導入準備が整っており、ほとんどの組織にとってより安全です
Neural Magicの買収により, レッドハットは、vLLMのオープンイノベーションを通じて、より多くの組織にGenAIをよりアクセスしやすくすることで、これらの課題に取り組むことを目指しています. UCバークレーによって開発された, vLLMは、オープンソースのプロジェクトであり、コミュニティによって維持されているオープンモデルサービスです（AIモデルが推論し問題を解決するように）, すべての主要なモデルファミリーをサポートしています, 推論加速の高度な研究とさまざまなハードウェアバックエンド, AMDのGPUを含む, AWSニューロン, Google TPU, インテル・ガウディ, NVIDIAのGPUとx86のCPU. Neural MagicのvLLMプロジェクトにおけるリーダーシップとRed Hatの強力なハイブリッドクラウドAI技術ポートフォリオが組み合わさることで、組織は独自のニーズに応じたAI戦略を構築するためのオープンな道を提供します, あなたのデータがどこにあっても
マット・ヒックスへ, 会社の社長兼CEO, Neural Magicの買収, vLLMのイニシアティブの開発とともに, 企業を人工知能のリファレンスとして位置づけるための第一歩です.私たちは、Neural Magicの革命的なAIの革新を用いて、ハイブリッドクラウドに焦点を当てたAIポートフォリオを補完できることに興奮しています, 私たちが単なる「オープンソースのレッドハット」になりたくないという欲望を高めている, しかし、「AIのレッドハット」でもある, 言った.
Red Hat + Neural Magic: ハイブリッドクラウド対応の Gen AI の未来を実現
Neural Magicは2018年にMITのスピンオフを設立し、深層学習のための高性能推論ソフトウェアを構築することを目的としています. Neural Magicのパフォーマンスエンジニアリングに関する技術と専門知識を持って, レッドハットはAIの未来に向けたビジョンを加速させようとしている, レッドハットのAI技術ポートフォリオに後押しされて. 大規模な企業向けAIの課題を克服するために構築された, 企業はオープンソースの革新を利用して、IAの変革力へのアクセスをさらに民主化するために：
- Modelos licenciados open source em escala de 1 bi a 405 bi de parâmetros que podem operar em qualquer lugar da nuvem híbrida — em data centers corporativos, さまざまなクラウドとエッジで.
- プライベートデータやユースケースに基づいてLLMをより簡単にカスタマイズできる調整機能と、より堅牢なセキュリティフレームワークを備えた組織向けの機能
- 推論パフォーマンスエンジニアリングの経験, 運用およびインフラの効率が向上する結果
- オープンソースのエコシステムとパートナーおよびサポート構造が顧客により多くの選択肢を提供することを可能にする, LLMやツールから認証されたサーバーハードウェアやチップアーキテクチャまで
vLLM のリーダーシップが Red Hat AI を推進
Neural MagicはvLLMに関する専門知識と知識を活用して技術基盤を構築します, 企業レベルで, 顧客が最適化できることを許可する, ハイブリッドクラウド環境でのLLMワークロードの展開とスケーリングを、インフラストラクチャの選択に対する完全な制御を持って行う, セキュリティポリシーとモデルのライフサイクル. Neural Magicはモデル最適化の研究も行っています, LLM Compressorを構築し（最先端のスパース性と量子化アルゴリズムを用いてLLMを最適化するための統一ライブラリ）、vLLMで展開する準備が整った事前最適化モデルのリポジトリを維持します
レッドハットAIは、強力な技術を用いて顧客がAIのコストとスキルの障壁を削減するのを支援することを目指しています, ように
- Red Hat Enterprise Linux AI (RHEL AI), 開発のためのベースモデルプラットフォーム, IBM GraniteファミリーのオープンソースLLMをテストし、Linuxサーバーの展開における企業アプリケーションに完璧に操作する;
- レッドハットオープンシフトAI, 開発するためのツールを提供するAIプラットフォーム, トレーニングする, オンサイトの分散Kubernetes環境で機械学習モデルを迅速に提供および監視する, パブリッククラウドまたはエッジで;
- インストラクトラボ, Red HatとIBMによって作成されたオープンソースのコミュニティプロジェクトで、誰でも共同でLLM Graniteを改善することによってGenAIの未来を形作ることができます, InstructLabのファインチューニング技術を使用してオープンソースとしてライセンスされています.
Neural MagicのvLLMにおける技術的リーダーシップは、Red Hat AIがあらゆる環境およびハイブリッドクラウドのどこでもLLMの展開をサポートする能力を高め、準備された推論スタックを提供します, 高度に最適化され、オープンな
この取引は、米国の規制当局の承認と契約締結の通常の条件を通過する必要があります
