チップ大手NVIDIAは、チャットボットやその他のAIツールが応答を生成する速度を向上させるために設計された強力な新しい人工知能プロセッサーの発表を準備しており、これにより現在のChatGPTのようなシステムが比較的遅く見える可能性があります。
NVIDIAの年次GTC開発者会議でデビューする予定の新しいプラットフォームは、AI推論、つまりトレーニングされたモデルがユーザーのプロンプトに対して回答を生成する段階に最適化されています。トレーニングと推論の両方を処理するために構築された従来のGPUとは異なり、今後のプロセッサーは、より高速かつ効率的に応答を提供することに特化しています。
この製品が発売されれば、高速AI処理ハードウェアを専門とするGroqの創設者を迎え入れた12月の取引の最初の具体的な成果となります。
昨年末、NVIDIAはチップスタートアップGroqから技術をライセンスし、CEOを含む主要人材を採用するために約200億ドルを費やしたと報じられています。ほぼ同時期に、NVIDIA CEOのジェンセン・フアンは従業員に「Groqの低レイテンシプロセッサーをNVIDIA AIファクトリアーキテクチャに統合し、プラットフォームを拡張してさらに広範なAI推論とリアルタイムワークロードに対応する計画です」と語りました。
現在、ウォール・ストリート・ジャーナルによると、新しい推論チップは高速で複雑なAIクエリを処理することが期待されており、OpenAIやその他の主要クライアントが採用する可能性が高いとされています。同紙の報道によると、新しいチップはOpenAIの推論ワークロードの約10%を処理する可能性があります。
Groqスタイルのチップは、SRAMを使用すると情報筋は述べています
最近の決算説明会で、NVIDIA CEOは、しばしば「AIのスーパーボウル」と呼ばれる今後のGTCイベントで複数の新製品が発表されることを示唆しました。彼は「GTCで皆さんと共有したい素晴らしいアイデアがあります」と述べました。
ほとんどのアナリストは、Groqスタイルのチップがラインナップの一部になる可能性があることに同意しています。また、その設計は、NVIDIAが推論コンピューティングにおけるメモリ制約にどのように対処しようとしているかを明らかにする可能性があると述べています。このようなプラットフォームは通常、高帯域幅メモリ(HBM)上で動作します。しかし、HBMは最近調達が困難になっています。
内部関係者は、同社がHBMに関連する動的RAMではなく、チップにSRAMを使用する計画であると主張しています。理想的には、SRAMはより入手しやすく、AI推論ワークロードのパフォーマンスを向上させることができます。
チップが発表されれば、チップ企業とAIトレーニングモデルにとって大きな前進となる可能性があります。しかし、その発売の可能性について、d-Matrixの創設者兼CEOであるSid Shethは、その開発に懸念を示しました。彼は、NVIDIAがAIトレーニングにおいて明確なリーダーであり続ける一方で、推論は非常に異なる状況を表していると指摘しました。彼は次のように述べています:「開発者はNVIDIA以外の競合他社に目を向けることができます。完成したAIモデルの実行には、トレーニングと同じ種類のプログラミングが必要ないためです。」
それにもかかわらず、他のテクノロジー大手も推論コンピューティングを進めています。Metaは今週、推論に特化した4つのプロセッサーを発表し、シリコンバレーの投資家は業界が「NVIDIA支配的でない」段階に入る可能性があると述べました。
しかし、より最近では、NVIDIAのライバルであるFuriosaAIの最高経営責任者であるJune Paikが、簡単に展開できる推論コンピューティングの利点についてコメントし、ほとんどのデータセンターが最新の液冷GPUを収容できないと警告しました。
それにもかかわらず、彼の懸念にもかかわらず、バンク・オブ・アメリカのアナリストは、2030年までに推論ワークロードがAIデータセンター支出の75%を占めると予想しており、市場は昨年の約50%から約1.2兆ドルに達するとしています。Creative StrategiesのテクノロジーアナリストであるBen Bajarinも、将来のデータセンターは万能モデルには適合しないと断言し、企業がチップと施設開発に異なるアプローチを取ることを予想しています。
NVIDIAは2026年後半にVera Rubinチップをリリースする予定です
NVIDIAはまた、最近、次世代AIチップであるVera Rubin AIチップを発表し、DeepSeekのような推論AIプラットフォームの台頭がさらに大きなコンピューティング需要を促進すると予想しています。同社は、このチップがより大規模なAIモデルのトレーニングを支援し、より広範なユーザーベースにより洗練された出力を提供すると主張しています。
Huangによると、Rubinも2026年後半に市場に投入され、ハイエンドの「ウルトラ」バージョンは2027年に登場する予定です。
彼はまた、単一のRubinシステムが576個の個別GPUを1つのチップに統合すると説明しました。現在、NVIDIAのBlackwellチップはNVL72システムで72個のGPUをクラスター化しており、Rubinはより高度なメモリを搭載することになります。
出典: https://www.cryptopolitan.com/nvidias-chip-could-make-chatgpt-look-slow/
