NvidiaのAIにおける優位性はGPUを超えて拡大している

この週の前まで、Nvidiaに関する支配的なストーリーは次のようなものでした。AIブームの最初の数年間、Nvidiaは最先端のGPUの唯一の供給源であり、業界がスケールアウトするにつれて非常に収益性が高くなりました。過去数年間、AmazonやGoogleのようなハイパースケーラーは独自のチップを構築し始め、Nvidiaはもはや唯一の選択肢ではなくなり、多くの投資家は同社の優位性がどれほど持続可能か疑問に思っていました。これは説得力のあるストーリーであり、概ね真実です。2023年初頭から2025年半ばにかけて時価総額を10倍に伸ばした後、GPU競争への懸念から、Nvidia株は過去1年間、より控えめな軌道に乗っていました。 水曜日の決算発表以降、新たな物語が形成され、投資家はNvidiaの優位性がGPUをはるかに超えていることに気づき始めています。AIのコンピューティングがギガワット規模に成長するにつれて、オーケストレーションはますます複雑なタスクになっています。驚くことではありませんが、Nvidiaはこの処理に必要な最先端のハードウェアの多くを構築しており、GPU自体の競争が激化する中でも、GPUを取り巻くシステムにおいて同社に大きな優位性をもたらしています。コンピューティングがコモディティであるという議論がある一方で、メガスケールのデータセンターをピーク効率で運用することは依然として信じられないほど困難であり、デプロイメントがより大きく、より速くなるにつれて、その課題は増大するばかりです。 ラック単位で見ると、Nvidiaが実際に販売しているものの詳細を見るだけで、このことの一部が見えてきます。同社は現在、Rubin GPUと、Vera CPU、Groq 3 LPX推論アクセラレータ、ストレージおよびネットワーキング用の類似ラックを含む他のユニットのコレクションを組み合わせたVera Rubinアーキテクチャを展開しています。この1週間、私はNvidiaの人々と、これらのシステムが実際に何をするのかについて話してきましたが、その結果は驚くべきものでした。Rubin GPU自体と同様に、これらは非常に特殊化されたシステムですが、トークンを処理する代わりに、GPU以外のすべてが可能な限り効率的に機能するようにしています。GPUがエンジンなら、これらは車の残りの部分です。 Vera CPUは特に、データのオーケストレーションの問題に焦点を当てています。「Veraは、単一のサーバーやあらゆる種類のコンピューティングプラットフォームに搭載できるメモリの量には限りがあるため重要です」と、Nvidiaのストレージテクノロジー担当VPであるJason Hardy氏は私に語りました。データセンターがコンピューティング能力をスケールアップするにつれて、メモリ容量も同様に増加しており、Micronのような企業がインフラブームの第二波で豊かになった理由です。しかし、そのデータを適切なタイミングでGPUに届けることは容易ではありません。企業がトークンあたりのワット数をますます低くしようとするにつれて、そのようなトラフィック方向性の重要性を認識しています。「Vera CPUがアクセラレーションを可能にすることで、これらの操作で3倍以上の改善が見られました」とHardy氏は述べています。「これにより、ボトルネックなしでそのパフォーマンスを最大限に引き出すことができるため、フラッシュを最大限に活用できます。」 Nvidia以外の場所でも同様の問題のバージョンを見ることができます。OpenAIがJalapeñoチップを開発したとき、移動する必要のあるデータの量を最小限に抑えることで、これらの課題を完全に回避することが主要な焦点でした。「Jalapeñoは、データ移動と通信遅延を最小限に抑えるように設計しました」と同社は今月初めのブログ投稿で述べています。「その大きなドメインにより、ワークロード全体が1つの接続されたシステム内に留まることができ、データ移動を最小限に抑え、リクエスト全体が最初から最後まで高速かつ効率的に保たれます。」これは、単により多くのプロセッササイクルではなく、スマートなトラフィック制御で効率を高めることで、データ移動を完全に回避するという異なるアプローチです。これは、企業が競争するためのインフラのまったく新しいレイヤーを開きます。 このデータオーケストレーションへの新たな焦点は、Nvidiaにとって自動的な勝利ではありません。同社は、GPUで競争してきたように、競合するチップメーカーやハイパースケーラーと競争しなければならないでしょう。しかし、競争は新しいレイヤーに移行しており、競合するGPUを構築することよりも、システム全体を効率的に機能させることができるかどうかが重要になっています。そして少なくとも初期段階では、Nvidiaは圧倒的なリードを握っているようです。