オープンウェイト推論の経済性

出版物 オープンウェイト推論の経済性 オープンウェイトの需要がNVIDIA GPUファミリーの有用な寿命をどのようにサポートできるか Ornn Data · 2026年9月7日 要旨 GPUは、新しいNVIDIA世代が前の世代を時代遅れにするという仮定のもとで減価償却されることが一般的である。本稿では、オープンウェイトの需要が古いGPUファミリーの経済的有用性に与える影響を調査することにより、この命題に対する反論を提供する。クローズドモデルへのアクセスは、プロバイダーがリセットできるサブスクリプション制限を通じて行われるため、表示されるトークンレートカードは追加使用のマージナル価格を表す。Artificial Analysis Intelligence Index上の11のオープンウェイトモデルと8のクローズドモデルを標準化すると、最も安価な適格オープンウェイトモデルは、同等のクローズドモデルのコストの約5分の1でタスクを完了する。レンタルハードウェアでのセルフホスティングは、これを100万出力トークンあたり0.12ドルから0.35ドルに引き下げ、ハードウェアのランキングを逆転させる。gpt-oss-120b（51億アクティブパラメータのスパースモデル）では、A100はスポット価格および3年および5年契約価格でH100よりも安価に出力を生成する。Ornnのレンタルデータは、市場がこの有用性を反映していることを示している。A100の5年契約価格は、ホッパーおよびブラックウェルファミリーの44%から60%と比較して、アンペアファミリーが11年を超えてもなお、1ヶ月契約価格の80%を維持している。我々は、今日のコンピューティング集約型ワークロード（長時間実行エージェント、バッチ評価、強化学習）はレイテンシを許容し、ハードウェアに依存しないため、価格弾力的な需要があらゆるコスト効率の高いハードウェアにルーティングされることを奨励すると示す。NVIDIAによるHugging Faceの買収（2026年9月3日、NVIDIA, 2026c）を参照されたい。これらの発見は、新しいハードウェアが古いGPUの収益能力を排除するという予測に異議を唱えるものである。むしろ、それらは、適切なワークロードを競争力を持って提供し、オペレーターがそれらをデプロイすることを自由にすれば、古いNVIDIA世代は数年間の収益寿命を維持できることを示唆している。 主な発見 ホストされたオープンウェイトモデルは、Artificial Analysis Intelligence Index上のいくつかのサンプリングされた共通スコア閾値で安価であったが、すべての閾値でそうであったわけではない。クローズドモデルは一部のスコアで依然として安価な適格オプションであり、クローズドフロンティアは範囲の上部でオープンサンプルを超える。 レンタルハードウェアでのセルフホスティングは、印刷されたサンプルで、フルユース時のコンピューティングのみのコストを100万出力トークンあたり0.12ドルから0.35ドルで生成した。 gpt-oss-120bでは、A100はスポット価格および3年および5年契約価格でH100よりも安価に出力を生成した。A100/H100スパースの結果は、異なるサードパーティ製サービング設定を組み合わせたものである。密なA100行は推定値である。 A100の5年契約価格は、1ヶ月価格の80.2%を維持しているのに対し、ホッパーは43.7%から59.8%、ブラックウェルは53.8%である。フォワードマークはアナリストが作成した指標であり、実行可能な引用ではない。 A100の占有率は、リストされている容量が13%増加し、スポット指数が20%上昇したため、74%から90%に上昇した。本稿は、オープンウェイトの需要がA100の占有率またはレンタル価格の挙動を引き起こしたことを確立するものではない。 選択された図表 $0.00$0.50$1.000.750.29A100 SXM40.680.64H100 SXM0.810.98H2000.390.47B200密 (Llama-2-70B)スパース (gpt-oss-120b) フルユースとベースケースにおける100万出力トークンあたりのコンピューティングのみのコスト GPU 密フルユース 密ベースケース スパースフルユース スパースベースケース A100 SXM4 $0.28 $0.75 $0.12 $0.29 H100 SXM $0.26 $0.68 $0.27 $0.64 H200 $0.32 $0.81 $0.35 $0.98 B200 $0.16 $0.39 $0.15 $0.47 出典: Ornn Data、公開スループットと2026年9月1日のスポットレンタルからの計算（論文表7）。フルユースはヘッドルームなしのオフラインスループットを使用。ベースケースは利用可能な場合はサーバーのスループットを使用し、それ以外の場合はGPUStackベースラインをリスケールする。後者はサーバーサービスレベルを確立しない。密A100は推定値。A100/H100スパース行はMLPerfの結果ではなく、サードパーティの測定値。コストは100万出力トークンあたりのコンピューティングのみのUSD。 A100占有率、リスト容量変更、スポット価格変更 ファミリー 占有率、2026年3月 占有率、2026年9月 占有率、3月～9月の平均 リスト容量、3月～9月 スポット、3月～9月 A100 SXM4 74% 90% 80% +13% +20% 出典: Ornnの占有率とリスト容量シリーズ、および2026年9月2日に取得した決済済みスポット指数（論文表8）。占有率は、グローバルリージョンで追跡されているオンデマンドプロバイダー全体でのリスト容量に対するレンタル容量の割合。リスト容量は、追跡されているオンデマンド供給を測定するものであり、インストールベースではない。 406080100806044541M6M1Y3Y5Y 1ヶ月マークに対する契約価格の割合 A100 SXM4 H100 SXM H200 B200 B300 ファミリー 6M / 1M 1Y / 1M 3Y / 1M 5Y / 1M Fwd 37–60 / 1M 5年終了時の年齢（年） A100 SXM4 95.0% 93.1% 84.2% 80.2% 74% 11.3 H100 SXM 95.0% 86.2% 68.2% 59.8% 47% 9.4 H200 92.4% 80.2% 51.0% 43.7% 33% 7.8 B200 99.1% 97.9% 69.1% 53.8% 31% 7.5 B300 93.8% 81.3% 60.9% 53.8% 43% 6.5 出典: Ornnが報告した契約マーク（論文表9）。A100、H100、H200、B200のマークは2026年8月13日に公開された。B300は2026年9月1日。維持率とインプライドフォワード比率は、これらのマークからの計算。年齢は、ファミリー発表日からの2026年9月1日の開始を例として使用。フォワードマークはアナリストが作成した指標であり、実行可能な引用ではない。 オープンウェイトのポータビリティ クローズドモデルは、開発者によって承認されたデプロイメントを通じてのみ利用可能である。オープンウェイトは、独立したデプロイメントを可能にし、互換性のあるエンドポイントが存在する場合、同じチェックポイントを提供する複数のプロバイダーを選択できる。2026年9月に報告されたOpenRouterのスナップショットでは、広く提供されているいくつかのオープンモデルに対して18から22のプロバイダーがリストされており、出力価格比率の最高から最低までの差は1.8から5.6であった。これらの数値は価格の変動を示すものであり、相互交換可能なサービスを示すものではない。量子化、容量、信頼性、移行コストが代替を制限する可能性がある。 同じ選択肢はハードウェアにも及ぶ。メモリ、数値フォーマット、ソフトウェア、ライセンスによって、どのデプロイメントが可能かが決まる。gpt-oss-120bはMXFP4エキスパートウェイトを使用し、単一の80GB A100で提供されている。したがって、オペレーターは、モデルが適合し、ソフトウェアが効率的にサポートし、ライセンスが意図された使用を許可する場合、古いハードウェアを検討できる。経済的な違いは、デプロイメントの決定を下せるのが誰かということである。 GPUの有用寿命 Ornnは、決済済みの日次レンタル指数と、1ヶ月、6ヶ月、1年、3年、5年の期間の契約価格曲線を発行している。契約価格とは、指定された契約期間の固定GPU時間料金のことである。インプライドフォワードは、累積契約コストを2つの期間間のレートを得るために差を計算したものである。マークはレンタルサービスを価格設定するものであり、個々のデバイスの再販価値と運用寿命は別個の数量である。 A100の5年契約価格は、1ヶ月価格の5分の4を維持しており、2031年9月まで続く契約では、そのファミリーは11歳を超えることになる。ホッパーおよびブラックウェルファミリーの曲線はより急峻である。拡大するA100リストベースでの占有率の上昇は、レンタル可能な追跡GPUの数が少ないことだけが、そのファミリーのスポットでの強さの理由ではないことを意味する。新しい世代が、それ自体で、その前世代を経済的に時代遅れにするわけではない。 セルフホスティングの経済性 セルフホスティングには、表示されるトークンあたりの価格はない。そのコンピューティングのみのコストは、オペレーターが達成するスループットで割ったOrnnのスポット指数上のGPU時間レンタルであり、生産的な利用率と予約されたヘッドルームで調整される。本稿では、そのコストを2つのワークロード（密なLlama-2-70Bとスパースなgpt-oss-120b）について構築する。 順序はこれらのワークロード間で逆転する。密な比較では新しいハードウェアが有利になる。gpt-oss-120bの場合、A100のベースケースコストは100万出力トークンあたり0.29ドルであり、H100の0.64ドルの半分以下である。これらのA100およびH100スパース入力は、異なるサードパーティ製サービング設定から来ている。密なA100行は、一致するMLPerf提出がないため、ベンダーのスループット比率から推定されている。GPUの定格電力での電力は、スポットレンタルのごく一部であり、印刷されたランキングを逆転させるものではない。 解釈 長時間実行エージェント、バッチ評価、およびp