HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

H100 GPUのレンタル料金は、利用場所によって1時間あたり2.69ドルから12.29ドルまで変動

The same H100 costs $2.69 or $12.29 an hour depending where you rent it (github.com)

123 pointsby datareceipts71 コメント

要約

H100 GPUのオンデマンドレンタル料金は、AWS、Azure、およびその他のクラウドプロバイダー間で大きく異なり、最も安いRunPod Communityの1時間あたり2.69ドルから、最も高いAzureの12.29ドルまで、同じGPUで4.57倍の差があります。この価格差は、InfiniBand、データセンターSLA、エンタープライズコンプライアンスなどの機能の有無に起因します。

全文翻訳

109-gpu-pricing

109 — H100の実際の時間あたりのコスト

AWS、Azure、およびネオクラウド全体でのオンデマンドGPUレンタル価格を、GPUあたりのドル/時間に正規化し、同一のGPUのみを比較できるようにグループ化しました。

結果

H100 SXM 80GB$/GPU-hr1ヶ月(730時間)
RunPod Community$2.69$1,964
RunPod Secure$3.99$2,913
AWS p5.48xlarge$6.88$5,022
Azure ND96isr_H100_v5$12.29$8,972

最も安いものと最も高いものの間で4.57倍の差があります。 GPU1台を1ヶ月連続で稼働させた場合の料金は、レンタル場所のみによって1,964ドルまたは8,972ドルになります。

比較は意図的にグループ化されています

「H100」には3つの異なる製品があります。SXM 80GB、PCIe 80GB、NVL 94GBはいずれもH100として販売されていますが、コストは同じではありません。これらを1つのチャートにまとめると、実際には存在しない差が生まれてしまうため、ここでのすべての比較は単一の(モデル、メモリ)グループ内で行われています。

ベンダー内でも同様です。Azureは、同じA100 PCIe 80GBをVMあたり1つ、2つ、4つで、GPU時間あたり3.67ドル、4.78ドル、4.78ドルでリストしています。このスプレッドでは、各ベンダーの特定のGPUへの最も安いルートを使用しているため、Azure対Azureのギャップが市場のギャップとして表示されることはありません。RunPod SecureとCommunityは1社としてカウントされています。

4.57倍の差が意味しないもの

これは純粋な利益率ではありません。AzureのNDシリーズからRunPod Communityに移行すると、以下のものが失われます。

  • InfiniBand。 AzureのND SKUには、GPU Direct RDMAを備えた400 Gbps/GPUのQuantum-2 InfiniBandがあり、これがマルチノードトレーニングを可能にしています。これが、NDシリーズがAzure自身のシングルH100 NC SKU(6.98ドル)よりも高く価格設定されている理由です。
  • データセンターSLA。 RunPod Communityは、サードパーティのホストが自身のハードウェアを貸し出しているものです。
  • エンタープライズコンプライアンス、コミットメント容量、およびその他のハイパースケーラーの機能。

1つのノードでファインチューニングする場合、使用しないインターコネクトに料金を支払っていることになります。64ノードでトレーニングする場合、安い方の選択肢は利用できません。

ファイル

ファイル内容
collect.pyAWS Price List + Azure Retail Prices を取得します。認証不要です。
hyperscalers.jsonこれらのAPIが返した内容です。
vendors.jsonネオクラウドの価格、転記、ソースURLと読み取り日が含まれています。
compute.pyグループ化、ベンダーごとの正規化、スプレッドの計算を行います。
compare.json出力結果です。
python3 collect.py   # ~1 GB AWS index, slow
python3 compute.py

制限事項

  • オンデマンドのリスト価格のみ。 リザーブド、コミットメント使用、スポット価格はすべてハイパースケーラーの数値を引き下げ、特にスポット価格はギャップを大幅に縮小するでしょう。
  • 単一リージョン(AWS us-east-1、Azure eastus)。
  • GPU数は、価格ラベルではなく、ベンダーのドキュメントから取得しています。AWSはp5に対して「640 GB HBM3」を報告し、Azureはアクセラレータメモリの合計を報告していますが、どちらもGPUあたりのモデルを明記していません。ドキュメントURLはcompare.jsonにあります。
  • Lambdaはヘッドラインスプレッドから除外されています。 公開されているページによると、リストされているレートは2026-11-16に発効します。現在のレートはログインが必要です。その行は別々に表示され、ラベル付けされています。
  • 可用性は価格に含まれていません。利用できない安いH100は価格ではありません。