現代のワークロードで15種類の「E-Waste」GPUをベンチマーク
Benchmarking 15 "E-Waste" GPUs with Modern Workloads (esologic.com)
要約
この記事では、現代のAIやコンピューティングタスク向けに、廃止された古いNVIDIA Tesla GPUをベンチマークしています。ソフトウェアアップデートがなく、電力効率も低いこれらの安価な「E-Waste」GPUが、ResNet50、Vision Transformers、Llama.cppなどのワークロードでテストされ、依然としてホームラボで役立つかどうかを検証しています。著者は、これらのカードと安価なサーバーハードウェアを使用して、手頃な価格のGPUノードを構築することを目指しています。
全文翻訳
現代のワークロードで15個の「E-Waste」GPUをベンチマーク
廃止されたNVIDIAのエンタープライズGPUは、アイドル状態のVRAMの数少ない供給源の一つです。24GBのGDDR5を搭載したK80は60ドル、16GBのP100は約75ドル、16GBのV100は200ドル未満で販売されています。欠点はあるものの、これらの広く入手可能なカードを現代で活用できるかを理解することは重要です。このテスラGPUのベンチマークプロジェクトは[ほぼ1年](https://esologic.com/new-cooler-first-look/#benchmarking)前から進められており、冬の間、スタジオをGPUで暖めながら多くのキロワット時を費やすことができました。
[動画: https://esologic.com/wp-content/uploads/2026/07/22-tesla-benchmark-16-9-noaudio.mp4]
目次
テスラGPUの箱
このベンチマークの目標の一つは、安価な4U GPUノードのBOM(部品表)を作成することです。[適切なクーラー](https://esologic.com/cooler/)(クーラーのベータ版を希望する場合は、メーリングリストにご登録ください!)があれば、これらのカードはコンシューマー向け製品よりもはるかに高密度に搭載できます。標準的なATXケースに、ラックマウント型であっても、GPUを3枚と10Gb NICを簡単に収めることができます。
[画像]
X99 Intel E5-* Xeon CPUとその関連ハードウェアのコストも、今では無視できないほど安価になっています。E5-2690を使用すると、56スレッド@3.50GHzブーストが40ドルで入手できます。2つのCPUソケットと7つのPCIeスロットを備えた大型のSupermicro X10DRG-Qの相場は200ドルです。GPUボックスのCPUとマザーボードの選択は明らかに重要ですが、私は異なる考え方を比較するための具体的な数値を得たいと思いました。
恐れることはない
ここで検討されているすべてのハードウェアはEOL(EOL: End Of Life、製造終了・サポート終了)済みであることを指摘しておきます。どのGPUも、すぐにCUDA互換性アップデートやドライバーの提供を受けることはありません。古いギアは電力効率も悪く、トークンあたりのエネルギー消費量もはるかに多くなります。これらのカードを今日使用することを推奨するのは無責任です。
…というのは、ホムラボでは場違いな指弾です。ソフトウェアアップデートの不足は、少し古いソフトウェアを使用することで簡単に回避できます。例えば、llama.cppは、ソースからビルドする意思があれば[多くのCUDAアーキテクチャ](https://github.com/esologic/gpu_box_benchmark/blob/47a25a40ebcc6513fac724af6ba9345fbb1eccf6/benchmark_dockerfiles/llama_bench/Dockerfile#L24)をサポートしています。Dockerを使用することで、説明されているすべてのソフトウェアを2014年にリリースされたアーキテクチャであるKepler上で動作させることができました!
電力効率の観点からは、高可用性ユースケースには完全に有効です。24時間365日稼働するものを構築する場合、GPUの節約分は電気代ですぐに使い果たしてしまうでしょう。しかし、これもホムラボではあまり関連性のないユースケースではありません。LLMを使用したり、ビデオ処理を行ったりしないのであれば?ボックスの電源を切ればよいのです。
GPUベンチマークの内容
ベンチマークツール自体は[GitHub](https://github.com/esologic/gpu_box_benchmark)で公開されており、このスイートの開発についてはすでに[ブログ記事](https://esologic.com/gpu-server-benchmark/)を書いています。それでも、結果のグラフに表示されるテストの簡単な説明を以下に示します。
| ベンチマーク | カテゴリ | AI | 説明 |
|---|---|---|---|
| ResNet50 Train B=64 | コンピュータービジョン学習 | ✅ | 画像分類のための畳み込みニューラルネットワークを学習する際のGPUパフォーマンスを測定します。 |
| ResNet50 Infer B=1 | コンピュータービジョン推論 | ✅ | 単一画像に対する低遅延画像分類推論を測定します。 |
| ResNet50 Infer B=256 | コンピュータービジョン推論 | ✅ | 高スループットのバッチ画像分類推論を測定します。 |
| Blender GPU | 3Dレンダリング | ❌ | プロフェッショナルな3Dレンダリングワークロードのための、プロダクションスタイルのGPUパストレーシングをベンチマークします。 |
| Blender CPU | CPUレンダリング | ❌ | 同じBlenderシーンを使用したCPUレンダリングのベースラインを提供します。 |
| CAT ViT Scores | Vision Transformers | ✅ | 画像分析とスコアリングのためのVision Transformer推論スループットを測定します。 |
| CAT ViT Attention | Vision Transformers | ✅ | より計算負荷の高い分析ワークロードであるVision Transformerアテンションマップ生成を測定します。 |
| llama.cpp Qwen2.5 1.5B Prompt | 大規模言語モデル | ✅ | 小規模言語モデルのプロンプト処理(プリフィル)パフォーマンスを測定します。 |
| llama.cpp Qwen2.5 1.5B Gen | 大規模言語モデル | ✅ | 小規模言語モデルの自己回帰テキスト生成スループットを測定します。 |
| llama.cpp Llama 3 8B Prompt | 大規模言語モデル | ✅ | 大規模言語モデルのプロンプト処理パフォーマンスを測定します。 |
| llama.cpp Llama 3 8B Gen | 大規模言語モデル | ✅ | 大規模言語モデルの自己回帰テキスト生成スループットを測定します。 |
| llama.cpp Qwen1.5 MoE Prompt | 大規模言語モデル | ✅ | Mixture-of-Experts言語モデルのプロンプト処理パフォーマンスを測定します。 |
| llama.cpp Qwen1.5 MoE Gen | 大規模言語モデル | ✅ | Mixture-of-Experts言語モデルのテキスト生成スループットを測定します。 |
| F@H Single | 科学技術計算 | ❌ | 分子動力学シミュレーションを使用した科学技術計算パフォーマンスを測定します。 |
| F@H Double | 科学技術計算 | ❌ | より負荷の高い分子動力学ワークロード下での科学技術計算パフォーマンスを測定します。 |
| SHA-256 | 暗号化 | ❌ | GPU上での生の暗号化ハッシュ計算スループットを測定します。 |
| Whisper Med FP16 | 音声認識 | ✅ | Transformerベースの音声テキスト変換推論パフォーマンスを測定します。 |
| Storage→CPU→GPU (gdsio) | AIインフラストラクチャ | ✅ | 大規模AIモデルやデータセットにとって重要なボトルネックである、ストレージからGPUメモリへのデータロードのスループットを測定します。 |
動作原理
このユーティリティの目標は、「GPU Box」スタイルのサーバーであるテスラGPUをベンチマークできるようにすることです。ベンチマークスイートの動作原理は以下の通りです。
ベンチマークはDockerfilesとして定義され、互換性とポータビリティのためにDockerコンテナとして実行されます。コンテナは、システムに接続されている各タイプのGPUで最初に実行されます。例えば、K80、M10、P100がシステムにある場合、コンテナはまずK80の2つのコアのうちの1つで実行され、次にM10の4つのコアのうちの1つで、そしてP100は論理コアが1つしかないため、そのP100で実行されます。その後、コンテナは接続されているすべてのGPUのすべてのコアで並列に再実行されます。最後に、テストがマルチGPUネイティブである場合、すべてのGPUのすべてのコアにアクセスできるコンテナが作成され、テストが実行されます。これは、3つのP100を搭載したシステムでResNet50トレーニングテストを実行した結果の例です。
| | |
| --- | --- |
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 | { "name": "resnet50\_train\_batch\_64", "benchmark\_version": "0.2.0", "override\_parameters": {}, "larger\_better": true, "multi\_gpu\_native": true, "verbose\_unit": "Images Processed / Second", "unit": "i/s", "critical\_result\_key": "native\_multi\_gpu\_result", "numerical\_results": { "min\_by\_gpu\_type": 208.20215154739634, "max\_by\_gpu\_type": 208.20215154739634, "mean\_by\_gpu\_type": 208.20215154739634, "theoretical\_multi\_gpu\_mean": 208.2021515473963, "theoretical\_multi\_gpu\_sum": 624.606454642189, "forced\_multi\_gpu\_numerical\_mean": 205.4402100738262, "forced\_multi\_gpu\_sum": 616.3206302214786, "native\_multi\_gpu\_result": 566.5793352441259 } }
theoretical_multi_gpu_sum値は、システムに接続されているすべてのGPUのGPUあたりのスコアを合計して数値的に計算されます。例では、単一のK80コアが10をスコアした場合、この値はtheoretical_multi_gpu_sumで2回カウントされます。単一のM10コアが5をスコアした場合、この値はtheoretical_multi_gpu_sumで4回カウントされます。次に計算される値theoretical_multi_gpu_meanは、theoretical_multi_gpu_sumをシステムに接続されているGPUの数で割って計算されます。forced_multi_gpu_sumの結果は、並列実行からの結果の合計を取ることで計算されます。他の平均値と同様に、forced_multi_gpu_numerical_meanはforced_multi_gpu_sumをGPUの数で割ることで作成されます。これらのさまざまな数値は、最終的にGPUボックスやテスト自体のパフォーマンスボトルネックを特定するために使用されます。
現在、critical_result_keyで定義されたキーのみが視覚化に使用されています。執筆時点では、これらはすべてnative_multi_gpu_resultまたはforced_multi_gpu_sumです。アスタリスクが付いたサブプロットのタイトルはforced_multi_gpu_sumです。
テスト対象ハードウェア(ベンチマーク対象テスラGPU)
GPU: K80, M10, M40, M60, P40, P100, V100, T40
CPU: E5-2687W 12コア, E5-1680 8コア
マザーボード: Asus X99-WS シングルソケット, Supermicro X10DRG-Q デュアルソケット
結果
特に指定がない限り、CPUとマザーボードは結果のセット内で同じです。同じRAM、シャーシ、電源ユニットがすべてのテストで使用されました。すべてのGPUは[私のクーラー](https://esologic.com/cooler/)でオート設定で冷却されました。
GPU世代比較
最初のテストセットでは、GPU世代全体の使用事例エリアごとにグループ化された結果を見ていきます。ここでは、一般的にパフォーマンスはリリース日とともに増加すると予想され、結果のバーは左から右へと対応するカードのリリース日で並べられています。[画像]
[画像]
[画像]
ここでいくつかの驚きがあります。Tesla V100-16GBの全体的なパフォーマンスは、(やや珍しい)T40とすべてのテストで同等です。V100はT40よりも大幅に古く、安価です。また、一般的に、Voltaは以前の世代の漸進的な改善と比較して、パフォーマンスの大幅な向上をもたらしています。
オンラインでしばらく読んでいると、LLMの使用においてP40をP100よりも推奨する人々を見つけるでしょう。これらの結果もその発見を裏付けています。
M60のWhisperパフォーマンスには非常に感銘を受けました。大量の音声文字起こしを行う必要がある場合、M60はわずか50ドルで購入できます。
GPUスケーリング
次のテストセットでは、システムに追加されるカードの数に応じてパフォーマンスがどのように変化するかを調べます。ここでは、一般的にテストパフォーマンスは追加されるカードの数とともに増加すると予想されますが、通信オーバーヘッドが増加するにつれて収穫逓減が見られると予想されます。
[画像] [画像]
興味深いことに、GPUを追加してもLLMのスループットは同じままであることがわかります。これは私の設定ミス、またはllama.cppの設定の問題を示唆しています。[もし原因がわかるなら、PRはいつでも歓迎します](https://github.com/esologic/gpu_box_benchmark/blob/master/benchmark_dockerfiles/llama_bench/Dockerfile)。
K80とP100の両方について、P100のCAT ViT Attentionを除いて、収穫逓減の兆候はあまり見られません。他の、より成熟したマルチGPUネイティブテスト(ResNet50とSHA-256)は、GPU数に応じて線形に増加します。推測ですが、最終的には収穫逓減が発生するはずですが、その地平線は4Uに収まるよりも遠いかもしれません。
これは、専用GPUノードを追加したいホムラバーにとって素晴らしいニュースであり、テスラGPUのベンチマークを行うこの努力の歓迎すべき成果です。このシナリオでは、ラックユニットはすでに占有されており、それらを可能な限り生産的にしたいと考えています。シャーシをGPUで満たしても、オーバーヘッドによる多くの計算無駄が生じるようには見えません。
GPUミキシング
実際の質問というよりは「もし〜だったら」という好奇心ですが、新しい高価なGPUと、安価な古いGPUをたくさん組み合わせた場合の結果はどうなるか興味がありました。
[画像]
LLMユースケースでは、混合されたV100はP100によって大幅に足を引っ張られています。他のテストについては、私の結論は前のセクションと同様です。GPUが多いほど良い、たとえ世代が混在していてもです。
CPU比較
GPUはCPUによって供給される必要があります。CPUを選択する際、シングルコア速度を最適化すべきか、プロセッサの総数を増やすべきでしょうか?より高速なシングルコアパフォーマンスが全体的なスコア向上につながると予想されますが、CPUが多いほどPCIeレーンとGPUが増えます。
[画像]
GPUタイプ別に内訳:
予想通り、一般的にCPUコアが速いほどスコアは向上します。ほとんどの結果では、その効果は小さいです。しかし、WhisperとCAT ViT Attentionでは、コア数が増加しシングルコアパフォーマンスが低下するにつれて、明確な低下傾向が見られます。私個人のユースケースにとって、これは最終セクションでさらに議論する価値のある重要な発見です。
マザーボード比較
信号整合性の問題や電源供給の問題は、マザーボードのA/Bテストで明らかになる可能性があります。テスト対象の2つのボードはどちらも「ワークステーション」グレードなので、両マザーボード間でパフォーマンスの違いは期待していませんでした。
[画像]
予想通り、大きな驚きはありません。eBayやAliexpressで非常に安価なX99マザーボードを見つけることができます。私は実際にこれらのボードで良い経験をしていますが、重要なシステムをそれらの周りに構築したことはありません。もしこれを試みるなら、実行すべきテストを指摘できるので、私に知らせてください。
GPUノードBOM
GPUボックスを必要とする私にとってのキラーアプリは、実は私自身のプロジェクトである[streamarize](https://github.com/esologic/streamarize)です。このプロジェクトは、長時間のライブストリーム([Twitchストリーム](https://www.twitch.tv/esologic)から)を受け取り、タイムスタンプ、説明、サムネイル付きのYouTube動画としてすぐにアップロードできる状態にします。また、放送の早送りバージョンで作られた「リール」スタイルのショートフォームビデオも生成します。streamarizeのコアコンポーネントは、Whisper、Ollama、そして[Content Aware Timelapse](https://github.com/esologic/content_aware_timelapse)です。
[画像]
M60は優れたWhisperスループットを持つかもしれませんが、私にとっての勝者はV100です。CPUとマザーボードについては、まずAsus X99-WSマザーボードとシングルE5-1680 8コアを試すことから始めます。理論的には、これは3x V100をサポートできるはずで、10Gb NIC用のスペースも確保できます。
次のステップ
現在、さらにテストを追加したり、他のハードウェアをテストしたりするためのセットアップが整っています。テスラGPUのベンチマークをより良くするために、私が他に何か見落としたことはありますか?コメントを残してください!次のステップは、不足しているハードウェアを入手してシステムを構築することです。
お読みいただきありがとうございます!