Show HN: BF16タイリングによるA40での1.499倍の速度向上と28.5%の動的エネルギー削減
Show HN: 1.499x speedup and 28.5% dynamic energy drop on A40 via BF16 tiling (cwtractors.com)
要約
Coldwater Tractors Inc.は、NVIDIA A40 GPUにおいてBF16タイリング技術を用いることで、特定の計算タスクで1.499倍の速度向上と28.5%の動的エネルギー削減を達成した研究結果を発表しました。この成果は、厳密な検証プロセスと詳細なベンチマークデータによって裏付けられています。
全文翻訳
Coldwater Tractors Inc. — システムリサーチ & ブートインデックス
マルチエージェント実行ループのための生のGPUベンチマーク出力と密なコンテキストロジックのブートファイル。
-
SKEW_TILED_BF16 — 検証済みNVIDIA A40レシート & 統一ロジックプロトコル NEW RECEIPT
2D 7点六角イジング格子(Ampere
sm_86): L=4608で1.499倍の速度向上(10.204 ms 対 15.291 ms)、28.5%の動的エネルギー削減(186.735 対 261.164 mJ/sweep)、および6つのサブ格子フェーズ全体でサイトの不一致は0。 -
a40_environment_receipt.txt RECEIPT
NVIDIA A40ハードウェア環境、ドライバ/nvccバージョン、ptxasレジスタ割り当て(bf16_tで15レジスタ/スレッド)、およびSHA-256検証レシート(2026-11-16)。
-
a40_nsys_summary.txt PROFILE
NVIDIA Nsight Systems (
nsys)によるNVIDIA A40でのカーネル実行およびCUDA APIタイミングサマリー(2026-11-16)。 -
Quattra Kernel #1 Benchmark Receipt.md RECEIPT
skew_tiled vs コントロール(NVIDIA A40、float32、L=4096/8192で1.10倍の速度向上)の公式経験的パフォーマンス & エネルギーベンチマークレシート。
-
tiled_results_2.txt BENCHMARK
Quattra Tiled D4GEMV Kernelベンチマーク結果(NVIDIA A40、L=16からL=8192、12.2%の速度向上を確認済み)。
-
tiled_results.txt BENCHMARK
Quattra Tiled D4GEMV Kernelベンチマーク結果(NVIDIA A40、L=16からL=8192、初期実行)。
-
hexa_boot_1_physics.txt BOOT 1
Hexa Dense Logic Boot - 物理レイヤー & ハードウェアマッピング。
-
hexa_boot_2_active.txt BOOT 2
Hexa Dense Logic Boot - アクティブ実行ループパケット。
-
hexa_boot_3_philosophy .txt BOOT 3
Hexa Dense Logic Boot - アーキテクチャ哲学 & フレームワーク。
SKEW_TILED_BF16 — NVIDIA A40 レシート & 統一ロジックプロトコル
著者: Kristian Lindholm および AI Orchestra (Coldwater Tractors Inc)
日付: 2026年11月16日 | アーキテクチャ: NVIDIA A40 (Ampere sm_86, 48 GB GDDR6, 300 W TDP)
使用制限: レシートと方法論は、民間、学術、および商業研究に公開されています。キネティック、軍事、兵器、またはターゲティングアプリケーションへの使用は厳しく禁止されています。
統一ロジック: 知的システムのための科学的方法
GPUコンピューティングをコンパイルまたはレンタルする前に、すべてのアーキテクチャおよび数値上の主張は、マルチモデル敵対的偽造ループ(「レッドチーム監査」)にかけられました。
1. 実行前仕様の固定: グリッドサイズ(L ∈ {384, 768, 4608, 9216}; パッチ5により4096/8192から更新され、Lは3色トーラスラッピングにシームレスになるよう3 × TILE = 96で割り切れるようになりました)、物理パラメータ(2D 7点六角イジング格子、J = +1、T = 3.0、ステートレスPCG32 PRNG)、および合格/不合格ゲートは、最初の実行前にロックされました。
2. マルチモデルレッドチーム監査: 独立したモデルウィンドウが、共有メモリバンクの競合、ラップアラウンドアライメント、マルチスイープポインタのハザード、ULPタイドリフトを監査し、実行前に15以上の構造的および検証上のエッジケースを捕捉・解決しました。
3. デュアルトラック決定論的検証: すべての実行は、正確なFP32パリティトラックと倍精度(FP64 std::exp)参照に対して、ランダム化(±1)および一様(si = +1)初期状態の両方で、2回のフルスイープ(6サブ格子カラーフェーズ)を実行します。
1. コンパイラ & レジスタフットプリント (nvcc -O3 -arch=sm_86 --ptxas-options=-v)
| カーネルバリアント | スレッドあたりのレジスタ数 | 共有メモリ | スピル | ゲート |
|---|---|---|---|---|
skew_tiled_phase<bf16_t, 38> | 15レジスタ | 2,584バイト | 0バイト | PASS |
skew_tiled_phase<float, 37> | 36レジスタ | 5,032バイト | 0バイト | PASS |
skew_tiled_phase<int8_t, 37> | 36レジスタ | 1,258バイト | 0バイト | PASS |
2. 正確性 & 詳細バランスゲート (2スイープ = 6サブ格子フェーズ)
| グリッド & 初期化 | L2(h) / L2(dE) | gpu_f32_diff | dec_f64_rate | |de|/|e| | |dm| | ゲート |
| --- | --- | --- | --- | --- | --- | --- |
| L = 384 (ランダム ±1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
| L = 384 (一様 +1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
| L = 768 (ランダム ±1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
| L = 768 (一様 +1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
3. 単体 cudaEvent スループット (30インターリーブトライアル、10スイープ)
| 格子サイズ (L × L) | bf16_t 中央値 (IQR) | fp32 中央値 (IQR) | int8_t スカラー参照 | 速度向上 (fp32 / bf16) |
|---|---|---|---|---|
| 4608 × 4608 (21.23Mサイト) | 10.204 ms (0.005 ms) | 15.291 ms (0.013 ms) | 13.356 ms | 1.499x |
| 9216 × 9216 (84.93Mサイト) | 40.679 ms (0.015 ms) | 60.064 ms (0.020 ms) | 53.072 ms | 1.477x |
4. マルチセカンド ペアABBA NVMLエネルギー (16クアッド, P_idle = 73.02 W)
| 格子サイズ (L × L) | スイープ/ウィンドウ | E_dyn (fp32) | E_dyn (bf16) | 動的エネルギー削減 | 総ボード削減 |
|---|---|---|---|---|---|
| 4608 × 4608 | 4,500 (~4.6–6.9 s) | 261.164 mJ/sw | 186.735 mJ/sw | 28.5% (1.399x) | ~29.9% |
| 9216 × 9216 | 1,200 (~4.9–7.2 s) | 1083.034 mJ/sw | 788.288 mJ/sw | 27.1% (1.371x) | ~28.8% |
5. ハードウェアパフォーマンスカウンター開示 (ncu)
UNMETERED PMC コンテナハイパーバイザー制限 (ERR_NVGPUCTRPERM): 低レベルハードウェアパフォーマンスカウンター(ncu DRAMバイトカウンター)は、ベンチマークされたA40インスタンスでホストコンテナの権限によってブロックされました。したがって、期待される≥42%のDRAMトラフィック削減は、2バイト(bf16_t)対4バイト(float)の表現からアーキテクチャ的に推測され、測定された1.499倍のウォールクロックスピードアップと28.5%のNVML動的エネルギー削減によって裏付けられています。これはハードウェアPMCカウンターを介して直接測定されたものではありません。
6. 生コンソールレシート
[Gates 1-3 (rand_init, 2-sw) @ L=384] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.0043)
[Gates 1-3 (unif_init, 2-sw) @ L=384] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.9400)
[Gates 1-3 (rand_init, 2-sw) @ L=768] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.0064)
[Gates 1-3 (unif_init, 2-sw) @ L=768] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.9418)
L=4608 sweeps=10 | bf16 med=10.204ms (IQR 0.005) | fp32 med=15.291ms (IQR 0.013) | int8 med=13.356ms | speedup(fp32/bf16)=1.499x
L=9216 sweeps=10 | bf16 med=40.679ms (IQR 0.015) | fp32 med=60.064ms (IQR 0.020) | int8 med=53.072ms | speedup(fp32/bf16)=1.477x
GPU: NVIDIA A40
Baseline P_idle = 73.02 W
[NVML L=4608 sweeps=4500] E_dyn_fp32=261.164 mJ/sw | E_dyn_bf16=186.735 mJ/sw | Energy ratio=1.399x (28.5% reduction)
[NVML L=9216 sweeps=1200] E_dyn_fp32=1083.034 mJ/sw | E_dyn_bf16=788.288 mJ/sw | Energy ratio=1.371x (27.1% reduction)
NVIDIA A40 GemV Skewed-Tiling Verification
ステータス: VERIFIED PASS (3/3大規模サイズで統計的分離あり)
ターゲットアーキテクチャ: NVIDIA A40 (48GB GDDR6, PCIe)
パフォーマンス向上: L=2048で約1.05倍、L=8192で最適化されたコントロールに対して1.119倍。
監査レシート & ファイル
// 直接連絡 & 問い合わせ
ショップに関するお問い合わせ、技術ドキュメントパッケージ、またはカスタム製造仕様については: