HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Show HN: BF16タイリングによるA40での1.499倍の速度向上と28.5%の動的エネルギー削減

Show HN: 1.499x speedup and 28.5% dynamic energy drop on A40 via BF16 tiling (cwtractors.com)

19 pointsby ktractor1233 コメント

要約

Coldwater Tractors Inc.は、NVIDIA A40 GPUにおいてBF16タイリング技術を用いることで、特定の計算タスクで1.499倍の速度向上と28.5%の動的エネルギー削減を達成した研究結果を発表しました。この成果は、厳密な検証プロセスと詳細なベンチマークデータによって裏付けられています。

全文翻訳

Coldwater Tractors Inc. — システムリサーチ & ブートインデックス

マルチエージェント実行ループのための生のGPUベンチマーク出力と密なコンテキストロジックのブートファイル。

  • SKEW_TILED_BF16 — 検証済みNVIDIA A40レシート & 統一ロジックプロトコル NEW RECEIPT

    2D 7点六角イジング格子(Ampere sm_86): L=4608で1.499倍の速度向上(10.204 ms 対 15.291 ms)、28.5%の動的エネルギー削減(186.735 対 261.164 mJ/sweep)、および6つのサブ格子フェーズ全体でサイトの不一致は0。

  • a40_environment_receipt.txt RECEIPT

    NVIDIA A40ハードウェア環境、ドライバ/nvccバージョン、ptxasレジスタ割り当て(bf16_tで15レジスタ/スレッド)、およびSHA-256検証レシート(2026-11-16)。

  • a40_nsys_summary.txt PROFILE

    NVIDIA Nsight Systems (nsys)によるNVIDIA A40でのカーネル実行およびCUDA APIタイミングサマリー(2026-11-16)。

  • Quattra Kernel #1 Benchmark Receipt.md RECEIPT

    skew_tiled vs コントロール(NVIDIA A40、float32、L=4096/8192で1.10倍の速度向上)の公式経験的パフォーマンス & エネルギーベンチマークレシート。

  • tiled_results_2.txt BENCHMARK

    Quattra Tiled D4GEMV Kernelベンチマーク結果(NVIDIA A40、L=16からL=8192、12.2%の速度向上を確認済み)。

  • tiled_results.txt BENCHMARK

    Quattra Tiled D4GEMV Kernelベンチマーク結果(NVIDIA A40、L=16からL=8192、初期実行)。

  • hexa_boot_1_physics.txt BOOT 1

    Hexa Dense Logic Boot - 物理レイヤー & ハードウェアマッピング。

  • hexa_boot_2_active.txt BOOT 2

    Hexa Dense Logic Boot - アクティブ実行ループパケット。

  • hexa_boot_3_philosophy .txt BOOT 3

    Hexa Dense Logic Boot - アーキテクチャ哲学 & フレームワーク。

SKEW_TILED_BF16 — NVIDIA A40 レシート & 統一ロジックプロトコル

著者: Kristian Lindholm および AI Orchestra (Coldwater Tractors Inc)
日付: 2026年11月16日 | アーキテクチャ: NVIDIA A40 (Ampere sm_86, 48 GB GDDR6, 300 W TDP)
使用制限: レシートと方法論は、民間、学術、および商業研究に公開されています。キネティック、軍事、兵器、またはターゲティングアプリケーションへの使用は厳しく禁止されています。

統一ロジック: 知的システムのための科学的方法

GPUコンピューティングをコンパイルまたはレンタルする前に、すべてのアーキテクチャおよび数値上の主張は、マルチモデル敵対的偽造ループ(「レッドチーム監査」)にかけられました。

1. 実行前仕様の固定: グリッドサイズ(L ∈ {384, 768, 4608, 9216}; パッチ5により4096/8192から更新され、Lは3色トーラスラッピングにシームレスになるよう3 × TILE = 96で割り切れるようになりました)、物理パラメータ(2D 7点六角イジング格子、J = +1、T = 3.0、ステートレスPCG32 PRNG)、および合格/不合格ゲートは、最初の実行前にロックされました。

2. マルチモデルレッドチーム監査: 独立したモデルウィンドウが、共有メモリバンクの競合、ラップアラウンドアライメント、マルチスイープポインタのハザード、ULPタイドリフトを監査し、実行前に15以上の構造的および検証上のエッジケースを捕捉・解決しました。

3. デュアルトラック決定論的検証: すべての実行は、正確なFP32パリティトラックと倍精度(FP64 std::exp)参照に対して、ランダム化(±1)および一様(si = +1)初期状態の両方で、2回のフルスイープ(6サブ格子カラーフェーズ)を実行します。

1. コンパイラ & レジスタフットプリント (nvcc -O3 -arch=sm_86 --ptxas-options=-v)
カーネルバリアントスレッドあたりのレジスタ数共有メモリスピルゲート
skew_tiled_phase<bf16_t, 38>15レジスタ2,584バイト0バイトPASS
skew_tiled_phase<float, 37>36レジスタ5,032バイト0バイトPASS
skew_tiled_phase<int8_t, 37>36レジスタ1,258バイト0バイトPASS
2. 正確性 & 詳細バランスゲート (2スイープ = 6サブ格子フェーズ)

| グリッド & 初期化 | L2(h) / L2(dE) | gpu_f32_diff | dec_f64_rate | |de|/|e| | |dm| | ゲート |
| --- | --- | --- | --- | --- | --- | --- |
| L = 384 (ランダム ±1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
| L = 384 (一様 +1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
| L = 768 (ランダム ±1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |
| L = 768 (一様 +1) | 0.0e+00 / 0.0e+00 | 0 | 0.00e+00 | 0.00e+00 / 0.00e+00 | PASS |

3. 単体 cudaEvent スループット (30インターリーブトライアル、10スイープ)
格子サイズ (L × L)bf16_t 中央値 (IQR)fp32 中央値 (IQR)int8_t スカラー参照速度向上 (fp32 / bf16)
4608 × 4608 (21.23Mサイト)10.204 ms (0.005 ms)15.291 ms (0.013 ms)13.356 ms1.499x
9216 × 9216 (84.93Mサイト)40.679 ms (0.015 ms)60.064 ms (0.020 ms)53.072 ms1.477x
4. マルチセカンド ペアABBA NVMLエネルギー (16クアッド, P_idle = 73.02 W)
格子サイズ (L × L)スイープ/ウィンドウE_dyn (fp32)E_dyn (bf16)動的エネルギー削減総ボード削減
4608 × 46084,500 (~4.6–6.9 s)261.164 mJ/sw186.735 mJ/sw28.5% (1.399x)~29.9%
9216 × 92161,200 (~4.9–7.2 s)1083.034 mJ/sw788.288 mJ/sw27.1% (1.371x)~28.8%
5. ハードウェアパフォーマンスカウンター開示 (ncu)

UNMETERED PMC コンテナハイパーバイザー制限 (ERR_NVGPUCTRPERM): 低レベルハードウェアパフォーマンスカウンター(ncu DRAMバイトカウンター)は、ベンチマークされたA40インスタンスでホストコンテナの権限によってブロックされました。したがって、期待される≥42%のDRAMトラフィック削減は、2バイト(bf16_t)対4バイト(float)の表現からアーキテクチャ的に推測され、測定された1.499倍のウォールクロックスピードアップと28.5%のNVML動的エネルギー削減によって裏付けられています。これはハードウェアPMCカウンターを介して直接測定されたものではありません。

6. 生コンソールレシート
[Gates 1-3 (rand_init, 2-sw) @ L=384] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.0043)
[Gates 1-3 (unif_init, 2-sw) @ L=384] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.9400)
[Gates 1-3 (rand_init, 2-sw) @ L=768] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.0064)
[Gates 1-3 (unif_init, 2-sw) @ L=768] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.9418)
L=4608 sweeps=10 | bf16 med=10.204ms (IQR 0.005) | fp32 med=15.291ms (IQR 0.013) | int8 med=13.356ms | speedup(fp32/bf16)=1.499x
L=9216 sweeps=10 | bf16 med=40.679ms (IQR 0.015) | fp32 med=60.064ms (IQR 0.020) | int8 med=53.072ms | speedup(fp32/bf16)=1.477x
GPU: NVIDIA A40
Baseline P_idle = 73.02 W
[NVML L=4608 sweeps=4500] E_dyn_fp32=261.164 mJ/sw | E_dyn_bf16=186.735 mJ/sw | Energy ratio=1.399x (28.5% reduction)
[NVML L=9216 sweeps=1200] E_dyn_fp32=1083.034 mJ/sw | E_dyn_bf16=788.288 mJ/sw | Energy ratio=1.371x (27.1% reduction)

NVIDIA A40 GemV Skewed-Tiling Verification

ステータス: VERIFIED PASS (3/3大規模サイズで統計的分離あり)

ターゲットアーキテクチャ: NVIDIA A40 (48GB GDDR6, PCIe)

パフォーマンス向上: L=2048で約1.05倍、L=8192で最適化されたコントロールに対して1.119倍。

監査レシート & ファイル

// 直接連絡 & 問い合わせ

ショップに関するお問い合わせ、技術ドキュメントパッケージ、またはカスタム製造仕様については: