PascalからBlackwellまでのワープダイバージェンスの特性評価
Characterizing Warp Divergence from Pascal to Blackwell (arxiv.org)
要約
本論文は、NVIDIA GPUにおけるワープダイバージェンス(並列処理におけるスレッドの実行パスの分岐)の挙動を、Pascal世代から最新のBlackwell世代まで詳細に分析しています。研究者たちは、独立スレッドスケジューリング(ITS)導入前後で、ダイバージェンスが発生した場合の処理速度は分岐数に比例して線形に増加し、そのペナルティは占有率に依存しないことを発見しました。また、コンパイラが生成する再収束メカニズムは世代ごとに進化しているものの、ダイバージェンスによるパフォーマンスコストは安定して予測可能であることを示しています。
全文翻訳
コンピュータサイエンス > ハードウェアアーキテクチャ
arXiv:2607.23402 (cs)
[2026年7月26日提出]
タイトル: PascalからBlackwellまでのワープダイバージェンスの特性評価
著者: Alpin Dale
Alpin Daleによる「PascalからBlackwellまでのワープダイバージェンスの特性評価」と題された論文のPDFを表示します。
要旨: Voltaが独立スレッドスケジューリング(ITS)を導入して以来、NVIDIA GPUはワープダイバージェンスを固定的な方法で処理すると広く仮定されてきました。私たちは、ITS以前のPascalをベースラインとして、Ampere、Hopper、およびデータセンターおよびコンシューマー向けBlackwell GPU全体でこの仮説を検証します。サイクル精度マイクロベンチマーク、ハードウェアカウンター、およびコンパイラ生成SASSの静的解析を組み合わせることで、アーキテクチャ変更から安定した動作を分離します。テストされたすべての世代にわたって、ダイバージェントパスはパス数 $k$ に比例して線形に直列化され、$T(k) \approx sk$ に従い、超線形的な再収束ペナルティはありません。ワープ実行効率は $32/k$ まで低下し、ペナルティは占有率に依存せず、予測(predication)は直列化コストを除去します。この同じ動作がPascalでも見られ、このプログラマーが認識できるコストモデルがITSに先行していることを示しています。しかし、コンパイラによって発行される再収束機構は大幅に変更されています。PascalはワープごとのSSY/SYNC命令スタックを使用するのに対し、後続の世代はバリアレジスタ命令を使用します。即時の後方支配者(post-dominator)を超えた遅延再収束は、Ampereの29ケースからBlackwellでは2ケースに減少します。Blackwellはまた、2層の収束バリア分類、ユニフォームブランチ命令、および明示的な部分マスクワープ同期を導入していますが、これらはAmpereやHopperには見られません。制御ビット反転実験は、新しいバリアクラスが静的なコンパイラ分類であり、私たちのテストでは実行時の観測可能な影響がないことを示唆しています。したがって、NVIDIAの制御フローISAと再収束メカニズムが進化し続ける中でも、ダイバージェンスは安定した予測可能なパフォーマンスコストを維持しています。
| コメント: | 6ページ、4図 |
| 件名: | ハードウェアアーキテクチャ (cs.AR); パフォーマンス (cs.PF) |
| ACMクラス: | C.1.2; C.1.4; C.4; D.1.3 |
| 引用: | arXiv:2607.23402 [cs.AR] |
| (またはこのバージョンについては arXiv:2607.23402v1 [cs.AR]) | |
| https://doi.org/10.48550/arXiv.2607.23402 DataCite経由のarXiv発行DOI |
投稿履歴
投稿者: Alpin Dale メールを表示
[v1] 日, 2026年7月26日 00:47:07 UTC (45 KB)
全文リンク:
論文にアクセス
Alpin Daleによる「PascalからBlackwellまでのワープダイバージェンスの特性評価」と題された論文のPDFを表示します。
追加機能
現在の閲覧コンテキスト:
cs.AR
以下で閲覧を変更:
参考文献と引用
読み込み中...
BibTeX形式の引用
読み込み中...
提供元:
ブックマーク
Bibliographic Tools
Bibliographic and Citation Tools
Bibliographic Explorer Toggle
Bibliographic Explorer (Explorerとは?)
Connected Papers Toggle
Connected Papers (Connected Papersとは?)
Litmaps Toggle
Litmaps (Litmapsとは?)
scite.ai Toggle
scite Smart Citations (Smart Citationsとは?)
Code, Data, Media
この論文に関連するコード、データ、メディア
alphaXiv Toggle
alphaXiv (alphaXivとは?)
Links to Code Toggle
CatalyzeX Code Finder for Papers (CatalyzeXとは?)
DagsHub Toggle
DagsHub (DagsHubとは?)
GotitPub Toggle
Gotit.pub (GotitPubとは?)
Huggingface Toggle
Hugging Face (Huggingfaceとは?)
ScienceCast Toggle
ScienceCast (ScienceCastとは?)
Demos
デモ
Replicate Toggle
Replicate (Replicateとは?)
Spaces Toggle
Hugging Face Spaces (Spacesとは?)
Spaces Toggle
TXYZ.AI (TXYZ.AIとは?)
Related Papers
レコメンダーおよび検索ツール
Link to Influence Flower
Influence Flower (Influence Flowersとは?)
Core recommender toggle
CORE Recommender (COREとは?)
- 著者
- 会場
- 機関
- トピック
About arXivLabs
arXivLabs: コミュニティ協力者との実験的プロジェクト
arXivLabsは、協力者がarXivの新しい機能を直接ウェブサイト上で開発・共有できるフレームワークです。
arXivLabsと協力する個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという私たちの価値観を受け入れ、遵守しています。arXivはこの価値観にコミットしており、それらを遵守するパートナーのみと協力します。
arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか? arXivLabsについてもっと知る。
この論文の著者は誰が推薦者ですか? | MathJaxを無効にする (MathJaxとは?)
参考文献
読み込み中...