LLM生成GPUカーネルのための契約グレード検証器
A Contract-Grade Verifier for LLM-Generated GPU Kernels (arxiv.org)
要約
本研究では、大規模言語モデル(LLM)が生成したGPUカーネルの正確性を評価するための、より厳格な検証器を開発しました。従来のテスト手法では見逃される多くのバグを、この検証器は発見し、LLM生成カーネルの信頼性に対する懸念を提起しています。提案された検証器は、LLM生成カーネルの品質向上に不可欠なツールとなる可能性を示唆しています。
全文翻訳
コンピュータサイエンス > 機械学習
arXiv:2608.12700 (cs)
[2026年8月13日提出 (v1)、最終更新 2026年8月17日 (本バージョン、v2)]
タイトル: LLM生成GPUカーネルのための契約グレード検証器、およびGated-Linear-Recurrenceファミリー向けのネイティブBlackwellバックワード
著者: Rishi Shah, Rishav Shrestha
Rishi Shahと他の1名の著者による、LLM生成GPUカーネルのための契約グレード検証器、およびGated-Linear-Recurrenceファミリー向けのネイティブBlackwellバックワードというタイトルの論文のPDFを表示します。
要旨: 言語モデルを用いてGPUカーネルを生成するシステムは、高い正解率を報告しています。それらの率は、単一の緩いテストから来ています。すなわち、カーネルをいくつかのランダムな入力で、1つの固定された形状で実行し、出力が参照値に近い場合に合格とします。カーネルはそのテストに合格しても、サイレントに間違っている可能性があります。真の答えがNaNや無限大であるべきところに通常の数値を返したり、実行ごとに異なったり、形状が変わると壊れたり、参照がfp32の合計を保持しているのにfp16で累積したりする可能性があります。私たちは、正解性を適切にチェックするツールを構築しました。それは、12個の敵対的ゲートの契約グレード検証器です。各ゲートは、正しいカーネルが満たさなければならないプロパティであり、そのうちいくつかは許容誤差がなく、しきい値の選択が失敗を言い逃れさせることを防ぎます。外部に向けたこの検証器は、公開システムの独自のハーネスが既に正しいと受け入れた2,638個の機械生成カーネルを監査します。それは、39.5%がどのような許容誤差の議論でも間違っていると判断し、62.1%が少なくとも1つの違反を抱えていることを発見します。この分野の標準テストは、検証器が拒否する1,487個のカーネルを受け入れますが、その逆はわずか14個です。私たちは、7/7のポジティブコントロール、しきい値キャリブレーションスイープ、参照ベンチマーク自身の正解性コードとの98.5%の一致、および層別化された手動監査という4つの独立した方法でこの発見を擁護します。内部に向けたこの検証器は、私たち自身のカーネルを評価します。それは、Gated-Linear-Recurrence (GDN) ファミリー向けの初のネイティブBlackwell tcgen05トレーニングバックワードであり、この分野がいまだにフォールバックで実行している逆状態ステージも含まれています。私たちは、二重精度オラクルに対してその正解性を独立に確立し、それを通して5つのファミリーメンバーをトレーニングします。カーネル生成における報告された進捗の背後にある正解性信号は、数字が示唆するよりもはるかに弱く、許容誤差のない契約のセットがそのギャップの大部分を埋めるでしょう。
| コメント: | 20ページ、3図。doi:https://doi.org/10.5281/zenodo.21563213 でもアーカイブされています |
| 件名: | 機械学習 (cs.LG); ハードウェアアーキテクチャ (cs.AR); 分散、並列、クラスタコンピューティング (cs.DC) |
| 引用形式: | arXiv:2608.12700 [cs.LG] |
| (またはこのバージョンでは arXiv:2608.12700v2 [cs.LG]) | |
| https://doi.org/10.48550/arXiv.2608.12700 DataCite経由のarXiv発行DOI |
提出履歴
送信者: Rishi Shah
v1 Thu, 13 Aug 2026 01:25:56 UTC (149 KB)
v2 Mon, 17 Aug 2026 20:55:05 UTC (156 KB)
全文リンク:
論文アクセス:
Rishi Shahと他の1名の著者による、LLM生成GPUカーネルのための契約グレード検証器、およびGated-Linear-Recurrenceファミリー向けのネイティブBlackwellバックワードというタイトルの論文のPDFを表示します。
追加機能
現在の閲覧コンテキスト:
cs.LG
閲覧を次で変更:
参考文献と引用:
読み込み中...
BibTeX形式の引用
読み込み中...
提供元:
ブックマーク
書誌ツール
書誌情報および引用ツール
書誌エクスプローラー トグル
書誌エクスプローラー (エクスプローラーとは?)
Connected Papers トグル
Connected Papers (Connected Papersとは?)
Litmaps トグル
Litmaps (Litmapsとは?)
scite.ai トグル
scite Smart Citations (Smart Citationsとは?)
コード、データ、メディア
この論文に関連するコード、データ、メディア
alphaXiv トグル
alphaXiv (alphaXivとは?)
コードへのリンク トグル
CatalyzeX Papers用コードファインダー (CatalyzeXとは?)
DagsHub トグル
DagsHub (DagsHubとは?)
GotitPub トグル
Gotit.pub (GotitPubとは?)
Huggingface トグル
Hugging Face (Huggingfaceとは?)
ScienceCast トグル
ScienceCast (ScienceCastとは?)
デモ
デモ
Replicate トグル
Replicate (Replicateとは?)
Spaces トグル
Hugging Face Spaces (Spacesとは?)
Spaces トグル
TXYZ.AI (TXYZ.AIとは?)
関連記事
レコメンダーおよび検索ツール
Influence Flowerへのリンク
Influence Flower (Influence Flowersとは?)
Core recommender トグル
CORE Recommender (COREとは?)
IArxiv recommender トグル
IArxiv Recommender (IArxivとは?)
- 著者
- 会場
- 機関
- トピック
arXivLabsについて
arXivLabs: コミュニティ協力者との実験的なプロジェクト
arXivLabsは、協力者がarXivの新しい機能を直接ウェブサイト上で開発・共有できるようにするフレームワークです。
arXivLabsと協力する個人および組織は、オープンネス、コミュニティ、卓越性、ユーザーデータプライバシーという私たちの価値観を受け入れ、遵守しています。arXivはこの価値観にコミットしており、それに準拠したパートナーのみと協力します。
arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか? arXivLabsの詳細をご覧ください。
この論文の著者は誰ですか? | MathJaxを無効にする (MathJaxとは?)