HN 日本語サマリー

← 一覧へ戻る
プログラミング

カーネルの健全性バグ #14576 の事後分析

Postmortem for Kernel Soundness Bug #14576 (leodemoura.github.io)

154 pointsby juhopitk59 コメント

要約

Leanカーネルで報告された健全性バグ(#14576)は、ネストされた帰納型(inductive type)の処理における実装上の問題でした。AI支援によるコラッツ予想の「反証」がこのバグを露呈させ、修正は迅速に行われましたが、独立したチェッカーであるnanodaにも別のバグが存在したため、問題は複雑化しました。このバグはメタプログラミング経由でのみ到達可能であり、カーネルの分離された設計思想の重要性が再確認されました。

全文翻訳

カーネルの健全性バグ #14576 の事後分析

2026-08-01

Leanカーネルにおける健全性バグ(#14576)が、7月27日の週に報告され修正されました。この件はZulipやソーシャルメディア(例: X、LinkedIn、Mastodon)でも注目を集めました。

何が起こったか

7月25日、Ramana KumarはAIの支援を受けて生成された、コラッツ予想のsorry-freeな「反証」を含むリポジトリを公開しました。これは、ネストされた帰納型の処理におけるカーネルのバグを悪用したものであり、有効な証明ではありませんでした。7月28日、Kiran GopinathanはこれをFalseの小さな証明にまで縮小し、issue #14576 を開設しました。報告から1時間後には修正をプッシュしました(#14577)。Joachim Breitner がレビューし改善点を提案した後、マージされました。新しいパッチリリースが公開されています。

バグの内容は以下の通りです。カーネルが、パラメータDsを持つ帰納型Tの下にあるネストされた出現を消去する際、これらのパラメータがファントム(コンストラクタフィールドに現れない)である場合、生成される補助型から消えてしまい、型チェックをすり抜けてしまいます。その位置に不正な型の引数を置くことで、カーネルにFalseの証明を認めさせることが可能になります。このバグは、帰納型宣言を直接カーネルに送信するメタプログラミングを通じてのみ到達可能です。フロントエンドは引数をチェックし、不正な型を持つ項を捕捉します。これは実装上のバグであり、Leanのメタ理論の脆弱性ではありません。

nanoda がそれを検知できなかった理由

元のコラッツリポジトリは、主要な外部チェッカーであるnanodaの1週間前のバージョンも通過していました。nanodaは、Chris BaileyによってRustで実装された、Leanの独立したカーネル(または証明/型チェッカー)です。驚くべきことに、2つの無関係なバグが関与していました。公式カーネルには、前述のようにネストされた帰納型サポートにチェックが欠けていました。nanodaはその箇所をチェックしていましたが、射影ノードで型名を検証していませんでした。nanodaのバグはJeremy Chenによって報告され、Leanのバグが報告される1週間前に修正されていました。証明は、カーネルが決して検査しない項が、古いnanodaが受け入れたものであるように構築されていました。

Ramanaは、このタイミングは偶然であると考えていますが、モデルがnanodaのレポートを見ていた可能性を排除できません。Joachimは、このタイミングの偶然性は、このバグを見つけられる強力なモデルの利用可能性によるものだという仮説を提唱しました。

実際的な結果として、独立したカーネルでのチェックは依然として機能しますが、それは2つの実装における2つの異なるバグを必要としたためです。しかし、それに依存するユーザーは、両方の最新バージョンが必要です。lean4leanは、帰納型の処理が参照実装のポートであるため、カーネルバグの影響を受けます。

検証

Mario Carneiroのlean4leanは、Leanの型理論のLeanによる形式化であり、カーネルがそれを実装しているという証明です。作業は進行中であり、整合性の証明はまだ帰納型をカバーしていません。検証されるべき実装は、公式カーネルと同じバグを抱えていました。このバグは、この部分の検証を完了しようとしたときに発見されたでしょう。

メタプログラミングの削除について

議論の中での提案の一つは、この攻撃を表現できないようにメタプログラミングを削除または制限することです。これは誤解を招きます。エラボレーターは設計上信頼されていません。健全性は、信頼されていないコンポーネントが悪質な項の構築を拒否することに依存できません。悪意のある証明を提出したい攻撃者は、.oleanファイルを直接作成したり、メモリを改変したりすることもでき、これらはすべてエラボレーターを完全にバイパスします。カーネルは、それ自身のプロセス内で、不正な型の宣言を自身で拒否する必要があります。この懸念事項の分離と隔離は、証明項の主な利点の1つです。

FROは何をしているか

  • 悪用に関する回帰テスト、およびArthur Adjedjが提起した関連する非一様パラメータのケースに関するテストは、Kernel Arenaにあります。

  • フォローアップPR(#14582)により、カーネルはネストされた出現のパラメータが、単に再型チェックするだけでなく、実際にパラメータとして振る舞うことをチェックするようになります。

  • OpenAIのDaniel Selsamは、サイバーセキュリティに特化したAIを使用してLean FROを支援し、Leanカーネル内の他のプログラミングミスを発見しました。それらはすべて修正されました。それらはすべてnanodaによって捕捉されました。これらのバグもメタプログラミング経由でのみ到達可能です。PR: #14607, #14608, #14609, #14613, #14615, #14616。

  • カーネルの不変条件も強化しました。PR: #14621, #14631, #14632。

  • comparator.live はデフォルトでnanodaを実行するようになり、nanodaは毎日追跡されるため、upstreamの修正後にlean-evalとcomparatorは最新の状態に保たれます。

  • さらなるバグの発見、新しいカーネルの開発、理論や検証済みカーネルの研究に取り組める専門家と連携し、支援しています。

謝辞

この投稿の改訂と提案について、Joachim BreitnerとSebastian Ullrichに感謝します。