HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIと暗号技術の出会い 1: AIがCloudflareのCirclに見出したもの

AI Meets Cryptography 1: What AI Found in Cloudflare's Circl (blog.zksecurity.xyz)

98 pointsby duha11 コメント

要約

zkSecurityは、AI監査パイプラインをCloudflareの実験的な暗号ライブラリCIRCLに適用し、クリティカルな浮動小数点精度損失からアクセス制御の完全な破綻まで、7つのバグを発見しました。これらのバグはすべて修正済みです。この記事は、AIがオープンソース暗号ライブラリで見つけたバグに関するシリーズの最初の投稿であり、AI監査エージェント「zkao」の開発と、暗号分野におけるLLMの推論能力に関する洞察を共有しています。

全文翻訳

AI meets Cryptography 1: CloudflareのCIRCLでAIが見つけたもの

[画像: サムネイル]

zkSecurityは、AI監査パイプラインをCloudflareの実験的な暗号ライブラリCIRCLに適用し、クリティカルな浮動小数点精度損失から属性ベース暗号におけるアクセス制御の完全な破綻まで、7つの実際のバグを確認しました。これら7つのバグはすべて、アップストリームで修正済みです。これは、AIエージェントがオープンソース暗号ライブラリ全体で見つけたバグに関するシリーズの最初の投稿です。

zkSecurityでは、zkaoというAI監査エージェントを開発しています。その目標は、シンプルに言えば、AIがコードを継続的に監視し、他のAIツールが見つけられないバグがなくなるまで続けることです。このアプローチがなぜ重要なのかについては、zkao: Security That Compoundsで説明しました。

zkaoの開発は反復的なプロセスであり、最終目標はAIによって検出可能なすべてのバグを見つけることができる自動監査者の作成です。これには、新しいアイデアやテクニックのブレインストーミング、zkSecurityのセキュリティ研究者の専門知識をzkaoに体系的にエンコードすること、ベンチマークに偏ることなく最新かつ最も深刻な脆弱性を検出すること、そして重要なことに、何が機能し、何が機能しないか、モデルがどのように進化するかを理解し、AIによるバグ発見の理解を深めるための実験を継続的に実施することが含まれます。これらの実験の中には、製品とは独立して共有する価値のあるものもあり、この投稿シリーズはそのためのものです。

また、第二の動機もあります。これらの実験は、zkaoのベンチマークスイートを構築する方法であり、その過程でLLMが実際に暗号についてどのように推論するかについての洞察を常に提供しています。つまり、LLMが得意な点、盲点、そして前者(得意な点)を増幅し、後者(盲点)を抑制する方法です。バグは目に見える成果ですが、推論パターンは私たちが最も気にかけている部分です。

数ヶ月前、私たちは選択されたコードベースで実験を開始しました。LLMを2つの構成で、いくつかのオープンソース暗号プロジェクトのスキャンに使用しました。

  1. シンプルなプロンプトを持つLLMのみ。
  2. 専門家によって維持されているスキルを持つLLM。

次に、LLMが実際の脆弱性を見つけた重要なプロジェクトについては、zkaoを実行して、それが同じ問題を独自に検出できたかどうかを確認しました。ほとんどの場合、zkaoはそれらすべてを見つけただけでなく、より複雑で深刻なものも特定しました。

結果は十分だったので、それらを書き出すことにしました。このシリーズは、Cloudflareの高度なポスト量子暗号ライブラリであるCIRCLから開始します。CIRCLでは、私たちのパイプラインは多くの候補となる発見を生み出し、そのうち7つはここで報告する価値がありました。これら7つはすべて、現在アップストリームで修正されています。そのほとんどは、HackerOneのCloudflareのプログラムの下で確認され、バウンティが授与されました。

明確化: AIは最終レポートではなく、候補となる発見を生成しました。私たちのチームの人間が各問題を検証し、エクスプロイト可能性を確認し、必要に応じてPOCを最小化し、開示を処理しました。この人間による確認ステップは依然として非常に重要です。なぜなら、AIの候補発見は安価ですが、信頼できるレポートはそうではないからです。

このステップを最小限に抑えることは、zkaoが構築されている主な目的の1つであり、まだ開発途上ですが、現在のバージョンはすでにこの検証作業の多くを自身で担っています。

重大度と修正の概要

詳細に入る前に指摘しておきたいことの1つは、AIが自身の発見に割り当てる重大度はノイズが多いということです。ここでは、AIが評価した各バグと、修正後にCloudflareが確認した重大度を示します。また、現在のバージョンのzkaoで7つすべてが一貫して再現可能であることを確認しました。

AIの重大度と確認された重大度の間のギャップ自体が興味深い洞察であり、最後にそれに戻ります。それでは、7つのバグを1つずつ見ていきましょう。

バグ 1: float64における多項式評価

これはCIRCLの閾値RSA実装(tss/rsa)にあります。閾値署名は、n人のプレイヤー間で秘密をシャムirスタイルの秘密共有を使用して分割します。Deal()は各プレイヤーのインデックスで秘密多項式を評価します。係数はbig.Intであり、そうあるべきですが、項x^iは次のように計算されていました。

// tss/rsa/rsa_threshold.go
xi := int64(math.Pow(float64(x), float64(i)))

float64は53ビットの仮数部を持っています。$x^i$が$2^{53}$(約$9 imes 10^{15}$)を超えた瞬間、結果は整数にキャストされる前にサイレントに丸められます。例えば、100人のプレイヤーと27の閾値で、$x = 100$、$i = 26$で評価する場合、$100^{26} = 10^{52}$を要求しますが、これは36桁も$2^{53}$を超えます。$x = 20$、$i = 16$でもすでに壊れます。

その結果、多項式は不正確に評価され、プレイヤーに渡されるキーシェアは間違ったものになります。パラメータによっては、署名の組み合わせが失敗するか、または正常に見えるが意図したキーを再構築しないシェアが生成されます。私たちのエージェントはこれをCriticalとフラグ付けしました。なぜなら、不正確なキーシェアの生成につながり、プロトコルの正しさを損なうからです。Cloudflareは最終的に、影響を受ける条件が実際に発生する可能性が低いことを理由に、この問題をLowの重大度と評価しました。

修正では、浮動小数点指数計算を、コード自身のTODOコメントがずっと示唆していたHorner法による評価に置き換え、すべてをbig.Intで保持します。コミットf7d2180。

バグ 2: プロバー制御のセキュリティパラメータによるDLEQ証明偽造

これはCIRCLのzk/qndleq、つまり$(\mathbb{Z}/n\mathbb{Z})^*$の平方数の部分群に対するDLEQ(離散対数等価性)証明にあります。DLEQ証明は、2つのペアが同じ離散対数を共有していることを証明します。攻撃者が検証者に偽のステートメントに対する証明を承認させることができれば、証明システムは破綻します。

この証明におけるチャレンジはFiat-Shamirスタイルで導出され、そのビット長はSecParamによって制御されます。問題は、SecParamがProof構造体自体の中に存在していたことでした。

type Proof struct {
    Z, C     *big.Int
    SecParam uint
}

検証中、コードは証明自身のSecParamを使用してチャレンジを再計算していました。そのフィールドは攻撃者によって制御可能です。SecParam = 1を設定すると、チャレンジは1ビットに縮小され、値は$0$または$1$になります。これは偽造試行ごとにコインフリップです。SecParam = 8を設定すると、総当たり攻撃は約$2^8 = 256$回の試行で済みます。いずれにしても、健全性は失われます。

これは、検証者が固定する必要があるセキュリティパラメータが、プロバー提供データから読み取られるという、繰り返し現れるパターンのクリーンな例です。修正では、証明からSecParamを削除し、Verifyがそれを明示的な引数として受け取るように変更されたため、検証者がそれを設定します。コミット757dde4。

バグ 3: BLS集計におけるメッセージの非一意性欠如

これはバッチの中でAIが過小評価した唯一のバグです。エージェントはこれをMediumとラベル付けしました。実際には、これは教科書的なローグキー攻撃であり、広く知られているクリティカルクラスの欠陥です。私たちはこれをCriticalとして報告し、CloudflareはHighとして確認しました。

sign/blsのVerifyAggregateは、BLS BASIC集計モードを実装しています。このモードは、バッチ内のすべてのメッセージが一意である場合にのみ安全であり、これがローグキー攻撃に対する防御策です。この関数は集計ペアリング方程式をチェックしましたが、メッセージが一意であるかどうかは決してチェックせず、その重要な要件を呼び出し元に委ねていました。

これがないと、標準的なローグキー攻撃が適用されます。被害者の公開鍵$\mathsf{pk}_v$とメッセージ$m$を見た攻撃者は、$\mathsf{pk}_a = g^{\mathsf{sk}_a} - \mathsf{pk}_v$を登録し、被害者の秘密鍵を知ることなく$(\mathsf{pk}_v, m)$と$(\mathsf{pk}_a, m)$の集計署名を偽造できます。CIRCLはフォールバック用の証明所有権インフラストラクチャを提供していないため、欠落しているチェックはより危険です。

なぜAIはこのバグをMediumと呼んだのでしょうか?私たちは知りません。その推論を読むと、欠落している一意性チェックを正しく特定し、ローグキー攻撃の名前さえ挙げましたが、BASICモードの契約が呼び出し元に一意性の要件を課しているという事実にanchoredしました。「呼び出し元がこれを処理することになっている」という事実を緩和策とみなし、重大度を下げました。

修正により、VerifyAggregateは重複メッセージで構築されたバッチを拒否するようになります。コミット9798df7。

バグ 4: FillBytesの符号衝突によるDLEQ健全性の破綻

zk/qndleqに戻ります。このバグは、バッチの中で最も微妙で、率直に言って最も興味深いものです。証明に触れる必要はありません。

ステートメント$S_1 = (g, g_x, h, h_x)$に対する正直で有効な証明piを考えます。これは$\log_g(g_x) = \log_h(h_x) = x$を証明します。攻撃者は$x$を知らないまま、同じpiを検証者に提示しますが、それを異なるステートメント$S_2 = (g, -g_x, h, h_x)$とペアにします。ここで、$-g_x$は負のbig.Int new(big.Int).Neg(gx)です。

偽造されたステートメントは、チャレンジ$c$が偶数の場合に受け入れられます。なぜなら、2つのことが同時に一致するからです。

代数的キャンセル。 検証者は$-g_x$から値を再計算し、符号はまっすぐ外れます。

$$(-g_x)^c \bmod N = (N - g_x)^c \bmod N = (-1)^c \cdot g_x^c \bmod N.$$

$c$が偶数の場合、$(-1)^c = 1$なので、検証者は正直なプロバーが再構築したものとまったく同じ中間値を再構築します。

ハッシュにおける符号衝突。 チャレンジはステートメントをハッシュすることによって導出され、ハッシュはFillBytesを使用します。これはbig.Intの絶対値を書き込み、符号を剥ぎ取ります。したがって、doChallenge(..., -gx, ...)とdoChallenge(..., gx, ...)は同じものにハッシュされます。

ここでは、$c$は少なくとも1/2の確率で偶数です(ハッシュ出力の最下位ビットにすぎません)。したがって、攻撃は約半数の正直に生成された証明で成功します。検証者は$\log_g(-g_x) = \log_h(h_x)$であると確信して終了しますが、これは偽です。以下は、概念実証(Proof-of-Concept)の核心です。

// 偶数のチャレンジcが選択された(g, gx, h, hx)に対する正直な証明
gxNeg := new(big.Int).Neg(gx) // -gx、攻撃者はxを知る必要はない
forgedAccepted := proof.Verify(g, gxNeg, h, hx, N) // 受け入れられた!

このバグが際立っているのは、それが単一のずさんな行ではないことです。代数的恒等式($(-1)^{\text{even}} = 1$)と無害に見えるシリアライゼーションの選択(FillBytesが符号をドロップする)の間の相互作用です。どちらも単独では間違っていません。それらが組み合わさって健全性を破ります。この種の境界を越えた推論は、まさにモデルが提示するものに最も驚かされた点です。

重大度については、エージェントは健全性の破綻であるためこれをHighと評価しましたが、攻撃の複雑性が高いことを理由にCloudflareはLowと確認しました。

修正では、チャレンジ計算にcheckBoundsステップが追加され、すべての入力が0 < x < Nを満たすことが要求されます。負の-gxは負の符号を持ち、ダメージを与える前に拒否されます。コミット19848a5。

バグ 5: ビット単位ORスイッチによるHPKE PSK検証バイパス

これは言語レベルのトラップに近いです。HPKEのverifyPSKInputsでは、switchラベルがビット単位ORで記述されていました。

// hpke/util.go
case modeBase | modeAuth:    // 0x00 | 0x02 == 0x02、つまりmodeAuthのみ
case modePSK | modeAuthPSK:  // 0x01 | 0x03 == 0x03、つまりmodeAuthPSKのみ

Goでは、case a | b:は2つの定数のORである単一のケースであり、2つのケースではありません。したがって、case modePSK | modeAuthPSKは実際にはcase 0x03であり、modePSK(0x01)はいずれのケースにも一致しません。PSKモードでPSKの欠落を拒否するはずのブランチが単にスキップされます。

その結果:SetupPSK(..., nil, nil)は拒否される代わりに、空のPSKで続行されます。PSKモードはPSKマテリアルを要求するはずですが、これは認証の前提条件をサイレントにドロップし、デプロイメントが設定されたよりも弱いモードで実行されることを許可します。修正は、ORからカンマ区切りのケース(case modePSK, modeAuthPSK:)への1文字クラスの変更です。コミットa3b4fa3。これは重複として確認されました。

バグ 6: int64におけるラグランジュ係数

tss/rsaに戻ります。シェアが配布された後、署名を組み合わせるにはラグランジュ補間が必要です。computeLambdaは、各ラグランジュ係数の分子と分母をint64で構築していました。

// tss/rsa/rsa_threshold.go
num := int64(1)
den := int64(1)
for _, s := range S {
    jprime := int64(s.Index)
    if jprime == j { continue }
    num *= i - jprime    // プレイヤー数が中程度でint64をオーバーフローする
    den *= j - jprime
}
lambda.Div(big.NewInt(num), big.NewInt(den)) // 切り捨て整数除算
lambda.Mul(delta, &lambda)

実際には、ここに2つの完全に独立したバグがあり、どちらか一方が署名を破損するのに十分です。最初のバグはオーバーフローです。約21人のプレイヤーがいると、積はint64の上限($\approx 9.2 \times 10^{18}$)を超えてラップアラウンドし、Goは整数オーバーフローでパニックしないため、サイレントに処理されます。computeLambdaはその後、間違った、しばしば負の係数を返します。

2番目のバグは切り捨てであり、何もオーバーフローしない場合でも発生します。コードは最初にnum / denを計算し、その後deltaを乗算します。Shoupのスキームでは、$\delta \cdot \text{num}$はdenで正確に割り切れることが保証されていますが、シェアのインデックスが連続していない場合(これはt-of-nサブセットの通常のケースです)、numだけではそうではありません。3-of-5スキームでシェア{1, 3, 5}を組み合わせる場合を考えます。ある係数について、$\text{num} = (0-3)(0-5) = 15$、$\text{den} = (1-3)(1-5) = 8$です。バグのある順序では、$\delta \cdot \lfloor 15/8 \rfloor$が計算されます。これは$\delta = 120$の場合120ですが、正しい値$\delta \cdot 15 / 8$は225です。

修正により、計算全体がbig.Intに移動され、乗算と除算の順序が変更され、正確な除算保証が維持されます。これはコミット751e372です。2つの問題は無関係ですが、エージェントはそれらを単一の発見として一緒に報告し、エージェントの作業を尊重して、提出をそのようにしました。

バグ 7: AND-shareバグによるCP-ABEアクセス制御の破綻

これはzkaoが独自に見つけたバグです。上記の6つの問題をすべて確認した後、同じライブラリをスキャンして何を見つけるかを確認したところ、このバグが報告されました。これは、CIRCLの暗号文ポリシー属性ベース暗号(abe/cpabe/tkn20)におけるアクセス制御保証の完全な破綻であり、Cloudflareはその有効性を確認しました。

暗号文ポリシー属性ベース暗号(CP-ABE)を使用すると、メッセージを(location: usa AND department: finance) OR (role: admin)のようなポリシーの下で暗号化できます。ユーザーは自身の属性に関連付けられたキーを保持しており、そのスキームは、それらの属性がポリシーを満たす場合にのみ復号できることを保証します。米国の財務担当者と管理者はメッセージを読むことができ、それ以外の人(全員が同じ暗号文を受け取るにもかかわらず)は読むことができません。

内部的には、tkn20はポリシーを属性を葉とするANDおよびORゲートのツリーに変換し、そのツリーに沿って1つの秘密(メッセージを保護するキー)を秘密共有します。共有はブール論理に従う必要があります。

  • ORゲートは、どちらかのブランチを満たせば十分であるため、両方の子供に完全な秘密を与えます。
  • ANDゲートは秘密を分割するため、それを再構築するには両方の子供が必要です。一方の子供はランダムな値rを受け取り、もう一方はparent - rを受け取り、r + (parent - r)だけが親を回復します。

このバグを理解するには、ANDゲートを念頭に置く必要があります。各子供は部分的なシェアを受け取る必要があり、どちらの子供も単独で親を再構築することはできません。

shareが実際にANDケースを処理した方法は次のとおりです。

// abe/cpabe/tkn20/internal/tkn/formula.go
case Andgate:
    shares[gate.In0], err = randomMatrixZp(rand, k.rows, k.cols) // In0 = ランダムr
    ...
    shares[gate.In1] = newMatrixZp(k.rows, k.cols)               // In1 = 0
    shares[gate.In0].sub(shares[gate.Out], shares[gate.In1])     // In0 = parent - 0

ランダムなシェアが生成され、すぐに破棄されます。In1はゼロに設定され、最後の行はIn0をparent - In1、つまり単なるparentで上書きします。したがって、一方の子供は完全な秘密を受け取り、もう一方は何も受け取りません。ANDゲートはもはやANDではなくなります。その最初の葉は、単独で親を再構築します。

これは正しさを損なうものではありません。2つのシェアは親に合計されます(parent + 0 = parent)。したがって、ポリシーを満たすすべてのキーは引き続き復号でき、古いコードで作成された暗号文は互換性を保ちます。それが壊すのは機密性です。単一のANDリーフは、両方を必要としたはずの秘密を回復します。

これを完全な破綻にするのは、この壊れたANDゲートがどこに配置されるかです。CCAセキュリティを達成するために、tkn20は各ポリシーを新しい外部ANDゲートでラップするBoneh-Katz変換を適用し、そのゲートの左側の子供は内部「ワイルドカード」リーフです。権限が発行するすべての属性キーは、そのワイルドカードを保持するため、すべてのキーがその1つのリーフを満たします。ここで2つの事実を組み合わせます。ワイルドカードリーフはANDゲートの最初の子供(In0)であり、In0はまさに完全な秘密を受け取る子供です。したがって、すべてのキーは、ポリシーに関係なく、単独でメッセージキーを再構築する1つのリーフを保持します。

単純なタイプミスバグのように見えますが、私たちを感心させたのは、zkaoがCP-ABEのような複雑な概念について推論し、その影響を正しく評価する能力でした。多くのLLMはタイプミスを特定しても、「防御層」または「コード衛生」の問題として却下し、それ以上推論しません。これにより、開発者は脆弱性を過小評価したり見落としたりする可能性があります。

修正は1行です。親を正しく共有するため、ランダムなシェアがIn0に残り、In1は補数になります。

shares[gate.In1].sub(shares[gate.Out], shares[gate.In0]) // In1 = parent - random

これでIn0はランダムな値を保持し、In1はparent - In0を保持するため、どちらのANDリーフも単独で秘密を運びません。コミットdef2fd3。

私たちが学んだいくつかのこと

3つの観察が私たちに残りました。

AIは重大度の評価が苦手で、非対称な方法で苦手です。 上の表をもう一度見てください。Cloudflareが確認した重大度を「真実」として信頼する場合、ほとんどの場合、エージェントは発見した影響を過大評価していました。しかし、BLSバグでは逆のことが起こり、広く知られているクリティカルな欠陥を過小評価し、クリーンなローグキー攻撃を単なるMediumとラベル付けしました。完全な説明も解決策もまだありません。私たちの作業仮説は、CIRCLのように多くの異なるアプリケーションで広く使用されているライブラリの場合、モデルが見ることのできないダウンストリームの呼び出し元に影響が依存するため、それが実際に難しいということです。一貫した重大度マトリックスと明示的な脅威モデリングステップを追加することで、モデルがシステム全体(およびその潜在的な統合)のレベルで影響について推論するのに役立つと考えています。現時点では、重大度は依然として私たちが人間を信頼するトリアージの部分です。

zkaoでは、開発者がユーザー構成(zkao.md)を通じて脅威モデルと重大度の好みを明確にできるようにすることで一時的に回避策を講じており、zkaoの重大度設定を反復的に改善し続けています。zkaoが一貫してPoCを生成できるという事実は、偽陽性を減らすため、実際のバグには自信があります。それでも、特に多くのプロジェクトが依存するライブラリの場合、これは開発者にとって非常に重要であるため、より体系的な方法でデフォルトの重大度割り当てを改善に取り組んでいます。

また、Cloudflareがバウンティプログラムのレンズを通して重大度を評価したことも注目に値します。これは、バグがライブサービスに影響を与えるかどうかを重視します。例えば、バグ2は、証明の健全性を完全に破るにもかかわらず、Lowと評価されました。この評価は、影響を受けるコードがCloudflareのサービスで使用されていないか、Cloudflareの環境での影響が限定的であることを示しているにすぎません。他のデプロイメントでも影響が同じように小さいことを意味するわけではありません。これは、多くのプロジェクトが依存するライブラリの場合に特に重要です。

モデルのペアリングは対称ではなく、役割は反転する可能性があります。 6つのバグのうち5つは、Claude Opus 4.6と私たちのスキルをペアリングして発見されました。同じスキルとシステムプロンプトの下で、GPT-5.3は主に検証するだけで発見しませんでした。表のHPKEバグは、それが独自に表面化させたものです。私たちは、その労働分担が安定したままであるとは予想していませんでしたが、その通りにはなりませんでした。数週間後、当時の最新ペアリングであるOpus 4.7とGPT-5.4でスキャンを再実行したところ、役割は実質的に逆転しました。GPT-5.4はより多くのバグを発見し、Opus 4.7はそれらを検証することしかできませんでした。これは、特定のモデル名に結論を過度に適合させないための良いリマインダーです。それ以来、フロンティアはさらに移動しており、移動し続けるでしょう。これについては別の投稿で探求します。

これはまさに、zkaoを「モデルに依存しない」ように構築している理由であり、来月どのモデルが最適になるかを推測する必要なしに、パフォーマンスを最高の状態に保ちます。

AIは問題を収集しますが、常に連鎖させるわけではありません。 バグ6がその証拠です。エージェントは、2つの完全に独立したバグ、オーバーフローと整数切り捨てを、単一の発見に詰め込みました。どちらも本物なので、これは本当に価値のある作業です。しかし、それらは関係を推論することなく、並べて提示されました。そして、私たちは他の場所でも同じパターンを見てきました。いくつかの真実の観察が、説明なしに、またはより影響力のあるエクスプロイトに連鎖させる試みなしに集められています。

これはまさに、zkaoで、個別の問題を実際のエンドツーエンドのエクスプロイトに連鎖させるバグの構成を可能にする新しいプロセスを構築した場所です。

次は何ですか

報告されたすべての問題を迅速に修正してくれたCIRCLメンテナーに感謝します。これはシリーズの最初の投稿です。解決された他のプロジェクトからの確認済みバグを引き続き公開していきます。

200以上の暗号プロジェクト(最もダウンロードされている上位の暗号クレート/パッケージから選択)をスキャンし、1000以上の候補となる発見がありました。その結果、今日の最大のボトルネックはトリアージです。報告されたすべてのバグは、プロジェクトに到達する前に専門家によって技術的な妥当性がチェックされる必要があります。なぜなら、私たちはAIスパムを他の誰よりも嫌っているからです。まだ構築中の自動トリアージフローを完全に信頼していないため(改善されつつあります)、これには多くの人的労力がかかります。そのため、メンテナンスが行き届いている最も人気のあるプロジェクトの一部を優先しました。

あなたが暗号プロジェクトのメンテナーであり、これが興味深い場合は、一緒に検証したいと考えています。これにより、深刻なバグが時間内に発見され、修正されるようになります。まだスキャンが行われていない場合、または前回のスキャンからコードベースが大幅に変更された場合は、新しいスキャンを実行することを喜んで行います。このような継続的なAIカバレッジは、まさにzkaoが構築されているものです。zksecurity.xyz/contactまでご連絡ください。