HN 日本語サマリー

← 一覧へ戻る
科学・技術

Anthropicの新しい暗号解読結果に関する考察

Some thoughts about Anthropic's new cryptanalysis results (blog.cryptographyengineering.com)

173 pointsby supermatou96 コメント

要約

Anthropicは、未リリースの高度なモデルClaude Mythosを用いて、署名スキームHAWKに対する攻撃と、AESの削減ラウンドに対する攻撃という2つの暗号解読結果を発表しました。HAWKに対する攻撃は、まだ標準化されていないポスト量子安全署名スキームのセキュリティを低下させるもので、効率性の低下を招く可能性があります。AESに対する攻撃は、既存の7ラウンドAESに対する攻撃をわずかに改善するもので、実用的な意味合いは限定的です。これらの結果は、AIが既存のツールを応用して新しい攻撃を発見する能力を示していますが、結果の検証が新たな課題となっています。

全文翻訳

Anthropicの新しい暗号解読結果に関する考察

昨日、Anthropicは、まだリリースされていない高度なモデルであるClaude Mythosの成果として、2つの新しい暗号解読 結果を発表しました。最初の結果はHAWKという署名スキームを攻撃し、2番目の結果は削減ラウンドAESに対する改良された攻撃です。Anthropicはまた、これらの結果を生み出した研究プロセスを説明するブログ記事も公開しました。オンラインで何人かの人々が私にこれが何を意味するのか尋ねてきました。私自身も全ての答えを持っているわけではありませんが、現時点での私の理解について少し書くことは無駄ではないと思いました。これらは私の個人的な考えであり、他の人々(問題となっている2つの分野のドメインエキスパートを含む)は恐らく異なる意見を持つでしょうから、そのまま受け取ってください。

2つの新しい結果は、非常に異なる2つの分野をカバーしており、全体的に品質も非常に異なります。世界についての広範な発言や、全ての暗号資産を売却すべきかどうかについて話す前に、まずその実質について少し時間をかけて話しましょう。

Hawk(ホーク)。最初の結果は、非標準の署名スキームであるHAWKに対する新しい鍵回復アルゴリズムです。HAWKは、モジュール格子同型問題(module-LIP)に基づいた、ポスト量子安全な署名スキームとして提案されています。この結果自体の簡単なClaudeによる要約については、こちらを参照してください。この結果について知っておくべき5つのことがあります。

  1. HAWKは、展開されている、または標準として採用されているアルゴリズムではなく、提案されているアルゴリズムです。これは標準化されているFalcon署名スキームに関連していますが、この攻撃は(異なる困難な問題に基づいているため)その設定には適用されません。
  2. しかし、HAWKは将来の標準として評価されるプロセスで、ある程度進んでいました。
  3. この攻撃は、SF的な意味で「実際に展開されている」HAWKを壊すものではありません。結果として得られる攻撃は依然として指数時間ですが、アルゴリズムのセキュリティの「ビット数」を約半分にします。これは、理論的には鍵サイズを倍増することで修正できることを意味します。欠点は、これによりスキームの効率が悪化し、HAWKは代替案よりも効率的であることのみを動機としているため、スキームの存在意義が justify されにくくなることです。
  4. この攻撃は、作者がこの目的のために提供したHAWKの弱化された「チャレンジインスタンス」に対して、数時間の壁時計時間で実行される実際のコードを生成しました。このインスタンスは実際の展開のために提案されたパラメータを使用していませんが、暗号解読上の弱点を十分に実証しています。
  5. 特に懸念される点(そしてAIにとって特に適している点)は、この攻撃が根本的に新しい数学を発明したわけではないということです。それは単に、そこら中にありよく知られていたツールの多くを拡張し、良い結果を得ただけです。

この最後の点は重要です。私はClaudeにその考えを尋ねましたが、Claudeは遠慮なく言いました。「これが本当に興味深く、率直に言って、この分野にとって少し恥ずかしいのは、その構成要素のどれもがエキゾチックではないことです。」TL;DRは、誰かが単に我々の既知のツールをすべて、はるかに徹底的に適用したということです。これは攻撃AIが得意とするところです。

AES(エーイーエス)。2番目の結果は、削減ラウンドAESに対する新しい攻撃です。この結果は、ほとんどの人が「AESへの攻撃」と聞いてパニックになるため、最初はよりエキサイティングに聞こえます。しかし、これもはるかに、はるかに面白くない結果です。

このブログを読む人の多くは、AESがほぼ everywhere で使用されている標準的なブロック暗号であることを知っているでしょう。それは2001年から標準となっており、展開されているバージョンは、これまでのところ、それに対して投げかけられた実質的なものすべてに耐えてきました。これには、NSAによって実行された相当量の非公開テストも含まれます。完全な暗号を攻撃するのは非常に難しいため、暗号解読者が弱化された、または「削減ラウンド」バージョンの暗号に対して作業を行うのは標準的です。完全なAES暗号は、鍵サイズに応じて10、12、または14ラウンド実行されます。新しいAnthropicの結果は、この暗号のより弱い7ラウンドのバリアントを攻撃します。

決定的なのは、7ラウンドAESへの攻撃は新しいものではないということです。これらはすでにいくつか存在しています。実際、この新しいAnthropicの結果は、2013年の以前の研究(例:)に対するわずかな定数倍の改善です。これらの攻撃がAESを本当に「壊す」ことからどれほど離れているかを示すために、見出しの結果を挙げます。新しい攻撃には289回の暗号操作が必要であり、さらに悪いことに、この作業は、実際の暗号化装置に秘密鍵の下で選択平文の2^105回の暗号化を生成させることに成功した場合にのみ可能です!これらのどちらも、現実世界では現実的ではありません。そして、新しい結果はこの攻撃を以前の結果よりもわずかに高速化しますが、この結果における速度向上がどれほど「現実的」であるかは明らかでさえありません。実際の攻撃には289回の操作が必要で、「実行」することができないため、我々が持っているのは、すべての詳細が実際に解明された場合に実際の実行時間改善をもたらす可能性があるかどうかわからない、紙上の分析です。

これは結果を悪いものにするものではありません!実際、テクニックの観点からは依然として興味深いものです。しかし、それは実用的な新しい攻撃というよりは、我々の知識における非常に小さな増分です。したがって、TL;DR:ここには全く新しい数学的な結果はありません。しかし、それでも科学者を興奮させるような、実際の暗号解読の進歩です。そして、HAWKの結果は非常に意味のあるものです。なぜなら、そのスキームは標準化の現実的なチャンスがあり、今や(非常に可能性が高いですが)そうはならないからです。

さて、どうやってここにたどり着いたのか、そしてそれが何を意味するのかについて話しましょう。

Anthropicはどうやってこれらの結果を得たのか?

Anthropicの投稿は、彼らが何をしたかについて詳細に説明しており、正直に言って、それはかなり面白いです。いいえ、Anthropicのチームは、新しい結果を注意深く調整したドメインエキスパートの大規模なグループではありませんでした。彼らは単にAIに結果を出すように指示し、それがいくつか見つけるまで鼻を研磨機に押し付けたようです。もし私を疑うなら、彼らが使用したプロンプトの例をいくつか示します(彼らの投稿から引用):

[画像]

そう、AIはかなり良くなっています。要するに、それらは既存の暗号解読結果を理解し、それらを実際の新しい攻撃に合成し、さらには拡張することができるようになったのです。彼らは詳細な人間の介入なしにこれを行うことができるようです。これはまだ超知能的な暗号解読ではありませんが、かなり印象的です。

検証可能性がボトルネックになった

研究者として、私もモデルと多くの時間を費やし、様々なアイデアについて議論してきました。モデルが改善していると言うことに、誰も驚かないでしょう。過去数ヶ月だけでも、顕著な進歩が見られます。Mythosと10万ドルを持っていなくても、少なくとも1つの新しい高度な未リリースモデルに問い合わせることができ、数年間関心を持っていた質問に対する驚くべき新しい「結果」も受け取りました。

ここで本当の問題に入ります。モデルが新しい結果を出力したからといって、その結果が本物であるとは限りません。モデルが本物の結果を生成するのが得意だとしても、本物らしく見えるが誤解を招く結果を生成するのはもっと得意です。これは非常にフラストレーションがたまる可能性があり、しばしば人間の注意がこれまで以上に必要であることを意味します。

このルールには例外があります。「フル」攻撃(HAWKなど)の場合、攻撃が数時間で実行される(スキームの弱化されたバージョンに対して)場合、検証は非常に簡単です。コードを送信して、誰でも鍵を回復し、実際の選択平文に署名することを確認できます。AESの結果のような、より微妙な速度向上攻撃の場合、有効性の確認はそれほど簡単ではありません。ここでは、アプローチはより具体的です。形式的に検証可能なLean証明が役立つかもしれませんが、(これらの証明が簡単に作成できる場合でも)そのような証明は定理ステートメントの定式化方法に非常に敏感であり、多くの場合、人間の専門家による確認が必要です。

最近の多くのエキサイティングな 数学的結果にはこの特徴があることに気づくでしょう。それらは、よく理解された定理の機械チェック可能な証明を含んでいるか、(ヤコビアン予想のように)計算できる単純な反例を見つけることを含んでいます。あるいは、多くの専門家が結果をレビューするのに多くの時間を費やし、最終的に納得しました。この人間の確認の必要性は、我々の進歩を遅らせるでしょう。非壊滅的な暗号解読の例では、おそらくしばらくの間、我々はこのような状況になるでしょう。

実世界への影響は?

この質問への答えは、暗号の消費者、科学者、あるいは人類全体の話をしているかによって本当に異なります。一つずつ見ていきましょう。

暗号のユーザーにとって:2つの良いニュースといくつかの混合ニュースがあります。1つ目は、我々の対称暗号は非常に堅牢で信頼性が高いということです。農夫がトラクターを流砂に引きずり出し、セメントで埋めるのを想像してください。対称暗号設計はこのようなものです。それは、適用が速く簡単だが、解きほぐすのが非常に複雑で難しい構造を意図的に考案することです。多くの新しい生の知能時間(intelligence-hours)の追加は、これを魔法のように改善する可能性は低いでしょう。AIは、全く新しい技術を使用してこれらの問題に対して真の進歩を遂げることができるかもしれませんが、これまでのところ、それには必要とされる真に画期的な直感を示していません。そして、たとえそうしたとしても:それらを破るのがはるかに困難にするために、暗号自体を改善できるという希望の良い理由があります。

公開鍵暗号はより複雑です。公開鍵暗号は、一方向には高速な計算を可能にするが、逆方向にはそうではなく、かつ1つの当事者がプロセスを逆転させる便利な「トラップドア」を持つ数学的オブジェクトを必要とします。我々人間は、これを可能にするために、非常に都合の良い構造化された数学的オブジェクトをほんの数個しか思いつきませんでした。それらは、(EC)DLP問題、RSA、格子問題、およびコーディング理論の様々な問題といった、推測される「困難な問題」を含みます。我々はこれらに全力を尽くしてきましたが、これらの問題(RSAのような古いものさえ!)を分析することに専念した人間は十分に多くなかったため、他に良い攻撃がないと絶対的に確信することはできません。これは、コードベース暗号や格子ベース暗号のような新しい分野では特にそうです。

これは、AIが真の進歩を遂げるための肥沃な土壌がたくさんあることを意味します。

そうは言っても、良いニュースがあると言いましたが、それは本当です。現在、我々は、ECベースの暗号とRSAに基づいた従来の公開鍵アルゴリズムから、新しい問題に基づいた新しいポスト量子アルゴリズムへの歴史的な移行の真っ只中にいます。だからこそ、HAWKのような多くの標準が検討されているのです。もし、大規模な新しい公開暗号解読能力が登場するのに完璧な時期があったとしたら、まさに今です。AIが我々の困難な問題をすべて完全に弱体化させることに成功しない限り(あるいは我々がImpagliazzoのMinicryptの世界に住んでいない限り)、AIが暗号解読に長けるのにこれほど良い時期はないでしょう。最良の場合、我々は特定した問題に対する真の信頼を得て、暗号解読の文献がはるかに堅牢になるという結果になります。うまくいけば。

科学者にとって:これも素晴らしい時期です。あなたは今、一緒にいて楽しいプラスチックの仲間を得て、最も難しい問題について話し合うことができます。同時に、それはまだあなたの助けなしにそれらすべてを解決できるほど賢くはありません。さらに良いことに、新しい発見のペースが大幅に速まっています。これはほとんど良いことです!あなたがエネルギッシュであれば。私はまだ「これらの新しい結果の功績は誰にあるのか」「これらの新しい結果はすべて誰がレビューするのか」といった多くの疑問を持っていますが、今のところパニックにはなっていません。世界は着実に良くなっています。今のところは。

世界にとって:わかりません。もしあなたがこれらのモデルが「 glorified autocomplete 」であるとか、進歩が遅くなっているという印象を持っているなら、私はあなたに強く言いたい:そう考えるのをやめてください。モデルは非常に知的で有能であり、急速に改善しています。私がそれらに見てもらった特定の種類の問題について、過去5ヶ月間だけでも測定可能で印象的な進歩を引用できます。もし天井があるとしても、私はまだその証拠を見ていません。モデルが愚かだと思う人々は、主にGoogleの無料AI検索結果を使用しており、ハイエンドのもの(20ドルしかかからず、手の届かないものではない)とやり取りしていません。そして、彼らは主に新しい分野で働いていません。

一方で:もしあなたがモデルが超知的であるとか、AGIがすでに存在すると考えているなら、それも考えるのをやめるべきです。これらのツールを扱うことは、地面が急に落ち込む池で泳ぐようなものです。ある瞬間は快適に歩いていて足元に支えがありますが、突然特定の線を越えると、自分で泳ぐことになります。このアナロジーは、モデルが役立つ状態から無知な状態に移行するときの感覚を説明する最良の方法です。現在、高度な研究を行っている人間にとっては、その線を見つけるのは簡単なので、知性がどこで低下するかを知っています。しかし、その線は動いています。足元でゆっくりと外側に漂っているのを感じることができます。

これが良いか悪いかは、人間が歩くことを好むか泳ぐことを好むか、そして地面自体が動いている池で泳ぐことに快適であるかどうかにかかっています。

私があなたと共有できる唯一の良いニュースは、科学者、弁護士、営業担当者、さらには配管工でさえ、私たち全員が同じ池にいるということです。次に何が起こるにしても、おそらく私たち全員に起こるでしょう。それが良いことであることを願っています。