数学の終焉

私は現在、OpenAIで開催された数学の未来に関するサミットからトロントに戻っています。セバスチャン・ブベックは、私に、私たちが皆避けたい未来、つまり人間が数学的に無力化される未来について少し話すように頼みました。ジェイコブ・ツィマーマンは、正確さよりも詳細を優先するように私たちに助言し、私は正確さを優先しなかったことを疑う余地はありません。私は、あまりにも大げさでないタイトルを見つけようとしました。ワークショップの前提（生産的な議論のために、議論の対象ではなく、出発点として受け止めました）は、AIが数学において堅牢に超人的になるということでした。私は、それにもかかわらず、数学の進歩が停滞する物語を語りたいと思います。これを明確にしておくと、これは予測ではありません。私は楽観的な性質を持っており、私たちが適応する方法を見つけると信じていますが、既存のトレンドが続く未来がどのようになるかを想像しようとしています。2026年、明らかなことは、私たちが数学的成果の巨大な爆発の始まりにいるということです。例えば、以下は2021年後半から週ごとのarXivへの組み合わせ論の論文投稿数です。他の分野も同様ですが、それほど劇的ではない上昇を示しています。数学の結果に関するツイートの時系列も同様になると想像します。この余剰がどれほど興味深く、あるいは正確であるか、ましてやどれだけ意味のある関与がなされているかは、それほど明らかではありません。それにもかかわらず、それは多くの注目すべき、そして重要な新しい結果を含んでいます。同時に、数学コミュニティの特定の器官が萎縮しています。以下は、月ごとのMathOverflowの質問と回答のグラフです。これらの数字は、MathOverflowの機能がDiscordなどに食い荒らされて以来、ゆっくりと減少していますが、2025年初頭からの減少は、おそらくAIの大部分によるものです。私が注目しているのは、質問も回答も減っていることです。例えば、統計データで古い質問への回答の増加や、ポジティブに解釈できる他の統計データを見つけることができませんでした。AIによって生成された最も興味深い結果の中にも、何か奇妙なことが起こっています。例えば、3つのグループがほぼ同時にFeigeの1/e予想の非常に似た証明を独立に作成しました。2つのグループは、その結果がAIによって発見されたことを開示しました。@__alpoge__がヤコビ予想の3次元以上の反例を投稿した後、OAIの内部モデルがそれを再現しました。同様にAnthropicは、OpenAIが発表した最近の結果の多くを再現しました。モデルとそれを使用する人々は、同じ問題を解決しているようです。実際には、これは、人間とAIの両方で、トークンと、問題が既存のモデルで解決できることを示す少数のビット情報にかかるコストに本質的に等しい、価値の低い作業に膨大な重複した労働力が費やされていることを意味します。2027年もちろん、この作業は発表する人々（クレジット、PRなど）にとって価値があるかもしれません。現在、私たちは論文を生産し、定理を証明し、予想を解決した人々を報酬で報いることによって、質の高い科学の生産を奨励しようとしています。しかし、これらの成果は現在誤って価格設定されており、それらを奨励することが質の高い科学の生産にとって明らかに最適ではありません。今後数年間もそうし続けた場合、どうなるでしょうか？私は、少なくとも中期的には、キャリア成功のための支配的な戦略は、予想の Слотマシンをプレイすることだと思います。実際、予想を選択する必要さえありません。Codexにそれを選択させ、解決させ、作業を確認させることができます。正確な論文を生産したいのであれば、この方法で1日に複数の短い論文を生産できます（そして、それをしている人々がいます）。正確さを気にしないのであれば、さらに多くを生産できます（そして、それもしている人々がいます）。付加価値は何でしょうか？トークンのコスト？確かに、開発された専門知識ではありません。専門知識はありません。著者でさえ、この作業の多くを読んでいません。数学者は、基盤となる数学から切り離されています。モデルがより信頼性が高くなるにつれて、人間の検証でさえ価値が低下する可能性があります。さらに、これは数学コミュニティに深刻な悪影響を及ぼしています。モデルがいくつかの主要なアイデアから論文を再構築できるポイントに近づいています。私たちが現在見始めている自律的なAIの結果のいくつかは、「ラストマイル」の風味があり、他者の深い最近の作業の後に問題を完成させます。この世界では、進捗中の作業について話すこと、あるいはモデルが特定の問題を解決できることを示すことさえ、ますます危険になっています（少なくとも、そのような作業に名声や仕事などを報酬として与え続ける場合）。最近、複数の同僚から、この理由で進捗中の作業について話すことをためらっていると聞きました。2028年それにもかかわらず、いくつかの明るい兆しがあります。自動形式化は安価で効果的になります。文献の多くのギャップやエラーが発見され、修復されます。ここで人間の判断が必要であること、声明や定義が正しく形式化されているかを確認することについて、多くの議論がなされてきました。私はこれに懐疑的です。モデルがこれを効果的に実行できない理由はありません。一方で、形式化が、読者には明らかではないかもしれない、それが形式化している英語のテキストと異なるケース（スライドの2つの例など）をすでに目にしています。再び数学者は数学から切り離されています。過去の作業の声明を信頼できるかもしれませんが、アイデアを信頼することはより困難です。非形式化はこれを少し助けますが、それは費用がかかり、時間がかかります。2029年—それにもかかわらず、この職業は依然として論文の生産を奨励しています。モデルは、人間が現在行っているすべての機能、つまり理論構築、予想、予想の解決、反復などを満たし始めます。人間の数学者は、エージェントと「実験室科学」を行っており、おそらく興味のある質問に計算を指示しています。誰がこの作業に関与しているのでしょうか？私たちは次世代をどのように訓練しているのでしょうか？現在の制度がこの新しい体制に適応しない場合、質の高い数学者を輩出し続けることができるかどうかは、私には明らかではありません。実際、既存のインセンティブ構造は、数学に深く関与しない人々、あるいは、議論の余地があるかもしれませんが、それを気にしない人々を報いるようになると私には思えます。これは持続可能な数学の実践につながるでしょうか？ plausibly にはそうではないと思います。なぜそのような人々が数学を行うエージェントにリソースを捧げ続けるのでしょうか？おそらく、この世界における数学研究の長期的な姿はこうなるでしょう。いくつかの可能なリスクの要約：これらの問題は、この職業自体がすでにさまざまな点で不完全であるという事実の反映であることを指摘したいと思います。これは驚くべきことではありません。AIによって引き起こされる変化が私たちの制度にストレスをかけると、当然、すでに欠陥のある場所でひびが入るでしょう。おそらく、この外的ショックは、これらの欠陥の一部を修正する機会を与えてくれるでしょう。私たちの制度は、特定の価値観（質の高い科学の生産、人的資本、人間の理解など）を持っており、それらに貢献する人々を、楽しみ、名声などで報いることによって達成しようとしています。これらの価値観は、非常に有能なAIが存在する世界でも存続しますが、それらを達成するために使用されるメカニズムは、多くの場合、非常に有能なAIに対して堅牢ではありません。いくつかの最終的な質問：私の知る限り、私は数学が生き残り、繁栄すると広く楽観視しています。私たちは信じられないほどのことを学び、理解する機会を得ています。私たちは適応すると思います。これらの懸念の多くは、高度に有能なモデルが抽象数学の世界を超えて大規模な社会的混乱を引き起こすため、今後数年間で時代遅れまたは偏狭に見えるかもしれません。私の希望は、ここで提起する質問が生産的に検討できるほど狭く、そして私たちの答えが、影響を受ける他の人々のモデルとして役立つことです。