私はフィールズ賞受賞者たちの手紙に署名しませんでした

なぜ私はフィールズ賞受賞者たちの書簡に署名しなかったのか

[この記事はテレンス・タオのブログにも転載されています。]

私が11歳くらいの頃、初めてフェルマーの最終定理について聞きました。その問題提起とそれにまつわる話にすぐに魅了され、証明を試みるというかなり真剣な取り組みをしました。そして、予想通り失敗しましたが、その試みから多くのことを学びました。オイラーが200年以上前に［画像: n=3］のケースを証明していたという事実を知らずに、そこから始めるのが良いだろうと考えました。それを解決できれば、一般の場合にも対応できるだろうと楽観的でした。

どうすればよいか見当もつかなかったので、問題をさらに単純化し、立方数の差に集中して、それがそれ自体立方数にならないことを示すことにしました。当時は、自分のやっていることを代数的にどう表現すればよいか分からなかったので、ディオファントス方程式［画像: 3n^2+3n+1=m^3］に解がないことを証明しようとはしませんでした。むしろ、いくつかの連続する差を計算して、それらが完全な立方数にならない理由を理解しようとじっと見つめていました。（この話は、半世紀以上前の記憶の断片から再構築されたもので、完全に信頼できる記録ではないことを明確にしておくべきです。）ある時点で、差分の差分列を取るというアイデアを思いつき、それが等差数列を形成することを発見しました。それは進歩のように感じられたので、差分列についてさらに調査し、経験的に、［画像: n］乗から始めて連続的な差分を取り続けると、最終的に定数列［画像: n!, n!, n!, ext{...}］にたどり着くという規則を発見しました。

どういうわけか、この観察をフェルマーの最終定理の証明に変えることはできませんでした。そして後に、その定理を解くという私の夢は、他の数学的な夢に取って代わられました。しかし、数学教育において差分列の取り方や多項式の扱いについて学んだとき、差分列を自分で発見し、それらと楽しく時間を過ごさなければ学べなかったよりも、それらのトピックをずっとよく理解できました。この話は、25人のフィールズ賞受賞者が署名したこの書簡で強く強調されている現象の例として挙げただけです。問題を解決したかどうかに関わらず、問題について考えることから多くのことを学ぶことができるのです。

しかし、結局、書簡の多くの内容に同意したにもかかわらず、私はそれに署名できないと感じました。代わりに、ライデン宣言の時と同様に、自分の立場をブログ記事で表明するのが良いと思いました。しかし、そうすることで、私が何らかの反対派のメンバーとして自分自身を位置づけているわけではないことを理解してほしいのです。実際、現在の私の懸念の一つは、数学界が激しく分裂する可能性があり、私はそれを非常に避けたいということです。また、私たちは危機に直面しているという根本的な点には同意します。ただ、その危機が何であるかについて、少し異なる分析を提供したいのです。この分析に完全な独創性を主張するわけではありません。なぜなら、すでに他の多くの数学者が私と似たような考えを提示していることを知っているからです。しかし（価値があるかどうかは別として）、私はこれらの結論にほぼ独立して達しました。

独立性という点では、OpenAIの数学グループと連絡を取っており、彼らのモデルの一部に早期アクセス（通常はリリース数日前のもの）を与えられ、リリース後はProモデルへの無料アクセスも受けていますが、OpenAIから報酬を受け取ったことは一度もありません。このことを、おそらくナイーブな希望から述べていますが、私の書いたことが理由による却下を免れることを願っています。私が「AI推進派」と見なされるもう一つの可能性は、公に何度か述べたように、ケンブリッジで自動定理証明に特化したグループを持っていることです。しかし、それは実際にはAI反対派の理由になるかもしれません。なぜなら、私たちのグループは、人間が興味深い定理をどのように証明するかを可能な限り理解することによって、コンピューターに興味深い定理を証明させるという問題に取り組んできたからです。そのため、LLMが私たちの洞察なしにそれを明確に実行できるようになった今、私たちの仕事の主な動機の一つは失われました。別の言い方をすれば、私たちは［ビットコインの教訓］（もちろん、それが起こる可能性は常に認識していましたが、その速度には驚かされました）を飲み込む必要がありました。LLMをブラックボックスとして使用できるとしても、この理解を得ようとすることは、依然として非常に興味深く価値のある知的演習だと私は思いますが、それは別のブログ記事のトピックです。

では、なぜ私は書簡に署名しなかったのでしょうか？書簡が提示している主な議論と思われるものをいくつか抜き出してみましょう。

しかし、問題解決は、概念的な理解と洞察という主要な目標を達成するためのツールであり代理にすぎません。AIの世界でこれを忘れると、ツールが主要な目標に反する可能性があります。実際、「真偽」のステートメントがますます速いペースで大量生産されると、新しいアイデアに命を吹き込むのではなく、肥沃な大地を破壊する可能性があります。

おそらく私が署名しなかった主な理由は、この見解に完全には同意しないからです。むしろ、私はより複雑な見解を持っており、それは25年前に書いたエッセイ「数学の二つの文化」で実際に表現したもので、問題解決と概念的理解の関係に対する数学界の態度のスペクトルがある、と要約できます。スペクトルの片端には、主に問題解決の願望に動機づけられた数学者がおり、彼らは概念的理解をそのための非常に重要な手段と見なしています。もう一方の端には、主に概念的理解の達成を願って動機づけられた数学者がおり、彼らは問題解決をそのための非常に重要な手段と見なしています。私は、この深刻な不一致に関する書簡が、「正しい」態度は概念的理解を最優先事項とすることであると見なされる可能性があることを懸念しています。上記の文はそのことを多かれ少なかれ直接述べています。しかし、私はスペクトルの全域に数学者が存在しており、それが良いことだと考えています（あるいは、これまで良いことだったと言うべきかもしれません。未来ははるかに不確かです）。そして、多くの数学者、私自身を含めて、彼らの数学的な気質が何らかの形で「間違っている」と示唆したくはありません。

私自身の特定の数学的態度は、ジェイコブ・ツィマーマンのTwitter投稿（書簡の別の非署名者）で美しく表現されたものに非常に似ています。そして、その投稿はダニエル・リット（私の意見では、数学とAIに関する最も賢明なコメンテーターの一人）への応答です。彼の見解は、こちらの後の投稿で表現されており、私は意図的にこの投稿を読み終えるまで読みませんでした。そして、予想通り、かなりの重複があることが分かりました。また、ノア・スミスの「英雄時代の終焉」という優れた投稿も、まだ読んでいない方のために紹介しておきたいと思います。

これまでは個々の数学的理解について話してきましたが、署名者のほとんどが懸念しているのは、それよりも、人間の問題解決活動から少なくとも部分的に生じる集合的な理解であると推測します。彼らは、たとえ集合的な理解が主要な目標であったとしても、多くの個人が主に問題解決の願望に動機づけられているのであれば、それは全く問題なく、集合的な理解に貢献すると、完全に首尾一貫して主張するだろうと推測します。

その解釈で、問題は少し異なります。数学コミュニティの集合的な理解を可能な限り進歩させることと、可能な限り多くの問題に対する解答を得ることのどちらがより重要でしょうか？あるいは、それらは異なる方法で価値があるため、一方を他方より重要だと宣言しても意味がないのでしょうか？あるいは、それらは切り離せないほど結びついているため、一方を他方より重要だと主張しても意味がないのでしょうか？そして、「重要」と言うとき、誰にとって重要だと言っているのでしょうか。数学者にとってですか、それとも社会全体にとってですか？

これらの難しい質問に直面しているので、単に答えを宣言したくはありません。（そこで何をしたか分かりますか？）代わりに、たとえそれが暫定的なものであっても、私が到達した結論に対して少なくとも何らかの議論を提供しようと思います。それでは、2つのシナリオを比較してみましょう。最初のシナリオでは、実際により可能性が高いと思いますが、ほとんどすべての数学者よりも問題解決能力の高いモデルが一般公開されます。モデルができないことをできる少数の残存数学者がいたとしても、彼らもモデルを重用すれば、はるかに速く作業できます。これにより、短期間で、私たちが深く気にかけてきた多くの問題に対する解答が得られますが、これらの解答が得られる速度は、数学コミュニティがそれらを吸収できる速度をはるかに超えます。特に、ほとんどの解答は人間の数学者によるゼロの努力、つまり「ありがとう、続けてください」といったプロンプトだけで得られます。

2番目のシナリオでは、全く別の理由で、現在のモデルよりもはるかに強力なモデルの一般公開を阻止するという国際的な合意があり、テクノロジー企業内の数学者たちは、内部モデルに主要な問題を解決させないことに同意します。代わりに、彼らは数学コミュニティからの指示を受け、ある問題の解決の利益が、人間がより長い期間かけてそれを解決しようと苦労する利益を上回ると判断した、適切に代表された組織から求められた場合にのみ問題を解決します。

この2つのシナリオが、個人の理解と集合的な理解の両方にどのような違いをもたらすかを検討したいと思います。まず個人の理解から始めます。

もし私たちが突然、大量の大きな新しい結果に溢れたとしても、個人の理解にとってはそれほど大きな変化はないと主張する人もいるかもしれません。すでに、私が理解できる見込みがあるよりもはるかに多くの数学が存在します（例えば、フェルマーの最終定理が証明されたときに魅了されましたが、その証明を理解しようとはしませんでした）。そして、私が理解している部分でさえ、自分で発見した部分がごくわずかですが、それは私が他の何よりも深く理解している部分です（少なくとも一時的には。しばらくすると、物事を忘れ、築き上げた理解の多くを失います）。しかし、個人の理解の構築という観点から見ると、ポジティブな変化として、研究する結果の選択肢がはるかに増えるでしょう。また、どこかで立ち往生した場合、AIが助けてくれるでしょう。主な否定的な変化は、難しい研究問題に何ヶ月も何年も苦労して費やすときに使う脳の部分を、おそらく行使しなくなるだろうということです。これは理解を深めるのに非常に役立つ可能性があります。

「可能性が高い」と言ったのは、原理的には、LLMに相談せずに非常に難しい問題について考えることを妨げるものは何もありませんが、実際には、人々が現在行っているのと同じレベルの努力を払うことは unlikely だからです。状況は、カーナビゲーションシステムのようなものかもしれません。地図を見て、ルートを学び、それに従う脳の部分をアクティブに保つために、それを使わないことをいつでも決定できますが、実際にはほとんどの人がカーナビゲーションシステムを使う誘惑に屈します。（実際、私はその部分の脳をアクティブに保つように努めており、最近、携帯電話でルートを少し調べたものの、実際に行くときに携帯電話を持っていくのを忘れたときに、自分で道を見つけたことにかなり誇りに思っていました。）しかし、AIの出力を読んでいるだけであったとしても、脳の「問題解決筋」は完全に萎縮することはないと思います。学生が数学の論文を読むとき、私は彼らに「受動的」ではなく「能動的」に読むように強く勧めます（これはかなり標準的なアドバイスだと思います）。自分で結果を証明しようとしたり、行き詰まってヒントが必要なときにだけ論文を見たり、それでもヒントだけを得て、それ以上のことはできるだけ少なくするように、といったことをします。そのように論文を読むと、常に問題を解いていることになります。簡単な演習問題もあれば、かなり難しい問題もあります。LLMは私たちの数学的な背景を理解し、数学の論文を能動的に読み進めるのに役立つ、ちょうど良いヒントを提供してくれるようになる可能性が高いです。はい、私たちは自分で難しい問題を解決することによって得られる、特に深いレベルの理解と所有権を失うでしょうが、その結果として数学の進歩が損なわれるかどうかは私には明らかではありません。この点について、的確な反論を聞くことに非常に興味があります。つまり、AIが証明を見つけることにおいて私たちよりもはるかに優れている世界で、証明とのそのような深い関与がどのような役に立つのかを知りたいのです。

集合的な理解についてはどうでしょうか？書簡のもう少し引用してみましょう。

実際、「真偽」のステートメントがますます速いペースで大量生産されると、新しいアイデアに命を吹き込むのではなく、肥沃な大地を破壊する可能性があります。

多くの場合、これらの解決策は急いで発表され、適切な執筆、新しい方法やアイデアの特定、他者の関連する過去の研究の引用に時間が残されていません。すべての創造的な職業と同様に、これは深刻な帰属と盗用の問題を引き起こします。さらに、それらの開発と数学的規範への統合を担う意欲的な数学者がいなければ、AIによって考案されたアイデアは決して完全に生き生きとせず、数学者間の重要な人間の伝達連鎖が失われるでしょう。

適切な引用の問題に戻り、ここで中心的な懸念と思われる点に焦点を当てます。それは、結果があまりにも速く証明されると、消化プロセスが不可能になるということです。結果が適切に消化されないことを私は間違いなく懸念していますが、それは異なる理由からです。

最初の注意点として、AIが生成しているのは単なる真偽のステートメントではありません。私たちは今や、滑らかな強制力を持つナビエ・ストークス方程式が有限時間で爆発することを知っているだけでなく、それに対する証明も持っています。それは人間の数学者による素晴らしい仕事の多くに基づいています。多くの人々は、AIが全く不透明な証明で私たちの好きな問題を解決するだろうと懸念していましたが、それはそうはなっていません。たとえ彼らの執筆がしばしば不十分であっても。（ちなみに、私はこれらの不十分な執筆を、数学の実践や将来の数学的理解に対する根本的な脅威ではなく、ほぼ間違いなく一時的な迷惑と見なしています。）

第二に、たとえ新しい結果の量が膨大であっても、数学は高度に専門化された分野であるため、数学者は並行して作業できます。例えば、1年間に1000の重要な結果を、数学全体にほぼ均等に分布して消化する必要があったとすると、ほとんどの数学者のサブコミュニティはそれぞれ約30の結果を理解したいと思うでしょう。そして、個々の問題ごとに、その理解に到達するリーダーとなるであろう少数の専門家がいる可能性が高く、その少数派は問題ごとに異なるでしょう。したがって、それは大きな課題ですが、必ずしも不可能な課題ではありません。

この文脈では、人間の数学者の膨大なアウトプットの量を考える価値があります。AIが登場する前から、それは最近増加しているようです。これについて不満を聞いたこともありますが、人間の数学者には証明のペースを遅くすべきだという提案は聞いたことがありません。それは、定理の著者が論文をうまく書き、良い講演をするように努めているからかもしれません。しかし、うまく書かれていない論文や、理解不能な講演をする著者の論文の大量についてはどうでしょうか？それは迷惑かもしれませんが、それはよくある迷惑であり、私たちが危機と見なすものではありません。

第三に、AIのアウトプットの量が、私たちがそれを適切に消化するには大きすぎるとしても、それは必ずしも悪いことではありません。不完全なアナロジーを引くと、ストリーミングサービスで利用できるコンテンツは、誰かがすべてを視聴できる量を超えています。その結果、ほとんど視聴されていない非常に良いコンテンツがほぼ間違いなく存在します。しかし、それは、コンテンツがはるかに少なく、すべてがそれに値する注目を集めていた場合よりも明らかに悪い状況ではありません。数学に戻ると、AI生成コンテンツが消化するには多すぎた場合、私たちが消化したい部分を選択できます。

そのためには、何があるかについてのアイデアが必要になります（人間の数学者が通常、証明を詳細に理解していなくても、自分の分野でどのような結果が知られているかについてかなりのことを学ぶ状況と少し似ています）。それを達成するための一つの方法は、おそらくAIの助けを借りて、よく設計されたデータベースを作成することです。しかし、それは不要かもしれません。代わりに、LLMに話しかけて、理解したい数学の分野の概観を、その「何があるかを知る」方法で教えてもらうことができます。

AIによって非常に興味深く重要な数学の一部が発見され、見過ごされるのではないか、しかしそれが人間の数学者によって発見されていれば見過ごされなかったのではないか、という恐れがあるようです。それは事実かもしれませんが、重要なのは、AIによって発見された興味深く重要な数学のうち、見過ごされない量が、AIがより控えめな役割を果たした場合に人間が発見し適切に消化したであろう興味深く重要な数学の量を超えるかどうかです。

要するに、AIによる「大きな」結果の洪水は、適切に消化されない重要な数学の量を増やす可能性が高いですが、適切に消化される量も増やす可能性が高いように思えます。これはかなり良い取引のように思えます。

AIが人間の数学者を適切に評価しない問題について、簡単に議論しましょう。これは現在深刻な問題であることに同意しますが、それは私が一時的な問題と見なす別の問題です。非常に間もなく、驚くべき証明を見つけることは、市民科学者が望遠鏡を通して新しい彗星となる天体を見つけることよりも知的な偉業ではなくなるため、全体の「クレジットシステム」は確実に崩壊するでしょう。それが起こるまで、キャリアがかかっているため、人間に値するクレジットを与えることは重要ですが、それもすぐにそうではなくなるでしょう。この問題が存在することに困惑しています。LLMに証明を見せて、それに含まれるアイデアがすでに文献にあるアイデアに近いかどうかを尋ねれば、そのタスクに非常に優れているはずだと思うからです。この謎の答えは、人々が急ぎすぎて、この作業を行う手間を省いてしまったということではないことを願っていますが、少なくともいくつかのケースではそうかもしれないと恐れています。もしそうなら、不注意だった人々は批判されるべきですが、それは数学の存続に比べれば些細な問題です。特に、引用の不足がすぐに是正されるのであれば。

これらすべてが、AIが主要な定理を証明できなくなった場合よりも、AI後の世界で数学者が少なくとも同じ量の数学を消化することに楽観的であることを意味するのでしょうか？正確にはそうではありません。しかし、私の懸念は、私たちがそれをできないということではなく、むしろ、この消化プロセスを現在サポートしている社会構造が破壊され、適切に置き換えられないということです。

そのように起こりうる一つの方法は、AIが社会をひどく混乱させるか、あるいは私たちの大半を殺してしまうことです。そのため、現在の数学的伝統のようなものを保存することは、もはや関心の対象ではなくなり、すべてが重要になるのは人類の生存だけです。しかし、それは別のブログ記事のトピックです（実際、私はそれを書いている途中です）。

代わりに、幸運にもAIが多かれ少なかれ制御下にあると仮定しましょう。私の懸念は、私たちが知っていることを新しい世代の数学者に伝えられないことです。私自身、数学者になった主な動機は、未解決の問題を解決するという夢でした。有名な問題ほど良いです。また、私は常に、本や論文を読むよりも、問題に直接取り組むことをはるかに好んでいました（それが良いとは言いませんが、自分自身の事実として述べています）。もし有名な問題を解決するという夢がなかったら、私が数学者になったかどうかは分かりません。完全に否定するわけではありません。おそらく私を本当に動機づけたのは、私がその分野の適性を持っていたこと、そして問題解決が少数の仲間の尊敬を得る方法だったのかもしれません。そして、数学のある分野について非常に一生懸命考え、他の人に自分がどれほどうまく理解しているかを証明できるようになることによって、その尊敬を得ようとしたかもしれません。しかし、それが私にとってどれほど動機づけになったかは分かりません。私は、それが強力な動機となる若い人々がいることを強く望んでいます。なぜなら、人間の数学的伝統の存続は、それに大きく依存する可能性があると考えるからです。

したがって、私が考える主なリスクは、数学の博士号を取得し、数学的伝統の管理者になったであろう多くの人々が、もはやそうしたくなくなるということです。博士課程の学生がいる私たち（私自身を含む）は、彼らが時間を生産的に使うための想像力豊かな方法を考え出すために、できる限り努力する必要があります（もちろん、学生自身と相談の上で）。私たちがその仕事にどれほどうまく取り組むかは、数学の未来に大きな違いをもたらす可能性があります。関連するリスクは、政策立案者の間で、数学者はもはや必要ないと認識され、資金調達がより困難になることです。私たちは、たとえ新しい定理の証明を見つけることがもはや彼らの役割の一部でなくなったとしても、人間の数学専門家の大きなプールを持つことの価値を説明するための良い方法を緊急に見つける必要があります。

私が書簡に署名しなかった最後の理由は、それがすでに起こっていることと要求していることの違いがよく分からなかったからです。おそらく数ヶ月のうちに、主要な数学的問題を解決できるLLMがリリースされるでしょう。そして、おそらく日常的な問題には全く問題なく対応できるでしょう。それをどれほど残念に思っても、そのようなモデルが数学に与える影響がAI企業にリリースを中止させる可能性はありません。ただし、安全性に関する懸念が遅延を引き起こし、適応方法を考えるための時間を少し与えてくれるかもしれません。それらがリリースされると仮定すると、それが望むと望まざるとにかかわらず、新しい結果の洪水が発生します。そして、それらを生成するのはAI企業ではなくなるでしょう。ただし、AI企業がより強力なモデルにアクセスできるようになり、ヘッドラインを飾る結果の大部分を得るというパターンは続くかもしれません。したがって、AI企業が速すぎる解決策を生成しすぎていると批判しても、何も得られないと感じました。実際、それは、いずれ起こるであろうことを数ヶ月早めるだけであり、モデルが一般公開された後にランダムな人々によって発見されるよりも、より管理された方法で結果がリリースされる可能性さえあるかもしれません。このような状況下では、最善のことは、来るべき変化を認識し、最も不満足の少ない対処方法を見つけようとすることだと思います。

タグ: ai, artificial-intelligence, math, mathematics, technology

この記事は2026年9月17日午前7時55分に投稿され、AI and mathsに分類されています。この記事への応答はすべてRSS 2.0フィードを通じてフォローできます。応答を残すことも、自分のサイトからトラックバックすることもできます。