悲しむべきか、悲しまざるべきか?
To grieve, or not to grieve? (xenaproject.wordpress.com)
要約
AIが数学分野で急速な進歩を遂げる中、数学者たちの間では様々な反応が見られます。著者は、AIの成果に対する数学者たちの「否認」「怒り」「交渉」「抑うつ」といった悲嘆の段階にある見解を概説しつつ、自身はAIの未来に興奮していると述べています。数学の目的は、単なる定理の証明ではなく、深い人間的な理解にあるという視点も提示しています。
全文翻訳
悲しむべきか、悲しまざるべきか?
数学におけるAIの最近の出来事は、この分野がこれまで見たことのないほどの急速な変革を遂げていることを、合理的な疑いを超えて示しています。言語モデルは人間には解けなかった難しい問題を解決しており、数学者たちはこのニュースに非常に異なる反応を示しています。個人的には、この分野の未来に非常に興奮しています。しかし、私の見解がコミュニティの全員と共有されているわけではないことが明らかになりつつあります。実際、多くの同僚が動揺しているようです。そこで、まず彼らの立場についての私の理解を概説することから始めましょう。
AIペシミスト
エリザベス・キューブラー=ロスの悲嘆のプロセスモデルは、今やよく知られています。5つの段階は、否認、怒り、交渉、抑うつ、受容です。これらの最初の4つは、現在、数学界で非常によく表れており、多くの数学者が彼らにとって非常に愛された何かを失ったと感じているという主張に重みを与えているかもしれません。しかし、その見解が悲嘆であるとは全く感じていない数学者もいるでしょう。私たちは皆悲しんでいるわけではありません。しかし、私たちの多くは悲嘆の段階のいずれかにいます。
否認
Human Mathematics協会は、その目標が「人工知能の脅威」と呼ぶものから数学を人間の営みとして保護することであると公に述べています。会員はAI生成された出力を公開しないことを約束しており、研究能力におけるAIの使用を完全に放棄し、これらのツールを使用せずに証明を見つけ、例を探求することを約束する「AIフリー」のオプションがあります。会員との会話から、この協会に参加する動機は、AIが数学に何をしているかについての深刻な懸念から、AIが地球に何をしているか、あるいは人類に何をする可能性があるかについての深刻な懸念まで、複数あると理解しています。この協会の著名な会員はフィールズ賞受賞者のPeter Scholze氏であり、最近のAIと数学に関するハイデルベルク・ローリエート・フォーラムのパネルで、彼はAIを使用しないと述べ、さらに「私はこの丘で死ぬ、そしてその丘で死ぬ公人になるだろう」と語りました。彼の理由はこちらで聞くことができますこちら。
怒り
proofs and promptsのウェブサイトには、さまざまな意見を代表する投稿が含まれており、怒っている人々の投稿を見つけるのは難しくありません。著名な例の1つは、Vlad Lazic氏の投稿こちらです。Lazic氏は、こちらで彼の見解をより詳細に概説しており、そのサイトには同様の感情を持つ他の数学者によって書かれた記事へのいくつかのリンクが含まれています。
交渉
Advisory Group on Mathematics and Artificial Intelligenceは、シニア数学者(フィールズ賞受賞者3名を含む)からなる独立委員会であり、火曜日にOpenAIが「内部モデルによって生成された多数の重要な数学的結果を保有している」というニュースに応えて勧告を発表しました。勧告の最初の段落からの引用は、「この慣行を支持せず、[フロンティアAIラボ]に高度な数学的問題を専有モデルでテストするのをやめるよう求める」というものです。彼らはさらに、ラボに結果を「責任を持って」公開するよう求め、ラボが今後検討できるさまざまな行動を提案しています。例えば、「公開するAI数学的出力の人間による理解の開発を支援すること、資金提供を含む」などです。これらの「重要な結果」と「人間による理解」というフレーズについては、後でまた触れます。
抑うつ
あなたが数学者であれば、おそらく少なくとも一人、このように感じている人を知っているでしょう。私が知っている流体力学を専門とする教員は、ナビエ–ストークス方程式のニュースは「非常に憂鬱だった」と語りました。私が知っているポスドクは、数学研究をやめることを考えていると語りました。私が知っている博士課程の学生は、自分の研究で補題につまずき、ChatGPTが一発で解決してしまい、一体何の意味があるのか疑問に思ったと語りました。
間奏曲:なぜ人間は数学をするのか
まず、上記のリストは決してこれらの立場のいずれかに対する批判を意図したものではないことを明確にしておきたいと思います。それぞれの立場を公平に扱ったつもりです。私の高く評価している何人かの人々が上記のリストに含まれており、最近私は、おそらく悲嘆に暮れている友人や同僚が懸念していることに熱心に耳を傾けようとしています。しかし、それでも毎朝、この分野の未来に興奮して目覚めるという事実は変わりません。その理由を説明する前に、数学を行うことの論争的な問題について議論しましょう。
Thurstonの数学観
AIが難しい定理を証明できるようになったという事実は、人間がそもそもなぜ数学をするのかという議論に急速につながりました。数年前なら、多くの数学者は、数学界が最も難しい定理を証明した人々に最大の賞や栄誉を与えていることに喜んで同意したでしょう。しかし、今やAIが難しい定理を証明しているので、実際には、私たちの分野を最も深く理解させてくれるアイデアを持つ人々にこれらの賞を与えているのだと説明するのに多くの時間を費やしているようです。また、現時点では、最も深いAI生成の数学的証明は、典型的には書き方の悪いPDFまたはPDFなしで提供され、Leanでの完全な形式化が伴い、証明の正しさに対する超人的な信頼は与えられますが、アイデアがどこから来たのか、あるいは新しいアイデアがどこにあるのかについてはほとんど手がかりを与えないことも注目に値します。ここでもScholze氏に譲りますが、彼はこちらで、有理数体上のランク29の楕円曲線に関するElkies–Klagsbrun構成には幾何学的な説明が伴ったが、新しいランク30およびランク31の楕円曲線には方程式以外何も伴わなかったと指摘しています。「私たちは何も学ばなかったのです」。
「定理の数ではなく、人間の理解が重要だ」という分野のフレーミングのよく引用される正当化は、Thurstonの1994年のエッセイ「On proof and progress in mathematics」であり、実際、Taoのブログにはこのエッセイからの引用がトップに表示されています。想像できるように、数学の「目的」というこのフレーミングは、ソーシャルメディアでいくらかの皮肉に迎えられ、数学者が生き残るために必死に目標を移動させているという主張さえあります。しかし、この皮肉は実際には正当化されません。この分野の専門家は何十年も前から、賞を受賞した結果は、山に加えるための大きな新しい定理だけでなく、その上に大きな新しい理解をもたらすことをよく知っています。私自身の分野から例を選ぶと、Fermatの最終定理のWiles–Taylor–Wilesによる証明は、応用がなく正の整数に関する350年前の些細なパズルを同時に解決し、Langlandsプログラムに対する真に深遠な新しい洞察を与え、その影響は30年経った今でも感じられています(この主張の十分な証拠については、Frank Calegari氏の2022 ICM講演を参照してください)。
数学の他の見方
しかし、Thurstonの見解だけが唯一の見解ではありません。今週、Hardyの「数学者の謝罪」を再読しました。最初に学部生の頃に読もうとしましたが、その時は非常に尊大で性的なものだと感じました。1940年は違う時代だったことは知っていますが、最後まで読まずに断念しました。今回は最後まで読みましたが、Hardyの見解はThurstonのものとは全く異なると理解しています。Hardyは数学を芸術と見なしているため(したがって、多くの芸術家がAIによる芸術制作に怒っているのと同じ理由で、AIによる数学制作に怒るでしょう)、数学を行っています。彼は「説明する」人々(本の最初の段落を見てください)を痛烈に批判し、定理を証明する主な動機の一つは死後も記憶されるためだと率直に語っています。これはThurstonの見解とは異なりますが、私自身の見解とも異なります。
次に、Thurstonの見解(現在多くの人が行っていること)を促進することが、最終的に私たちのコミュニティに裏目に出る可能性があることについて議論しましょう。AIはミレニアム問題を解決し、AIが数学においてどこにいるかを示しました。しかし、コミュニティの多くの人々は、AIがどれほど速く動いているかをまだ大幅に過小評価していると私は信じています。おそらく、彼らがそれに注意を払い始めたばかりだからかもしれません。もし私たちが数学を研究する価値のある主題としての継続的な存在の正当化として「理解」を使用するなら、1年後にAIが定理を証明するだけでなく、それらを人間に説明する完璧な仕事をするようになったとき、私たちはどこに退却するのでしょうか?
Thurstonのエッセイを初めて読んだ時のことを思い出します。それは個人的に私が数学をする動機とはかなり矛盾しているように感じられました。最近、自閉症と診断されました(私の数少ない友人は皆、何十年も知っていたので、これは面白いと思っています)。そして、これが私がこの立場をとる理由の一つではないかと疑問に思っています。Thurstonのエッセイは、JaffeとQuinnによる以前の論文への応答であり、彼らは数学的アイデアは厳密な証明によって地面に固定されて初めて本当に有効または有用になると主張し、一部の著者(Thurstonを含む)が重要な洞察を持ちながら、詳細を書き留める時間を取らなかったことを批判しています。私の分野(Langlands哲学)は、「専門家の間では知られている」が公に入手可能な書き込みがない議論に満ちており、この状況が私がこの分野に幻滅し、最終的に好奇心主導の研究から完全に撤退し、数学的形式化に切り替える原因となりました。Leanを騙すことはできません。人はこれを非常に早く学びます。Leanは権威による証明や威圧による証明を受け入れません。そのようには機能しません。Leanがあれば安心です。
数学の「理解」
1990年代初頭、Richard Taylor氏の博士課程学生だった頃、私はすぐに、自分の論文で証明しようとしていた定理のステートメントが、Deligneがモジュラー形式にガロア表現を付与する構成に依存していることを理解しました。私はTaylor氏に、続行する前にDeligneの証明を読むことを提案しましたが、彼は私の資金は3年間しかないこと、そしてこのキャリアの時点では関連文献すべてを把握するのに十分な時間がないことを指摘し、その考えをすぐに却下しました。私はDeligneの構成、あるいはWilesの仕事に不可欠だったLanglands–Tunnell定理の証明、あるいは私の論文やその後の仕事で必要だった他の多くのことを読む時間を決して見つけませんでした。では、私は自分の仕事の「理解」をしているのでしょうか?そもそも「人間の数学的理解」とは一体何を意味するのでしょうか?
数学者たちは今や数学はすべて人間の理解に関するものであるということに同意し始めていると思いますが、彼らが高度な数学を理解することの意味について同意するとは限りません。もちろん、学部レベルの結果を理解することは皆知っています。私たちはコースを教え、すべてを注意深く確認しました。私は、私が講義したすべての学部代数学コースを、集合論の公理から型理論の公理まで説明することができます。私はその教材を本質的に理解しています。
しかし、私は「フェルマーの最終定理の証明を理解している」のでしょうか?というのも、今年の初めにこのトピックに関する22時間の講義を行ったからです。Langlands–TunnellがWilesにとって重要であることは知っていますが、それが何を含んでいるかの詳細についてはほとんど知りません。もし、その形式化の過程で間違いが発見されていたらどうでしょうか?間違った数学を「理解」することはできますか?不完全な数学を?私は個人的にできませんし、個人的にはいくつかのことを理解しないことを嬉しく思っています。私は定理の数で勝負しています。Thurstonとは全く対照的に、理解はやや曖昧な概念であると信じていますが、正しく証明された定理の総数は測定できるものです。私は自分が少数派であることはよく承知しています。しかし、それでもこれらの見解を共有したかったのです。
私は個人的にOpenAIに、彼らが何をしたと主張しているのかを正確に見ることができるように、彼らの定理のコレクションを世界に公開するよう求めています。整理は後で来ます、そしてそれは後で来ます(OpenAIによって資金提供されれば間違いなく早く来るでしょう)。ナビエ–ストークス方程式以外のすべてのケースで、私たちは人間がAI生成された数学をリバースエンジニアリングするのを見てきました。そして、ナビエ–ストークス方程式とOpenAIが現在保有している新しい秘密の定理も同様でしょう。もし人間が理解したいのであれば、私たちは理解するでしょう。現在、人間はすでにテクノロジー企業によって証明されている定理を証明しようと時間を費やしている可能性があります。そこに論理はありますか?これらの人間は、何が知られているかを知る権利があります。私は、OpenAIにそのデータを公開するよう促すこの公開書簡に署名しました。なぜなら、私たちが置かれている状況を考えると、それが最適なアプローチだと考えるからです。もしあなたが同意するなら、あなたも署名してください。確かにテクノロジー企業は私たちの生活を楽にすることができます。しかし、今起こっていることは検閲に似ています。
AI楽観論者
では、なぜ私が楽観論者なのかを説明しましょう。時間が経てば、私の意見がどれほどうまく評価されるかがわかるでしょう。
2020年のNotices of the AMSの記事で、私は次のような質問をしました。「もし一人の人間が、現代の純粋数学すべての理解を同時に持っていたら、どれだけ先に進むことができるだろうか?」6年後、私たちはこの質問への答えを理解し始めています。機械はインターネット上の数学を摂取し、このデータを首尾一貫した方法で操作できるようになりました。Erdősの単位距離反証は、機械が離散幾何学と類体論の両方の専門家であったために起こりました。人間で両方の専門家を同時に持つことはめったにありません。機械は今、人間が適切なグループで数年間放置されていれば、解決できたであろう質問に答えています。それは単にずっと速く起こっているだけです。
上で、数学がすべて理解に関するものであることへの懐疑論(その考え自体と、数学をそれに還元することに伴うリスク)を表明しました。数学が何に関するものであるかについての私の個人的な答えは、定理を証明すること(問題解決)、ツールを開発すること(理論構築)、そして次にどこへ行くかを見ること(予想形成)であるということです。
現在、コンピュータが問題解決に優れているという証拠はたくさん見てきましたが、理論構築や予想形成の能力に関する証拠ははるかに少ないです。これは今日の機械がどこまで進めるかに厳しい制限を課しています。時間が経てば、明日の機械がこれらのスキルでどれだけ向上するかはわかるでしょうし、確かに進歩はあるでしょうが、まだ決定的なものは何も見ていません。外部からの圧力(コストなど)が、進歩に見合う価値がなくなるほど大きくなる前に、これらの重要な分野で十分な成長があるでしょうか?
「人間は指数関数的な成長がどのようなものか理解していないだけだ」という返答で、今日の機械がXをできないという観察を却下する人々に対して、私は次の事実を検討するよう招待します。現在の進歩は確かに指数関数的であり、しばらくの間指数関数的であり続ける可能性が高いですが、私たちは指数関数的な進歩が永遠に続くとは期待できません(まさに指数関数的な成長がどのようなものかという理由で)、さらに数学は無限であり、これは指数関数をはるかに凌駕します。これを信じない人は、無限がどのようなものか理解していません。
したがって、私は将来、数学において新しい「自然な境界」に到達すると信じています。それは現在の場所(おそらくずっと先)を超えた場所ですが、機械が行き詰まり、次の大きな飛躍をするためにこれ以上のリソースを費やすことが実行可能でなくなる場所です。私は間違っている可能性があることを認識しています。私は楽観論者なので、将来の機械が素晴らしいものになると期待していますが、有限のリソースで無限に到達する方法が単純に見えないので、どこかで止まらなければなりません。私が(少なくとも私の個人的な観点から)最適だと信じていることは、機械を自由にさせ、何が起こるかを見て、そしてそれらが止まった場所への旅を始めることです。現在、物事は急速に動いています。それらは永遠に速く動くことはできません。しかし、今乗り込めば、それらは私たちを並外れた新しい場所へ連れて行ってくれるでしょう。そして、私たちが到着した後、新しい冒険が始まります。
このため、私はこの手紙にも署名しました。この中の考えが多くの読者にとって嫌悪感を抱かせるものであることは承知しています。しかし、私たちが持つ強力な新しいツールに興奮しないわけにはいきません。Wir müssen wissen — wir werden wissen!