AIは専門知識の代理を壊している

数学者は概してAIに反対ではありません。彼らは、例えば芸術家や作家よりも、AIをツールとして使用することに対して文化的にオープンです1。しかし、ますます多くの真に著名な問題がAIに解決されるようになった今、それは変わりつつあるかもしれません。約5000人の数学者（フィールズ賞受賞者25名を含む）が「数学におけるAIの深刻な不整合」と呼ばれる宣言に署名しました。その核心的な議論は次のようになります。ここ数ヶ月、主要な数学的問題を解決するAIの成功は、数学界の外でも見出しを飾っています。しかし、問題の解決は、概念的な理解と洞察という主要な目標を達成するためのツールであり代理にすぎません。AIの世界でこれを忘れると、ツールが主要な目標に対して牙をむく可能性があります。実際、「真/偽」のステートメントの大量生産が、新しいアイデアに命を吹き込むのではなく、肥沃な土壌を破壊する可能性があります。オンラインで多くの人々がこれを、自動化された分野からの予想される不満として解釈しました。翻訳者もそうでしたし、芸術家やプログラマーもそうしてきました。そして今度は数学者の番です。私はこれが軽視しすぎていると思います。数学者が悩んでいる具体的な問題を理解することは、AIが私たち自身の分野に与える影響、そしてそれに対処するために何をする必要があるかをよりよく理解するのに役立ちます。 パズル解決とアイデア生成 数学には2種類あります。ほとんどの人は最初のタイプ、つまり「パズル解決」に慣れています。問題を取り上げて、その解決策を見つけようとします。学生の頃は、代数式の単純化のような簡単な問題です。研究者になると、フェルマーの最終定理の証明のような、ほぼ不可能な問題になります。パズル解決は理解しやすいが実行が難しいので、非数学者にとっては印象的であり、非常に権威があります。言い換えれば、パズル解決は「読みやすい」のです。 2番目のタイプの数学は「アイデア生成」です。数学についての新しい考え方を思いつき、それによって新しい用語や概念を生み出すことです。これらの例については、arXivの数学論文のリストをざっと見てください。「Hardy spaces」、「Schatten exponent」、「Banach lattices」などは、誰かが興味深いと考えた概念です。この作業は非数学者にはほとんど印象を与えません。なぜなら、あなたが思いつく概念が特に難しいか洞察に富むものかどうかは誰も本当には知らないからです。例えば、私は今「Goedecke set」という概念を生成しました。これは、数字の合計が素数になるすべての自然数の集合です。誰が気にするでしょうか？私たちが望むカテゴリは、数学の「自然な種類」—「自然をその関節で切り分ける」概念 — であり、それらが何であるかを、何年、何十年もの懸命な作業なしに判断することはほとんど不可能です。 2つのタイプの数学はどのように関連していますか？アイデア生成は数学の真の知的作業であると言えるかもしれません2。パズル解決は道具的に重要です。どのアイデアが長年の疑問に答えるために使用できるか、したがってどのアイデアが価値があるかを特定するために。時間が経つにつれて、それらの価値のあるアイデアはよりよく理解され、使いやすくなり、最終的には科学全般を進歩させるために使用できるレベルに達します。最終的には、アイデアは非常に理解しやすくなり、子供たちに教えることができるようになります。「ゼロ」、「負の数」、「虚数」、「微積分」はかつては難解な数学的アイデアでしたが、今では早熟な12歳が理解できると期待される概念です。パズル解決には、もう1つ、より平凡な目的があります。それは、数学的なスキルと進歩を外部の人々にとって読みやすくすることです。私はテレンス・タオの数学的な仕事を評価することはできませんが、フィールズ賞が何であるかは知っています。ガロア表現が何であるかについて良い直感的な感覚はありませんが、フェルマーの最終定理の証明については知っています。これらのパズルのようなものは、熟練した数学者がより重要なアイデア生成作業（または使用されるアイデアが有用であることを決定的に実証したこと）に対して間接的に報酬を与える方法として機能したと言えるかもしれません。 AIの証明はアイデア生成を損ないますか？AIの証明は、これら両方の目的を損ないます。なぜ数学者がそれほど不満なのかを正確に説明できます。 パズルは数学者にとって、読みやすく、報酬の高いターゲットとして機能します。 これらのパズルを解くには、通常、新しいアイデアを生成する必要があります。パズルの解決策は、アイデアが有用であることの証拠として機能します。 しかし今、AIはこれらのターゲットの多くを「難しい方法」で、直感的な新しいアイデアを生成することなく解決できます。 これにより、パズル解決がアイデア生成をサポートする両方の方法が損なわれます。AI企業は、数学的な進歩を実質的に進歩させることなく、名声を主張します。 これは、パズル解決が数学の本来の目標に付随するものであるため、数学全体にとって悪いことです。 これはグッドハートの法則のようなものです。パズルは、数学的進歩のための有用で、ゲーム化できない測定基準でした。しかし今、AI企業がその測定基準をゲーム化できる（人間にはアクセスできない方法で解決できる）ようになったため、それらのパズルのポイント全体が失われます。 数学者は正しいのか？私は、(3)が真実であるかどうか、つまり、最先端のAIモデルが新しい数学的アイデアを生成していない、または生成できないかどうかについては、概して不明であると考えています。AIが私たちの最も難しい数学的問題を解決し始めたのはごく初期の段階です。彼らが何ができるようになるか誰が知っているでしょうか？私は、LLMの動作方法の固有の特徴のために、AIがこれを行うことができないという考えには、ほとんど信用を与えません。過去3年間、人々はLLMが本質的にXを行うことができないと主張してきましたが、数ヶ月後にLLMがXで優れているのを見てきました。たとえ(3)が真実であると仮定しても、AIによって生成された証明を人間が理解できるようにするための概念的な仕組みを構築する（つまり、既存の「AI証明」に沿って「人間の証明」を生成する）ために、人間の数学者が行うべき作業はまだ残っています。実際、AI証明の存在がこれに役立つと予想しています。命題Xが真実であることを知っていれば、なぜそうなのかを理解するのは簡単です。なぜなら、時間を無駄にしているのではないかと常に心配する必要がないからです。これについてさらに詳しく知るには、Gwernのブログ「On Really Trying」をお勧めします。そこでは、解決策が存在すると知らされるだけで人々が見つけるのに役立つことが十分な手がかりとなるインスタンスのシリーズを引用しています。 数学、チェス、スピードランニング もちろん、名声とモチベーションの問題があります。「Navier-Stokesを最初に解決した人」は、「AIソリューションをNavier-Stokesに説明するより良い方法を見つけた」よりもはるかに説得力のある目標であり、賞を授与しやすいです。すでに解決された問題に取り組む数学者はいるでしょうか？私はそう思います。その理由を見るために、AIが参入してきて最高の人間を打ち負かした他の分野、例えばチェスやビデオゲームのスピードランニングを見てみましょう。私の電話でチェスプログラムを実行すれば、マグナス・カールセンに100-0で勝つことができます。コンピュータプログラム（「ツールアシストスピードラン」または「TAS」と呼ばれる）は、人間の最速者よりもはるかに速く任意のビデオゲームをクリアできます。しかし、これらの分野の両方で、人間は人間のみのリーグで競争しており、最も有能な人間には依然として名声が付随しています。数学がこの種の状況、つまり「人間の数学」と「AI数学」が大きく分離した球体に存在し、数学的問題に対する最初の「人間の」解決策が依然として称賛を得られる可能性があるという状況になることも考えられます。実際、これらの分野の両方で、人間を超える強さのコンピュータプレイヤーの存在は、人間のゲームを向上させてきました。多くのコンピュータチェスの手は人間には基本的に理解できませんが、トップチェスプレイヤーはコンピュータの「スタイル」から学びました。スピードランニングでは、かつて「TASのみ」と考えられていた多くの動きが、現在では人間によって実行されています。AI数学も同様に人間の数学を向上させる可能性があります。 ソフトウェアエンジニアリング 私は数学者ではありません。学部時代に数学を専攻し、実解析と複素解析の証明の良い思い出がありますが、私の分野とは全く異なります。しかし、強力なAIが数学に与える影響を非常に注意深く見ています。なぜなら、私の分野であるソフトウェアエンジニアリングは、AIの最も直接的な影響を受ける分野の1つだからです。