AIは専門知識の代理を壊している

AIが専門知識の代理指標を破壊している

数学者は、概してAIに反対しているわけではありません。彼らは、例えばアーティストや作家などと比べると、AIをツールとして利用することに対して文化的にオープンです[1]。しかし、ますます多くの真に権威ある 著名な問題がAIによって解決されるようになり、その状況は変化しているかもしれません。約5,000人の数学者（フィールズ賞受賞者25名を含む）が、「A Severe Misalignment of AI in Mathematics」と呼ばれる宣言に署名しました。その中心的な主張は以下のようです。

ここ数ヶ月、主要な数学的問題を解決するAIの成功は、数学界の外でも見出しを飾っています。しかし、問題の解決は、概念的な理解と洞察という主要な目標を達成するためのツールであり代理指標にすぎません。AIの世界でこれを忘れると、ツールが主要な目標に反して使われる可能性があります。実際、「真/偽」のステートメントがますます速いペースで大量生産されることは、新しいアイデアに命を吹き込むどころか、肥沃な大地を破壊する可能性があります。

オンラインでは多くの人がこれを、自動化されるあらゆる分野からの予想される不満だと解釈しています。翻訳者もそうでしたし、アーティストやプログラマーもそうしてきました。そして今、数学者の番だ、と。私はこれをあまりにも軽視しすぎていると思います。数学者が不満に思っている具体的な問題を理解することは、AIが私たちの分野に与える影響、そしてそれに対して私たちが何をしなければならないかをより良く理解するのに役立ちます。

パズル解決とアイデア創出

数学には2つの種類があります。ほとんどの人は最初のタイプ、つまり「パズル解決」に慣れ親しんでいます。これは、問題を取り上げて解決策を見つけようとするものです。学生の頃は、代数式の単純化のような簡単な問題が典型的です。研究者になると、これらの問題はフェルマーの最終定理を証明するなど、ほぼ不可能になることがあります。パズル解決は理解するのは簡単ですが、実行するのは難しいため、数学者以外には印象的であり、非常に権威があります。言い換えれば、パズル解決は認識可能なのです。

数学の第二のタイプは「アイデア創出」です。数学についての新しい考え方、つまり新しい用語や概念を生み出すことです。これの例としては、arXivの数学論文のリストを眺めてみてください。「Hardy spaces」、「Schatten exponent」、「Banach lattices」などは、誰かが興味深いと考えた概念です。この作業は、あなたが思いつく概念が特に難しいか洞察に富むものか誰も本当によくわからないため、数学者以外にはほとんど印象に残りません。例えば、私は今、「Goedecke set」という概念を生成しました。これは、数字の各桁の合計が素数になるすべての自然数の集合です。誰が気にするでしょうか？私たちが望むカテゴリーは、数学の"自然な種類"、つまり「自然をその関節で切り分ける」概念です。そして、それらが何であるかを正確に知ることは、長年の懸命な努力なしにはほぼ不可能です。

この2つのタイプの数学はどのように関連しているのでしょうか？アイデア創出こそが数学の真の知的作業である、と言えるかもしれません[2]。パズル解決は、道具として重要です。それは、どのアイデアが長年の疑問に答えるために使用できるか、したがってどのアイデアが価値があるかを特定するためです。時間が経つにつれて、それらの価値あるアイデアはよりよく理解され、使いやすくなり、最終的には科学全般を進歩させるために使用できるようになります。やがて、アイデアは非常に理解しやすくなり、子供たちに教えられるようになります。「ゼロ」、「負の数」、「虚数」、「微積分」はかつては希少な数学的アイデアでしたが、今では賢い12歳なら誰でも理解できる概念となっています。

パズル解決には、もう一つ、より実用的な目的があります。それは、数学的なスキルと進歩を外部の人々が認識できるようにすることです。私はテレンス・タオの数学的な業績を理解することはできませんが、フィールズ賞が何であるかは知っています。ガロア表現がどのようなものか直感的に理解することはできませんが、フェルマーの最終定理の証明については知っています。このようなパズルは、より重要なアイデア創出作業（または、証明で使用されたアイデアが有用であることを決定的に実証するため[3]）のために、熟練した数学者に間接的に報いる方法として機能してきたと言えるでしょう。

AIの証明はアイデア創出を損なうか？

AIの証明は、これら両方の目的を損ないます。なぜ数学者がこれほど不満に思っているのか、その理由を正確に説明できます。

1. パズルは、数学者にとって認識可能性が高く、報酬の高い目標として機能する。
2. これらのパズルを解くためには、通常、新しいアイデアを生み出す必要がある。パズルの解決は、そのアイデアが有用であることの証拠となる。
3. しかし今、AIはこれらのターゲットの多くを、直感的な新しいアイデアを生み出すことなく、「困難な方法」で解決できる。
4. これは、パズル解決がアイデア創出を支援する両方の方法を損なう。AI企業は、数学的進歩を実質的に進歩させることなく、名声を得ている。
5. これは数学全体にとって悪いことだ。なぜなら、パズル解決は数学の真の目標に付随するものだからだ。

これはグッドハートの法則のようなものです。パズルは数学的進歩のための有用で、不正が難しい指標でした。しかし今、AI企業がその指標を（人間にはアクセスできない方法で[4]解決することによって）不正に利用できるようになったため、それらのパズルの意味全体が失われてしまいます。

数学者は正しいのでしょうか？（3）が真実かどうかは、広く不明です。つまり、最先端のAIモデルが新しい数学的アイデアを生み出していない、あるいは生み出すことができないのかどうかです。私たちは、AIが最も難しい数学的問題を解決するようになったばかりの非常に初期の段階にいます。彼らが何ができるようになるか、誰が知っているでしょうか？私は、LLMの動作方法の何らかの固有の特徴のために、AIがこれを行うことができないという考えには、ほとんど信憑性を与えていません。過去3年間、LLMはXを行うことが本質的に不可能であると人々が主張するのを見てきましたが、数ヶ月後にLLMがXで優れているのを目にしました。

たとえ（3）が真実であると仮定しても、AIによって生成された証明を人間が理解できるようにするための概念的な仕組みを構築する、つまり既存の「AI証明」に沿って「人間の証明」を生成するという作業は、人間の数学者にとってまだ残っています。実際、AI証明の存在がこれに役立つと予想されます。命題Xが真実であることを知っていれば、なぜそうなのかを理解するのは簡単です。なぜなら、時間を無駄にしているのではないかと常に心配する必要がないからです。これについてさらに詳しく知りたい場合は、GwernのブログOn Really Tryingをお勧めします。そこでは、解決策が存在すると知らされるだけで、人々が見つけるのに役立つ手がかりとなる事例が数多く引用されています。

数学、チェス、スピードランニング

もちろん、名声とモチベーションの問題があります。「Navier-Stokes方程式を最初に解いたのは私だ」というのは、「Navier-Stokes方程式のAIによる解決策を説明するより良い方法を見つけた」という目標よりもはるかに説得力があり、賞を授与しやすい目標です。すでに解決された問題に取り組むことを数学者は気にしないでしょうか？私はそう思います。

その理由を見るために、AIが人間の最高の能力を凌駕した他の分野、例えばチェスやビデオゲームのスピードランニングを見てみましょう。私の電話でマグヌス・カールセンに100対0で勝つチェスプログラムを実行できます。「ツールアシストスピードラン」または「TAS」と呼ばれるコンピュータプログラムは、人間で最も速い人よりもはるかに速くビデオゲームをクリアできます。しかし、これらの分野の両方で、人間は人間のみのリーグで競争を続けており、最も有能な人間には依然として名声が付随しています。数学もこの種の状況、つまり「人間の数学」と「AI数学」が大きく分離された球体に存在し、数学的問題の最初の「人間による」解決策が依然として称賛を得られる可能性がある、という状態になるかもしれません。

実際、これらの両方の分野で、人間離れした強力なコンピュータプレイヤーの存在は、人間のゲームを向上させてきました。多くのチェスの手は人間には基本的に理解できませんが、トップチェスプレイヤーはコンピュータの「スタイル」から学びました。スピードランニングでは、かつて「TASのみ」と考えられていた多くの動きが、現在では人間によって実行されています。AI数学も同様に、人間の数学を向上させる可能性があります。

ソフトウェアエンジニアリング

私は数学者ではありません。学部時代に数学を専攻し、実数と複素数解析の証明について良い思い出がありますが、私の分野とは全く異なります。しかし、強力なAIが私の分野であるソフトウェアエンジニアリングを同じように植民地化しているため、数学に対するAIの影響を非常に注意深く見ています。

ソフトウェアエンジニアリングの分野は、数学と同じ構造を持っていません。私たちは、名声を得るためや人間の知識の最前線を進歩させるためではなく、お金を稼ぐためにコードを書きます。しかし、AIはソフトウェアエンジニアリングにおける伝統的な名声の道も損なっています。かつては、GitHubにエミュレータやトイOSのような大きなプロジェクトを載せれば、人々はあなたが熟練したエンジニアであることを知っていました。しかし今、そのようなプロジェクトは価値がありません。なぜなら、誰もがそれらが「雰囲気でコードされた」と想定するからです。私たちは、週末にシステムを書き直したり、1日に数千行のコードを生成したりしたエンジニアの物語を語っていました。今では、誰でもOpenAIのサブスクリプションでそれができます。

数学と同様に、ソフトウェアエンジニアリングのエンジニアも、私たちが価値を置く仕事の種類についての文化的な感覚を再構築しなければならないでしょう。チェスのように「AIワーク」と「人間ワーク」を分離するか、AIによって容易に偽造できない認識可能な人間のスキルを見つけるかのどちらかです。その間、古い世界で成功していた多くの人々は非常に不幸になるでしょう。

編集：この投稿はHacker Newsでいくつかのコメントを得ました。トップコメントは私が間違っていると考えています。数学の目的は「ある種の洞察を得ること」であり、概念を生み出したり証明を解決したりすることではない、と。これを2つの方法で解釈できます。洞察を得ることが「一般的な人間の理解を進歩させる」ことを意味する場合、これは私が書いた概念創出の仕事に帰着すると考えます。もしそれが「個々の数学者が自分の脳で理解すること」を意味するなら、純粋に彼らの楽しみのためなら、数学は破滅すると思います。それは、学術分野を資金提供したり参加したりするための説得力のある理由ではありません。他のコメンターは、歴史的な文化崩壊との興味深い類似性を描いたり、AIが本当に興味深い新しい数学的アイデアを生み出すことができるかどうかを争ったり しています（まあ、見てみましょう）。

---

1. 現在のAIモデルは、芸術や文章よりも数学の方がはるかに得意であるため、おそらく。

   ↩

2. 繰り返しになりますが、私は数学者ではありません。ここでは、テレンス・タオや他の数学者から読んだことを解釈しています。

   ↩

3. このようなアイデアの洗練やアイデアの検証は、アイデア創出の一部であり、同様に重要です。数学を、例えば哲学と比較するのは興味深いです。哲学は同じアイデア創出のタスクを持っていますが、アイデアを検証するための対応するパズルがありません。それが哲学が数学よりも名声が低い理由の一つです。

   ↩

4. 理論的には、1000ページのLean証明は人間が理解できますが、もし数学者がそのアイデア全体を頭の中で保持できないなら、それは問題になりません。

   ↩

この記事と同じタグを持つ関連投稿のプレビューを以下に示します。