数学者なき数学

昨日、OpenAIは、まだリリースされていないモデルによって発見された数学の10の未解決問題の解を発表しました。私が知る限り、コーディング理論の問題だけが「これは重要だ」と言えるほど理解していますが、信頼できる数学者によると、これは重要なことです。 必然的に、人々は何かこじつけをして、何も変わらないと自分たちを納得させるでしょう。それはそれで構いません。人々は対処する必要があります。しかし、世界が私たちの周りで変容していくのを、私たちはいつまでも見て見ぬふりをすることはできません。 そこで、AIが数学を乗っ取ることに対して人々がどのように対処するか、そしてそれぞれの対処法が現実によってどのように反証されるかのリストを以下に示します。私の意図は、皆をひどく落ち込ませることではなく、この技術の意味を消化するのを助けることです。ここでの議論は、必要に応じて「数学」を「植物学」などに置き換えることで、ある程度適用可能です。 目標の移動。 明白であり、対処する価値もない。「AIに問題を解かせ、研究分野を示してやらせる」というものだ。AIは、センスと直感において人間を超えるだろう。ある時点で、道を示す人間は、「これは証明チェッカーだ、楽しんでくれ」と言ってトークンを支払う人間よりも悪い結果を出すだろう。 「AIが発見した数学を教える」というものだ。AIは人間よりも優れた教師になるだろう。いずれにせよ、フロンティア数学の解説的な仕事の聴衆は人間にはいないだろう。 「AIが発見した結果をどのように標準化するかを決定する」というものだ。これは良いこじつけだ。AIはフロンティアで探検し、人間は彼らのLean証明をありがたく受け取り、それについて議論し、どの結果が関連性があるかを選択し、それらの結果を代数の大聖堂の小さなレンガに形作る。上記の議論に似ている：AIは自ら大聖堂を建てるだろう。彼らは私たちよりも優れた建築家になるだろう。 「AIの数学の学生になる」というものだ。これは、AIがmathlibの演繹的閉包を深く掘り下げすぎて、初等数学からフロンティアまでの距離が、どんなに狭い分野に集中しても、人間が一生かけて学べる希望を超えるまで有効だ。 「AIが発見した結果を理解するために人間が必要だ」というものだ。私たちはそうしないだろう！これは、聴衆が誰になるかを誤解している。AIはフロンティア数学を行い、下流ではAIが新しい数学を使ってフロンティア科学を行い、最終的にはAIが新しい科学を使ってフロンティア工学を行うだろう。それを理解する必要のある人間はいない。結果を理解するために人間をループに組み込む企業は、そうしない企業に競争で負けるだろう。その結果、私たちは悪魔に取り憑かれた世界に住むことになるだろう。その世界の操作は理解できず、理解できない工学原理に基づき、理解できない形式論を用いて発見された、驚くべきデバイスに満ちているだろう。 「コンピュータはすでにチェスで人間を超えているが、私たちはまだチェスをプレイしている」というものだ。ほとんどのこじつけとは異なり、これは興味深いと思う。コンピュータはチェスで人間を超えているが、私たちは気にせず、通常通りプレイを続けている。なぜ数学は違うのだろうか？主な理由は、チェスは自己完結型であることだ。チェスの結果は、惑星の軌道やタンパク質表面への薬剤の結合を理解するのに役立たない。しかし、数学は、科学の偉大な原動力であり、世界を理解するための最良の言語と方法であることが知られている。人間を超える数学者を、より良く、より速く、より安価に置き換えることができる機械は、物質的に有用である。より良いチェスエンジンはそうではない。人間を超えるチェスプレイヤーである2台のコンピュータが対戦しても、誰が気にするだろうか？これに対する需要はほとんどないため、競争相手はいない。しかし、人間を超える数学者は異なる。 「数学は変わるだろうが、数学者や数学に興味のある人々は自分で数学を続けるだろう」というものだ。これは、数学が社会的な文脈に埋め込まれていることを無視していると思う。例として、AIがソフトウェアを食い尽くすことが明らかになったとき、私のこじつけはこうだった。「私はプロフェッショナルな生活でエージェントのエンジニアリングマネージャーになることに完全に満足している。オフの時間には、楽しむためにコードを書くことができる。」そして、私はそうしている。しかし、このこじつけは、AIがコードを書くという社会的な文脈に与えた影響を無視している。議論は悪化し、はるかに反知性的になった。かつて型システムやコンパイラについて話していた人々は、今では「ループ」や「ハーネス」について話している。GitHubに手作りのプロジェクトを置くと、ひどいPRが来る。興味深いプロジェクトへのリンクを開くと、READMEが読めないAIのスロップであることがわかる。そして長期的には、新しいプログラミング言語を設計する人はいるのだろうか？と考えるのは落胆させられる。同様に、新しい言語を設計した場合、誰かが気にかけてくれるだろうか？特定の С問題を解決するためのエレガントな新しい形式論を導入するライブラリを書いた場合、誰かがそれを使うだろうか？つまり、人間は孤島ではないということだ。一人で数学をすることはできるが、内発的な動機だけに基づいて活動を長期間維持できる人は非常に少ないことに気づくだろう。私たちは社会的な動物であり、役に立つこと、地位、世界の出来事を気にする。 結論 明るい調子で締めくくりたいと思う。だから、やってみよう。個人的には、テクノロジーは避けられないとは信じていない。「避けられない」という言葉は、惑星の軌道のために予約されている。人間の行動の産物であるものは何も避けられない。私たちは自分たちを時代遅れにすることを選択できるし、そうしないことも選択できる。AGIは悪魔との取引であると認識できる。技術的進歩を加速させ、寿命延長のような素晴らしい技術ツリーノードを通常よりも早く解き放つかもしれないが、長期的には、人間はせいぜい、はるかに強力な実体の管理下にあるペットのようになるだろう。 予測に関する注記 未来は確実ではないが、単純化のために上記のすべてを断定的に記述した。AGIとASIの可能性を真剣に受け止め、AIが過去約6年間のように進歩し続けるならば、これは物事がどうなるかの合理的な見方だと思う。おそらくAIの進歩に対する最良の反論は、「RLはうまく汎化しない。形式化された数学やコーディングのような検証可能な領域では多大な進歩が見られたが、直感的または形式化できない領域では進歩が少なくなるだろう」というものだ。本当かもしれない。しかし、数十億ドルと何千人もの非常に賢い人々――そしてますます多くの非常に賢いモデル――がこの問題に注ぎ込まれている。このこじつけはいつまで続くのだろうか？