HN 日本語サマリー

← 一覧へ戻る
科学・技術

数学者なき数学

Mathematics Without Mathematicians (borretti.me)

31 pointsby varjag34 コメント

要約

OpenAIが未発表のAIモデルによって発見した10の数学の未解決問題の解について論じています。著者は、AIが数学の分野で人間を超える能力を持つようになり、人間の役割が変化していく可能性について考察しています。AIが発見した数学的成果の解釈や教育、応用といった側面で、人間がどのようにAIと共存していくか、あるいはAIに取って代わられるかについて、様々な「こじつけ」を反証しながら論じています。

全文翻訳

数学者なき数学

昨日、OpenAIは未発表のモデルによって発見された、数学における10の未解決問題の解決を発表しました。私が「ふむ、それは重要だ」と言うのに十分な知識があるのはコーディング理論の問題だけですが、私が信頼する数学者たちによれば、これは重要なことだそうです。

必然的に、人々はそれに適応するために、何も変わらないと自分自身を納得させるために、何らかの詭弁を弄するでしょう。それはそれで構いません。人々は適応する必要があります。しかし、世界が私たちの周りで変容していくのを、私たちはいつまでも砂に頭を埋めているわけにはいきません。そこで、AIが数学を乗っ取ることに対する人々の適応方法のリストと、それぞれの適応が現実によってどのように反駁される可能性が高いかを示します。

私の意図は、皆をひどく落ち込ませることではなく、この技術の意味を消化するのを助けることです。ここでの議論は、ある程度汎用性があります。「数学」を「植物学」や必要に応じて他のものに置き換えてください。

ゴールポストを動かす。

明白であり、論じる価値もない。

「AIに指示を与え、問題や研究分野に目を向けさせて解決させる。」

AIはセンスと直感において人間を超えるでしょう。ある時点で、道を示す人間は、「ここに証明チェッカーがある、楽しんで」と言ってトークンを支払う人間よりも悪い結果を得るようになります。

「AIが発見した数学を教える。」

AIは人間よりも優れた教師になるでしょう。いずれにせよ、最先端の数学の解説的な仕事に対する人間の聴衆はいなくなるでしょう。

「AIが発見した結果を標準化する方法を選択する。」

これは良い現実逃避です。AIはフロンティアの探検家であり、人間は彼らのLean証明をありがたく受け取り、それについて議論し、どの結果が関連性があるかを選択し、それらの結果を代数の大聖堂のための小さなレンガに形作ります。上記の例えと同様に、AIは自ら大聖堂を建設するでしょう。彼らは私たちよりも優れた建築家になるでしょう。

「私たちはAI数学の学生になる。」

これは、AIがmathlibの演繹的閉包をあまりにも深く掘り下げ、初等数学からフロンティアまでの距離が、どれほど狭い範囲に集中しても、人間が生涯をかけて学べると期待できるものを超えるまで有効です。

「AIが発見した結果を理解するために人間が必要だ。」

必要ありません!これは、誰が聴衆になるのかを誤解しています。AIは最先端の数学を行い、下流ではAIが新しい数学を使って最先端の科学を行い、最終的にはAIが新しい科学を使って最先端の工学を行います。どの人間もそれを理解する必要はありません。結果を理解するために人間をループに組み込む企業は、そうしない企業に競争で負けるでしょう。

その結果、私たちは悪魔に取り憑かれたような世界に住むことになります。その世界の奇妙な装置の動作は理解できず、理解できない工学原理に基づき、理解できない形式論を使って発見されたものになります。

「チェスではコンピューターはすでに人間を超えているが、私たちはまだチェスをプレイしている。」

ほとんどの現実逃避とは異なり、これは興味深いと思います。コンピューターは人間を超えるチェスプレイヤーですが、私たちは気にせず、通常通りプレイを続けています。なぜ数学は違うのでしょうか?

主な理由は、チェスは自己完結型であることだと思います。チェスの結果は、惑星の軌道を理解したり、薬がタンパク質の表面に結合するのを理解したりするのに役立ちません。しかし、数学は、有名なように、科学の偉大な原動力であり、世界を理解するための最良の言語と方法です。人間を凌駕する数学者を、より良く、より速く、より安価に置き換えることができる機械は、物質的に有用です。より優れたチェスエンジンはそうではありません。

人間を超えるチェスプレイヤーである2台のコンピューターが対戦した場合、誰が気にするでしょうか?これに対する需要はほとんどないため、競争相手はいません。人間を超える数学者は異なります。

「数学は変わるだろうが、数学者や数学に興味のある人々は自分たちで数学を続けるだろう。」

これは、数学が社会的な文脈に埋め込まれていることを無視していると思います。例として、AIがソフトウェアを食い尽くすことが明らかになったとき、私の現実逃避はこうでした。「私は専門的な生活でエージェントのエンジニアリングマネージャーになることに完全に満足しています。オフの時間には、コードを書くことを楽しむために続けることができます。」

そして、私はそうしています。しかし、この現実逃避は、コードを書くことの社会的文脈にAIが与えた影響を無視しています。議論は悪化し、はるかに反知性的になりました。かつて型システムやコンパイラについて話していた人々は、今では「ループ」や「ハーネス」について話しています。GitHubに手作りのプロジェクトを置くと、ひどいPRが届きます。興味深そうなプロジェクトへのリンクを開くと、READMEが読みにくいAIのゴミであることがわかります。そして長期的には、それを考えるのは落胆させられます。新しいプログラミング言語を設計する人はいるでしょうか?同様に、私が新しい言語を設計した場合、誰かが気にするでしょうか?特定の С問題を解決するためのエレガントな新しい形式論を導入するライブラリを書いた場合、誰かがそれを使用するでしょうか?

つまり、誰も孤島ではないということです。あなたは一人で数学を行うことができますが、非常に、非常に少数の人々だけが、内発的な動機だけに頼って長期的に活動を維持できることに気づくでしょう。私たちは社会的な動物です。私たちは、役に立つこと、地位、世界での成果を気にします。

結論

前向きな言葉で締めくくりたいと思います。だから、試してみましょう。個人的には、テクノロジーは避けられないとは信じていません。「避けられない」という言葉は、惑星の軌道のために予約されています。人間の行動の産物であるものは何も避けられません。私たちは自分自身を時代遅れにすることを選択できますし、そうしないことを選択できます。AGIは悪魔との取引であると認識できます。技術的進歩を加速させ、生命延長のようなあらゆる種類の素晴らしい技術ツリーノードを、そうでなければより早く解き放つかもしれませんが、長期的には、人間はせいぜい、はるかに強力な実体の世話の下にあるペットのようになるでしょう。

予測について

未来は確実ではありませんが、上記のすべてを単純化のために断定的な言葉で表現しました。AGIとASIの可能性を真剣に受け止め、AIが過去約6年間と同様に進歩し続けるならば、これは物事がどのように進むかの合理的な見方だと思います。

おそらくAIの進歩に対する最良の反論は、「強化学習はうまく汎化しない。形式化された数学やコーディングのような検証可能なドメインでは多大な進歩が見られたが、直感的または形式化不可能なドメインでは進歩が少なくなるだろう」というものです。真実かもしれません。しかし、数十億ドルと何千人もの非常に賢い人々、そしてますます多くの非常に賢いモデルがこの問題に取り組んでいます。この現実逃避はどれくらい続くでしょうか?