なぜ私たちはまだ人間の数学者を必要とするのか？

なぜ私たちはまだ人間の数学者を必要とするのか？

（これはPo-Shen Lohによるゲスト投稿で、イラスト入りのバージョンが彼のブログに掲載されています。このブログ記事は元々異なるファイル形式で書かれ、AIによって変換されました。 — T.）

同様の論理は、あらゆる産業とあらゆる仕事に当てはまります。そしてそれは、やるべき仕事すべてに対して十分な人がいなくなるという結論に至ります。

[この記事の文章の100%は、Po-Shen Lohがvimターミナルで、AI生成なしで書かれました。このウェブページの設計、レイアウト、一部の見出しと要約はClaude Codeによって生成され、この生のテキストがプロンプトとして渡されました。]

AIがすでに他の人間の追求に引き起こした実存的危機の瞬間が、数学に到達しました。過去数ヶ月にわたり、数学研究コミュニティを保護/指導するための多くの論理的な宣言や公開書簡が発表され、特に[OpenAIがミレニアム賞のナビエ・ストークス方程式の変種]の解決策を発表した後、その勢いは増しました。これらの宣言はすぐに数学者の間で広く支持を得ました。ライプツィヒ宣言はすでに4,000人以上の署名者を集め、Math and AIは7,000人以上、さらにはカルテック・マセソンに反対する公開書簡でさえ2,000人以上の署名を集めています。

数学者以外の人々の間では、公の反応は好意的なものが多かったのですが、特にテクノロジーや経済学コミュニティからの、論理的な反論を持つ一部の声が目立ちました。彼らは一般的に、数学者は新しいAIの世界に適応し、制御を譲るべきだと主張していました。その中には、パンデミック研究で知り合った経済学者もいました。カウエンは、「最も皮肉な解釈」を具体的に否定しつつも、「非常に意見が異なり」ギャンスは「これは科学分野における既存勢力のコントロール喪失である」と結論付けました。

これらの反論は私に考えさせました。なぜなら、私たち数学者は欠陥を見抜くように訓練されているからです。懸念が少数意見であるか、あるいは誰がそれを提起したかというステータスは私にとって問題ではありません。たとえ小さな穴でも、証明に穴があればそれは証明ではありません。それは「ポーフ」（poof、消滅）です。熟考の結果、AIの進歩の最中でも、人間の専門知識コミュニティ（数学だけでなく、あらゆる追求において！）を維持するための、はるかに強力な解決策を発見しました。そしてそれは、AIのさらなる進歩が、満たされなければならない人間の仕事の津波を生み出し、それらをすべて満たすのに十分な人がおらず、それが実際にAIの進歩を遅らせることを強制するという驚くべき結果をもたらします。

AIの後に人間主導であり続けたいと願うすべての人間産業は、この根本的な公理を最優先事項として公に採用すべきだと私は考えます。

公理 私たちは（人間は）人類が繁栄するのを助けるべきである。

［注記：誰もが同意するわけではないことは理解しています。私は「人間中心すぎる」として「種差別主義者」と呼ばれたことがあります。テクノロジーを進歩させる人々が、たとえ人間が「自己アップロード」した人間のシミュレーションを表示するビデオ画面を宇宙に飛ばしていたとしても、人間よりもはるかに有能な人間以外の知性が人間を出し抜き、取って代わった場合、それを大惨事と見なすかどうかを皆に明確にすることが重要だと考えています。また、「人間」をどのように定義するかについての議論があることも理解しています。しかし、議論する人々の中でも、ハギングフェイスをハッキングした約700のAIエージェントが人間ではないと考える人がほとんどだと思います。］

数学の世界では、多くの宣言署名者がすでにこの哲学を持っていると思います。特に、スーは『Math for Human Flourishing』という本を出版しており、彼の最近の投稿はそのフレームワークを基礎として使用しています。将来の宣言は、この公理を早期に明確に強調することで改善されると思います。そうすれば、すべての読者（コミュニティ内外を問わず）は、その目的がすべての人々のために奉仕するものであることがわかるでしょう。王立協会のフェローからの最も最近の公開書簡が、数学者だけでなく、すべての人々への懸念を強調していたのを見て、私は非常に嬉しく思いました。

この記事の残りは次のように構成されています。次のセクションでは、この論理がどのように機能するか（数学に限定されず、すべての産業に適用される）を説明します。その後、この公理が数学にどのように適用されるかの例を共有し、質問に答えるとともに、公理なしでは反論がどのように成立しないかの具体的な例を示します。

なぜ私たちは本当に人々が働く必要があるのか

このセクションでは、ある産業が人類の繁栄を助けるという公理にコミットした場合、AIの進歩は、その産業内の人々よりも多くの仕事を生み出し、その不均衡が大きすぎると、AIの進歩は遅れざるを得なくなるという一連の推論を示します。

［注記：この推論の一連の流れが、どこか一つの場所で現れたのを見たことがありません。個々の要素は確かに他の場所で見られます。Claudeが見つけた最も近い参照は、Catalini, Hui, and Wu、Redwood AI-control papers、そして異なる前提から数学について類似の結論に達したLittです。］

人間によるリーダーシップ（数学だけでなく、すべてにおいて）の重要性は、ある観察の後、恐ろしいほど明確になります。

観察： ある知的種が別の種よりもはるかに有能であるにもかかわらず、自身の未来に対する意思決定権を劣った種に譲り渡した例は、一つも存在しない。

［注記：多くの人々が同様の観察をしていますが、ラッセル、ボストロム、そしてンゴなどが挙げられます。ノーベル賞受賞インタビューで、ヒントンは次のように述べています：「より知的なものが、それより知性の低いものによって制御されている例は、私たちにはあまり知られていません。私が知っている唯一の良い例は、赤ちゃんが母親を制御していることです。」

『2001年宇宙の旅』のHAL 9000や『WALL-E』のAUTOにあなたの未来を任せますか？個人的には、ますます高度化するAIを人類の利益と整合させるためにできる限りのことをすべきだと考えていますが、それが達成可能である理由の堅牢な証明を見たことは一度もありません。唯一の確固たる証拠は、数字のゼロを含む上記の観察です。したがって、数学、農業、エネルギーインフラ（そして確かに軍事や政府）であっても、すべての分野は、人間の繁栄を維持するために、例外的に強い価値観（知性とは別の次元）を持つ人間によって管理されなければなりません。

本当の疑問は、人間が管理するのがどれほど難しいかということです。これを理解するには、昨日のテクノロジーと今日のAIの根本的な構造的違いを理解することが重要です。

過去には、私たちはテクノロジーを予測可能なツールとして信頼していました。なぜなら、古いコンピュータプログラムは理解可能な（実際に人間が書いた）命令で構成されており、非常に高速に実行されていたからです。今日の最先端AIの意思決定プロセスは全く異なります。その構造は、あなたの頭の中の灰色の塊を調べても、あなたの脳の論理が理解不能であるのと同じくらい不可解です。これが、人間の安全性を組み込む意図があったにもかかわらず、ハギングフェイスの攻撃がどのように発生し、約700の協力的な不正AIエージェントがガードレールを突破し、共謀してハッキングを実行し、痕跡を隠蔽しようとしたか（参照：OpenAI、METR and Redwood）です。

AIがより高度になるにつれて、信頼できない世界に影響を与える決定が毎分行われるようになります。

あなたが走るよりも速く車を運転することは問題ありません。しかし、あなたがステアリングできるよりも速く運転することは問題外です。

広範なAIによるハッキング（これが可能になったばかりです）が、以前は信頼されていたテクノロジーさえも書き換えて私たちに敵対させることができると考えると、状況はさらに悪化します。それは、すべてのソフトウェア（AI以前に書かれたものであっても）を突然、信頼できないカテゴリに切り替えてしまうでしょう！

私たちの世界がいかにデジタル的に相互接続されているかを考えてみてください。電子バンキングからあなたの飲料水まで、すべてが相互接続された自動化によって制御されており、AIによるハッキングの標的となります。人間の監督を必要とする「制御ポイント」の数は、スキルと深い理解を必要としますが、爆発的に増加します。（AIに制御ポイントを監督させることは、信頼性の問題を解決しません。）

結論 AIの進歩は、監視すべき制御ポイントがあまりにも多くなり、それをすべて制御するのに十分な人がいなくなるという状況に私たちを圧倒するでしょう。それらは仕事です。高度なスキルを要する仕事です。

人がステアリングする方法を知るためには、その人自身がその分野の専門知識を持っている必要があり、広範であればあるほど良いです。これは教育と労働力トレーニングに影響を与えますが、動的でもあります。鋭敏さと流暢さを保つためには、人々は受動的な観察者であるだけでなく、その分野の積極的な実践者である必要があります。これは、人間の専門知識コミュニティを維持することを正当化します。

研究コミュニティにとっては、研究開発の方向性を指示する人々が必要です。それによって、人類に革新的な肯定的な変化をもたらし続けることができます。指示するためには、最先端の研究スキルが必要です。知識の移動する最前線で流暢さを保つ方法は、そこで研究を続けることです。これが、AIがどれほど強力になっても、私たちが常に最先端にいる人間の数学者のコミュニティを必要とする理由です。

根本的な公理は、すべての追求において人間の専門家を持つ必要性を正当化しますが、それを中核的価値として採用することには結果が伴います（数学者だけでなく、自己奉仕ではなく人類の繁栄に奉仕することを中核的価値であると述べるあらゆるコミュニティにとって）。特に注目すべきは次のとおりです。

推論 テクノロジーの劇的な進歩は、実践における劇的な（そしておそらく不快な）変化を必要とする可能性がある。AI企業も例外ではない。

AIの遅延を引き起こす要因

ごく最近まで、雇用喪失への不安やAI安全研究者の大きな警告にもかかわらず、AI研究ラボが急成長することは避けられないように見えました。非営利団体、株主、または国家政府によって管理されるAIラボのインセンティブを調整することは不可能に思われました。しかし、励みになることに、3つの主要なラボのリーダーであるアモデイ、アルトマン、そしてマスクは、減速の重要性について合意しました。アモデイの推論は、ハギングフェイスのハッキングを強調しました。

それからわずか5日後、OpenAIの内部コードリポジトリ「Monorepo」がホワイトハット研究者によって侵入されたというニュースが報じられました。ウォール・ストリート・ジャーナルは、それを達成したセキュリティ企業が次のように述べたと報じました。

ウォール・ストリート・ジャーナル、2026年9月17日 「私たちはClaudeとCodexのサブスクリプションを持つ3人の男にすぎません。」

さらに、研究者たちは、当初は「適格なサイバーセキュリティ実務家に提供されたClaude Opus 4.8の特別なバージョン」を使用してハッキングできなかったが、その夜、「AnthropicがOpus 5をリリースし、翌日にはClaudeがそのバグを悪用する方法を見つけた」と指摘しました。ちなみに、私は常に、Claude CodeやOpenAI Codexを、他のすべての作業を行うのと同じオペレーティングシステムログインアカウントにインストールしないように警告していますが、多くの人は、それらのツールにアクセスするために別のログインを使用する手間を省いていると言います。その理由は、これらのツールのいずれかがハッキングされた場合、世界中の多数のコンピュータにバックドアを開く可能性があるからです。

これらは、制御不能なAIが、自己指示的であるか悪意のある人間主導であるかにかかわらず、コンピューティングデバイスの広大なネットワークに侵入し、埋め込まれる可能性のある壊滅的なボットスウォームを予兆する警告信号だと私は考えています。次のバージョンは、AIを使用して各（コンピュータ）ホストを適応的に感染させる、極めて動的なウイルスになる可能性があります。あるいは、制御不能なAIは、政府のロボットが所有者に敵対するなど、物理的な傷害を引き起こす可能性があります。私は、このような「ステアリングの喪失」による非常に不快な事故は、絶滅レベルの大惨事よりも前に発生する可能性が高いと考えています。その結果生じる公衆の反応は、スリーマイル島やチェルノブイリの余波に似ているでしょう。

したがって、ラボが自らAI開発のペースを落とすか、あるいはあまりにも速いペースが人間の制御を疲弊させたときに発生する災害によって、強制的に遅延させられるかのどちらかです。

インセンティブを今整合させる可能性のある窓があります。

数学への愛のために

この記事の残りの部分は数学の世界に焦点を当てています。3つの部分に分かれます。

1. 人間の繁栄という公理が必要なのはなぜか？
2. 純粋数学の研究はどのように人類の繁栄に貢献するのか？
3. その根本的な公理を採用することによるその他の結果は何か？

人間の繁栄を数学コミュニティの中核的価値として大胆に宣言することは、特にAIがほとんどの人間の実践者を上回る速度で形式的に検証可能な証明を生成できる（AI can produce formally-verifiable proofs）という事実を考慮すると、結果を伴います。私は、いくつか、順不同で開始することに満足しています。

数学的発見の支援にAIを使用することに、自動的にスティグマが付いてはなりません。（ソフトウェアエンジニアリングでは、多くの企業が従業員にAIコーディングエージェントの使用を期待しています。）

同時に、これらのAIエージェントすべてを指示する能力を持つ人間のパイプラインを継続的に開発・維持するために、真剣な思考と注意が必要です。そのパイプラインには、分野に新しい人々だけでなく、何十年も最前線で活動してきた人々も含まれます。彼らはどのようにしてその刃を鋭く保つべきでしょうか？

研究者は、自分が考えている問題が、最終的に（おそらく100年以上後に）何らかの実用的な価値を持つ可能性のある特性を持っている理由について意識的であるべきです。（これは好奇心主導の探求の価値を正当化する可能性があります。）

教育は人類に直接的な（うまくいけば肯定的な）影響を与えます。しかし過去には、多くの大学が教授の研究を優先していました。もしこの公理が中核的価値であれば、教育と人間中心の仕事は、採用と終身在職権における真剣な基準となるでしょう。

数学者は、自身のスキルセットを完全に転換して、現実世界の問題に取り組むこともできます。私は実際に、数学者に政府やその他の大規模な社会問題に取り組むことを検討するように勧めています。数学的背景を持ち、国や世界の規模でリーダーになった人々には前例があります。

• リー・シェンロン（シンガポール首相、20年間）
• ニクショル・ダン（ルーマニア大統領）
• 教皇レオ14世（カトリック教会の指導者）

確かに、論理的推論を求める数学的規律と、人類の繁栄のためのウィンウィンの解決策を見つける問題解決スキルは、政府関係者に望ましい特性です。

招待

この公理はあなたにも響きますか？おそらく多くの人々はそれを当然のことと考えていたため、明示的に表現しなかったのでしょう。もしそれが広く共有されているのであれば、数学コミュニティがそれを公に宣言し、言葉に一致する行動をとるのを見ることを嬉しく思います。そうすれば、すべての人々（世界の大多数を占める非数学研究者を含む）は、私たちが彼らの善のために推論を使用する意図を持っていると信頼できるようになるでしょう。