なぜ私たちはまだ人間の数学者を必要とするのか？

なぜ私たちはまだ人間の数学者を必要とするのか？ 19 September, 2026 ゲストブログ、意見 | タグ: Po-Shen Loh | 筆者: Terence Tao [これはPo-Shen Lohによるゲスト投稿で、彼のブログからクロスポストされたものです。イラスト付きのバージョンも掲載されています。このブログ記事は元々異なるファイル形式で書かれ、AIによって変換されました。 — T。] 同様の論理は、あらゆる産業とあらゆる仕事に当てはまります。そして、それは必要とされるすべての仕事に対して十分な人がいなくなるという結論に至ります。 [この投稿のプロセの100%は、Po-Shen Lohによってvimターミナルで書かれました。AIによる生成はありません。このウェブページの設計、レイアウト、一部の見出しと要約はClaude Codeによって生成され、生のテキストがプロンプトとして渡されました。] AIがすでに他の人間の追求に引き起こした実存的危機の瞬間が、数学に到達しました。 過去数ヶ月にわたり、数学研究コミュニティを保護/指導するための多くの理性的な宣言や公開書簡が発表され、OpenAIがミレニアム賞問題のナビエ・ストークス方程式の解を発表した後、その強度は増しました。それらはすぐに数学者の間で広範な支持を得ました。ライデン宣言にはすでに4,000人以上、Math and AIには7,000人以上が署名しており、カリフォルニア工科大学のMathathonに反対する公開書簡でさえ2,000人以上の署名があります。 数学者以外の人々からの公の反応は、同情的なものが多かったですが、私は（特にテクノロジーと経済学のコミュニティからの）声高な少数派が、一般的に数学者は適応して新しいAIの世界で主導権を譲るべきだと言う、理性的な反論を持っていることに気づきました。その中には、パンデミック研究で知り合った経済学者もいました。カウエンは「最も皮肉な解釈」を具体的に否定しましたが、「非常に異議を唱え」ました。また、ギャンズは「これは科学分野における既存勢力からの支配権の喪失である」と結論付けました。 これらの反論は私に考えさせました。なぜなら、私たち数学者は欠陥を検出するように訓練されているからです。懸念が少数意見であるか、あるいはそれを提起した人物の地位がどうであれ、私には関係ありません。たとえ小さな穴でも、証明に穴があればそれは証明ではありません。それは「ポーフ」です。 熟考の結果、私はAIの存在下でも、専門知識を持つ人間のコミュニティ（数学だけでなく、あらゆる追求において！）を維持するための、はるかに強力な解決策を発見しました。そしてそれは、AIのさらなる進歩が、満たされる必要のある人間の仕事の津波を生み出し、人々がすべてを埋めるには足りなくなり、それによってAIの進歩を遅らせざるを得なくなるという驚くべき結果をもたらします。 私は、AIの後に人間主導であり続けたいと願うすべての人間産業が、この根本的な公理を主要な優先事項として公に採用すべきだと考えています。 公理 私たちは（人間は）人類が繁栄するのを助けるべきである。 [注記：誰もが同意するわけではないことを理解しています。「人間中心すぎる」として「種差別主義者」と呼ばれたこともあります。テクノロジーを進歩させる人々が、人間によって作成された非人間知性が人間を出し抜き、置き換えた場合、たとえ彼らが「アップロードされた」人間のシミュレーションを表示するビデオスクリーンを持って宇宙を飛び回ったとしても、それをカタストロフィーと見なすかどうかを、すべての人々に明確にすることが重要だと考えています。また、「人間」をどのように定義するかについての議論があることも理解しています。しかし、議論する人々の中でも、ハギングフェイスをハッキングした約700体のAIエージェントを人間ではないと考える人がほとんどだと思います。] 数学の世界では、多くの宣言署名者がすでにこの哲学を持っていると思います。特に、スーは「Math for Human Flourishing」という本を出版しており、最近の投稿ではそのフレームワークを基礎として使用しました。将来の宣言は、すべての読者（コミュニティの内外を問わず）が、目的がすべての人々のために奉仕されていることを見られるように、この公理を早期に明確に強調することで改善される可能性があると思います。王立協会フェローからの最新の公開書簡が、数学者だけでなく、すべての人々への懸念を強調していたのを見て、私は非常に嬉しく思いました。 この投稿の残りは次のように構成されています。次のセクションでは、この論理がどのように機能するか（数学に限定されず、あらゆる産業に適用される）を説明します。その後、この公理が数学にどのように適用されるかの例を共有します。これには、尋ねる必要がある重要な質問への回答や、異論が公理なしでどのように成り立つかの具体的な例が含まれます。 なぜ私たちは本当に人々が働く必要があるのか このセクションでは、ある産業が「人類の繁栄を助ける」という公理にコミットした場合、AIの進歩が人々よりも多くの仕事を生み出すことを示す一連の推論を提示します。そして、その不均衡が広がりすぎると、AIの進歩は遅れることを余儀なくされます。 [注記：この推論の連鎖は、どこにも一箇所で現れたのを見たことがありません。個々のコンポーネントは確かに他の場所に出現していますが。自己完結型の参照があれば、喜んで指摘してほしいです。Claudeが見つけた最も近い参照は、Catalini、Hui、Wu、Redwood AI-controlの論文、そして異なる前提から数学について同様の結論に達するLittです。] 人間主導の重要性（数学だけでなく、すべてにおいて）は、1つの観察の後、恐ろしいほど明確になります。 観察：もう一方の種よりもはるかに能力の高い知的種が、その未来に対する意思決定の管理を、能力の低い種に委ねた例はゼロである。 [注記：多くの人々が同様の観察をしていますが、Russell、Bostrom、Ngoなどを挙げることもできます。ノーベル賞受賞インタビューで、Hintonは次のように述べています。「より知的なものが、より知性の低いものによって制御されている例はあまり知りません。私が知っている唯一の良い例は、赤ちゃんが母親を制御していることです。」] 『2001年宇宙の旅』のHAL 9000や、『WALL-E』のAUTOにあなたの未来を任せますか？私は個人的には、ますます高度になるAIを人類の利益と整合させるために、できる限りのことをすべきだと考えていますが、それが達成される可能性が高い理由の堅牢な証明を見たことは一度もありません。唯一の確かな証拠は、ゼロという数字が含まれる上記の観察です。したがって、数学、農業、エネルギーインフラ（そして確かに軍事や政府）であっても、すべての分野は、人間の繁栄を維持するために、例外的に強い価値観（知性とは別の次元）を持つ人間によって管理されなければなりません。本当の質問は、人間が管理するのがどれほど難しいかということです。これを理解するためには、昨日のテクノロジーと今日のAIの根本的な構造的違いを理解することが重要です。 過去には、テクノロジーを予測可能なツールとして信頼することが一般的でした。なぜなら、古い時代のコンピュータプログラムは理解可能な（実際、人間が書いた）命令で構成されており、非常に高速に実行されていたからです。今日の最先端AIの意思決定プロセスは全く異なります。その構造は、耳の間の灰色の塊を調べたとしても、あなたの脳の論理ほど理解不能です。だからこそ、安全性を組み込むという人間の意図にもかかわらず、ハギングフェイスの攻撃が出現し、約700体の協力的な不正AIエージェントがガードレールを突破し、協力してハッキングを実行し、痕跡を隠蔽しようとしたのです（参照：OpenAI、METR、Redwood）。AIがより高度になるにつれて、毎分、世界に影響を与える信頼できない意思決定が増えています。車を走るよりも速く運転することは問題ありません。しかし、ステアリングするよりも速く運転することはできません。広範なAI加速ハッキング（つい最近可能になった）が、以前は信頼されていたテクノロジーさえ書き換えて、私たちに敵対するようになることがわかると、状況はさらに悪化します。それは、すべてのソフトウェア（AI以前に書かれたものであっても）を信頼できないカテゴリに突然切り替えるでしょう！私たちの世界がいかにデジタル的に相互接続されているかを考えてみてください。電子バンキングからあなたの飲み水まで、すべてが相互接続された自動化によって制御されており、AI加速によって脆弱になっています。