AI・機械学習
私のAIに関するメンタルモデルは9月8日に壊れた
My Mental Model of AI Broke on September 8 (rough-ideas.bearblog.dev)
要約
2026年9月8日、数学界で長年未解決だったミレニアム懸賞問題の一つに対するAIによる証明が発表された(とされる)出来事は、AIに対する筆者の認識を根本から覆しました。これまでAIを「確率的オウム」や「高度な検索エンジン」と捉えていた筆者は、AIが人間がまだ到達していない新しい知識を生み出す可能性に直面し、AIが単なるツールを超えた存在になりつつあると警鐘を鳴らしています。この変化は、教育、研究、キャリア、そして人間の知性のあり方そのものに、社会の適応速度を超える速さで影響を与える可能性があると指摘しています。
全文翻訳
私のAIに関するメンタルモデルは9月8日に壊れた
2026年9月9日
2026年9月8日は、報告されている数学的証明が正しいと仮定すると、私にとって異なる意味を持つ日です。
AIが別のベンチマークをクリアしたり、人間がすでに知っているタスクをより良くこなせるようになったという意味ではありません。
ほとんどのベンチマークは、どこかにいる非常に賢い人間によって打ち破られる可能性があるため、比較は依然として人間のパフォーマンスと機械のパフォーマンスの間で行われます。
これまで未解決だったミレニアム懸賞問題に対する、真に正しい解決策は、根本的に異なるように感じられます。
もし人間が以前に解決策を持っていなかった場合、重要な事実はAIが人間のスコアを上回ったことではなく、AIシステムが人類がまだ持っていなかった新しい数学的知識を生み出した可能性があるということです。
私は、証明の作成者や誰が功績を受けるべきかといったドラマは、今のところ脇に置いておきます。
私のポイントは、この能力が証明として正しい場合に何を意味するかということです。
それははるかに重要な境界線のように感じられます。
証明が発表された日、私の信念体系は打ち砕かれました。
私はAIについて非常に異なる見解を持っていました。
それは基本的に確率的オウム、高度な検索エンジン、オートコンプリートシステム、またはネクストトークン予測子であるという見解です。
初期のシステムが2+2のような単純なもので苦労していたのを覚えています。
それからわずか数年で、IMO金メダルレベルのパフォーマンスを達成するシステムになり、そして今、この証明が正しいと仮定すると、ミレニアム懸賞問題に到達しました。
それは私の軌道についての考え方を完全に変えます。
将来のAIベンチマークは、人間がすでに解決した問題を解決することよりも、真に新しい発見をすることに重点が置かれるようになるでしょう。
もし主要なAIラボが、人間が現在知っていることを超えた新しい数学、科学、その他の発見を通じてその能力を実証するために競い合うようになれば、その競争は非常に速く進む可能性があります。
そして正直に言って、それが私を怖がらせます。
ここにはまだ重要な仮定があります。
証明が実際に正しく、独立した検証に耐え、すでに知られているものの再構築ではなく、真に新しい結果であると仮定しています。
これらの質問は慎重に解決される必要があります。
しかし、それらの仮定が成り立つ場合、「AIは単なるツールである」という説明はもはや十分ではないと思います。
電卓は、私たちがすでに指定方法を知っている計算を実行します。
誰も解決できなかった問題に対する正しい解決策を発見できるシステムは、根本的に異なるものです。
だからこそ、私は今後数年間で起こりうる危機について考え始めています。
AIが既存の知識を利用する人間を支援することから、フロンティアで新しい知識を生み出すことに移行する場合、人間の知的希少性に基づいた多くのシステムが深刻な圧力に直面する可能性があります。
教育、研究、キャリア、そして人間の知性が特別であるという私たちの考え方さえも、社会が適応できるよりも速く変化する可能性があります。
私はもはやAIを単なる別のソフトウェアツールとして考えることに快適ではありません。
おそらく9月8日は、今日見えているよりも重要ではないことになるかもしれません。
しかし、証明が真剣な精査に耐えれば、私たちはこの期間を、人間と機械の関係が非常に異なるものになった始まりとして振り返るかもしれません。
私は、これらの新しい能力が人々を置き去りにするのではなく、人間の生活を改善するこの移行を、人類が良い未来へと転換する方法を見つけることを願っています。
参考文献:
1. https://news.ycombinator.com/item?id=49605915
2. https://news.ycombinator.com/item?id=49613262
3. https://simonwillison.net/2026/Sep/8/on-navier-stokes/
4. https://mastodon.social/@tristanbuckmaster/117233413705701198
5. https://openai.com/index/navier-stokes-solution/