AI・機械学習
AIは数学者を凌駕しているのではなく、記憶力で凌駕している
AI Isn't Outthinking Mathematicians. It's Out-Remembering Them (davidepiffer.com)
要約
この記事は、AIが数学で優れているのは、高度な推論能力よりも、人間には真似できないほど広大な「ワーキングメモリ」や「コンテキストウィンドウ」を持っているためだと論じています。人間のワーキングメモリの限界が数学的思考を妨げるのに対し、AIは問題全体、中間計算、定義などを大量に保持・処理できるため、それが高度な知能と見なされることがあると指摘しています。
全文翻訳
AIは数学者を凌駕しているのではない。記憶力で凌駕しているのだ。
その主な利点は、優れた推論能力ではなく、事実上無限の記号的ワーキングメモリにあるのかもしれない。
Davide Piffer
2026年8月4日
1952年の高等研究所コンピュータの開設式典にて。
AIは、電子的なアインシュタインというよりは、機械的に増幅されたフォン・ノイマンのようなものかもしれない:計り知れない速度、広さ、そして記号的記憶力を持つ。
AIシステムが困難な数学的問題を解決するとき、一般的な説明は、それがより知能的になったということだ。
おそらく、それは何百万もの数学的な例を吸収したのだろう。
おそらく、強化学習がより良い推論戦略を教え込んだのだろう。
おそらく、それは真の数学的直観に似たものを開発し始めているのだろう。
これらの説明はすべて、ある程度の真実を含んでいるかもしれない。
しかし、それらはより単純な可能性を見落としている:
AIは、人間の脳よりもはるかに大きなワーキングメモリにアクセスできるのだ。
あるいは、より正確には、人間におけるワーキングメモリの多くの機能を実行する、巨大な外部記号ワークスペースにアクセスできるのだ。
この違いは、数学において特に重要である可能性がある。
人間の数学者は、少数の見慣れない要素しか同時に心に留めておくことができない。
AIモデルは、問題文全体、数百の中間方程式、放棄されたアプローチのいくつか、定義、制約、そして以前の結論をすべてコンテキストウィンドウ内に保持できる。
私たちは通常、その結果としてのパフォーマンスを、優れた推論の証拠として解釈する。
しかし、その一部は、人間の推論に対する最も重要な生物学的限界の一つ、すなわち私たちの極めて制限されたワーキングメモリ容量を取り除いたことを反映しているのかもしれない。
数学は記憶によって制約される
ワーキングメモリとは、短期間に情報を保持し操作することを可能にする精神的なシステムである。
方程式を解くとき、各変数が何を表しているか、どの演算がすでに実行されたか、そして現在の目標が何であるかを覚えておく必要がある。
証明の途中では、仮定、中間的な補題、例外、そして複数の可能なケースを追跡する必要があるかもしれない。
人間のワーキングメモリは驚くほど限られている。
その正確な容量はタスクと情報の整理方法に依存するが、一般的な限界は日常的な経験から明らかである。
2つの3桁の数を頭の中で掛け合わせてみてください。
基本的な演算は単純だ。
難しさは、追加の計算を実行しながら部分的な結果を保持する必要があることに大きく起因する。
数字を書き出すと、問題が変わる。
紙はあなたをより賢くしない。
それはあなたの実効ワーキングメモリを拡張する。
同じ原理が、より高次の数学にも当てはまる。
数学者は、解を伝えるためだけでなく、推論を認知的に可能にするために、記法、メモ用紙、図、そして以前に書かれた補題を使用する。
専門家は「チャンキング」によって補償する。
初心者は長い記号のシーケンスを見る。
専門家は、見慣れた構造を認識し、それを単一の概念的なオブジェクトとして扱う。
これにより、同じ生物学的ワーキングメモリの限界内に、より多くの情報が収まるようになる。
しかし、チャンキングは限界をなくすわけではない。
それは情報を圧縮するにすぎない。
AIモデルは、非常に異なる制約に直面している。
ワーキングメモリはIQを超えて数学的パフォーマンスを予測する
数学におけるワーキングメモリの重要性は、理論的なものではない。
それは人間間の違いにも見られる。
ワーキングメモリは一般的な知能と強く関連しているが、これは明白な疑問を投げかける:それは数学的パフォーマンスを独立して予測するのか、それとも単にIQの別の不完全な尺度にすぎないのか?
いくつかの研究は、それが従来の知能尺度を超える何かに貢献していることを示唆している。
例えば、AllowayとPassolunghi(2011)は、子供たちのワーキングメモリ、言語能力、数学スキルを調査した。
彼らは、ワーキングメモリの尺度が、数学と一般的な言語能力との関連を単に再現するのではなく、数学的パフォーマンスに独自の貢献をしていることを発見した。
別の6年間の縦断研究では、AllowayとAlloway(2010)は5歳の子供たちのデータを測定し、6年後の学業成績を調査した。
初期のワーキングメモリパフォーマンスは、IQが分析に含まれた後でも、後の読み書き能力と計算能力を予測した。
実際、ワーキングメモリは、研究で使用されたIQ尺度よりも、後の学業成績の強力な予測因子であった。
Blankenshipらの研究(2015)も同様に、IQと年齢を統計的に制御した後、ワーキングメモリが数学的流暢さと計算能力における独自の変動を説明したと報告している。
Friso-van den Bosらの大規模なメタアナリシス(2013)も、小学校の研究全体でワーキングメモリと数学との間に一貫した関係を見出したが、その関係の強さは、測定されたワーキングメモリと数学タスクのタイプによって異なった。
これらの発見を誇張すべきではない。
ワーキングメモリと知能は大きく重複しており、統計的制御ではそれらを独立した心理的メカニズムとして完全に分離することはできない。
また、市販のワーキングメモリトレーニングが、知能や数学に大きな改善をもたらすとは限らないという証拠もない。
より狭い結論はそれでも重要である:測定された知能が同程度の子供たちの間でも、情報を保持し、更新し、操作する能力の違いは、依然として数学的パフォーマンスの違いを予測する。
これはAIを理解するための重要な手がかりを提供する。
人間の数学的パフォーマンスが部分的にワーキングメモリのボトルネックによって制限されているとすれば、機械に巨大な記号ワークスペースを与えることは、競争の性質を変える。
機械は、人間のパフォーマンスを抑制する認知的な限界をあまり受けていないため、数学的に知的なように見えるのかもしれない。
コンテキストウィンドウは巨大なノートである
現代の言語モデルは、一度に膨大なトークンのシーケンスを処理できる。
このシーケンスには、元の質問、定義、例、中間計算、そしてモデル自身の以前の推論が含まれる場合がある。
コンテキストウィンドウは、人間のワーキングメモリと同一ではない。
それは、巨大な外部ノートと、そこに書かれたものを検索して使用するための不完全なシステムの組み合わせとして理解するのが良い。
この区別は重要である。
人間は、能動的な内部記憶の一形態を持っている。
私たちは、何も言ったり書いたりすることなく、数字を選び、それを心に留め、それを変換し、新しい値で置き換えることができる。
標準的な言語モデルは、この種のプライベートで継続的に更新される精神状態を維持するのがはるかに弱い。
それらの最も安定した記憶形態は、通常、すでに生成されたトークンのシーケンスである。
モデルが次のように書いた場合:
x=6
そして後で次のように書いた場合:
x+3=9
それらのステートメントはコンテキスト内に残る。
モデルは、次のステップを生成する際に、それらに再び注意を向けることができる。
したがって、その推論はしばしば外部化される。
テキストは、完了した思考プロセスの単なる報告ではない。
テキストは、推論が発生するメカニズムの一部である。
人間は、メモ用紙を使用するときに同様のことを行う。
主な違いは規模である。
補助なしの人間は、5つの見慣れない条件を同時にアクティブに保つのに苦労するかもしれない。
AIは、数十または数百の条件を明示的な形式で保持できる。
これは、長いコンテキスト内のすべての項目が完全に取得されるという意味ではない。
モデルは関連情報を見落としたり、気を散らされたり、詳細を見失ったりすることがある。
宣伝されているコンテキスト長は、完全に利用可能な記憶と同じではない。
それにもかかわらず、潜在的な容量の違いは計り知れない。
これが特に数学にとって重要な理由
コンテキストウィンドウの利点は、あらゆる種類の推論に等しく役立つわけではない。
それは特に数学にとって重要である。なぜなら、数学的推論は、明示的な記号に異常によく翻訳できるからである。
数学的問題の関連要素のほぼすべてを書き留めることができる:
仮定;
定義;
既知の方程式;
現在の目的;
すでに証明された結果;
除外されたケース;
条件