数学におけるAIの深刻な不整合

数学におけるAIの深刻な不一致

私は、先週私たちが行った議論から生まれた以下の声明の、最初の25名の署名者（全員フィールズ賞受賞者）の一員であることを誇りに思います。この声明はこちらのウェブページにも掲載されており、ライプツィヒ宣言と同様に、さらなる署名を呼びかけています。（ライプツィヒ宣言のように、より多くの議論を経る時間がなかったことは残念ですが、状況の緊急性を考慮し、できるだけ早く声明を発表する必要があると判断しました。）

また、私たちの声明に関するエコノミスト誌の最近の記事や、このトピックに関するジェームズ・メイナード氏の短いインタビューもご覧ください。この声明のフランス語版はル・モンド紙に掲載されました。

過去数ヶ月で、LLMの数学的能力は劇的に向上し、多くの数学分野における主要な未解決問題を解決できるようになりました。しかし、AI企業がベンチマークとして数学的問題を解決しようとする動きは、数学という科学、そして数学コミュニティにとって有害です。AI企業と数学コミュニティの目標は深刻に乖離しています。私たちはこれを、他の科学的・創造的分野、ひいては社会全体に影響を与える、より広範なアライメント問題の一部と捉えています。

研究数学は、形状、数、自然現象の基本的な構造を理解することに関わっています。世代を超えて、数学的風景を理解するための洗練されたアイデア、方法、抽象化、その他のツールの膨大なコーパスが構築されてきました。そして、現代の技術や科学は、数学的ツールに基づいています。

有名な問題は、しばしばランドマークや灯台として、この風景に対する理解の向上を測る基準となってきました。これらの問題の一つを解決することは、新しい洞察や興味深い方法の確かな証であり、それは数学者コミュニティによって、講演、議論、簡略化といった長く困難なプロセスを経て研究されてきました。このプロセスの終わりに、理想的には、大学院生や学部生でも学習できるような、結果の教科書的な提示が見つかるでしょう。数学的なアイデアの中には、さらに旅を続け、数十年あるいは数世紀後に、一般大衆に理解され使用されるツールとなるものもあります。

数学コミュニティは、多くの点で、人類の縮図として機能しています。それは、多様なアプローチを用いる個人で構成され、共通の価値観によって結ばれています。私たちの職業で最も貴重な資源は学生とアイデアであり、これらを私たちは細心の注意を払って育成します。私たちは、それらが数学の世界で自立した人生を送れるようになるまで、その潜在能力を最大限に引き出す責任を感じています。学生に対しては、研究やその他の分野での進歩に有利になるようなスキルを開発することを主な目的として、問題を与えることがよくあります。私たちのアイデアは、講演、個人的な議論、そして注意深い執筆を通じて広められ、他者の以前のアイデアと結びつけられます。これらのプロセスには必然的に時間がかかり、人間的な相互作用に基づいています。

最近数ヶ月で、主要な数学的問題を解決するAIの成功は、数学界の外でも見出しを飾りました。しかし、問題の解決は、概念的な理解と洞察という主要な目標を達成するためのツールであり代理にすぎません。AIの世界でこれを忘れると、ツールが本来の目標に反して使われる可能性があります。実際、「真/偽」のステートメントの、ますます速いペースでの大量生産は、新しいアイデアに命を吹き込むどころか、肥沃な土壌を破壊する可能性があります。

しばしば、これらの解決策は急いで発表され、適切な執筆、新しい方法やアイデアの分離、そして他者の関連する過去の研究への言及を行う時間がありません。すべての創造的な職業と同様に、これは深刻な帰属と盗用の問題を引き起こします。さらに、その開発と数学的規範への統合を担う意欲的な数学者がいなければ、AIによって考案されたアイデアは決して完全に生き生きとせず、数学者間の重要な人間の伝達連鎖が失われるでしょう。

私たちは、AIの使用結果とその当初の目的との間の不一致により、知的労働全般に対する一般的な脅威を目撃しています。多くの分野や活動において、長年の訓練は、最終的な答えや製品を生み出すだけでなく、理解を深め、新しい質問やアイデアを定式化する能力を養うために役立ってきました。しかし、過去の人間の広範な業績に基づいて、AIシステムは、そのような仕事の結果を直接生成する能力をますます高めており、これらの目標は一致しなくなっています。数学コミュニティが現在直面している問題は、他の科学的・創造的分野が直面している問題と類似しており、人類全体が直面する可能性のある問題を示唆しています。それは、AIが仕事のやり方を変える中で、その仕事が元々何を達成しようとしていたのかを見失わないようにするにはどうすればよいか、ということです。

AIは、真の数学的研究と理解を強化し、加速する可能性を提供します。数学という職業は、いくつかの点でこれらの変化に適応する必要があります。しかし、これらの変化が最終的に分野に利益をもたらすか、破壊的な効果をもたらすかは、この新しい技術を制御する人間の決定に大きく左右されるでしょう。

これらの問題は、数学コミュニティ内、これらの技術を開発する企業、そしてより広範には、他の多くの形態の知的労働で同様の問題に直面する社会によって、緊急に対処される必要があります。

Artur Avila (フィールズ賞 2014)
Manjul Bhargava (フィールズ賞 2014)
Caucher Birkar (フィールズ賞 2018)
Pierre Deligne (フィールズ賞 1978)
Yu Deng (フィールズ賞 2026)
Simon Donaldson (フィールズ賞 1986)
Hugo Duminil-Copin (フィールズ賞 2022)
Alessio Figalli (フィールズ賞 2018)
Martin Hairer (フィールズ賞 2014)
June Huh (フィールズ賞 2022)
Maxim Kontsevich (フィールズ賞 1998)
Elon Lindenstrauss (フィールズ賞 2010)
Pierre-Louis Lions (フィールズ賞 1994)
James Maynard (フィールズ賞 2022)
Curt McMullen (フィールズ賞 1998)
Shigefumi Mori (フィールズ賞 1990)
Ngô Bảo Châu (フィールズ賞 2010)
Andrei Okounkov (フィールズ賞 2006)
Peter Scholze (フィールズ賞 2018)
Stanislav Smirnov (フィールズ賞 2010)
Terence Tao (フィールズ賞 2006)
Maryna Viazovska (フィールズ賞 2022)
Cédric Villani (フィールズ賞 2010)
Wendelin Werner (フィールズ賞 2006)
Efim Zelmanov (フィールズ賞 1994)