AI生成数学の責任ある公開
Responsible Release of AI-Generated Mathematics (agmai.org)
要約
この記事は、AIが生成した数学的成果を科学コミュニティに責任を持って公開するための提言を提示しています。AIラボは、人間が理解・検証できない数学的成果を公開する場合、その理解を支援するための資金提供を含む責任を負うべきだと主張しています。提言では、人間が理解できる成果とそうでない成果の公開方法を区別し、技術的な基準やコミュニティ主導の理解促進の重要性を強調しています。
全文翻訳
AI生成数学の責任ある公開
2026年9月29日
現在、一部の最先端AIラボは、より広範な科学コミュニティからアクセスできない独自のモデルで高度な数学的問題をテストしています。私たちの提言は、この実践的な文脈を念頭に置いて策定されています。しかし、理想的には、彼らはそうすべきではありません。最初にはっきりと述べたいことがあります。私たちはこの慣行を支持しておらず、独自のモデルで高度な数学的問題をテストするのをやめるよう求めています。
1. 背景
数学コミュニティには、結果の普及と査読に関する長年の規範があります。これらの規範は、数学的作業の信頼性、信頼性、および有効性のために不可欠でした。数学における最も重要な学術規範の一つは、論文の著者はその論文の数学的議論を理解し、自身でその正しさを検証し、内容に対して全責任を負うべきであるということです。さらに、数学コミュニティでは、分野を大きく進歩させた作品の著者は、定期的に他の機関でセミナーを開催したり、会議で講演したりして、新しい開発について説明し、同僚からの質問に答えています。これらすべては、数千年にわたる人間の発展の栄光の一つである、数学の可能な限り深い人間的理解を深めるために機能しています。
しかし、現在では、AIは、それを促した人間が議論を理解したり、検証したり、責任を持ったりできない状況で、数学的議論を出力できます。私たちは、数学における人間的理解が依然として最重要であると信じています。この新時代において、責任ある学術的成果の一部として数学における人間的理解を含む新しいパラダイムに向けて、どのように取り組むことができるでしょうか?
AIラボが数学的結果を責任を持って公開することの意味について数学コミュニティにフィードバックを求めたところ1、600件以上の回答がありました。これらの回答にinformedされ、数学に大きな影響を与える可能性のあるAIラボを対象とした、回答者の明確な多数によって支持された一連の提言に到達しました。これらの提言の根底にある包括的な原則は以下の通りです。
- AIラボが重要な数学的成果を生み出した場合、この文書に概説されているように、できるだけ早く責任を持って成果を公開する必要があります。
- 人間による即時の理解を伴わずに実質的な数学的出力を公開するAIラボは、人間の理解が続くことを保証する責任を負わなければなりません。特に、AIラボは、この理解を深めるのを助けるために、資金提供を含む実質的な支援を提供する必要があります。
- 人間的理解の開発は、有機的かつコミュニティ主導でなければなりません。ラボが成果を生み出した場合でも、AIラボによって指示されるべきではありません。
提言自体はセクション2で提示し、セクション3では強力なモデルへのアクセスに関するいくつかのコメントをします。
2. AIラボによって生成された結果の責任ある公開
結果に伴う人間の理解のレベルに応じて、2つの可能な行動方針を推奨します。
2.A. 人間が理解する論文
内容を完全に理解している数学者が責任を持つ論文は、学術数学コミュニティの伝統的な規範に従うべきです。関係する数学者は、プレプリントを投稿し、ジャーナルに査読のために論文を提出し、他の数学者に作品を説明するための講演を行うべきです。
2.B. まだ誰も理解していない論文
以下の提言は、AIシステムを促した人々が理解していないAI数学出力を持つラボのためのものです。これらは2つの部分に分かれています。最初の部分は、AI生成数学の公開のための技術的規範のセットです。2番目の部分は、AIラボが、人間がAI生成数学の出力を理解し、同化し、その可能な応用を特定するために必要な追加の数学的活動を支援するという推奨です。
ステップI:初期リリース
-
LLMの助けを借りて、AI生成結果の初期の書面版に実質的な改善を加えることは容易です。以下の行動は、後で数学者に任せるのではなく、AIラボによって実行されるべきです。
(a) 公開される結果の証明のアイデアに関連するアイデアについて、文献を徹底的に調査する必要があります。AIラボのモデルがそれらのアイデアを独立して発見したとしても、標準的な数学的慣行に従い、アイデアが最初に導入された論文を引用する必要があります。
(b) モデル、または他のモデルに、従来の数学論文の慣習に従ったスタイルで書かれた各証明のバージョンを生成するように促されるべきです。それらは、親しみやすい導入と正確な定理ステートメントと証明を含むべきです。それらは、言葉が多く、理解不能にする標準的でない専門用語で満たされるべきではありません。LLMの現在の能力は、私たちが数学者に期待する帰属のレベルや説明の質を再現できない可能性があり、したがって、リリース後の数学者によるより重要な作業が必要になる場合があります。その場合、ステップIIで説明されているように支援されるべきです。しかし、高い基準に到達できないことは、AIラボが上記の2つの点についてモデルで最善を尽くす責任を免除するものではありません。
-
結果が発表されるときは、適切な学術リポジトリにタイムリーに預けられるべきです。これらは、いずれかのAIラボによって制御されるべきではなく、提出物には永続的な引用可能な識別子があり、後続の変更が適切に記録されることを保証する一定の基準を保証する必要があります。AI生成の結果については、リポジトリが論文へのコメントを許可する場合、特に有用でしょう。
AIラボが、モデルを宣伝するためのマーケティング手段として数学的結果の公開を扱うことを控えることを強く推奨します。この慣行が数学コミュニティに与える実質的な負の外部性を無視しています。
-
公開される各結果について、AIラボはモデルの名前、使用されたプロンプト、思考の連鎖(要約)、所要時間、および計算コストの見積もりを公開する必要があります。結果を生み出した科学プロセスを明らかにする追加資料(上記(1)で推奨されたような、クリーンアップ前の初期LLM出力など)を公開することは強く推奨されます。
-
可能な限り、AIラボによって公開された証明は形式化されるべきです。形式化アーティファクトは、著作権ヘッダー、比較用のチャレンジファイル、およびformalization.yamlを含むコミュニティ標準を満たす必要があります。自然言語と形式化されたアーティファクトを関連付ける機械可読メタデータを含めると役立ちます。形式化が許容できない遅延につながる場合、論文の形式化ステータスは明確に述べられるべきです。例えば、コミュニティによって受け入れられている標準的な結果をモジュロとして形式化されているかもしれません。
-
問題の解決策が公開されるたびに、AIがその特定の問題にどのように使用されたかが正確に文書化されるべきです。多くの結果が一度に公開される場合、結果自体に加えて、公開されたすべての結果を参照し、モデルがどれだけ多くの同等の難易度の問題を試して失敗したか、および問題がどのように選択されたかを説明する別の文書が書かれ、公開されるべきです。
ステップII:人間の理解の支援
私たちの原則の一つは、AIラボが、AIによって生成された数学的出力の人間的理解の開発を支援する責任(資金提供を含む)を負うということです。ここでは、そのような支援が何に使用されるかについて詳細を述べますが、どの特定の努力が支援されるかの最終的な決定は、このグループでもAIラボでもなく、資金配布のための確立されたプロセスを持つ、すでに存在する独立した非営利機関によって行われるべきです。適切なレベルの支援の範囲は、公開されたAI出力の重要性と複雑さによって異なります。これらの特徴は、人間の理解を支援するために必要な作業量を決定するためです。
支援される可能性のある活動の例をいくつか示します。
- 証明が非常に複雑な結果、または多くの調査の新しい道を開く可能性のある結果については、それらを理解するための会議やサマースクールが、分析と証明の理解のために重要であり、将来の数学的開発に応用できるようになります。
- 他の結果については、より的を絞ったワークショップや長期的なワーキンググループが必要になる場合があります。長期的な作業のために、ポスドクや学生が作業を支援している可能性があり、したがって資金提供が必要になる場合があります。
- 一部の結果については、専門家が書籍や長い解説記事を書くのを支援することが役立つでしょう。
AIラボからのそのような支援の受け入れは、AIラボの実践に正当性を与えるものではないことを理解する必要があります。むしろ、AIラボが、AI出力の人間的理解の開発に対する責任を果たすために適切な貢献をすることを求めていることになります。
3. 広範なアクセスを確保する
AIラボが数学研究を行うために独自の内部モデルを使用することは、ラボが分野の他の部分を追い越し、実質的に数学コミュニティをその分野から疎外する二層システムを生み出すリスクがあります。
公開されているモデルに関しては、経済的およびその他の要因による不均等なアクセスは、数学界全体に多層的な階層を確立し、機関の富と技術的特権から生じる既存の不平等を大幅に悪化させるリスクがあります。
したがって、AIラボが、公開されているモデルへのグローバルな数学コミュニティの広範で公平なアクセスを許可することを推奨します。これは、進歩を加速し、その広範なアクセスを確保するための両方の方法です。数学は主に集団的検証、概念的統合、および共有された直観を通じて進歩しますが、最先端の結果を生み出す一部の楽器がごく一部の人のみにアクセス可能である場合、これらのいずれも繁栄することはできません。
1 OpenAIが詳細を示さずに多くの結果の存在を発表した状況について尋ねました。