AIは現在、AI研究を劇的に加速させている

AIは現在、AI研究を劇的に加速させている

この記事は、AnthropicにおけるAIによるAI研究開発の加速に関するMETRの公開レポートについて論じています。私はこのプロジェクトに関わっておらず、編集前のレポートを見ていません。 1 すべての意見は私自身の見解であり、METRやレポートの著者たちの意見を代表するものではありません。

議論、フィードバック、モデリングの協力をしてくれたRyan Greenblatt氏、コメントをくれたDaniel Kokotajlo氏、Eli Lifland氏、Hjalmar Wjik氏に感謝します。

今週初め、AnthropicはS1で、責任あるスケーリングポリシー（RSP）で定義されている「AIによる劇的な進歩の加速」の閾値に「間もなく到達する可能性がある」と述べました。彼らの最新のRSP（2026年7月発効）によると、この閾値は以下の場合に満たされるとされています。

1. AIがAI研究開発にあまり貢献していなかった以前の最速の持続的なペースの2倍の速さで、全体的な能力の進歩が進んでいる、または進むと予想される場合。2

2. これが、計算能力やその他のインプットの加速ではなく、AIがAI研究開発を自動化することに合理的に起因すると考えられる場合。3

過去数ヶ月間、METRの同僚の一部は、AnthropicがAIシステムによってどの程度加速されているかを理解するために、詳細な調査に取り組んできました。彼らのレポートとAnthropicのRSPを読む限り、「劇的な加速」の閾値はすでに超えられたようです。4

画像: AnthropicのAI研究開発の加速に関するMETRレポートのグラフのスクリーンショット。グラフは、2025年10月から2026年10月にかけて、AI研究開発の進歩率が約2倍になったことを示しています。

レポートの著者たちは、以下の発見をしました。

1. 2025年10月から2026年10月にかけて、Anthropicにおける能力の進歩は、その前の12ヶ月と比較して約2倍の速さで進んでいました。彼らが報告している測定値は、Epoch Capabilities Indexの内部バージョンであるAECIです。加速の根拠となる他の多様な証拠は編集されています。彼らは、この編集された証拠が「彼らが見つけた最も有益な証拠の過半数」であったと述べています。

2. ペースは当初、様々な理由で上がり始めたかもしれませんが、能力が現在もこの速いペースで向上している主な理由は、AIの自動化である可能性が高いです。彼らがそう信じる理由は編集されています。

これは、最初に聞こえるよりもはるかに大きな問題です。このレポートは、過去数年間でAIリスクに関する最も重要なアップデートだと私は考えています。これは、Hugging Faceの攻撃よりもはるかに重要です。単純に考えると、これはほとんどの外部の研究者（AI 2027チームを含む）が予測しているよりも、はるかに短いタイムラインを示唆しています。

研究者は大幅にスピードアップされなければならない

重要なのは、AIが全体的な能力の進歩をほぼ倍増させているとすれば、それは人間の研究者をそれ以上に大幅にスピードアップさせているに違いないということです。

画像: AI研究開発の加速における、計算能力、研究者の労働力、およびAIによる自動化の相対的な重要性を示す図。

研究者はアルゴリズムとアーキテクチャの改善に取り組んでおり、Anthropicはしばしばこれらのイノベーションを「計算能力乗数（compute multipliers）」と呼んでいます。5 全体的なAI能力（「実効計算能力」）は、計算能力乗数とトレーニング計算能力の積です。計算能力乗数は能力へのインプットの1つにすぎないため、AIソフトウェアの進歩によりAI能力が全体として2倍の速さで進歩している場合、計算能力乗数の成長率は2倍よりも速く、合理的な仮定に基づけばおそらく約2.5〜3倍速い必要があります。6 スピードアップの規模と、そのうちAIに起因する割合には不確実性があるため、私は約2〜3倍とします。

同様に、研究者の「労働力」はこれらの計算能力乗数の発見へのインプットの1つにすぎません。彼らはアイデアをテストする必要があり、そのためには実験のための計算能力が必要です。実験計算能力と労働力が同様に重要である非常に単純なコブ＝ダグラスモデルを仮定すると、労働力への向上率は計算能力乗数の加速率の2乗にほぼ等しくなる必要があります。7 これは、全体的なAI能力を2倍の速さにするためには、労働力の約(2〜3倍)^2 = 約4〜9倍のスピードアップが必要であることを示唆しています。8

しかし、能力が大幅に加速し始めると、低位の果実（low-hanging fruit）もそれに応じて速いペースで摘み取られるようになります。新しい計算能力乗数を発見し実装するには、ますます多くの作業が必要になります（つまり、「アイデアを見つけるのが難しくなっている」）。AIによる加速があまりなかった頃は、人間を増員することで労働力はほぼ一定の指数関数的ペースで成長していました。計算能力の成長と組み合わせることで、収穫逓減を補い、基本的な能力進歩率を維持していました。しかし、計算能力をより速くスケールアップすることなく、新しい、より速い能力進歩率を維持するためには、全体的な労働力の新しい、より速い成長率が必要になります。

画像: AIによる研究開発の加速における、計算能力乗数と研究者の労働力の関係を示すグラフ。

人間の労働力は、多かれ少なかれ以前と同じペースでしか成長しないため、能力進歩を新しいペースで維持するためには、AIによる向上率は時間とともにますます大きくなる必要があります。これは、数ヶ月間のAIによる加速された進歩の後、今日の向上率が、当初2倍の進歩を達成するために必要だった約4〜9倍よりもさらに高くなければならないことを意味します。おそらく必要な労働力向上率は約10倍です。これは非常に不確実であり、大幅に多い、または少ない可能性もあります。しかし、これはAnthropicのスタッフからの非公式な自己申告と驚くほどよく一致しており、彼らは現在、内部モデルの使用から約12倍の向上を得ていると述べています。

画像: AIによる研究開発の加速における、AIによる労働力向上率の増加を示すグラフ。

10倍の向上を想像するとき、すべての研究者が10人の研究者のチームになったと想像すべきではありません。何かをしたことがある人なら誰でも知っているように、10人のチームは1人よりも1時間あたり10倍の価値ある仕事をするわけではありません。むしろ、あたかもAnthropicのすべて の研究者がタイムワープの泡の中にいて、外界の1日に対して10日を経験しているかのようです。あたかもAIが彼らに思考、読書、会話、タイピング、そしてその他のすべてを10倍速く行うことを可能にしているかのようです。10 Anthropicはおそらく、存在するどんな数の人々を雇用しても、その研究をこれほど速くすることはできなかったでしょう。11

これは極めて急速に自己増殖する可能性がある

合理的なデフォルトの期待は、AIの能力が向上し続けるにつれて、AI研究者は自動化によってますますスピードアップされるということです。今日、彼らが1年かけてやっていた仕事を1ヶ月でこなせるとすれば、すぐに1週間、そしておそらく1日になるでしょう。この増加する労働力向上率が収穫逓減を克服するのに十分であれば、他のボトルネックがない限り、それはAI進歩率のさらなる大幅なスピードアップにつながるでしょう。進歩は4倍速くなり、次に8倍、そして16倍と続いていくでしょう。

画像: AIによる研究開発の加速における、指数関数的な進歩の可能性を示すグラフ。

レポートの著者たちはこの問題について非常に不確実であり、新しい情報で彼らの見解が何度か変わったと述べています。しかし最終的に、彼らは、自己増殖する加速を妨げるようなボトルネックや急激な収穫逓減の証拠を発見しませんでした。12 彼らはまた、加速がすでに2倍を超えており、時間とともに増加していることを示す（混乱を招く）編集済みの証拠をいくつか見たと報告しています。

AIが現在、AI能力の進歩率をほぼ倍増させていると額面通りに受け取り、AIによる加速がスムーズであると仮定すると、これは単純に考えると、1年以内に極端な超知能に到達することを示唆します。約1年分のAI進歩が、穏やかな加速から、AIが現在AI進歩を約2倍速くしているという状況に至ったようです。AIによる加速がスムーズに増加している場合、この新しいペースでは、6ヶ月以内に進歩率をさらに倍増させると予想されるべきです。その時点で、さらに倍増させるのに3ヶ月、次に6週間かかるでしょう。13

理論的には、これらの倍増時間は1年以内に無限の能力につながります。現実には、ある時点でソフトウェア効率の有効上限に達するでしょう。しかし、これらの限界は現在の我々の位置からは非常に遠いと予想されます。

このフィードバックループを経ると、最終的に生まれるAIシステムは、新しい武器を非常に迅速に開発し、紛争において人間の文明を容易に圧倒できるようになると予想されます。もしこれらのシステムが深刻にアラインメントされていなかった場合、それらは人間性を無力化する可能性が高く、これは人類の絶滅につながる可能性があります。

業界は安全に対処する準備ができていない

「AIによる劇的な進歩の加速」は、非常に近い将来における極端な能力の強力で具体的な指標であるため、非常に重要で極端なマイルストーンです。実際、AnthropicのRSPの以前のバージョン（2025年5月）では、AI研究自動化（AI R&D-5）の最も高いリスク閾値は、やや弱いマイルストーンに対応していました。14 古いRSPによると、Anthropicは、AI R&D-5に到達するまでに、少なくとも「国家レベルの敵対者によるモデル重み盗難を防ぐのに十分なセキュリティ」15を備えている必要がありました。

私は、モデル重みとアルゴリズムの秘密の両方に対する非常に強力なセキュリティが、来年の知能爆発を、何十億人もの人々を殺す非常に大きなリスクなしに経験するための最低限の前提条件であることに同意します。AI業界はこの基準には程遠いです。最近、OpenAIもAnthropicも、アマチュアグループによって重大なセキュリティ侵害を受けています。強力なモデル重みセキュリティを超えて、私はまた、普遍的なカバレッジを持つ堅牢なログ記録と監視、モニター可能性の信頼できる測定値、モニターの共謀に対する効果的な対策、非常に説得力のあるモデル生物またはそれらがどれだけうまく機能しているかを理解するための解釈可能性を用いた原則的なアラインメントトレーニング手法、これらのアラインメントと制御介入が破綻し始めていることに気づいた場合の進歩ペース制御のためのガバナンスインフラストラクチャ…そして、知能爆発に責任ある方法で近づくためには、他にも多くの対策が必要になるでしょう。

残念ながら、これらの結論の根拠となった重要な証拠のほとんどは、このレポートから編集されています。分析上の選択は必然的に困難であり、レポートの著者たちは、証拠がしばしば混乱を招いたと述べています。

私は、同僚たちが、見たものを理解する上で、慎重かつ厳密な仕事をしたと信頼しており、私はこのレポートに基づいて大きな更新を行いました。しかし、読者が信頼に頼る必要がないように、より多くの根本的な証拠が透明化されることを願っています。タイムラインとテイクオフ速度について合意する時間がなくなりつつある可能性があり、外部の科学者がデータを確認し、独自のモデルをテストできない場合、それははるかに困難になります。

1

タイムラインとテイクオフ速度に関連する可能性のあるその他の機密情報を見た可能性があるため、正確な最終予測を共有するのではなく、公開されている証拠からの示唆のみを議論します。

2

正確な条件は次のとおりです。「AI研究開発への顕著な貢献がない場合の最速の持続的な進歩率の両方と比較して、そしてAI研究開発への顕著な貢献がない場合の我々が予想する進歩率と比較して、AIの全体的な能力の進歩率が2倍になったことを観察または予測する。」両方の条件（対事実と比較した進歩率の倍増、およびAI支援が少ない過去の最速持続率と比較した倍増）を持つ理由の私の理解は、AI自動化なしでは能力のペースが大幅に低下したであろうケースを除外するためですが、AIからの劇的な向上によって古いトレンドを維持することに成功しました。

3

正確な条件は次のとおりです。「この倍増が、研究者やエンジニアの数、計算能力、または一般的な生産性などの他の要因とは対照的に、研究および/またはエンジニアリングの自動化に大幅に起因すると考えられ、その結果、AI進歩のトレンドの継続がさらなる加速につながる可能性が高い。」

4

閾値の定義は少し細かいです。これは、2つのスピードアップ条件（対事実に対するスピードアップと過去に対するスピードアップ）を満たす必要があるためです。しかし、素直に読めば、私の最良の推測は、それが満たされたということです。

METRレポートの著者たちは、過去と比較して進歩率が約2倍になったと推定していますが、現在のスピードアップの約80％のみをAIに起因させており、これはレポート作成時（2026年10月）の観測されたスピードアップの中央値がAIなしの場合で約1.8倍であったことを意味します。

しかし、彼らはまた、AIの貢献が時間とともに増加していることを発見しており、現在（2026年11月時点）はかなり高いと推測します。進歩率が現時点で対事実の倍に完全になっていなくても、閾値には合理的な期待が含まれています（「我々は、進歩率の倍増を観察または予測する…」）。

5

AnthropicのCEOであるDario Amodeiは、計算能力乗数のアイデアをこのエッセイで説明しています。「この分野は、モデルのアーキテクチャの改善（今日のすべてのモデルが使用している基本的なTransformerアーキテクチャへの微調整）や、基盤となるハードウェア上でモデルをより効率的に実行する方法など、大小さまざまなアイデアを常に生み出しています。新しい世代のハードウェアも同様の効果をもたらします。これらは通常、カーブをシフトさせます。イノベーションが2倍の「計算能力乗数」（CM）である場合、それは500万ドルではなく1000万ドルでコーディングタスクで40％を達成することを可能にします。または5000万ドルではなく1億ドルで60％を達成します。など。すべてのフロンティアAI企業は、これらのCMを頻繁に発見しています。しばしば小さいもの（約1.2倍）、時には中程度のもの（約2倍）、そして時折非常に大きいもの（約10倍）です。」

6

これは、私の同僚であるRyan Greenblattがこちらで行っているモデリングの簡略化されたバージョンです。彼の数値は、ソフトウェアとトレーニング計算能力の重要性、および労働力と実験計算能力の重要性に関する彼の以前の公開されたモデリングに基づいています。

7

コブ＝ダグラスの一般的な定式化では、労働力は人間の「数」として測定されることがよくあります。その定式化では、労働力に加えて並列化ペナルティが必要であり、係数は1になりません。以下で議論するように、私は労働力を人間の「数」ではなく「連続労働力加速」として表現することを選択しました。この定式化は、Ryan Greenblattがこの投稿で提案したものです。

8

計算を単純にするために、労働力と実験計算能力が同等に貢献していると仮定しました（つまり、計算能力乗数 = (労働力)^0.5 * (計算能力)^0.5）。これは、計算能力乗数の加速を2乗することで労働力の加速を逆算する必要があることを意味します。私が示した範囲は、貢献の規模に関する不確実性を除外しています。例えば、労働力が2/3を貢献した場合、代わりに3/2乗する必要があるでしょう。

9

数ヶ月と言っているのは、レポートの著者たちが、2025年末の最初の速い進歩は他の要因によるところが大きかったが、現在のスピードアップは主にAIによるものだと述べているからです。

10

実際には、10倍の向上は均一ではない可能性が高いです。一部のタスク（例：より「ヒルクライム可能」なタスク）は他のタスクよりも大幅にスピードアップされ、純粋な生産性向上は10倍の均一な加速と同等になります。

11

つまり、実際に存在するどんな数の人々でも。既存の研究者を数百回クローンできれば十分だろうと推測しますが、世界には強力なAI研究者やエンジニアはそれほど多くいません。

12

レポートより：「主な懸念は、AIの使用による加速が自己増殖する可能性があり、より有能なモデルの開発がさらなる加速につながることです。以下で説明するように、私たちは、そのような自己増殖する加速を妨げるような明確なボトルネック（さらなる成長を妨げる限定的なインプット）や急激な収穫逓減を特定しませんでしたが、私たちの理解は、この評価の過程で何度か進化し、大きな不確実性があります。このため、能力のさらなる進歩が、来年さらに速い加速につながる大きなリスクがあると信じています。」

13

このヒューリスティックな議論は、再帰的な自己改善によりAI進歩のペースが累積AI進歩（例：実効計算能力の対数）の指数関数になる、単純だがもっともらしいモデルと一致しています。このヒューリスティックな議論の導出は、このクラスのモデルの1つのパラメータ化に基づいています。

14

AI R&D-5は次のように定義されていました：「実効スケーリング率の劇的な加速を引き起こす能力。具体的には、世界で最も有能なモデルの実効トレーニング計算能力の増加を観察または予測した場合、1年間で2018年初頭から2024年初頭までの平均進歩率の2年間に相当する場合です。私たちは、2018年から2024年までの平均スケールアップは約年間35倍であると推定しており、これは実際のまたは予測される1年間のスケールアップが35^2 = 約1000倍であることを意味します。」これは、AIによる自動化への帰属を必要とせず、閾値に達する可能性があるため、過去の最速ペースではなく、固定された2018年から2024年の期間と比較しているため、より弱いものです。

15

最低限のコミットメントはRANDのASL-4セキュリティレベルに到達することでした。私の理解では、これはトップ国家（例：中国）による定期的な操作からモデル重みを保護するレベルのセキュリティですが、最優先の操作には対応できません。Anthropicはこれを次のように説明しています：「最低限、ASL-4セキュリティ標準（国家レベルの敵対者によるモデル重み盗難から保護する）が必要ですが、より高いセキュリティ標準が必要になる可能性があると予想しています。」