エージェントのスワームと新しいモデル経済学
Agent swarms and the new model economics (cursor.com)
要約
Cursorは、エージェントが協力してタスクを達成する「エージェントスワーム」の実験結果を発表しました。この新しいアーキテクチャは、プランナーエージェントとワーカーエージェントに分かれ、タスクをツリー構造で分解することで、単一エージェントよりも効率的かつ大規模なタスク処理を可能にします。特に、新しいバージョン管理システム(VCS)を開発し、1秒あたり1,000コミットという高スループットを実現し、スプリットブレイン、競合、マージコンフリクトなどの問題に対処しています。
全文翻訳
エージェント群と新しいモデル経済学
今年初め、我々はエージェントが目標達成のために協調する際のスケール限界をテストする実験を行いました。このアプローチが、タスクの規模と複雑さの新しい段階を切り開くと仮説を立てました。
フラッグシッププロジェクトは、ウェブブラウザを一から構築する長期的なエージェント群でした。これは概念実証としては成功しましたが、洗練されたソフトウェアには程遠いものでした。
その作業は意図的に経験主義的なものでした。我々は白紙の状態から始め、安定した効果的なシステムに向けてヒルクライムを行いました。それ以来、我々の目標は、エージェント群を意図的に設計できるほど十分に理解することでした。
その進捗をテストするため、以前のエージェント群が苦労したタスク、つまりドキュメントのみを頼りにRustでSQLiteを一から構築するというタスクに戻りました。
初期の結果は有望でした。我々は、同じタスク、同じモデル、同じ時間予算で、旧エージェント群と新エージェント群を実行し、それぞれがどれだけテストスイートをパスできたかを測定しました。
新エージェント群は、あらゆるモデル構成でより良い結果を出しました。Grok 4.5を使用した場合、4時間で80%に達しましたが、旧エージェント群はスパイラルに陥り、2時間も経たないうちに一時停止せざるを得ませんでした。
また、どのモデルがどのジョブを実行するかを変えてみました。一部の実行では、1つのモデルがすべてを処理しましたが、他の実行では、最先端モデルが計画を担当し、高速で安価なモデルが作業を実行しました。どの組み合わせでも同等の品質が得られましたが、コストは大きく異なりました[1]。
[画像: 旧および新エージェント群におけるモデルミックスごとのSQLite再構築コスト][画像: 旧および新エージェント群におけるモデルミックスごとのSQLite再構築コスト]
ツリーとリーフ
大規模タスクの説明は、自然とツリー構造をとります。ルートに目標があり、それが基本的な作業単位に再帰的に分割されます。我々のエージェント群には2つの役割があり、どちらも同じツリー構造の分解を中心に組織されています。
- プランナーエージェント: 最も賢いモデルによって駆動され、目標を分割し、委任します。
- ワーカーエージェント: 一般的に、より高速で安価なモデルによって駆動され、それらの部分を実行します。
この設計は、より厳格なオーケストレーションシステムを包含するものです。問題に対して固定的なトポロジーを課すのではなく、エージェント群の形状は問題の輪郭をカバーするように成長し、計算とコンテキストはタスクの複雑さに比例してスケーリングします。
これが、この設計がブラウザ構築、数学問題解決、GPUカーネルの最適化といった多様なタスクに汎用的に適用できる理由だと考えています。また、内部的にはオープンソースソフトウェアの脆弱性の発見と修正、自社コードベースのテストカバレッジの向上、数千億トークンの合成トレーニングデータの生成にも使用しました。
ツリーがメモリに与える影響
単一のエージェントが完全なタスクを引き受ける場合、それはツリー全体を自分で歩く必要があり、各リーフに下降しながら、その祖先、現在の位置、そしてより広い目標を常にコンテキストに保持する必要があります。
これが、長期間実行される単一エージェントがドリフトする理由だと考えています。彼らは、目の前の作業に集中して全体像を見失うか、全体像を保持してその部分の作業をより悪く行うかのどちらかになります。
エージェント群では、プランナーは実装を行わないため、コンテキストが低レベルの詳細で満たされることはありません。また、ワーカーは計画を行わないため、コンテキスト全体を1つの狭い作業部分に費やすことができます。
[画像: タスクツリー全体でプランナーとワーカーエージェントに作業を分解するダイアグラム][画像: タスクツリー全体でプランナーとワーカーエージェントに作業を分解するダイアグラム]
エージェント群がスケーリングできる能力は、並列性そのものよりも、このコンテキスト効率に由来すると推測しています。この効率性はエージェント群のあらゆるスケールで存在するため、この分解は適度なサイズのタスクでもエージェントのパフォーマンスを向上させます。
この構造の響きは他の場所にもあります。経済学者のロナルド・コースは、企業がなぜ存在するのかを問い、調整コストは作業自体よりも速く増加するため、組織は全員が全員と話すことを許すのではなく、境界のある単位の階層に落ち着くと主張しましたThe Nature of the Firm。
エージェントのためのバージョン管理システム
以前のエージェント群に関する投稿で、GitやCargoのようなツールは並行制御のために粗いロックに依存していると述べました。これは開発者1人には問題ありませんが、数百のエージェントが生成する作業量には対応できません。
今年の初めのブラウザ群は、Gitで1時間あたり約1,000コミットに達しました。新しいシステムは、1秒あたり約1,000コミットに達します。
この活動レートを促進するために、我々はバージョン管理システム(VCS)を一から構築しました。スループットだけがこのレイヤーを所有する理由ではありませんでした。システム内のすべての変更はVCSを通過するため、衝突が最初に可視化される場所であり、次のセクションのいくつかの調整メカニズムは直接その中に実装されています。
毎秒1,000コミットでの障害モード
人間のエンジニアリングチームには、コードレビュー、オーナーシップ、スタンドアップ、マージキューといった標準的な調整メカニズムがあります。これらのシステムは人間のテンポで機能しますが、エージェント群のコミットレートでは、人間のチームが日常的に遭遇しない障害モードが見られます。
分割された脳(Split-brain)設計
互いに認識していない2つのプランナーが、コードベースの異なる部分で同じ概念を異なる方法で実装してしまう。
これをプロンプトで修正しました。プランナーは設計上の決定を委任するのではなく、自身で行い、同じ質問に対する委任されたサブツリーが2つ存在しないことを確認する必要があります。
プランナー間の競合
より困難な形態の競合は、2つのプランナーがお互いを認識しており、同じファイルに対してバック・アンド・フォースの変更を通じて争う場合です。
問題は現実の2つの像であり、マージツールでは不一致を修正できません。代わりに、エージェントが共有設計ドキュメントに決定を記録するようにしました。決定に依存するコードは、そのドキュメントへのコンパイルチェック済みの参照を保持します。プランナーが意図せず矛盾した場合、レコンサイラーがドキュメントをマージし、参照が下流に解決策を伝播させます。
マージコンフリクト
エージェント群内では、エージェントは同じファイルで絶えず衝突します。衝突を解決するには、停止し、他のエージェントのコンテキストを吸収し、それをマージする必要があります。ワーカーエージェントはこれに弱く、実際には、他の変更を上書きするか、自身の変更を破棄します。
これを修正するために、中立的な第三者エージェントがマージコンフリクトに介入し、すべての関係者に代わって解決するシステムを作成しました。その唯一の目標は、エンジニアリングチームのマージキューのように、公平かつ効率的であることです。
メガファイル
一部のファイルは、エージェントが作業するのに特に人気のある場所です。各エージェントは少量のコードしか追加しない可能性があり、単一のエージェントがファイルを小さく保つ責任を負うことはありません。
これらの「メガファイル」はすべてを詰まらせます。転送、差分、マージにコストがかかり、絶えず衝突が発生する場所になります。
これを修正するために、ワーカーエージェントに肥大化したファイルをフラグ付けする機能を与えました。フラグ付けされると、新しいコミットがブロックされ、外部のエージェントが肥大化したファイルをより小さなモジュールに分解します。
硬直化(Ossification)
エージェントは、人間が関与する既存のコードベースで作業することから、変更が必要な場合でもコアコードに触れないように学習しました。
これを修正するために、意図的な破壊をライセンスしました。コアの変更が価値があると判断したエージェントは、その範囲外で集中的なパッチを作成し、その理由を説明するコメントを残すことができます。
コンパイラはシステム全体に変更を伝播させ、古い設計に依存するすべてがビルドできなくなります。これらのエラーのいずれかに遭遇した各エージェントは、コメントを見つけ、理由を読み、自身の作業部分をそれに合わせて更新します。
レビューレンズ
長期間実行され、マルチエージェントであるシステムでは、エラーが蓄積するため、エージェント群は小さな間違いが基盤となる前に自己修正する方法が必要です。
レビューエージェントにワーカーの完全なトランスクリプト、またはその出力のみ、あるいはコードベースだけを与えるなど、多くの種類のレビューレンズを実験しました。また、異なるモデルで実行されるレビュー担当者、異なるトレーニングと異なるパーソナリティを持つレビュー担当者も試しました。
単一のレンズですべてを捉えることはできませんが、自己運転システムが単一の完璧なコンポーネントなしで人間以上の信頼性に達するのと同様に、デコヒーレントなレンズはスタックします。レビューに費やされる計算量はリターンが高く、レビューは監査する作業よりもはるかに安価です。このスタックされたレビューシステムが、実行の持続的な品質に大きく貢献したと推測しています。
エージェントに環境を形成させる
スティグマーギーは、アリやシロアリのような群生生物が直接的なコミュニケーションなしに協調するメカニズムです。彼らは環境を形成し、環境は次の生物を形成します。
以前の実行では、「メモを取る」「決定を文書化する」といったルールをエンコードしていましたが、それらは明らかに良いと思われました。今振り返ると、それはエージェントが将来の自分たちやチームメイトのために知識を制度化することを可能にしていました。
我々は、Field Guideと呼ぶ、自己作成された共有コンテキストの実験をさらに進めました。これはエージェントが完全に所有するフォルダであり、そのindex.mdは開始時にすべてのエージェントに自動的に注入されます。Field Guideに何を含めるかをキュレートするのがエージェントの仕事であり、唯一の制約は行数予算です。
Guideの基盤となるロジックは、モデルの重みは固定されているため、次のエージェントの軌道を短くするのに価値があるのは、まさに予期せぬ遭遇を捉えることであるということです。
Field Guideは有望な結果をもたらした初期の実験です。エージェントが完全に所有していないコードベースでは、そのメリットはさらに大きくなると予想されます。後続のために書くようにモデルをトレーニングし、より良いキャプチャがより良い報酬につながるようにすることは、興味深い研究分野です。
SQLite実験
上記で説明したすべての改善を備えた新バージョンのエージェント群に、835ページに及ぶSQLiteマニュアル全体をRustで実装するように指示しました。ソースコード、テストスイート、SQLiteバイナリ、インターネットアクセスは提供しませんでした。
進捗を測定するために、sqllogictest(異なるデータベースエンジンが同じクエリに対して同じ結果を返すことを確認するために構築されたSQLiteプロジェクトのテストスイート)に対して採点しました。これには数百万のクエリと既知の正解が含まれており、グレードはエージェント群のデータベースが正しく処理した割合です。進捗は、実行中に上昇する曲線として現れます。
エージェント群は、このスイートの存在を知らされていませんでした。各実行後、コードと実行を手動でレビューし、不正行為やショートカットがないか確認し、システムがテストの見た目の場所だけでなく、均等に構築されていることを確認しました。
曲線を読む際には、エージェントが独自の戦略を選択したことを念頭に置いてください。一部は広範な基盤を構築し、数時間低スコアだった後に急上昇しましたが、他のエージェントは1つの領域に深く入り込み、早期にスコアを上げた後、残りを埋めるためにプラトーになりました。瞬間ごとの正確なスコアよりも、トレンドがより重要です。
モデルミックス全体の結果
能力とコストを網羅する4つの構成をテストしました。
- GPT-5.5をプランナーとワーカーの両方として使用。 全体を通して強力な最先端モデル[2]。
- Grok 4.5をプランナーとワーカーの両方として使用。 コスト効率の良い最先端モデルを比較点として使用。
- Opus 4.8をプランナー、Composer 2.5をワーカーとして使用。 最先端の判断力と効率的な実行を組み合わせ。
- Fable 5をプランナー、Composer 2.5をワーカーとして使用。 次世代プランナーがハイブリッドをより価値のあるものにするか、またはその逆かを確認。
新ハーネスは、すべてのミックスで旧ハーネスを上回りました。
Fable 5ハイブリッドは、最初の1時間でスイートの約3分の2をパスしました。4時間のカットオフまでには、新実行は73%から85%の間でしたが、旧実行は11%から77%の範囲でした。
旧Grok 4.5実行は、2時間マーク前に一時停止されました(下記参照)。すべての新構成は、スイートの100%をパスしました。
将来的には、プランナーとワーカーの組み合わせの完全なN×Nマトリックスを実行したいと考えています。このサイクルでは、重要な比較はハーネスバージョンの間であり、動作の違いはスコアの違いが示唆するよりもはるかに大きいことが判明しました。
[画像: 旧および新エージェント群におけるGPT-5.5のSQLiteテストスイートグレードの時間経過][画像: 旧および新エージェント群におけるGPT-5.5のSQLiteテストスイートグレードの時間経過]
[画像: 旧および新エージェント群におけるGrok 4.5のSQLiteテストスイートグレードの時間経過][画像: 旧および新エージェント群におけるGrok 4.5のSQLiteテストスイートグレードの時間経過]
[画像: Opus 4.8プランナーとComposer 2.5ワーカーのSQLiteテストスイートグレードの時間経過][画像: Opus 4.8プランナーとComposer 2.5ワーカーのSQLiteテストスイートグレードの時間経過]
[画像: Fable 5プランナーとComposer 2.5ワーカーのSQLiteテストスイートグレードの時間経過][画像: Fable 5プランナーとComposer 2.5ワーカーのSQLiteテストスイートグレードの時間経過]
実行の詳細分析
最も単純な活動指標から始めると、旧ハーネスと新ハーネスでのGrok 4.5のコミットレートの変化を確認できます。旧実行は最初の2時間で68,000コミットを生成し、新実行のペースの約70倍でした。
一つの解釈は、より生産的だったというものです。もう一つの解釈は、それらのコミットのほとんどが作業(スラッシュ、競合、チャーン)だったというものです。
[画像: Grok 4.5の累積コミット数(アクティブ時間別)、旧ハーネス対新ハーネス][画像: Grok 4.5の累積コミット数(アクティブ時間別)、旧ハーネス対新ハーネス]
マージコンフリクトのデータは、後者の解釈を示唆しています。旧実行は一時停止する前に70,000以上のコンフリクトを蓄積し、安定化するのではなく加速しましたが、新実行は4時間全体で1,000未満を記録しました。
[画像: Grok 4.5の累積マージコンフリクト数(時間別)、旧ハーネス対新ハーネス][画像: Grok 4.5の累積マージコンフリクト数(時間別)、旧ハーネス対新ハーネス]
コンフリクトはファイルが最大になった場所に集中しました。旧実行では、最大のファイルは実行全体で成長し続け、最もホットな単一ファイルは7,771のコンフリクトを集め、1,173のエージェントによって触れられました。新実行では、コードベース全体で最も競合したファイルは47でした。
[画像: Grok 4.5の最もホットなファイルのサイズ(コード行数別)、実行進捗別、旧ハーネス対新ハーネス][画像: Grok 4.5の最もホットなファイルのサイズ(コード行数別)、実行進捗別、旧ハーネス対新ハーネス]
旧エージェント群の最大の調整失敗(分割された脳、またはプランナーが互いの作業を重複させること)は、パッケージ構造に現れました。Rustコードはクレートと呼ばれるパッケージに編成されており、このようなプロジェクトでは、各クレートはほぼ1つの主要コンポーネントです。
旧実行は54のクレートに広がり、3つの別々のSQLパッケージが含まれていました。新実行は早期に9つのクレートに落ち着き、それ以上追加しませんでした。
[画像: Grok 4.5 SQLite実行におけるRustクレート数の時間経過、旧ハーネス対新ハーネス][画像: Grok 4.5 SQLite実行におけるRustクレート数の時間経過、旧ハーネス対新ハーネス]
これらすべてが最終的なコードベースに現れます。Fable 5ミックスでは、旧新両方のエージェント群が最終的にスイート全体をパスしましたが、旧実行は64,305行のエンジンコードを必要としたのに対し、新実行は9,908行で完了しました。Opusミックスは、旧ハーネスで97%のグレードで19,013行、新ハーネスで100%のグレードで4,645行という同じ形状を示しました。
[画像: SQLite実験完了に必要なエンジンコード行数、旧ハーネス対新ハーネス][画像: SQLite実験完了に必要なエンジンコード行数、旧ハーネス対新ハーネス]
モデル経済学
冒頭で述べたように、すべてのモデルミックスが同等の品質を生み出しましたが、コストはOpus 4.8ハイブリッドの1,339ドルからGPT-5.5単独の10,565ドルまで、大きく異なりました。トークンデータは、その違いがどこから来るかを示しています。
支出の構造は、すべての実行で一貫しており、ワーカーが少なくとも69%のトークンを処理し、ほとんどの場合は90%以上を処理しました。
しかし、プランナートークンはコストが高いため、ドルはトークンとは異なる分割になりました。Opus 4.8とComposer 2.5のミックスでは、プランナーとしてのOpusはトークンのごく一部しか生成しませんでしたが、コストの約3分の2を占めました。一方、ワーカーとしてのComposerは、残りの3分の1のコストで大部分のトークンを処理しました。
[画像: SQLiteエージェント群構成におけるモデルロール別(プランナー対ワーカー)トークン使用量][画像: SQLiteエージェント群構成におけるモデルロール別(プランナー対ワーカー)トークン使用量]
大規模タスクの数少ない瞬間だけが、元の分解、設計上の決定、特定のトレードオフなど、最先端の知性を真に必要とします。最先端のプランナーが曖昧さを詳細で明示的な指示に崩した後、より安価なモデルはそれを従うだけで済みます。これはコスト削減の巨大な潜在的源です。プランナーとワーカーの両方にGPT-5.5を使用した実行では、ワーカー単独で9,373ドルのコストがかかりました。Opus 4.8が計画を担当し、Composer 2.5が作業を行った実行では、ワーカーフリート全体で411ドルのコストでした。
注目すべき詳細の1つは、2つのハイブリッド実行の比較から得られます。Fable 5プランナーは、トークンあたりの価格が約2倍であるにもかかわらず、Opus 4.8プランナーよりもわずかに請求額が少なくなりました。これは、はるかに少ないプランナートークンを使用したためです。しかし、Fable実行のワーカーは数倍のトークンを消費し、実行全体で大幅に高価になりました。
スペックをプロンプトとして
AI能力の各ジャンプは、エンジニアが作業できる抽象化レベルを引き上げてきました。
オートコンプリートは、エンジニアが一度に1行のコードで作業できるようにしました。初期のモデルはそれをコードブロックに引き上げ、エージェントはそれをファイルまたは機能に引き上げました。
エージェント群を使用すると、作業単位は仕様になります。
それが機能するためには、エージェント群が実際に仕様に従う必要があり、この記事の大部分はそのことについてです。我々はエージェント群に835ページのマニュアルを与え、データベースで返ってきました。この実験で希少だったもの、そして将来のソフトウェアエンジニアリングで希少になると予想されるものは、意図の正しい記述です。
このように見ると、エージェント群はコンパイラに似てきます。コンパイラは、一連の中間ステップを経てソースコードをマシンコードに変換します。エージェント群は、意図に関して同様のことを行います。プランナーは目標をタスクツリーに解析し、それを実行可能な作業に段階的に低下させます。違いは、コンパイラは各ステップで意味を保持するのに対し、エージェント群は各ステップで確率的であることです。この記事で説明されているすべては、そのギャップを埋めるために存在します。
エージェント群の出力を探索することをお勧めします。単独のOpus 4.8実行からのコードベースは、github.com/cursor/minisqliteで公開されています。初期の確認では素晴らしいように見えますが、詳細な手動分析は行っていません。ご自身で確認し、見つけたことを教えてください。
- 単独の最先端モデルのコストを把握するために、Opus 4.8とFable 5も単独で実行しました。これらの実行は非公式にのみ評価したため、ここでは品質について結論を導きませんが、経験に基づいて両モデルともうまく機能すると予想されます。それらのコストは、ハッチングされたバーとしてグラフに示されています。↩
- 最先端構成としてGPT-5.6 Solを希望していました。新しいモデルは、テストした他のモデルよりも、文字通りの言葉遣いや強調された言葉遣いに敏感であるようです。そして、他のモデルでは見られなかったような、制御不能なスパイラルに遭遇しました。最近登場したモデルのためにプロンプトを調整する時間はなく、他のモデルを変更せずに1つのモデルのために調整すると比較が不正確になるため、GPT-5.5にフォールバックしました。↩