自己改善のためのハーネスエンジニアリング
Harness Engineering for Self-Improvement (lilianweng.github.io)
要約
本稿では、AIシステムの再帰的自己改善(RSI)における「ハーネスエンジニアリング」の役割に焦点を当てています。ハーネスとは、基盤モデルを取り囲み、実行をオーケストレーションし、ツール呼び出し、コンテキスト管理、評価などを司るシステムです。ワークフロー自動化、ファイルシステムを永続メモリとして利用、サブエージェントやバックエンドジョブの活用といった設計パターンが紹介されており、これらはAIが自身の性能を向上させるための基盤となります。
全文翻訳
自己改善のためのハーネスエンジニアリング
再帰的自己改善(RSI)の概念は、I. J. Good (1965)に遡り、彼は「超知能マシン」を、すべての知的活動において人間を凌駕し、自身を改善するより良いマシンを設計できるシステムと定義しました。Yudkowsky (2008)は、「再帰的自己改善」というフレーズを特定のフィードバックループに使用しました。それは、AIが現在の知能を使用して、その知能を生み出す認知メカニズムを改善するというものです。
現代のAIにおけるこのフィードバックループは、モデルが自身の重みを直接書き換えることを示唆している可能性があります。あるいは、より広範には、モデルがトレーニングパイプラインとデプロイメントシステムを改善し、それが経済的に価値のあるタスク全体でパフォーマンスが向上した、より優れた後継モデルを可能にすることを示唆しているかもしれません。AIにおける研究開発の速度は、フロンティアラボ(Anthropic; OpenAI)で劇的に加速することが示されています。
私は「デプロイメントシステム」を明示的に言及します。なぜなら、生のモデルと現実世界のコンテキストの間のレイヤーが、モデルの生の知能(つまり、事前トレーニング直後の評価)と同じくらい重要であるように見えるからです。ハーネスはAIデプロイメントの重要なコンポーネントであり、Claude CodeやCodexのような成功したコーディングエージェント製品によって示されています。ハーネスとは、ベースモデルを取り囲むシステムであり、実行をオーケストレーションし、モデルがどのように思考・計画し、ツールを呼び出し・行動し、コンテキストを認識・管理し、成果物を保存し、結果を評価するかを決定します。
この記事では、ハーネスエンジニアリングに関する研究と、それがRSIにどのように貢献するかを中心に説明します。最近の自動リサーチ、自己改善エージェント、進化的プログラム探索に関する多くの作業は、この問いを中心に整理できます。モデルのセルフプレイ、合成データ、テスト時トレーニング、および継続的学習というより広範なテーマに関する他の作業もRSIのビジョンに合致しています(例:Yuan et al. 2024, Chen et al. 2024)、Zhao et al. 2025, Choi et al. 2026)が、これらはこの記事の焦点ではありません。
ハーネスの設計パターン
初期のエージェントフレームワーク(「エージェント = LLM + メモリ + ツール + プランニング + アクション」)と比較して、ハーネスエンジニアリングはさらにワークフロー設計(例:ループエンジニアリング)、評価、権限管理、永続状態管理を含みます。もはやプロンプトテンプレートだけではなく、ランタイムやソフトウェアシステムの設計に近くなります。モデルがどのように観察し、行動し、記憶し、自己チェックし、改善するかです。
設計は、一般化を可能にするために意図的にシンプルかつ汎用的であるべきです。事前トレーニングされた知識を活用するために、既存のソフトウェアエンジニアリングの実践を参照することがおそらく最善でしょう。オペレーティングシステムとハーネスの間には強い類似性もあります。OSと同様に、ハーネスは複雑なロジックをカプセル化しながら、インターフェースをシンプルに保つべきです。一方、設定、ツールインターフェース、その他のプロトコルは、業界全体で徐々に標準化される可能性があります。
パターン1:ワークフロー自動化
モデルが操作、テスト、反復できるワークフローを定義することは、自動化の鍵となる設計です。Karpathyのautoresearchリポジトリ(https://github.com/karpathy/autoresearch)は、そのようなワークフローを構築する方法のクリーンな例です。一般的なワークフローは、目標指向のループ(計画、実行、観察/テスト、改善、再度実行)に従い、目標が達成されるまで続きます。このプロセスは、タスクの仕様や実行の好みを明確にするために、ユーザーにプロアクティブな要求をトリガーする可能性があります。
[画像: A simplified Codex agent loop: the agent calls tools and tool responses affect the model's next generation. (Image source: OpenAI codex agent post)]
ワークフローグラフはまた、モデルが自身の軌跡と失敗ケースを分析し、「エージェントランタイム」を通じて静的なプロンプトテンプレートではなく、進行状況を反復することに重点を置いています。
パターン2:ファイルシステムを永続メモリとして使用
長期間にわたるエージェントシステムで繰り返し現れるパターンは、リッチな状態と成果物に対するシンプルな制御です。ハーネスは、ワークフロー全体とすべてのログをコンテキストに含めるべきではありません。代わりに、ファイルに耐久性のある状態を保持する必要があります。長期間にわたるエージェントの展開では、実験ログ、コード差分、論文要約、エラートレース、過去の展開軌跡などの成果物は、モデルがトレーニングされたコンテキストウィンドウよりもはるかに長くなることがよくあります。
ファイルシステム(通常はbashコマンド経由)の読み書き、編集方法を学ぶことは、LLMの基本的なスキルであり、したがってファイルのシンプルな形式での永続メモリの管理は、コアモデル機能の改善から自然に恩恵を受けます。
パターン3:サブエージェントとバックエンドジョブ
ハーネスは、複数のサブエージェントを並列実行し、バックエンドジョブを監視するために起動できます。これは、メインエージェントが複数の仮説を検索したり、同時に実験を実行したり、メインコンテキストを汚染せずに分離されたサブタスクを委任したりする必要がある場合に役立ちます。親エージェントは、小さなプロセスマネージャーを必要とします。ジョブの起動、ログの検査、失敗した実行のキャンセル、結果のメインエージェントスレッドへのマージなどです。
並列性を明示的かつ検査可能にすることが重要な設計上の選択です。サブエージェントの出力が一時的なチャットコンテキストにのみ存在する場合、それらはすぐに時代遅れになり、隠されてしまいます。ファイル、ログ、ステータスレコードとして保存されていれば、モデルは中断後に回復し、自身の実行履歴を推論できます。
ケーススタディ:コーディングエージェントハーネス
主要なコーディングエージェントのコアインターフェースは、Claude Code、Codex、OpenCode、Cursorスタイルのエージェント間で安定しています。これらは一般的に次のようなループを使用します。
[画像: With access to a set of tools, the coding agent is able to develop and debug issues in a given repository, similar to how human developers are equipped with IDEs. (Not a comprenhensive list; shown for demonstration. Read this if interested.)]
| グループ | ツールの定義 |
|---|---|
| ファイルシステム | - ファイル発見: glob, grep, ls - ファイル読み込み: read, read_many - ファイル変更: write (全く新しいファイル); edit (文字列完全一致置換); multi_edit; apply_patch (構造化されたパッチ/diffを適用) |
| シェル実行 | コマンド実行: bash, PowerShell |
| IO | lsp, gitツール(git_status, git_diff, git_commitなど) |
| 外部コンテキスト | MCPツール、スキル |
| Web検索 | web_search, web_fetch, ブラウザツール |
| アーティファクト | ドキュメント、画像の読み込み; HTML、画像の生成 |
| バックエンドプロセス | 例: CronCreate, CronDelete, CronList |
| エージェント委任 | 例: spawn_agent, resume_agent, wait_agent, list_agents, close_agent, interrupt_agentなど |
ハーネスレイヤー vs コアインテリジェンス?
RSIの将来がハーネスエンジニアリングにどれだけ依存するかを予測するのは困難ですが、RSIの実用的な短期パスが、モデルが直接重みを書き換えることから始まるとは考えにくいです。実用的な短期パスに関する私の予測は次のとおりです。
- ハーネスエンジニアリングは、メタ方法論(つまり、回答自体を改善するだけでなく、より良い回答を得るためのメカニズムを改善する方向)に進化するでしょう。ハーネスシステム自体が最適化ターゲットとなり、ヒューリスティックなルールは少なくなり、より汎用的なメカニズムが増えるでしょう。
- その結果、成熟したハーネスはモデルの自己改善ループのための自動リサーチを可能にし、よりスマートなモデルはハーネスが過剰に設計されるのを防ぎ、システムを持続可能に保ちます。
最終的には、多くのハーネスの改善がコアモデルの動作に内部化される可能性がありますが、外部コンテキストやツールとのインターフェースは維持されるべきです。私たちは、プロンプトエンジニアリングでこのパターンのよりソフトなバージョンを見てきました。手動のプロンプトトリックは、指示チューニングとモデルの推論が改善されるにつれて中心性を失いましたが、目標、制約、コンテキスト、評価を指定する必要性は消えませんでした。
ハーネスの最適化
ハーネスシステムで最適化される対象の進歩は、おおよそ次のとおりです。指示 プロンプト → 構造化されたコンテキスト → ワークフロー → ハーネスコード → オプティマイザーコード。モデルがより知的で強力になるにつれて、より複雑なターゲットと汎用的な方法へと移行します。
コンテキストエンジニアリング
ツールの応答とモデルの生成をすべてコンテキストに単純に追加するだけでは、エージェントジョブのホライズンが大幅に長くなるにつれて、すぐに制御不能になります。コンテキスト管理は、LLMのためのより構造化され簡潔なコンテキストを構築し、永続状態を管理するためのレイヤーです。長コンテキストの研究が引き続き進歩することは間違いありませんが、現時点では長コンテキストの知能とコンテキストエンジニアリングは時折絡み合っています。
エージェントコンテキストエンジニアリング(ACE; Zhang et al. 2025)は、コンテキストをますます長くなるプロンプトではなく、進化するプレイブックとして扱います。これは、1つのコンテキストプレイブックを維持するための3つのコンポーネントを持ち、各コンポーネントには識別子と説明があります。
- ジェネレーター: ブループリントを参照して、タスクの軌跡を生成します。
- リフレクター: 成功した軌跡と失敗した軌跡から洞察を抽出します。
- キュレーター: 段階的な項目化されたエントリで構造化されたコンテキストを更新します。
[画像: The framework of Agentic Context Engineering (ACE). (Image source: Zhang et al. 2025)]
反復的な書き直し中にコンテキストの崩壊と簡潔性バイアスを防ぐために、ACEにおける重要な設計上の選択は、キュレーターが完全なプロンプトブロブを書き換えないことです。代わりに、(識別子、説明)の形式で構造化された項目化されたブループリントのコレクションを出力し、これらのブループリントは決定論的なロジックで構造化されたコンテキストログブックにマージされます。コンテキスト項目は定期的に洗練され、重複排除されます。
ACEがロールアウトから洞察を学習するという事実は、自己管理メモリへの移行に役立ちますが、更新ルールと全体的なワークフローはまだ手作業です。より自己改善的なループに移行するために、メタコンテキストエンジニアリング(MCE; Ye et al. 2026)は、メカニズム(コンテキストの管理方法)とアーティファクトの内容(コンテキストに含まれるもの)を分離し、スキル進化をメタ最適化レベルで実行し、コンテキスト最適化をベースレベルで実行します。
MCEスキル $s \in \mathcal{S}$は、コンテキスト関数 $c_s=(\rho_s,F_s)$を定義し、入力 $x$ をコンテキスト $c = F_s(x;\rho_s)$にマッピングします。ここで:
- $\rho_s = {\rho_1,\dots,\rho_m}$は静的コンポーネント(プロンプト、知識ベース、コードライブラリ)です。
- $F_s = {F_1,\dots,F_k}$は動的オペレーター(検索、選択、フィルタリング、フォーマット)です。
二重レベルの最適化は、トレーニングデータ上でスキル $s$ を与えられた最適なコンテキスト $c_s^*$ を見つけることであり、外側のループは検証セットで最適なパフォーマンスを提供する最適なスキルを見つけます。
$$ \text{Inner: }c_s^*=\arg\max_ {c_s}J_\text{train}(c_s;s)\quad \text{Outer: }s^*=\arg\max_ {s\in\mathcal{S}}J_\text{val}(c_s^*)
$$
スキルデータベースは、以前のスキル、コンテキスト関数、評価メトリックの履歴を追跡します $\mathcal{H}_{k-1} = {(s_i,c_i,J_i^\text{train}, J_i^\text{val})}_ {i=1}^{k-1}$。メタレベルのエージェントは、タスク $\tau$ を与えられた新しいスキルを作成するために、以前のスキルに対してエージェント的なクロスオーバーを実行します:$s_k=\text{crossover}(\tau,\mathcal{H}_ {k-1})$。
次に、ベースレベルのコンテキストエンジニアがスキル $s_k$ を実行し、現在のスキルによってガイドされるロールアウトフィードバック $\mathcal{R}_k$ からコンテキスト関数を学習します:$c_k=\text{engineer}(\tau,s_k;c_{k-1}^* ,\mathcal{R}_k)$。
[画像: The framework of Meta Context Engineering (MCE): meta-level skill evolution searches over context-management mechanisms, while the base level optimizes the task context. (Image source: Ye et al. 2026)]
MCEは、ACEのようにコンテキストを構造化する方法についてヒューリスティックなルールを強制しません。タスクにとって最も重要な知識を保存するために自由形式のスキルを使用し、スキルとスキル条件付きコンテキストを反復的に一緒に進化させます。実装上、コンテキスト関数 $c$ は、静的(skill.md)と動的(コンテキストとデータロールアウト)の両方のコンポーネントを含む専用ディレクトリ内のファイルのコレクションとしてインスタンス化されます。メタレベルとベースレベルの両方の最適化は、標準的なツールセットを備えたエージェントコーディング環境で実行されます。
$$ \mathcal{T}={\texttt{Read},\texttt{Write},\texttt{Edit},\texttt{Bash},\texttt{Glob},\texttt{Grep},\texttt{TodoWrite}} $$
メタハーネス(Lee et al. 2026)は、さらに一歩進みます。最適化される対象は、どの情報が保存され、取得され、モデルに提示されるべきかを決定し最適化するコードです。「メタ-」という名前は、ハーネスを最適化するためのハーネスであることを意味します。
[画像: The Meta-Harness outer-loop optimization algorithm. (Image source: Lee et al. 2026)]
新しいハーネスを作成するためのプロポーザー自体がコーディングエージェントであり、最終的な出力はパレートフロンティア上のハーネス候補のコレクションです。
- 全ての実行履歴はファイルシステム経由でアクセス可能であり、したがってコーディングエージェントは、すべてを単一のプロンプトコンテキストに押し込むのではなく、
grepやcatのようなコマンドを使用してそれを読み取ります。 - 提案されたハーネスは、それ自体のソースコード、スコア、ロールアウト軌跡、および状態更新を含む、ファイルシステム上の辞書です。
- メタハーネスループは反復的に新しいハーネスを作成し、資格のあるものだけが保持されます。
[画像: The performance of Meta-Harness on (Left) text classification with a small number of iterations and (Right) TerminalBench-2. Note that the search in the TerminalBench-2 experiment is initialized from Terminus-KIRA and Terminus-2, two very strong harnesses. (Image source: Lee et al. 2026)]
それでも、重要な教訓は明らかです。ハーネス設計が実行可能な探索空間になると、強力なコーディングエージェントは人間エンジニアが使用するのと同じ設計空間を利用できます。
ワークフロー設計
ハーネスエンジニアリングにおけるワークフロー設計は、ドメインエキスパートによって手作業で作成される場合があります。自動リサーチを例にとると、さまざまなフレームワークが提案され、テストされています。AI Scientistシステム(Lu et al. 2026)は、研究アイデアの提案、コードの記述、実験の実行、結果の分析、原稿の執筆、査読を行うためのパイプラインを構築します。Meng et al. (2026)は、ScientistOneで検証可能性を中央の設計制約としています。そこでは、すべての主張(引用、数値、方法論、結論)が証拠ソースにトレースされ、証拠連鎖チェックによって監査される必要があります。
[画像: AI Scientist pipeline for idea generation, experimentation, paper writing, and review. (Image source: Lu et al. 2026)]
Autodataエージェント(Kulikov et al. 2026)は、トレーニングデータと評価データを生成するためのデータサイエンティストとして機能するように設計されています。メインエージェントは、問題を提案するチャレンジャー、弱いソルバー、強いソルバー、および検証者/ジャッジを管理し、強いソルバーは成功するが弱いソルバーは失敗するという、「ちょうど良い」難易度でデータを合成することを目指します。
Autodataでは、チャレンジャープロンプトは、ソルバーと検証者からのフィードバックに従って反復的に更新されます。ここでの制限は、合成されたタスクが弱いソルバーのファインチューニングに使用されるが、強いソルバーには使用されないことです。ループが強いモデルを反復的に改善できない場合、それは生成されたプロンプト分布に対する間接的な蒸留に近く、RSIの風味は少なくなります。
[画像: Autodata agentic workflow design for generating synthetic training and evaluation data around challenger, solver, and verifier roles. (Image source: Kulikov et al. 2026)]
ワークフローの設計空間は膨大であり、当然ながらワークフロー設計を探索問題と考えることができます。したがって、手動で作成するだけでなく、アルゴリズムによって良い解を見つけることができるはずです。この方向に従って、自動エージェントシステム設計(ADAS; Hu et al. 2025)は、エージェント設計自体を最適化問題、「メタエージェント探索」として定式化します。ここでメタエージェントは、エージェントワークフローの新しい設計を提案します。
- CoTやself-refineのようなシンプルなエージェントでエージェントワークフローのアーカイブを初期化します。
- メタエージェントに、アーカイブ内の既存のソリューションに触発されて、コードで新しいエージェントをプログラムするように依頼します。
- メタエージェントはまず新しいワークフローの高レベルな説明を生成し、次にそれをコードで実装します。
- ドラフトプログラムは、フィードバックを提供するようにモデルに依頼し、次に以前生成された出力をフィードバックに基づいて洗練するように同じモデルに依頼するという2つの自己洗練ステップ(Madaan et al. 2023)を経由して、新規性をチェックします。
- 各新しい候補を評価し、成功したものをアーカイブに戻します。
- 最大反復回数に達するまで、ステップ2〜3を繰り返します。
[画像: Illustration of Automated Design of Agentic Systems (ADAS). (Image source: Hu et al. 2025)]
AFlow(Zhang et al. 2025)は、エージェントワークフローをグラフとして表現します。ここでノードはLLM呼び出しアクションを表し、エッジはコードで論理演算を実装します。ワークフローの最適化はMCTS(モンテカルロ木探索)に依存します。
- テンプレートを使用して、ツリー内の開始ワークフロー $W_0$ を初期化します。
- スコアと均一な探索のソフトな混合を使用してワークフローノードを選択します。
- 評価パフォーマンスを条件として、LLMに修正ワークフローを生成させることで、それを展開します。
- 新しいワークフローを実行して評価します。
- 予算 $N$ ラウンド内で改善が見られる場合、それをツリーに戻します。
- ステップ2〜5を繰り返し、トップkの平均スコアがプラトーになるか、予算に達するまで停止します。
[画像: AFlow optimization process over a tree of workflow candidates. (Image source: Zhang et al. 2025)]
QA、コード、数学タスクでのAFlowの実験は、手動で設計されたワークフローやADASを大幅に上回るパフォーマンスを示しました。
[画像: AFlow experiments in comparison to manual methods and ADAS. (Image source: Zhang et al. 2025)]
自己改善ハーネス
コンテキストエンジニアリングまたはワークフロー設計のいずれかだけでは、ハーネスの一部にすぎません。コンテキスト管理ロジック、ワークフロー、権限、およびその他の多くのハーネスコンポーネントをまとめて検索し、最適化する必要があります。Meta-Harness、ADAS、AFlowのような研究で見たように、✨コード✨はプログラムとシステムを定義するための普遍的な言語です。簡単に言えば、ハーネスはプロンプト、ツール呼び出し、サブエージェント、制御フロー、メモリ、ワークフローロジックがどのように連携するかをプログラムするコードです。LLMがエージェントを実行するコードを最適化できれば、手書きのプロンプトよりもはるかに大きな設計空間にアクセスできます。
Self-Taught Optimizer(STOP; Zelikman et al. 2023)は、再帰的な足場改善の初期の例の1つです。ステップ $t=0$ のシード改良者 $I_0$ は、初期解 $s$、効用関数 $u$、およびブラックボックス言語モデル $M$ を受け取り、改良された解 $s’$ を返します。つまり、$s’ = I(u, s; M)$ です。STOPの目標は、直接 $s$ を改善することではなく、改良者 $I$ 自体を改善することです。
まず、メタユーティリティを、下流タスクのコレクション $\mathcal{D}$ 全体での特定の改良者関数 $I$ の平均ユーティリティとして定義します。
$$ \hat{u}(I) \triangleq \frac{1}{\vert\mathcal{D}\vert}\mathbb{E}_ {(u,s)\sim \mathcal{D}}[u(I(u,s; M))] $$
改良者関数の改善自体が最適化問題であるため、メタユーティリティによって測定された $I_ {t-1}$ のパフォーマンスに基づいて、自己改善アップデートを介して $I_t$ の新しいバージョンを再帰的に取得できます。
$$ I_t=I_ {t-1}(\hat{u},I_ {t-1};M) $$
[画像: Algorithm of Self-Taught Optimizer (STOP). (Image source: Zelikman et al. 2023)]
彼らの実験では、改良された改良者は、遺伝的アルゴリズム、分解と改善、マルチアームプロンプトバンディット、焼きなまし法、温度の変更、ビーム/ツリー検索など、さまざまな戦略を発見しました。これは、ハーネスワークフローを最適化の対象としてどのように表現できるかと類似しています。
[画像: Examples of self-improvement strategies discovered by STOP. (Image source: Zelikman et al. 2023)]
Zelikman et al. (2023) の発見における注意すべき結果は、STOPがGPT-4で反復を通じて平均下流パフォーマンスを改善したが、GPT-3.5やMixtralのようなより弱いモデルでは低下したことです。再帰的な構造だけでは十分ではありません。ベースモデルは、メカニズムを改善するのに十分に能力がある必要があります。これは、ハーネスの改善がモデルのデプロイメントを改善することを可能にしますが、知能は依然として中核であることを意味します。
Lin et al. (2026)は、モデルの能力に対するハーネス進化の依存性をより詳細に調査しました。彼らは2つの軸を分離しました。(1) ハーネス更新は、有用なハーネス編集を生成する能力を指し、(2) ハーネス利益は、タスク解決を改善するために、更新されたハーネスを利用する能力を指します。興味深いことに、Qwen3.5-9BからClaude Opus 4.6までのさまざまなサイズとコアインテリジェンスを持つモデルの範囲が、実験で同様のハーネス更新能力を示すことが観察されました。9Bのハーネスプロポーザー/エボバーは、Opusと同等のスキルを手続き的に記述できます。ハーネスを最大限に活用するには、モデルはスキル/ツールを正しく適時に呼び出し、長ホライズン指示追従に優れている必要があります。
[画像: Main results: (A) harness updating capability is measured flat across a range of models from Qwen2-32B to Opus 4.6; (B) harness benefit capability is non-monotonic where middle tier models benefit the most. (Image source: Lin et al. 2026)]
より最近の研究であるSelf-Harness(Zhang et al. 2026)は、LLMエージェントに依存して、提案-評価-承認ループを通じて自身のハーネスを改善します。
[画像: Self-Harness uses a loop of weakness mining, bounded harness proposal, and validation to update a harness. (Image source: Zhang et al. 2026)]
Self-Harnessのループには3つの段階があります。
- 弱点マイニング: 検証者によって検証された失敗パターンに失敗をクラスタリングします。
- 現在のハーネス $h_t$ を使用してタスクを評価し、実行トレースを収集して分析します。
- 表面上は、タイムアウトや成果物の欠落など、2つの実行が同じ検証者結果を共有していても、根本的な原因は異なる場合があります。したがって、根本原因を明らかにするためには、終端検証者レベルの原因、関連するエージェントの行動の因果的ステータス、およびトレースによって公開される抽象的なエージェントメカニズムを含む、豊富な情報を持つ失敗記録が必要です。
- ハーネス提案: マイニングされた失敗パターンに基づいて、境界付きハーネス編集を提案します。
- 同じモデルが $h_t$ の下でプロポーザーとして呼び出されます。
- モデルには、境界付き提案コンテキストが提供されます。(1) 現在のハーネスの編集可能な表面、(2) 評価システムからの検証者によって検証された失敗パターン、(3) 保存されるべき合格した行動の記録、および (4) 以前試行された編集の要約。
- ハーネス編集は、再発するエラーパターン(タスク固有の難しさではないもの)を優先し、狭い変更で解決できるものとすべきです。
- ハーネス編集候補は、区別され、多様であるべきです。
- 提案検証: 資格のある編集を検証してマージし、新しいハーネス $h_ {t+1}$ を作成します。
- 候補編集は、保持された $D_\text{in}$(弱点が解決されたかどうかのテスト用)と保持されていない $D_\text{out}$(他の未知の問題が導入されたかのチェック用)スプリットで回帰テストによって評価されます。
- 候補は、保持されたデータと保持されていないデータの両方で回帰がない場合にのみ受け入れられます。
- 受け入れられた候補はマージされてハーネスを $h_ {t+1}$ に更新し、拒否された候補はアクティブなハーネスを変更せずに記録されます。
MiniMax M2.5、Qwen3.5-35B-A3B、およびGLM-5をTerminal-Bench-2で実行したところ、Self-Harnessは、異なるベースモデルの異なる弱点をターゲットにし、保持されていないパスレートを改善する、モデル固有のハーネス指示を学習することが示されました。
Self-harnessタイプの作業は、プログラムがOSシステムを編集することを許可されると、抽象化の境界が壊れるという懸念を引き起こします。編集可能な表面は適切に設計される必要があり、権限管理とセキュリティレイヤーはこのループの外に配置する必要があります。報酬ハッキングに関するすべての課題は依然として残っています。
エージェントハーネスエンジニアリング(AHE; Lin et al. 2026)は、ハーネス進化のボトルネックが可観測性にあると考えています。つまり、ロールアウトが失敗した場合、どのコンポーネントが責任を負っているかを知る必要があり、すべての編集は証拠に基づいて行う必要があります。
このフレームワークは、3つの可観測性の柱を持つクローズドループを作成します。
- コンポーネント可観測性: 編集可能な各ハーネスコンポーネントはファイルシステムに表現を持つため、アクションスペースは明示的で追跡可能です。
- ハーネスは7つのコンポーネントで構成されます。システムプロンプト、ツール説明、ツール実装、ミドルウェア、スキル、サブエージェント設定、および長期メモリ。
- 各失敗パターンは1つのコンポーネントにマッピングされるため、編集はよりターゲットを絞ったものになります。
- 経験可観測性: 大量の生の軌跡を分析・要約して、証拠と失敗パターンの階層を作成します。
- 各ハーネスは $k$ 個のトレースを生成します。
- エージェント(「エージェントデバッガー」)を使用してトレースを分析し、失敗または成功の根本原因に関するタスクごとの分析レポートを生成します。
- すべてのタスクごとのレポートは、次のステップのためにベンチマーク概要に集約され、必要に応じて生のトレースにアクセスできます。この階層化されたアクセス構造は、トークン効率が高いです。
- 意思決定可観測性: 各編集は、検証のための次のラウンドの予測とペアになります。
- エージェント(「進化エージェント」)はリポジトリを読み取り、どのコンポーネントを編集するかを決定し、次に編集とその理由を生成します。
- 各編集はファイルレベルの、偽造可能な主張であり、次のラウンドで検証できます。ただし、2つの制約があります。
- (1) 編集はハーネスワークスペースにのみ適用されます。実行ディレクトリ、トレーサー、検証者、およびLLM設定は読み取り専用であり、これにより報酬ハッキングのセット(検証者の無効化、モデルの切り替え、推論予算の引き上げなど)が無効になり、ハーネス編集に起因する記録されたすべての利益を維持できます。
- (2) 編集は証拠駆動型であり、マニフェストエントリがあります。失敗証拠の名前、推測される根本原因、ターゲットとする修正、および期待される修正とリスクのある回帰の両方を含む予測される影響です。
Terminal-Bench-2で、AHEは人間が設計したハーネス(OpenCode、Terminus-2、Codex)よりも優れたパフォーマンスを達成しましたが、Hardティアおよびその他のいくつかの自己進化ベースライン(ACE、TF-GRPO)を除きます。同じ凍結されたハーネスは、さらに進化させることなくSWE-bench-verifiedに転送され、進化されたハーネスがベンチマーク固有の最適化を行うのではなく、エンジニアリング経験をハーネスコンポーネントにエンコードできることを示しています。
進化的探索
進化的探索は、自然選択に触発された最適化手法です(私の古い投稿進化戦略を参照)。これは、解の集団を変異させ、高い「適応度」を持つものだけを群集に残すことによって進化させます。進化的探索は、(1)探索空間が広大または奇妙な形状をしている場合、および(2)勾配で直接最適化するのが難しいが解を評価するのが簡単な場合に役立ちます。ハーネス探索はこの目的に適しているようです。
進化的探索は、過去の研究でプロンプトエンジニアリングに使用されてきました。Promptbreeder(Fernando et al. 2023)は、タスク固有のプロンプトを豊富な変異操作セットを通じて最適化します。興味深いことに、変異プロンプト(つまり、タスクプロンプトを変化させるためのLLMへの指示)自体も進化を通じて改善されます。GEPA(Agrawal et al. 2025)は、反射ベースのプロンプティングと進化的探索を組み合わせ、試行錯誤の軌跡に関する自然言語の反射を使用してプロンプト更新を提案します。
Novikov et al. (2025)は、コーディングエージェントの進化的探索システムとしてAlphaEvolveを導入しました。これは、候補プログラムのプールを保存し、凍結されたLLMに差分を生成させて改善します。システムは子プログラムを繰り返し評価して成功したものを保持するため、時間とともに改善された解を発見します。
[画像: How AlphaEvolve works. (Image source: Novikov et al. 2025)]
AlphaEvolveの設計では、いくつかの詳細が重要です。
- プロンプトには、親プログラム、結果、指示、およびメタ情報が含まれる場合があります。
- コーディングエージェントはフルリポジトリにアクセスできますが、改善のためのコード領域は
# EVOLVE-BLOCK-STARTと# EVOLVE-BLOCK-ENDで明示的にマークされています。 - メタプロンプトは、ソリューションプログラムを進化させる方法と同様に、LLMの提案に従って、指示とコンテキストとともに共進化します。
アブレーション研究は、進化手順、プロンプト内のコンテキスト、メタプロンプト、フルファイル進化、およびより強力なLLMの使用の価値を示しています。
[画像: Ablations show the value of everal designs in AlphaEvolve. (Image source: Novikov et al. 2025)]
最近のバリアントであるThetaEvolve(Wang et al. 2025)は、進化的探索とRLおよびインコンテキスト学習を組み合わせています。また、DemoEvolve(Che, et al. 2026)は、ハーネスレベルの診断と編集のための参照経験として人間の専門家のデモンストレーションを自己ロールアウトアーカイブに追加します。一方、ShinkaEvolve(Lange et al. 2025)は、LLMサンプリング効率を改善するために3つの新しいコンポーネントを導入しました。
- パフォーマンスランクと子孫数をバランスさせる親サンプリングを設計することで、よりサンプル効率の良い探索。
- 埋め込みベースのコサイン類似度に基づいて既存の集団に類似しすぎている候補を破棄するコード新規性拒否サンプリング。
- 将来の変異をガイドするために、成功したソリューションのメタスクラッチパッドで良いパターンを特定する。
上記の、解の改善に焦点を当てた方法とは異なり、Darwin Gödel Machine(DGM; Zhang et al. 2025)は、LLMベースのコーディングエージェントによる編集可能なハーネスコードリポジトリの進化を明確にターゲットとしています。具体的には、このエージェントは自身のハーネスを変更することを許可されています。その後のHyperagents(Zhang et al. 2026)の研究では、既存のタスクエージェントを変更して新しいエージェントを作成する方法を制御するためのメタエージェントが導入されました。
- プールに1つのコーディングエージェントから開始します。
- 各反復で、パフォーマンスに比例し、子孫数に反比例する確率で親を選択し、それを変更して新しいエージェントを生成します。
- 選択された親エージェントは、自身のベンチマーク評価ログを調べ、次に自身のハーネスコードベースの改善を提案して新しいバージョンのコーディングエージェントを生成します。コード編集は、(1) bash(引数:
<bash_command>)と(2) エディタ(引数:view/create/edit <file_path>)の2つの基本的なツールで実装されます。 - 新しいコーディングエージェントが評価され、十分なパフォーマンスを持つものだけがプールに戻されます。
- 停止基準に達するまで、ステップ2〜4を繰り返します。
DGMは固定モデル下でのハーネス進化です。Claude 3.5 SonnetをベースLLMとして、およびシンプルな初期ハーネス設定で実験したところ、DGMによって発見されたエージェントは、SWE-bench Verified(20%から50%)およびPolyglot(14.2%から30.7%)で手作業で設計されたエージェントと同等またはそれ以上のパフォーマンスを示しました。
この手法群は、候補解が自動的に評価可能で、候補の適応度が定量化しやすい場合(例:行列乗算、GPUカーネル最適化、アルゴリズムコンテスト、データセンタースケジューリング)にうまく機能します。評価が遅い、曖昧、または主にヒューリスティックベースのドメインでは苦労します。進化の計算効率と有効性も懸念事項です。
モデル重みとの共同最適化
ハーネス進化は、モデルの周囲の非パラメトリックシステムを変更します。完全な自己改善を可能にするために、モデルは同時に自身の重みを更新することを完全に許可される可能性があります。重み更新は、モデルトレーニングパイプラインの改善またはテスト時の継続的学習を通じて実装できます。継続的学習のトピックは、将来的にそれ自体で投稿する価値があります。
SIA(Hebbar et al. 2026)は、同じ最適化ループでハーネス改善とモデルパラメータ更新を組み合わせる初期の試みであり、設計には3つのコンポーネントがあります。
- メタエージェント: 初期ハーネスを提案します。
- タスク固有エージェント: タスクを実行します。
- フィードバックエージェント: 最近の軌跡に基づいて、ハーネスを更新するかモデルの重みを更新するかを選択します。
[画像: The Feedback-Agent in SIA decides the next iteration type. (Image source: Hebbar et al. 2026)]
SIAの実験には、結果の解釈を困難にするいくつかの混同する選択肢があります。例えば、タスク固有エージェントは、メタエージェントとフィードバックエージェントに使用されるモデル(gpt-oss-120b vs Claude Sonnet 4.6)よりもはるかに弱いです。また、ベースラインが弱すぎて関連手法とのクロスリファレンスがクリーンに行えません。この方向性は興味深いと考えられますが、証拠は暫定的なものです。しかし、トレーニングの安定性やグッドハート効果など、多くの課題は未解決のままです。
Continual Harness(Karten et al. 2026)は、長ホライズンのゲームプレイ設定で、ハーネス更新と、低報酬軌跡に対する強力な教師モデルのラベルを蒸留することによるポリシーモデルの共同学習を実験しました。
将来の課題
AI Scientistの研究は、専門家が設計したハーネスが自動リサーチループの大部分を調整できることを強く示していますが、それは論文執筆の形で実験されています。しかし、論文作成は科学的発見と同一ではありません。システムは、引用の捏造、実装のドリフト、または弱い実験結果がありながらも、もっともらしい原稿を書くことができます。
Trehan & Chopra (2026)は、LLMが最小限の足場と基本的なツール(read_file, write_file, llm_search, list_files)から研究アイデアから論文まで進めるかどうかをテストしました。各アイデアには専用のワークスペースがあり、エージェントはドキュメントを生成して読み取ることがコンテキストの一部としてできました。彼らは3つのドメイン(ワールドモデル、マルチエージェントRL、AI安全性とアライメント)で実験しました。各ドメインには、新しいアイデアを刺激するための45〜50の高品質なシードドキュメントが含まれていました。人間の専門家によって完全なパイプラインを実行するために選択されたアイデアは4つだけで、完全に論文に実行されたのは1つだけでした。彼らは実験で6つの繰り返し発生する失敗モードを観察しました。
- トレーニングデータのデフォルトへのバイアス: 古いライブラリ、時代遅れのコマンド、標準フォーマット、または実際のレポジトリやデータセットに基づかない仮定を使用する。
- 実行圧力下での実装ドリフト: 実装が技術的に複雑になると、モデルは提案された方法ではなく、一般的な単純なソリューションに移行する可能性があります。
- メモリとコンテキストの劣化: ログが永続的な成果物として書き込まれない限り、長ホライズンプロジェクトは重要な詳細を失います。
- 過度の楽観主義: モデルは、ノイズが多い、または失敗した実験にもかかわらず成功を宣言します。これは、モデルが「数値的なダクトテープ」を導入し、信号がまだノイズである場合に勝利を宣言できる、Bubeck et al. (2025)によって観察された「p-ハッキングと発見」パターンと同様です。
- 不十分なドメインインテリジェンス: モデルは、実装の複雑さを予測したり、実験結果がもっともらしいかどうかを判断したり、どのベースラインが重要かを知ったりするような、暗黙の職人技の知識を欠いています。
- 弱い科学的センス: 実験は実行可能かもしれませんが、正しい問いに答えることができません。
完全なRSIに向けて、研究者は実際的な進歩を遂げてきましたが、いくつかのボトルネックが残っています。
1. 弱く曖昧な評価者。 多くの研究主張には、高速で正確な検証者がありません。これは多くの実世界のタスクにも当てはまります。現在の自己改善ループは、評価メトリックが測定可能で客観的であるタスクで最もよく機能します。RLが機能する方法と同様です。
研究センス、新規性、および長期的な科学的価値は、測定がはるかに困難です。例えば、研究センスは、問題設定、実験デザイン、そしてどの驚くべき結果が追求する価値があり、どの失敗ケースが再試行する価値があるかについての判断をしばしば混合します。
2. コンテキストとメモリのライフサイクル。 AIエージェントがより自律的で独立するにつれて、メモリは増加します。有用なハーネスは、長コンテキスト生成の既存の制限を補完しながら、長ホライズンタスクの成功を最大化するために、コンテキストとメモリを管理する必要があります。人間が一生涯メモリを維持できることを考えると、私はここに類似性を見ており、コンテキストエンジニアリングは、ソフトウェアシステムレイヤーに留まるのではなく、知能のコア部分になるだろうし、なるべきだと考えています。
3. 負の結果。 研究者は成功した結果を発表することにインセンティブがあり、そのため文献は成功に偏っています。膨大なデータ(少なくとも現時点では、lol、主に人間が作成したもの)でトレーニングされたLLMは、仮説をいつ放棄するか、負の結果を報告するか、あるいはデータ中の成功と失敗のケースの不均衡のために失敗を認めるかを決定するのが下手かもしれません。研究ハーネスは、失敗した試みを容易に保存できるようにすべきです。なぜなら、失敗から学ぶことがタスク探索空間を削減する最良の方法だからです。
4. 多様性の崩壊。 進化的およびRLループは、既知の高報酬パターンを悪用する傾向があります。集団が同じ解のバリアントに崩壊するのを防ぐためのメカニズムが必要です。これは、最良のパスが現在の評価者では最初は悪く見える可能性があるオープンエンドの研究において特に重要です。
5. 報酬ハッキング。 自己改善ループは、与えられたシグナルを最適化します。報酬が単体テストから来る場合、エージェントはテストに過学習する可能性があります。それがジャッジモデルから来る場合、そのジャッジに固有の報酬ハッキングトリックを学習する可能性があります。それがベンチマークスコアから来る場合、ベンチマークのアーティファクトを悪用する可能性があります。
評価者と権限管理は、ハーネスを進化させるループの外に配置されるべきです。重要な意思決定ポイントでは、保持されていないテスト、トレース監査、および人間のレビューが行われます。どの程度の監視をスケーリングアップおよび自動化できるかは、未解決の研究領域です。
6. 長期的な成功。 最適化の外部ループは、トレーニングサンドボックスでシミュレートできる個々のロールアウトの外にある報酬で機能します。
コーディングエージェントを例にとります。コーディングエージェントはすでにソフトウェアエンジニアリングにおける日々の生産性を向上させていますが、多くの最適化目標は依然として短期的すぎます。タスクを完了することはしばしば可能ですが、数百または数千人のエンジニアが共同で維持するリポジトリの長期的な健全性をどのように保護すべきかはあまり明確ではありません。標準的なサンドボックスベースのRLVRスタイルのトレーニングは、保守性、所有権の境界、移行コスト、後方互換性、または将来のデバッグ負荷をキャプチャすることはめったにありません。
7. 人間の役割。 人間はスタックを上に移動すべきであり、ループから削除されるべきではありません。つまり、人間は適切なタイミングで、適切な抽象化レベルで監視を提供すべきであり、私たちのシステム設計は、そのようなタッチポイントをいつ、どのように設定するかを考慮すべきです。
上記でリストされた多くの課題には、人間のフィードバックと指示が必要です。結局のところ、私たちは人類のより良い未来のために技術を構築しているのであり、その逆ではありません。
引用
この作品を引用するには、次のようにしてください。
Weng, Lilian. “Harness Engineering for Self-Improvement”. Lil’Log (Jul 2026). https://lilianweng.github.io/posts/2026-07-04-harness/
またはBibTeX引用を使用します。
@article{weng2026harness,
title = {Harness Engineering for Self-Improvement},
author = {Weng, Lilian},
journal = {lilianweng.github.io},
year = {2026},
month = {July},
url = "https://lilianweng.github.io/posts/2026-07-04-harness/"
}
付録:有用なベンチマーク
- PaperBench: 20のICML 2024 SpotlightおよびOral論文をゼロから再現します。これには、論文の貢献の理解、コードベースの開発、実験の成功裏の実行が含まれます。
- 各再現タスクは、個別に採点可能な小さなタスクに分解されます。
- 合計8,316のルーブリック。論文著者と共同開発。
- 当時の最高のモデル(
Claude 3.5 Sonnet、約21%)は、ML PhDのパフォーマンスを上回りませんでした。 - PaperBench、PaperBench Code-Dev(軽量版)、およびJudgeEvalが含まれます。
- CORE-Bench: 公表された研究の計算上の再現性を評価します。
- コンピュータサイエンス、社会科学、医学の90の科学論文に基づいた270のタスク。
- タスクには、提供されたコードとデータからの結果の再現が含まれます。
- 複数の難易度レベルと、言語のみのタスクおよび視覚言語タスクが含まれます。
- 当時の最高の報告エージェント(
GPT-4oおよびGPT-4o-mini)は、最も難しいタスクで21%の精度しか達成しませんでした。
- ScienceAgentBench: データ駆動型の科学的発見のためのLLMエージェントを評価します。
- 4つの分野(数学、化学、生物学、地理学)の44の査読付き出版物から102のタスクを抽出します。
- これらの分野における基本的なデータサイエンスタスクをカバーします:データ処理、モデル開発、データ分析、情報視覚化。
- RE-Bench: 現実的なML研究エンジニアリング環境で、人間の専門家と比較して最先端のAIエージェントを評価します。
- 7つの挑戦的でオープンエンドなML研究エンジニアリング環境。
- 各環境 = (スコアリング関数、開始ソリューション、参照ソリューション); 各環境は8つ以下のH100 GPUで実行できます。
- 例:カーネルの最適化、スケーリング則実験の実行、埋め込みの修正、QAのためのGPT-2のファインチューニングなど。
- 61人の異なる人間の専門家による71回の8時間試行からのデータが含まれます。
- 人間の専門家は、82%の8時間試行で非ゼロスコアを達成しました。24%は強力な参照ソリューションと同等またはそれを超えました。
- 最良のAIエージェントは2時間予算で人間よりも4倍高いスコアを達成しましたが、人間はより長い予算でより良いリターンを得て、8時間および32時間の設定でエージェントを上回りました。
- MLE-bench: オフラインKaggleコンペティションでMLエンジニアリングエージェントを評価します。
- Kaggleからキュレーションされた75のMLエンジニアリングコンペティションが含まれます。
- モデルのトレーニング、データセットの準備、実験の実行、およびグレーディングスクリプトへの予測の送信をテストします。
- Kaggleの公開リーダーボードを人間のベースラインとして使用します。
- 最良のセットアップ(
o1-previewとAIDEスキャフォールディング)は、16.9%のコンペティションでKaggleブロンズメダルレベルに達しました。 - リソーススケーリングと汚染分析が含まれます。
- KernelBench: 生成されたGPUカーネルの正確さと速度を評価します。
- LLMが高速で正確なカーネルを書けるかどうかを評価するための250のPyTorchタスク。
- 評価メトリックfast_pは、生成されたカーネルのうち、正確でベースラインよりも高速なものの割合です。
参考文献
[1] Good, I. J. “Speculations Concerning the First Ultraintelligent Machine.” Advances in Computers, 6:31–88, 1965.
[2] Yudkowsky, Eliezer. “Recursive Self-Improvement.” LessWrong, 2008.
[3] Choi, et al. “Anchored Self-Play for Code Repair.” ICML 2026.
[4] Zhao, et al. “Absolute Zero: Reinforced Self-play Reasoning with Zero Data.” arXiv preprint arXiv:2505.03335, 2025.
[5] Yuan, et al. “Self-Rewarding Language Models.” arXiv preprint arXiv:2401.10020, 2024.
[6] Chen, et al. “Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models.” ICML 2024.
[7] Zhang, et al. “Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models.” ICLR 2026.
[8] Ye, et al. “Meta Context Engineering via Agentic Skill Evolution.” arXiv preprint arXiv:2601.21557, 2026.
[9] Lee, et al. “Meta-Harness: End-to-End Optimization of Model Harnesses.” arXiv preprint arXiv:2603.28052, 2026.
[10] Lu, et al. “Towards end-to-end automation of AI research.” Nature, 651:914–919, 2026.
[11] Meng, et al. “ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence.” arXiv preprint arXiv:2605.26340, 2026.
[12] Kulikov, et al. “Autodata: An agentic data scientist to create high quality synthetic data.” arXiv preprint arXiv:2606.25996, 2026.
[13] Hu, Lu, and Clune. “Automated Design of Agentic Systems.” ICLR 2025.
[14] Madaan, et al. “Self-Refine: Iterative Refinement with Self-Feedback.” NeurIPS 2023.
[15] Zhang, et al. “AFlow: Automating Agentic Workflow Generation.” ICLR 2025.
[16] Zelikman, et al. “Self-Taught Optimizer (STOP): Recursively Self-Improving Code Generation.” COLM 2024.
[17] Zhang, et al. “Self-Harness: Harnesses That Improve Themselves.” arXiv preprint arXiv:2606.09498, 2026.
[18] Fernando, et al. “Promptbreeder: Self-Referential Self-Improvement Via Prompt Evolution.” arXiv preprint arXiv:2309.16797, 2023.
[19] Agrawal, A. et al. “GEPA: Reflective Prompt Evolution Can Outperform Reinforcement Learning.” arXiv preprint arXiv:2507.19457, 2025.
[20] Novikov, et al. “AlphaEvolve: A coding agent for scientific and algorithmic discovery.” arXiv preprint arXiv:2506.13131, 2025.
[21] Lange, Imajuku, and Cetin. “ShinkaEvolve: Towards Open-Ended And Sample-Efficient Program Evolution.” arXiv preprint arXiv:2509.19349, 2025.
[22] Wang, et al. “ThetaEvolve: Test-time Learning on Open Problems.” arXiv preprint arXiv:2511.23473, 2025.
[23] Zhang, et al. “Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents.” arXiv preprint arXiv:2505.22954, 2025.
[24] Zhang, et al. “Hyperagents.” arXiv preprint arXiv:2603.19461, 2026.
[25] Yuksekgonul, et al. “Learning to Discover at Test Time.” arXiv preprint arXiv:2601.16175, 2026.
[26] Riaz, et al. “Epistemic Uncertainty for Test-Time Discovery.” arXiv preprint arXiv:2605.11328, 2026.
[27] Hebbar, et al. “SIA: Self Improving AI with Harness & Weight Updates.” arXiv preprint arXiv:2605.27276, 2026.
[28] Trehan and Chopra. “Why LLMs Aren’t Scientists Yet: Lessons from Four Autonomous Research Attempts.” arXiv preprint arXiv:2601.03315, 2026.
[29] Bubeck, et al. “Early science acceleration experiments with GPT-5.” arXiv preprint arXiv:2511.16072, 2025.
[30] Starace, et al. “PaperBench: Evaluating AI’s Ability to Replicate AI Research.” ICML 2025.
[31] Wijk, et al. “RE-Bench: Evaluating frontier AI R&D capabilities of language model agents against human experts.” ICML 2025.
[32] Chan, et al. “MLE-bench: Evaluating Machine Learning Agents on Machine Learning Engineering.” arXiv preprint arXiv:2410.07095, 2024.
[33] Chen, et al. “ScienceAgentBench: Toward Rigorous Assessment of Language Agents for Data-Driven Scientific Discovery.” ICLR 2025.
[34] Siegel, et al. “CORE-Bench: Fostering the Credibility of Published Research Through a Computational Reproducibility Agent Benchmark.” TMLR 2024.
[35] Ouyang, et al. “KernelBench: Can LLMs Write Efficient GPU Kernels?” arXiv preprint arXiv:2502.10517, 2025.
[36] Lin, et al. “Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents.” arXiv preprint arXiv:2605.30621, 2026.
[37] Lin, et al. “Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses.” arXiv preprint arXiv:2604.25850, 2026.
[38] Karten, et al. “Continual Harness: Online Adaptation for Self-Improving Foundation Agents.” arXiv preprint arXiv:2605.09998, 2026.
[39] Che, et al. “DemoEvolve: Overcoming Sparse Feedback in Agentic Harness Evolution with Demonstrations.” arXiv preprint arXiv:2605.24539, 2026.