HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

エージェント型アプリケーションのためのインフラストラクチャパターン

Infrastructure Patterns for Agentic Applications (render.com)

23 pointsby jacobprall2 コメント

要約

エージェント型アプリケーションは、従来のWeb機能とは異なり、長時間実行され、状態を持ち、非決定的であるため、標準的なWebアーキテクチャでは対応が困難です。この記事では、脆弱なエージェントスクリプトをスケーラブルで回復力のある本番システムに転換するための3つの主要なインフラストラクチャパターンを紹介します。Web-Queue-Workerパターンとワークフローエンジンが、エージェントの実行をリクエストから分離し、状態管理と信頼性を確保する上で中心的な役割を果たします。

全文翻訳

エージェント型アプリケーションのためのインフラパターン

ほとんどのチームは、エージェントを他のWeb機能と同様に構築し始めます。モデルをルートハンドラーでラップし、リクエストを解析し、レスポンスを待ちます。

これはデモには適していますが、本番環境では最初に問題が発生する箇所です。

エージェントは長期間実行され、状態を持ち、非決定的です。ツールを呼び出し、外部APIを待ち、サブタスクに分岐し、レート制限に遭遇し、マルチステップシーケンスの途中でクラッシュします。もしエージェントが単一のHTTPリクエストに紐づいている場合、アプリケーションの信頼性を非決定的なループの壁時計時間に依存させていることになります。

デモを超えて進むということは、その結合を断ち切ることを意味します。この記事では、脆弱なエージェントスクリプトをスケーラブルで回復力のある本番システムに変えるためにチームが使用する3つのコアパターンを解説します。

エージェントの性質

エージェントの中核はループです:ゴールを受け取り、次に何をすべきかを決定し、モデルまたはツールを呼び出し、結果を観測し、状態を更新し、完了するまで繰り返します。そのループには、ナイーブなWebアーキテクチャにとって敵対的になるいくつかの特性があります。

エージェントは長期間実行されます。 通常のAPIリクエストは迅速に完了すべきです。エージェントはしばしばそうではなく、数時間、あるいは数日かかることもあります。

エージェントは状態を持ちます。 実行は単一の関数呼び出しではありません。それはゴール、計画、ツールの呼び出しと出力、リトライ、エラー、決定、そして最終的な出力です。プロセスがクラッシュした場合、何が起こったかを知る必要があります。そうでなければ、進捗を失うか、盲目的に作業を再実行することになります。どちらも、特に長期間実行されるエージェントにとっては良いことではありません。

エージェントは非決定的です。 従来のワークフローコードは次のように言います:

if (x > 0) {
  return y;
} else {
  return z;
}

エージェントコードは次のように言います:

return await model.predict(goal, history);

モデルは実行時に次のアクションを選択するため、回復、リプレイ、デバッグがはるかに困難になります。

実行は3ステップで終わることもあれば、30ステップかかることもあります。複数のツールに分岐したり、人間の承認を待ったり、大きな中間成果物を生成したり、早期に停止したりする可能性があります。インフラストラクチャは、タイムアウト、予算、チェックポイント、承認、明示的な終了条件をもって、その予測不可能性の周りに境界を設定する必要があります。

これらの特性を合わせると、エージェントにはアプリケーションコードでラップされたモデル呼び出し以上のものが必要であることがわかります。実行とリクエストを分離するアーキテクチャと、進捗を維持し、決定を記録し、副作用を制御し、モデルコンテキストとは別に成果物を管理するインフラストラクチャが必要です。

パターン:Web-キュー-ワーカー

最初の本番パターンは、エージェントの実行全体をWebリクエスト内で実行するのをやめることです。リクエストはエージェント実行の寿命としては不適切です。それは永続的な実行レコードを作成し、作業をキューに入れ、すぐに返す必要があります。

これにより、アプリケーションは単純な境界を持つことができます:

// API Plane
app.post('/agents/:agentId/runs', async (req, res) => {
  const run = await db.createRun(req.body);
  await queue.enqueue(run.id);
  res.status(202).json({ runId: run.id });
});

// Worker Plane
queue.onMessage(async (runId) => {
  const run = await db.getRun(runId);
  await executeAgent(run);
  await db.updateRun(run);
});

APIがジョブをキューに入れます。キューがジョブを永続的に保存します。ワーカーがジョブを実行します。データベースが進捗を記録します。

クライアントはすぐに実行IDを取得します。エージェントは別の場所で実行されます。ユーザーはステータスを確認したり、更新を購読したり、実行完了時にコールバックを受け取ったりします。

キューは、作業を作成するものとそれを実行するものとの間の永続的なバッファです。実行が通常の要求よりも長い場合、タスクがほとんど独立している場合、およびワーカーのスケーリング、リトライ、またはバースト吸収が必要な場合のデフォルトの出発点です。

落とし穴: キューはジョブが存在することを知っていますが、そのジョブが属する論理プロセスを知りません。1つのバックグラウンドジョブは問題ありません。3つのリトライ、2つの分岐、および人間の承認の一時停止を含む20の依存ステップは、キューが管理してくれるものではありません。そのロジックは自分で構築する必要があります。後述するように、そこがワークフローエンジンの出番です。

信頼性:安全なリトライと部分的な失敗

作業をキューに移動することで、寿命の問題は解決されます。しかし、実行の永続性の問題は解決されません。

ほとんどの本番キューはアット・リスト・ワンスです:ジョブは複数回実行される可能性があります。これは作業の損失を避けるための意図的なトレードオフであり、コードはその影響に耐える必要があります。エージェントがツールを呼び出し、レコードを書き込み、メッセージを送信したり、リソースをプロビジョニングしたりできるようになると、リトライの動作はアプリケーションの正しさモデルの一部になります。

最も重要な2つの規律があります。冪等性は、単一のステップが2回実行された場合に何が起こるかに対処します。補償は、シーケンスの途中で実行が停止した場合に何が起こるかに対処します。リトライは最初の要件となります。永続的な失敗は、後者を本番環境の必須条件とします。リモートサービスに触れるエージェントは両方を必要とします。

冪等性:2回実行されるステップを乗り越える

悪いワーカーコードは、ステップ間にクラッシュがないと仮定します:

// Bad: assumes no crash between steps
await db.createRecord(data);
await tool.execute(data);
await db.updateRecord(data);

より良いコードは冪等性の境界を作成します:

// Better: idempotency boundary
const record = await db.getRecord(data.id);
if (!record) {
  await db.createRecord(data);
  await tool.execute(data);
  await db.updateRecord(data);
}

エージェントの場合、副作用のあるすべてのツール呼び出しは同じ扱いが必要です:ツールを呼び出す前に完了したレコードを確認し、「実行中」レコードをアップサートし、ツールを呼び出し、完了とマークします。リトライは、リトライされた操作が安全でない限り、回復戦略ではありません。

補償:途中で停止した実行を乗り越える

5つのステップのうち3つを完了するエージェントを考えてみましょう:

  1. カードに請求し、
  2. リソースをプロビジョニングし、
  3. 確認メールを送信します。

その後、ステップ4が永続的に失敗します。最初の3つのステップのいずれもデータベーストランザクションでロールバックできません。請求はデータベース行を削除しても元に戻せません。お金はすでに動いています。実行をステップ1から再開すると、カードへの請求が再度行われ、メールが再送信され、冪等性が防止しようとした重複副作用の問題が再作成されます。

分散システムには、これに対する標準的な答えがあります:サガパターンです。エージェントが実行できる副作用のある各アクションに対して、効果を逆転させる補償アクションを定義します。請求は払い戻しで逆転されます。メールは修正メッセージで逆転されます。実行が永続的に失敗した場合、オーケストレーターは完了したステップを逆順にウォークし、それらの補償を実行します。

補償は、フォワードアクションと同様に冪等である必要があります。補償もそれ自体で失敗する可能性があります。払い戻しAPIは、請求APIと同様に利用できなくなる可能性があります。補償チェーンには、バウンデッドリトライ、完了しない補償のためのデッドレターパス、および手動のエスケープハッチが必要です。これらがないと、失敗した実行は半分の完了ではなく、半分の未完了で終わる可能性があり、これは改善ではありません。

補償は、部分的な失敗に対する常に正しい応答ではありません。5つの並列サブオーダーのうち4つが成功し、1つが失敗した場合、5つ目をドロップして4つを完了する方が良い結果であることがよくあります。これにより、成功した作業を巻き戻すのを避けることができます。補償は、部分的な成功が許容されない場合に構築する価値があり、任意の失敗に対するデフォルトの応答としてではありません。

冪等性は、2回実行されるステップをカバーします。補償は、途中で停止した実行をカバーします。どちらも、実行が単純なワーカーまたはワークフローエンジンによって実行されるかどうかにかかわらず必要です。

A queue distributes work, but it does not remember the shape of a run. It knows that a job exists. It does not know that step three depends on step two, that a human approval is pending, that two branches need to join before synthesis, or that compensation should run if the final step fails.(キューは作業を分散しますが、実行の形状を記憶しません。ジョブが存在することは知っています。ステップ3がステップ2に依存していること、人間の承認が保留中であること、合成の前に2つのブランチが結合する必要があること、または最終ステップが失敗した場合に補償を実行する必要があることを知りません。)

パターン:ワークフロー

難しくなるのが「このジョブはどこで実行されるべきか?」ではなく、「すでに起こったことを考えると、次に何が起こるべきか?」となったとき、キューイングからオーケストレーションへと移行したことになります。

A workflow engine provides that orchestration layer. It stores the history of a run: which steps started, completed, failed, retried, timed out, or waited for external input. In a workflow, a crash doesn't mean starting over.(ワークフローエンジンはそのオーケストレーションレイヤーを提供します。実行の履歴を保存します:どのステップが開始され、完了し、失敗し、リトライされ、タイムアウトし、または外部入力を待ったか。ワークフローでは、クラッシュは最初からやり直すことを意味しません。)

Every workflow system divides the code into the same two roles: a coordinator that decides what happens next, and steps that do the actual work — model calls, tool executions, record writes. The names vary from engine to engine, but the division of responsibility is the concept that matters: decisions live in one layer, effects live in the other.(すべてのワークフローシステムは、コードを同じ2つの役割に分割します:次に何が起こるかを決定するコーディネーターと、実際の作業を行うステップ—モデル呼び出し、ツール実行、レコード書き込み。名前はエンジンごとに異なりますが、責任の分割が重要な概念です:決定は1つのレイヤーに、効果はもう1つのレイヤーに存在します。)

The coordinator has one hard rule: given the same history, it must always make the same decisions. This is because of how recovery works. After a crash, the engine rebuilds a run by re-executing the decision logic from the top, substituting recorded results for work that already completed. Replay only lands in the same place if the code decides the same way every time. So anything that could answer differently on a second pass — a model call, the current time, a random number, a call to an external service — belongs in a step, where the result is recorded the first time it runs and read back from history ever after. A stray clock read inside the coordinator, and a resumed run silently diverges from its own history. Durable execution tells you where a run was when it crashed. It does not remove the need for idempotency, because steps can still run more than once. This is why a workflow engine is the natural home for compensation logic: it already tracks which steps completed, which is the record a saga needs to walk backward.(コーディネーターには1つの厳格なルールがあります:同じ履歴が与えられた場合、常に同じ決定を下さなければなりません。これは回復の仕組みによるものです。クラッシュ後、エンジンは決定ロジックを最初から再実行し、すでに完了した作業には記録された結果を代入することで実行を再構築します。リプレイが同じ場所に到達するのは、コードが毎回同じように決定した場合のみです。したがって、2回目のパスで異なる応答をする可能性のあるもの—モデル呼び出し、現在時刻、乱数、外部サービスへの呼び出し—はステップに属し、そこで結果は最初に実行されたときに記録され、その後は履歴から読み取られます。コーディネーター内の時計の読み取り値がずれると、再開された実行は静かに自身の履歴から逸脱します。永続的な実行は、クラッシュ時に実行がどこにあったかを教えてくれます。ステップは複数回実行される可能性があるため、冪等性の必要性をなくすものではありません。これが、ワークフローエンジンが補償ロジックの自然な場所である理由です:すでに完了したステップを追跡しており、これはサガが逆方向にウォークするために必要なレコードです。)

ワークフローのスケーリング:ファンアウト、ファンイン、および競合

実行が分岐する場合、ワークフローは特に有用になります。ファンアウトは一般的な形状です:リードエージェントがゴールを独立したサブタスクに分解し、それぞれをワーカーまたはサブエージェントに送信し、結果を合成します。

これは並列処理と新しいコンテキストウィンドウを提供し、リサーチ、ドキュメント分析、その他の幅広く浅い作業に役立ちます。しかし、難しいのはワーカーのディスパッチではありません。ファンインの調整です:1つのブランチが失敗した場合どうなるか、いくつの失敗が許容できるか、部分的な結果を合成するかどうか、そして永遠に待つことを避ける方法。キューはワーカーを実行できます。ワークフローは次に何が起こるかを決定します。

ファンアウトは、サブタスクが独立しており、ほとんどが読み取り専用で、並列化可能な場合に利用する価値があります。サブタスクが密接に結合している場合や、変化し続ける状態を共有する必要がある場合にはうまく機能しません。エージェントを追加すると、コストと調整オーバーヘッドも増加するため、使用するエージェントの数は、それらを生成するメカニズムよりも重要です。

ファンアウトは競合も導入します。システムは3つの並列サブエージェントで機能し、11では失敗する可能性があります。たとえ全体として十分なプロバイダー容量があってもです。調整されていない呼び出しは、同じレート制限に衝突したり、同じ接続プールを使い果たしたり、同時にリトライしたりする可能性があります。プロバイダー、データベース、モデルAPIを共有リソースとして扱い、同時実行を制限し、必要に応じてトークンバケットを使用し、共有リソースが抵抗した場合にバックオフします。

パターンの組み合わせ:ワークフロー + キュー

スケールにおいては、ワークフローがプロセスを調整し、キューが実行を分散します。それらは競合相手ではありません。異なるレイヤーで動作します。

ここでは2つの詳細が重要です。Promise.allSettledは、1つの失敗したブランチが全体のファンインを損なうのを防ぎ、成功しきい値は部分的な失敗ポリシーを明示します:ワークフローが、キューではなく、返ってきたもので実行を続行できるかどうかを決定します。

これは高スケールのエージェントシステムのための成熟したパターンです:永続的なプロセス状態、複数のワーカープール、レート制限されたディスパッチ、監査可能性。コストは実際の運用上の複雑さです。APIプレーン、オーケストレーションプレーン、実行プレーンができます。これはワークロードがそれを要求する場合に価値があります。

具体化

上記のパターンはプラットフォームに依存しません。任意のキュー、任意のワークフローエンジン、任意のワーカーフリートから組み立てることができます。問題は、その組み立てのどれだけを所有・運用したいかということです。

Renderでは、そのほとんどが不要です。WebサービスはAPIであり、Render Workflowsはそれ以外のすべてです。タスクをプレーンなTypeScriptまたはPython関数として定義すると、プラットフォームがキュー、ワーカー、リトライ、分離、および実行ごとのオブザーバビリティを提供します。プロビジョニングするキューはなく、ウォーム状態に保つワーカーフリートもなく、運用するオーケストレータークラスターもありません。

エージェント、タスクとして

具体的なエージェントを考えてみましょう:「トップ3の競合他社がエンタープライズティアをどのように価格設定しているかを要約する」のようなゴールを与えられ、計画、検索、読み取り、そして短い要約を行います。ワークフローコードとして書くと、それはまさにこの投稿の冒頭のループです—決定するコーディネーターと、実行するステップ:

// Coordinator
runAgent.onExecute(async (goal) => {
  const plan = await decide('plan', goal);
  const results = await Promise.all(
    plan.subtasks.map(subtask => executeAction('runSubtask', subtask))
  );
  return synthesize('summary', goal, results);
});

// Steps
const decide = task(async (type, input) => { /* ... call LLM ... */ });
const executeAction = task(async (type, input) => { /* ... call tool or LLM ... */ });

注目すべき3点:

これが実行プレーン全体です。 キュークライアント、メッセージスキーマ、ポーリングループ、ワーカー登録はありません。3つのtask()ラッパーが、最初のパターンのAPI → キュー → ワーカーの配管に取って代わります。runAgentがdecide(...)またはexecuteAction(...)を呼び出すとき、それはローカル関数呼び出しではありません—関数はtask()でラップされているため、各呼び出しは独自のオンデマンドインスタンスで、独自のタイムアウトとコンピューティングプロファイルを持つチェーン化されたタスク実行を開始します。Promise.allはファンアウトであり、プラットフォームはディスパッチ、分離、およびリトライを処理します。

ループがエージェントです。 コーディネーターは固定された計画を実行しません。ループの各パスは、すでに起こったことを考慮して再度決定します—したがって、アクションはイテレーション内でシーケンスで実行され、1つのイテレーション内で並列に実行され、モデルが完了したと判断すると実行が終了します(タスクのタイムアウトによって制限されます)。

1つのエージェント実行は、タスク実行の1つのツリーです。 runAgentの実行がルートであり、すべてのdecideとexecuteActionの実行がそれに連鎖します。Renderはツリー全体—ステータス、リトライ、実行ごとのログ—を追跡するため、「エージェントは何をしたか?」という質問にはダッシュボードが答えることができます。アプリケーションが独自のレコードを必要とする場合は、ルート実行のIDを保存し、そこから進みます。

実行のトリガー

Webサービスまたは他の場所からエージェント実行を開始することは、SDK呼び出し1回です:

await startTask('runAgent', { goal: 'Summarize competitor pricing' });

startTaskはエンキューです。プラットフォームは作業を永続的に保存し、ディスパッチし、そのステータスを公開します—最初のパターンの境界全体が、1回の呼び出しで実現されます。(呼び出し元が完了までブロックしたい場合は、代わりにrunTaskを使用します。APIリクエストの境界としては、startTaskが適切です。)

さらなる構成

Workflowsは中心的な存在ですが、実行がさらに必要になったときにプラットフォームの他の部分が構成されます。Cron JobでstartTaskを呼び出すと、スケジュールされたエージェントが得られます。Key Valueは、並列実行が共有レート制限で競合する場合にトークンバケットを提供します。Postgresは大きな成果物を保持するため、タスクはペイロードではなくIDを渡します—実行よりも長く存続する必要がある状態はストアに保存され、コンテナとともに消滅する必要がある状態はコンテナとともに消滅します。これらは開始するために必要なものではなく、それぞれが1つのプリミティブであり、ワークロードが要求するときに追加されます。

これが解決しないこと(まだ)

Workflowsはキューとワーカーの配管を削除します。今日、アプリケーションレベルの正確性作業を削除するものではありません:冪等性、補償、成果物ストレージ、トレース伝播、承認境界、コスト制御、レート制限は、この記事のパターンを使用して構築する必要があります。

しかし、その境界は移動しています。このリストの多くは、Workflowsが目指しているまさにその場所です:より強力な永続性保証、ファーストクラスの冪等性、そしてネイティブな承認ゲートのような人間参加型のプリミティブはすべてロードマップ上にあります。この記事のパターンは同じままですが、それらの多くが、あなたが保守するアプリケーションコードではなく、プラットフォーム機能として出荷されることが期待されます。

Workflowsは現在ベータ版であり、サポートされている言語、スケジューリング、Blueprintサポート、HIPAA準拠ホストに関する現在の制限があります。

どのプラットフォームもオーケストレーションの設計負担を削除することはできません。状態がどこにあり、リトライが安全な場所、承認が発生する場所、そして実行がエンドツーエンドでどのようにトレースされるかを決定する必要があります。プラットフォームの仕事は、これらの決定を実装しやすくすることであり、それらをあなたのために行うことではありません。

結論

次世代のエージェント型アプリケーションは、基盤となるインフラストラクチャが手作りであろうと管理されていようと、分散システムのように構築されるでしょう。

キューは「この作業はどこで実行されるべきか?」と尋ねることを覚えておいてください。ワークフローは「すでに起こったことを考えると、次に何が起こるべきか?」と尋ねます。エージェントは「ゴールを達成するために次に何をすべきか?」と尋ねます。

Render Workflowsは実行レイヤーを簡素化できます。タスク実行を開始し、キューに入れ、リトライし、ステータスを表示できます。しかし、アプリケーションは依然として実行の意味論を所有します:進捗と見なされるもの、リトライしても安全な副作用、成果物の場所、人間の承認が必要なとき、そして部分的な失敗がどのように修復されるか。

それが真の境界です。インフラストラクチャは作業を移動させます。ワークフローは進捗を維持します。エージェントはアクションを選択します。信頼性の高いエージェント型アプリケーションは、これらの責任を分離し続けることから生まれます。たとえプラットフォームがそれらを簡単に一緒にデプロイできるようにしてもです。

Render Workflowsはベータ版です。これらのパターンをインフラストラクチャを構築せずに実行したい場合は、Workflowsドキュメントから始めてください。