Googleのオープンエージェント型オーケストレーター

エージェント型タスクを宣言します。AXがそれを大規模に実行します。AXはタスクをサンドボックス化し、ワークスペースを配線し、ネットワークを制限し、クラスターあたり数十億ものタスク実行を支援します。エージェントごとに単一タスクを使用するか、エージェントが必要とするだけ多くのタスクを構成してください。 始めましょう GitHubで表示 Pause $ cat task.yaml apiVersion: ax.io/v1alpha1 kind: Workspace metadata: name: golang spec: git: - repo: https://github.com/golang/go.git branch: "my-fix" --- apiVersion: ax.io/v1alpha1 kind: Task metadata: name: test spec: workspaces: - name: golang goal: "Ensure that Go tool chain is available and is built from source" debug: true $ ax apply -f task.yaml workspace.ax.io/golang created task.ax.io/test created $ ax watch task test Watching task default/test... [10:42:01] Phase: Pending Actor: test WorkerIP: [10:42:05] Phase: Running Actor: test WorkerIP: 10.20.3.67 Task reached terminal phase "Running". $ ax get tasks NAME NAMESPACE PHASE ACTOR WORKER-IP AGE test default Running test 10.20.3.67 5s $ ax ssh test -- ls /workspace go $ ax ssh test -- cd /workspace/go && go build ./... $ ax ssh test -- ps -o pid,cmd PID CMD 1 /usr/local/bin/ax-task-runner 12 go build ./... $ ax ssh test -- touch notes.txt $ ax suspend task test task.ax.io/test suspended $ ax resume task test task.ax.io/test resumed $ ax ssh test -- ls notes.txt notes.txt $ ax suspend task test task.ax.io/test suspended $ ax delete task test task.ax.io/test deleted AXエージェントは新しい種類のワークロードである理由。 それらはマイクロサービスでもバッチジョブでもありません。状態を蓄積し、厳密な分離を必要とし、モデルAPIやツールサーバーに呼び出しを行い、誰も監視していなければループで費用を浪費する可能性があります。AXはそれらすべてを宣言的に処理する4つの小さなプリミティブを提供します。 Task 分離実行 CPUおよびメモリ制限のあるサンドボックスで、信頼できないエージェントコードを実行します。作成、一時停止、破棄が安価です。 Workspace 簡単なワークスペース設定 エージェントが必要とするGitリポジトリ、MCPサーバー、スキルをリストするか、単に目標を説明してください。AXはタスク開始前に各サンドボックスでそれをすべてセットアップします。 Gateway ネットワークポリシー 定義し、ネットワークポリシーを迅速に管理します。トラフィックを明示的なホストとポートの許可リストにロックダウンし、受信リクエストに認証情報を注入します。 Model 設定の一元管理 モデル、モデルパラメータ、シークレットを一元管理します。キーをローテーションしたり、新しいモデルバージョンをピン留めしたりできます。 仕組み 数十億ものタスクにスケールします。AXは、大規模な密度と高速なステートフルアクターライフサイクルのためにゼロから設計されたコンピューティングランタイムであるAgent Substrate上で実行されます。 数十億ものタスク 各タスクは軽量アクターとして実行され、オーケストレーターの制限なしにクラスターあたり数十億もの同時エージェントセッションにスケールできます。 サブ秒での再開 モデル応答、外部ツール呼び出し、または人間の応答を待機しているアイドルエージェントはチェックポイントされ、一時停止され、コールドスタート遅延ゼロで1秒未満で復帰されます。 高密度多重化 数十ものタスクがワーカーリソースを共有し、アイドル待機時間を余剰コンピューティング能力に変換するため、エージェントがアクティブに思考しコードを実行している場合にのみ支払います。 生成プラットフォーム プラットフォームに組み込まれた生成機能。 AXは生成AIをプラットフォームに直接統合します。たとえば、プレーンな英語でワークスペースを設定したい場合、タスク開始前に環境が自動的に準備されます。 task.yaml apiVersion: ax.io/v1alpha1 kind: Task metadata: name: data-analysis spec: workspaces: - name: python-env goal: "Set up a Python 3 development environment" 生成ワークスペース 準備完了した環境がどのように見えるかをプレーンな英語で説明します。AXは、最初の起動時にエージェントにこの目標を渡し、ツールチェーンをインストールして依存関係を検証します。 すべてを実行 インタラクティブコーディングエージェント、長時間実行エージェントサーバー、Jupyter Notebook、ヘッドレスブラウザテスト、カスタムツールランタイムなど、何でも実行できます。研究に最適 軌跡を収集し、強化学習ループを実行し、エージェントを大規模に評価するために、大量の再現可能なサンドボックスを起動します。 ビルダーと研究者のために 開発者と研究者にとって最も使いやすいランタイムとして構築されています。エージェントインフラストラクチャの取り扱いを容易にすることで、作業に集中できるようになります。AXは、アプリケーション開発者とAI研究者の両方にとって、人間工学、迅速なイテレーション、および楽しいワークフローに妥協なく焦点を当てて設計されています。ランタイムを最小限かつ軽量に保ちながら、エージェントの構築、評価、スケーリングに必要な必須機能を適切に追加することを目指しています。 について 研究から生まれ、本番用に構築されました。 AXは、エージェント型ランタイムシステムの研究と最先端コンピューティングが出会ったGoogleで生まれました。長年にわたるエージェント実行エンジンの構築と運用を通じて、Googleの各チームは、エージェント型ワークロードがまったく新しいコンピューティングパラダイムを表していることを認識しました。つまり、1分間集中的に計算し、モデル応答、ツール応答、または人間の承認を待機する、ステートフルでバースト的で長時間実行されるアクターです。ステートレスマイクロサービスまたは予測可能なバッチジョブ用に構築された従来のオーケストレーターは、アイドル状態のサンドボックスを実行し続けると費用対効果が悪くなりますが、サブ秒でのサスペンドとレジュームのネイティブサポートが不足しています。Google DeepMindのエージェント型ランタイム研究と、大規模な分離、再開、スケジューリングにおける深い経験を活用して、AXは、開発者と研究者が基盤となるインフラストラクチャを再発明することなく、大量のエージェントフリートを実行できるように、エージェント実行専用に構築されたオープンで宣言的なコントロールプレーンとして構築されています。これは、タスク、ワークスペース、ネットワークポリシー、モデルをコアプリミティブに抽象化します。このプロジェクトはAgent Substrateに大きく依存していますが、エージェント型抽象化と生成ランタイムコンポーネントを提供します。