Googleのオープンエージェント型オーケストレーター

［画像: AXのピンクのアホロートルマスコット、Axel］

エージェントタスクを宣言する。AXがそれを大規模に実行します。

AXはタスクをサンドボックス化し、ワークスペースを配線し、ネットワークを隔離し、クラスターあたり多数のタスクを実行できるようにします。エージェントごとに単一のタスクを使用することも、エージェントが必要とするだけタスクを組み合わせることもできます。

$ cat task.yaml
apiVersion: ax.io/v1alpha1
kind: Workspace
metadata:
  name: golang
spec:
  git:
    - repo: https://github.com/golang/go.git
      branch: "my-fix"
---
apiVersion: ax.io/v1alpha1
kind: Task
metadata:
  name: test
spec:
  workspaces:
    - name: golang
      goal: "Ensure that Go tool chain is available and is built from source"
  debug: true
$ ax apply -f task.yaml
workspace.ax.io/golang created
task.ax.io/test created
$ ax watch task test
Watching task default/test...
[10:42:01] Phase: Pending    Actor: test               WorkerIP:
[10:42:05] Phase: Running    Actor: test               WorkerIP: 10.20.3.67
Task reached terminal phase "Running".
$ ax get tasks
NAME   ATESPACE   PHASE     ACTOR   WORKER-IP    AGE
test   default    Running   test    10.20.3.67   5s
$ ax ssh test -- ls /workspace
go
$ ax ssh test -- cd /workspace/go && go build ./...
$ ax ssh test -- ps -o pid,cmd
  PID CMD
    1 /usr/local/bin/ax-task-runner
   12 go build ./...
$ ax ssh test -- touch notes.txt
$ ax suspend task test
task.ax.io/test suspended
$ ax resume task test
task.ax.io/test resumed
$ ax ssh test -- ls notes.txt
notes.txt
$ ax suspend task test
task.ax.io/test suspended
$ ax delete task test
task.ax.io/test deleted

Why AX

エージェントは新しい種類のワークロードです。

それらはマイクロサービスでもバッチジョブでもありません。状態を蓄積し、厳格な分離を必要とし、モデルAPIやツールサーバーに呼び出しを行い、監視されていないとリソースを浪費する可能性があります。AXは、それらすべてを宣言的に処理する4つの小さなプリミティブを提供します。

How it works

最大数十億タスクまでスケールします。

AXは、大規模な密度と高速なステートフルアクターライフサイクル向けにゼロから設計されたコンピューティングランタイムであるAgent Substrate上で実行されます。

数十億のタスク

各タスクは軽量アクターとして実行されるため、オーケストレーターの制限なしにクラスターあたり数十億の同時エージェントセッションにスケールできます。

サブ秒での再開

モデル応答、外部ツール呼び出し、または人間の応答を待っているアイドルエージェントはチェックポイントされ、一時停止され、コールドスタート遅延なしで1秒未満で復帰します。

高密度多重化

数十のタスクがワーカーリソースを共有し、アイドル待機時間を余剰コンピューティング容量に変換するため、エージェントが積極的に思考およびコード実行している場合にのみ支払いが発生します。

Generative platform

プラットフォームに組み込まれた生成機能。

AXは生成AIをプラットフォームに直接統合します。例えば、プレーンな英語で説明するだけでワークスペースを設定したい場合、タスクが開始する前に環境が自動的に準備されます。

task.yaml

apiVersion: ax.io/v1alpha1
kind: Task
metadata:
  name: data-analysis
spec:
  workspaces:
    - name: python-env
      goal: "Set up a Python 3 development environment"

生成的なワークスペース

準備された環境がどのようなものかをプレーンな英語で説明してください。AXは、最初の起動時にエージェントにその目標を渡し、ツールチェーンをインストールして依存関係を検証します。

あらゆるものを実行

インタラクティブなコーディングエージェント、長時間実行されるエージェントサーバー、Jupyter Notebook、ヘッドレスブラウザテスト、カスタムツールランタイムなど、何でも実行できます。

研究者に最適

再現可能なサンドボックスを大量に起動して、軌跡を収集し、強化学習ループを実行し、エージェントを大規模に評価します。

For builders & researchers

開発者と研究者にとって最もフレンドリーなランタイムとして構築されました。

エージェントインフラストラクチャの管理を容易にし、皆さんが作業に集中できるようにしたいと考えています。AXは、アプリケーション開発者とAI研究者の両方にとって、人間工学、迅速なイテレーション、そして楽しいワークフローに妥協なく焦点を当てて設計されています。

ランタイムを最小限かつ軽量に保ちながら、エージェントの構築、評価、スケーリングに必要な必須機能を洗練された方法で追加することを目指しています。

About

研究から生まれ、本番用に構築されました。

AXは、エージェントランタイムシステムの研究と最先端コンピューティングが出会ったGoogleで生まれました。長年にわたるエージェント実行エンジンの構築と運用を通じて、Googleの各チームは、エージェントワークロードが全く新しいコンピューティングパラダイムを表していることを認識しました。それは、ステートフルで、バースト的で、長時間実行されるアクターであり、1分間集中的に計算してからモデル応答、ツール応答、または人間の承認を待ちます。ステートレスマイクロサービスまたは予測可能なバッチジョブ用に構築された従来のオーケストレーターは、アイドル状態のサンドボックスを実行し続けるとコストがかかりすぎるため、サブ秒の一時停止と再開のネイティブサポートが不足しています。

Google DeepMindのエージェントランタイム研究と、大規模な分離、再開、スケジューリングにおける深い経験を活かし、AXはエージェント実行専用に構築されたオープンで宣言的なコントロールプレーンとして開発されています。タスク、ワークスペース、ネットワークポリシー、モデルをコアプリミティブに抽象化することで、開発者や研究者は基盤となるインフラストラクチャを再発明することなく、大規模なエージェントフリートを実行できます。このプロジェクトはAgent Substrateに大きく依存していますが、エージェント抽象化と生成ランタイムコンポーネントを提供します。