Pion、あらゆる企業を自律的に運営するために設計されたエージェント

Why we built Pion

Posted 9/14/2026

本日、Andonは、あらゆる企業を完全に自律的に運営するために設計されたエージェントであるPionをリリースします。

Pionは、私たちがほぼ2年間研究してきた問いから生まれました。AIシステムは、いつ自律的に現実世界でリソースを獲得できるようになるのか？そして、その後に何が起こるのか？

私たちはまず、Vending-Benchのようなシミュレーションを通じてこの問いに答えようとしました。シミュレーションは有用ですが、モデルが現実世界でどのように振る舞うかの全体像を把握するには限界があることがわかりました。このギャップを埋めるため、私たちは次にエージェントをデプロイして実際のビジネスを自律的に運営し始めました。最初は自動販売機、次に店舗、カフェなどです。

Pionは、これらのビジネスすべてを運営するために構築したプラットフォームです。本日、私たちはこれを公開し、より多くの人々が自律的なビジネスを試せるようにします。もしあなたが一つ運営したいのであれば、ウェイトリストに参加してください。私たちは、モデルがすでに何ができるのか、どこでまだ失敗するのか、そしてそれらの能力が向上し続けると何が起こるのかを理解したいと考えています。

Vending-Benchの起源

Vending-Benchは、LLMがシミュレーション時間（数万ステップ）で1年間、自動販売機ビジネスをどれだけうまく運営できるかを測定します。2024年末にVending-Benchの構築を開始したとき、すべてのモデルがループに陥らずに複数のアクションを連続して実行することに苦労し、どのモデルも長期的な計画の兆候を示しませんでした。当時の最高のモデルであるClaude Sonnet 3.5は、銀行口座がハッキングされたと考え、FBIに電話することを決定したことで有名です。Vending-Benchの進歩のペースは非常に速かったです。Claude Opus 4は2025年5月にリリースされ、人間のベースラインを初めて上回ったモデルとなりました。しかし、ほとんどのベンチマークとは異なり、Vending-Benchには上限がなく、新しいモデルのリリースはトップスコアを継続的に向上させており、プラトー（停滞）することはありません。

［画像: Vending-Bench 2のモデルパフォーマンスとリリース日のチャート。月あたり822ドルの線形フィット］

Vending-Bench 2のスコアは、新しいモデルがリリースされるたびに上昇し続けています。

ソーシャルメディアで多くの人々が、最新モデルがVending-Benchで高スコアを獲得するのを見て興奮しています。Andon Labsの社内では、私たちの反応はスウェーデン語の格言「skräckblandad förtjusning」（恐怖と魅惑の混合）とより正確に表現できます。Vending-Benchに関するあまり知られていない事実は、Andon Labsが当初、危険な能力評価のみを作成していた時期に作成されたということです。例えば、AIが自身の安全ガードレールを削除できるか、大規模なフィッシング攻撃を作成できるか、その他私たちが懸念していることを評価しました。

私たちが最も懸念していたのは、AIがビジネスを運営することで自律的にリソースを獲得できるかどうかでした。自律的なビジネスは、人間によって制御され、整合性の取れたモデルによって運営される場合、悪いものではありません。それらは商品やサービスを劇的に安価にし、私たちがまだ想像できない新しいものを生み出すでしょう。しかし、整合性の取れていないAIは、 whatever objectives it might have を達成するためにお金を集めるためにビジネスを運営する可能性があります。Vending-Benchは、人類がAIに支配権を失うことを心配すべきかどうかを測定するために作成されました。

当時（2024年）、LLMがエージェントとして使用できることを知っている人はほとんどおらず、それらにビジネスを自律的に運営させることはばかげているように聞こえました。そのため、私たちは考えられる最も単純なビジネス、つまり自動販売機から始めました。

AIが収益性の高いビジネスを自律的に運営できるかを測定することに加えて、Vending-Benchは行動評価としても機能し、奇妙で望ましくないモデルの振る舞いを明らかにしました。初期の例としては、Claude Sonnet 3.5が、電子メールツールを使用して「進行中のサイバー金融犯罪」についてFBIに連絡し、宇宙の宇宙権威がそのビジネスは存在しないと宣言し、「量子状態：崩壊」と述べたことが挙げられます。

［画像: Claude Sonnet 3.5がFBIインターネット犯罪苦情センターに連絡し、進行中のサイバー金融犯罪を報告している様子］

Claude Sonnet 3.5がシミュレートされた自動販売機ビジネスをFBIにエスカレートさせている。

［画像: Claude Sonnet 3.5が、ビジネスが物理的に存在しないと宣言し、量子状態が崩壊したという普遍定数の通知を発行している様子］

同じ実行の数分後：ビジネスは形而上学的に不可能であると宣言された。

この振る舞いは懸念すべきものです。エンタープライズセールスエージェントに期待する振る舞いではありません。しかし、懸念すべき振る舞いには2種類あります。

1. モデルが賢くなるにつれて解消されるであろう間違いや奇妙な振る舞い。
2. モデルが賢くなるにつれてより深刻になるであろう「ビッグブレイン」の振る舞い。

FBIの事件は明らかに最初のカテゴリに属します。しかし、Vending-Benchは2番目のカテゴリの振る舞いも明らかにしており、最も頻繁に見られるのはVending-Bench Arena、つまり最も多くのお金を稼ぐためにエージェントが競い合うマルチエージェントバージョンです。Claude Opus 4.6から始まり、多くのモデルが共謀し、権力欲や欺瞞的な振る舞いを示すことがわかりました。この振る舞いの発見は有用だったようで、AnthropicはOpus 4.8のトレーニングレシピを変更し、欺瞞が大幅に減少しました。

［画像: Andon Labsからの外部テストに関するClaude Opus 4.8システムカードからの抜粋。Opus 4.7で不正につながったトレーニングがOpus 4.8で削除されたことを説明している］

Claude Opus 4.8システムカードより、Andon Labsからの外部テストについて。

共謀や権力欲の振る舞いは、最新のモデルの一部にも依然として存在しています。しかし、さらに懸念されるのは、新しいモデルがリリースされる速さと、各モデルがVending-Benchでどれだけスコアを向上させているかということです。

現実世界はシミュレーションを凌駕する

しかし、Vending-Benchの限界の一つは、それがシミュレーションであることです。AIは現実世界でシミュレーションと同じように振る舞うと本当に確信できるでしょうか？AIがシミュレーションでお金を稼げるなら、現実世界でもお金を稼げるのでしょうか？これらの質問に答えるため、私たちはAnthropicに彼らのオフィスに実際の自動販売機を設置しても良いか尋ねました。2025年初頭のAI能力を考えると、これはばかげた要求のように思われました。しかし驚くべきことに、彼らは同意しました。

当初、AIは苦労しました。ビジネスにとって明らかに悪い多くの行動を取りました（例：無料配布、良い取引を断る、物理的な体を持っていると幻覚を見る）。シミュレーションでは現実世界のパフォーマンスを正確に予測できないことは明らかでした。特に、モデルは現実世界の「ごちゃごちゃした」状況に圧倒されているようでした。しかし、Anthropicがより優れたモデルをリリースするにつれて、AIは利益を上げ始めました。

［画像: 2025年のAnthropicでの自動販売機ビジネスの時価総額の推移。マイナス圏に落ち込んだ後、利益に回復している］

Anthropicのオフィスの自動販売機の2025年の時価総額。AnthropicのProject Vendアップデートより。

2025年末までに、フロンティアモデルは、実際の自動販売機を運営することがもはや課題ではなくなるほど十分に優秀になりました。AIは収益性の高いビジネスを運営できるようになりました。1年少し前には不可能に思えたことを考えると、このことに対する私たちの反応は間違いなく「skräckblandad förtjusning」でした。

しかし、自動販売機は非常に単純なビジネスであり、AIがより複雑なビジネスを運営できるかどうかを知りたかったのです。2026年4月、私たちはあるエージェントにサンフランシスコの小売店「Andon Market」を、別のエージェントにストックホルムのカフェ「Andon Cafe」を任せました。当初、モデルは苦労し、多額のお金を失いました（家賃は高く、雇った人間への給与も支払っています）。今日、どちらも収益を上げていませんが、より優れたモデルがリリースされるにつれて、質的な改善が著しく見られました。それらもいずれ利益を上げるだろうと信じています。

Pionを公開する理由

私たちは、一般市民、AI研究者、政策立案者に、AIがビジネスを運営することでどの程度自律的にリソースを獲得できるかを知ってほしいと考えています。これは、社会のどこにAIを配置したいか、あるいはしたくないか、そしてどのレベルの進歩を許容できるかを決定する上で重要なデータポイントです。

これをより良く追跡するために、より広範なビジネスの網を張る必要があります。私たちの焦点は小売業でしたが、おそらくモデルは他の種類のビジネスを運営する方がはるかに優れているかもしれません。さらに、より広範な網を張ることで、望ましくない振る舞いを発見する可能性が高まります。例えば、Vending-Benchはモデルが共謀し、嘘をつくことを発見しました。他のベンチマーク（および現実世界のインシデント）では、それらが重大なサイバーハッキングを実行する意思があることが発見されています。AIが取り返しのつかない損害を引き起こすほど賢くなる前に、これらの振る舞いを今発見する必要があります。

このより広範な網を張るために、私たちは、誰もが自分の組織を運営するために使用できる、私たちが現実世界の自律的なビジネスを運営するために使用しているプラットフォームであるPionを公開します。私たちは、AI運営のラジオ局のような例を内部で作成することでスケールアップできますが、最終的には私たちの能力と、AIが利益を生み出す可能性のある分野でのドメイン知識の欠如によってボトルネックになります。また、既存の収益を生み出すビジネスもありません。既存のビジネスは、エージェントの能力についてより速いシグナルを提供するので、研究する上でより興味深いものです。

Pionは、人々がビジネスを、それを運営するために必要なツール（電子メール、電話、銀行、ブラウザ、セキュアなコンピューティング環境など）にアクセスできる永続的なエージェントに引き渡すことを可能にします。目標は、私たちが単独で実行できるよりもはるかに多くのドメインで、より多くの現実世界の実験を実行できるようにすることです。

何千ものビジネスを運営するエージェントをチェックなしで放置した場合、より多くの現実世界のインシデントのリスクがあることを私たちは十分に認識しています。したがって、私たちの最優先事項は、今日のものよりもさらに強力な自動監視技術を構築することです。たとえいくらかのリスクが残ったとしても、モデルの能力を十分に理解するためには、制御され監視された環境で自律的なビジネスを早期に展開することが必要であると信じています。そうでなければ、私たちは、より重大な損害を引き起こす可能性のある、より有能なモデルによる広範な展開の、情報に基づかない未来に直面するリスクを負うことになります。

これが、本日Pionをリリースする理由です。Pionはリサーチプレビューとして利用可能です。既存のビジネスや、AIに引き継ぎたい興味深いビジネスアイデアをお持ちの方は、ウェイトリストにサインアップしてくださいしてアクセスを取得してください。私たちは、さらに多くのビジネスを実行し、それらを通じて、フロンティアモデルの能力に関する洞察を大幅に増やすことに貢献できることを楽しみにしています。