エージェントを管理するのは誰か?
Who manages the agents? (off-policy.com)
要約
AIの未来には、少数の「聖職者」がAIを管理し、大衆を依存させる未来と、AIが人間の能力を増幅し、誰もが自らのエージェントを指示できるようになる未来の二通りがある。現状では、AIの恩恵は一部の専門家や企業に集中し、一般ユーザーとの格差が拡大している。この格差は、AIの恩恵を一部に限定するのではなく、より広範な人々がAIを使いこなし、その恩恵を受けられるようにするための方法を模索する必要性を示唆している。
全文翻訳
AIの夜に静かに消えゆくことなかれ
二つのAIの未来
未来には二つのビジョンがあります。
- AIを、少数の聖職者によって構築・管理される神として捉えるビジョン
- 人間を中心に据え、AIを増幅器として利用するビジョン
新たな技術的聖職者が登場しています。それは、最先端システムを構築し、それらへの特権的なアクセスを得て、他のすべての人々がどの能力を利用できるかを決定する少数の人々です。
聖職者たちは大量失業について警告しています。ダリオ・アモデイは「AIはエントリーレベルのホワイトカラーの仕事を5年以内に半分に減らす可能性がある」と警告しました(2025年5月)。サム・アルトマンは、AIはカスタマーサポートの仕事を「完全に、完全に終わらせる」と述べました(2025年7月)。ムスタファ・スレイマンは、ほとんどのコンピューターベースの専門職が18ヶ月以内に完全に自動化されると予測しました(2026年5月)。イーロン・マスクは、AIによる失業の救済策として「普遍的な高所得」を提案しました(2026年4月)。彼らは、これが必ずしも悪い結果につながるとは考えていません。人々を単調な労働から解放することで、余暇活動に時間を費やす自由が得られるのです。
平均的な人々は、大量失業を壊滅的なものと受け止めます。どうやって家賃を払い、子供の食べ物を買うのでしょうか?私たちは、豊かさ、再分配、そして新しい意味の形態が、機械とその管理者たちの恩恵によって補償されると保証されています。サム・アルトマンの「万物のためのムーアの法則」(2021年)は、「市民への所有権と富の直接的な分配」を約束し、彼の「穏やかなシンギュラリティ」(2025年)は、知性が「驚くほど豊かになる」と予見しています。ダリオ・アモデイの「Loving Graceの機械」(2024年)は、職務の喪失後の仕事と意味について論じています。
機械知能と他のすべての人々との間を仲介するのは、ごく少数の人々です。人類は、その知性を方向付けることや、どのように使用されるべきかを決定することに広く参加しません。ほとんどの人々は、決定、製品、そして豊かさの受け手となります。参加者ではありません。
当初は、聖職者が機械を管理するかもしれません。しかし、機械の能力が彼ら自身の能力を超えていくにつれて、どちらがどちらを指示しているのか不明瞭になっていきます。このビジョンでは、彼らは神を創造し、ますます彼らの役割はそれを世話をし、解釈し、誰がそれに近づけるかを決定することになります。
別の道があります。それは、数億人の受動的なユーザーを支配する単一の中央知能ではなく、数億人の人間が自分自身の有能なエージェントを指示することを学ぶ道です。
未来は均等に分配されていない
聖職者たちは、槍の先端を鋭くし、より困難な領域を貫くことに熱狂的に集中しています。それは、数世紀前の数学の問題を解決すること(2026年1月、エルドシュ問題#728は、AI(GPT-5.2 ProとHarmonicのAristotle、Leanで形式化)によって完全に自律的に解決された最初のエルドシュ問題となりました。2026年5月、OpenAIのモデルは80年間未解決だったエルドシュ問題を解決しました)、そして30年間発見されなかったソフトウェアの脆弱性を見つけることです(AnthropicのFrontier Red Teamは、Claude Opus 4.6が、徹底的にファズされた本番環境のオープンソースコードで500以上の高深刻度脆弱性を発見したと報告しました。その中には数十年検出されなかったものもあります。Claude Mythos Previewはその後、あらゆる主要OSとブラウザで数千のゼロデイを発見し、27年前のOpenBSDのバグも含まれていました)。そして疑いなく病気を治すでしょう(デミス・ハサビスは60ミニッツで(2025年4月)、「病気の終焉は『手の届くところにあり…おそらく10年かそこらで』」と語りました。彼のIsomorphic Labsは、「すべての病気を治す」ために2026年5月に21億ドルを調達しました)。しかし、誰が癌の治療法にアクセスできるのでしょうか?そして老化の治療法は?生物兵器のリスクのため、創薬能力は制限されています(AnthropicはClaude Opus 4でASL-3保護を有効にし、CBRN兵器のリスクを制限するために生物関連の能力を制約する分類器を展開しました。このパターンはClaude 5世代でさらに深まりました。Fable 5はデュアルユース能力に対する安全分類器を搭載して出荷されましたが、無制限のMythos 5は承認された組織のみが利用可能でした)。サイバーリスクのため、ソフトウェア能力も同様です。次に何が来るかは容易に想像できます。暗号リスクのため数学能力が制限され、偽情報リスクのため創造的能力も制限されるでしょう(OpenAIは、SAG-AFTRAと著名人の遺族からのディープフェイク苦情(2025年10月)を受けて、肖像権のオプトイン同意をSoraに義務付けました。NewsGuardは、Soraがテストされた20の虚偽主張のうち16を進展させる動画を生成したことを発見しました。EU AI法第50条のディープフェイク開示義務(2026年8月発効))。
これらの制限の多くは政府によって義務付けられ、フロンティアラボはしばしばそれらを支持しました(GPT-5.6のローンチに先立ち、OpenAIは米国政府にモデルの能力を積極的にプレビューしました。これらのモデルは、OpenAIにとって生物学とサイバーセキュリティの両方で初めて「高」リスクと評価され、展開は当初、約20の政府承認済みパートナーから始まりました)。
同時に、選ばれたパートナー、研究者、機関は能力へのアクセスを維持しました(AnthropicのProject Glasswingは当初、Mythos Previewを少数の重要な業界パートナーとオープンソース開発者に限定しました。Fable 5が一般公開された後、米国輸出管理令によりAnthropicはFable 5とMythos 5を世界中で無効にせざるを得なくなりました。禁止が解除されると、Mythos 5は政府承認済み組織のみに提供されるようになりました。OpenAIのGPT-5.6も同様の形状をたどりました。政府の要請による約20のパートナー向けの限定プレビューの後、7月9日に一般公開されました)。その結果、二層システムが始まりつつあります。少数のグループのためのフロンティアAIと、他のすべての人々のための制約されたAIです。
強力な能力を普遍的に利用可能にすることには、現実的な危険が伴います。バイオセキュリティは現実です。サイバーセキュリティは現実です。偽情報は現実です。しかし、真の安全上の懸念が、排除と永続的な依存につながるべきではありません。
フロンティアは先行し、中央値は停滞している
大多数の人々は、常に鋭くなる槍の使い方を知りません。
ソフトウェア開発は、開発者が他のすべての人々よりも1年早くAIエージェントを手に入れたため、未来を垣間見せてくれます(Cursorは2024年11月に最初のエージェントモードをリリースし、Anthropicは2025年2月にClaude Codeをリリースしました。一般的な知識労働者は、2026年1月に「Claude Code for the rest of your work」としてClaude Coworkがローンチされるまで、同等のものを得られませんでした)。当初、エージェントとの連携で最も効果的だった開発者、つまりスーパーユーザーは、おそらく2倍の生産性でした。過去1年半で、それは着実に5倍、次に10倍に増加しました。
現在、最高の剤ント開発者は100倍を超えている可能性があり、数年かかっていたコードベースの大規模な書き換えを数日で実行しています(Bun、535,496行のZigは、最大64のClaude Codeインスタンスを同時に監視する1人のエンジニアによって11日間でRustに書き換えられました。6,755コミットのプルリクエストは、すべてのプラットフォームで完全なテストスイートに合格しました)。手作業で完了した場合のJarred Sumnerの見積もりは、エンジニア約3人で約1年、つまり約750エンジニア日を11日に圧縮したものです。
私は週末集中的なコーディングでNanoClawを作成しました(最初のコミット:2026年1月31日土曜日。翌日Hacker Newsでローンチされました)。プロジェクトのコード行数は少ないですが、Baileys、SQLite、Appleコンテナ、IPCなど、私がほとんど経験のない多くの技術をカバーしています。金曜日の夜の知識から始めて、AIなしで構築するには6〜8ヶ月かかったでしょう。より現実的には、私は決してそれを完了できなかったでしょう。
しかし、それらの開発者はほんの一部です。私の感覚では、100倍に達したのは1%未満です。中央値の開発者は、意味のある増加を全く得ていません(METRのランダム化試験では、経験豊富な開発者は2025年初頭にAIツールを使用すると19%遅くなりました。2026年2月のフォローアップでは、わずかな速度向上の「非常に弱い証拠」しか見つかりませんでした)。彼らはまだ1倍の丸め誤差の範囲内です。毎週、モデルや機能の新しいリリースがあります。4.6、4.8、5.5、Fable、Sol。Hooks、Skills、loops、workflows。リリースごとにスーパーユーザーは新しいレベルをアンロックしますが、中央値のユーザーは混乱するばかりで、ギャップは拡大し続けています。
コーディングエージェントで開発者に起こったのと同じことが、職場全体で起こり始めています。すでに10倍のセールスパーソン、100倍のマーケターの話を聞いています(Anthropic自身のケーススタディでは、単一のグロースマーケターがClaude Codeを使用してパフォーマンスマーケティングを大規模に実行したと説明しています(「広告ごとに30分かかっていた作業が30秒で済むようになった」)。これは「Anthropicのグロースマーケティングチーム全体が1人だった」としてバイラルに拡散しました)。しかし、職場の平均的な人は、依然として個人的な月額20ドルのChatGPTやClaudeサブスクリプションを横で使いながらCopilotを使用しています(Oktaの2026年3月の7カ国にわたる知識労働者の調査では、52%が承認されていないAIツールを職場で使用していると認めており(米国では67%)、経営幹部の90%はAI使用状況を把握していると確信していました)。
中央値は変化していません。そして、10倍の例外的な数人が平均をわずかに動かすだけです。より少ない人々の生産性をますます高めることは、平均を動かす最善の方法ではありません。平均を動かす方法は、中央値の人間を2倍にすることです。
未来は発表されるものではなく、構築されるもの
非常に鋭い槍を持つことは良いことです。癌を治すことは良いことです。しかし、聖職者に、私たちが共に築く世界のビジョンと方向性を決定させてはなりません。そして、そうする必要はありません。
ほとんどの人々は、モデル知能のさらなる桁数の増加を必要としていません。彼らは、すでに私たちが利用可能にし、仕事に統合した知性を必要としています。
私たちは、聖職者が予言し、運命として宣言し、構築を急いでいる未来のビジョンを受け入れる必要はありません。
これは、誰がAIにアクセスできるかという問題だけではありません。それは、誰がAIと共に構築に参加するかという問題です。現在の軌道は、ギャップの拡大です。ますます少ない人々が、ますます多くのことを行っています。その傾向は逆転させる必要があります。
未来は、数億人の人々のために築かれるだけでなく、数億人の人々によって築かれるべきです。私たちは、普遍的なアクセスだけでなく、普遍的な参加を必要としています。
エージェントのためのインターネットを構築し、人間のためのエージェントを構築する
人類の未来はどのような形であるべきでしょうか?
人間を中心に据え、AIを人間の創造性、生産性、繁栄の増幅器とする。
エージェントのために製品を構築する。エージェントのためにウェブサイトを構築する。エージェントのためにインターネットを構築する。
しかし、人間のためにエージェントを構築する。
AIとの未来の形は、一つの製品決定、一つのデプロイメント、一つの営業電話、一つの採用によって決まっています。
AI製品を構築しているなら、パワーユーザーだけでなく、中央値ユーザーのために構築してください。
ユーザーが判断力と制御力を得るように設計してください。
人を置き換えるエージェントのためではなく、エージェントを管理する人のために設計してください。
人間を中心に据えてください。彼らが目標を設定し、作業をレビューし、結果を所有します。
そして、エージェントのアイデンティティ、メモリ、スキル、成果物、履歴をユーザーが所有することをデフォルトにしてください。
これは、より良い未来を築くだけでなく、より良い戦略でもあります。Claude Codeのスーパーユーザーよりも、エージェントとやり取りしたことのない人々の方が桁違いに多いのです。
もしあなたがAIスタートアップで、経営陣に「我々のエージェントがあなたのチームを置き換えます」と営業電話で伝えているなら、やめてください。
もしあなたが経営幹部で、熱心すぎるスタートアップ創業者に「あなたのエージェントが私のチームをどう置き換えられるか」と尋ねているなら、やめてください。
これは良い結果にはつながりません(Klarnaは、AIが700人のエージェントの仕事をこなしたと主張してサポートスタッフを削減しましたが、品質の低下を認め、人間を再雇用しました。2026年までに、この傾向は逆転しました。AIによる人員削減を行ったリーダーの55%が、その決定は誤りだったと認め、米国でAIのために職務を削減した採用担当者の32%が後にその職務を再雇用しました)。たとえそれが可能だとしても、それがあなたが築きたい未来でしょうか?
もっと良い方法があります。
コスト削減に主に焦点を当てることは、はるかに大きな機会を見逃しています。AI戦略が人員削減のみである企業は、線形的な目標のために指数関数的な技術を使用しています。
あなたの会社を2倍にする最も速く最良の方法は、中央値の人間を2倍にすることです。
あなたのエージェントでなく、あなたの会社でもない
エージェントを管理しているのは誰か?
あなたのチームがエージェントを管理していないなら、ベンダーが管理しています。そして、あなたの会社は冗長になっています。あなたは、あなた自身を存在から自動化するのに役立つ貴重なアクセス、知識、データの一部を、外部に与えてしまったのです。これは聖職者のモデルです。あなたの壁の外の少数の人々が、あなたの従業員と彼らが依存する知性との間を仲介します。この取り決めを受け入れる各企業は、自社の従業員を疎外し、人間をループから外し、私たち全員をその未来へと一歩近づけます。
だから、会社のコアバリューエンジンではなく、周辺のことだけを自動化すると言うかもしれません。
しかし、それは実際にはコスト削減戦略であり、成長戦略ではありません。
あなたは、あなたのビジネスのコア成長エンジンにエージェントを必要としています。そして、それらはあなたとあなたのチームによって管理される必要があります。それらは、誰か他の人のエージェントではなく、あなたのエージェントである必要があります。そして、あなたは人員削減ではなく、成長に焦点を当てる必要があります。手作業を行う人間は少なくする必要があります。しかし、エージェントとエージェントマネージャーは増やす必要があります。そして、それらのエージェントマネージャーに最適な人材は、現在その仕事をしている人々です。彼らは深い知識とドメインの専門知識を持っています。彼らは経験を持っています。彼らは関係を持っています。
しかし、彼らはマネージャーになることを学ぶ必要があります。
すべての人がエージェントマネージャーになる
あなたは人を管理したことがあります。プロジェクトを管理したことがあります。
あなたが何を望むかを明確に伝える方法を知っています。システム思考を行う方法を知っています。フィードバックを与える方法を知っています。他人の仕事を確認する方法を知っています。そして、あなたのために働く人々の成果に責任を取ることを知っています。
それらは、あなたがマネージャーとして開発するスキルです。そして、それらはエージェントを効果的に管理するために必要なスキルです。
だから、チームの各人はエージェントとの連携を学ぶ必要があります。そして、彼らはエージェントマネージャーになる必要があります。
始める方法は、チームの各人に最初のエージェントを与えることです。グループではなく、一人一人に。あなたの会社が所有し、彼らに発行されたエージェントで、彼らが管理し、彼らの仕事をするのを助けるものです。
時間とともに、あなたたちのエージェントマネージャーは、第二、第三のエージェントを管理するようになります。彼らがエージェントの管理と改善に長けたら、それらのエージェントの一部がチームチャンネルに参加します。信頼を得たら、少数が公開向けエージェントを実行します。
最高の agent managers は、エージェントのチームを管理し、次に部門を管理するでしょう。
それが開始点です。各人が自分自身のエージェントを管理します。所有権、責任、制御の連鎖が不明確なワークフローやチャンネルにエージェントが投げ込まれるのではなく。人々によって管理されるエージェント。所有され、制御され、説明責任が果たされるものです。
ソブリンエージェント
開示:これは私の会社が構築しているものです。
あなたたちのエージェントはソブリンである必要があります。あなたの会社は、エージェントのアイデンティティ、権限、メモリ、スキル、成果物、および監査証跡を所有・管理する必要があります。これらの資産は、あなたが許可していない誰にもアクセスできないように、ポータブルで、ガバナンス可能で、アクセス不能である必要があります。
あなたの会社によって所有・管理されるエージェント。あなたの会社の人間を中心に据えて。
これは未来の一つの可能なビジョンです。私は運命を信じていません。水晶玉を覗いて何が起こるかを予言しているわけではありません。これは、私がどのように物事が進むことを望んでおり、私の会社と、私たちが管理する人間とエージェントが、現実にするために懸命に努力していることです。
未来はまだ決まっていない
知性は集中化され、制限され、私たちに手渡されるかもしれません。あるいは、それは数億人の人々の手に置かれ、人間の主体性を高めるために使用されるかもしれません。
私たちは病気を治すことができます。想像を絶する繁栄を創造することができます。すべての人がより能力を高め、使い捨てではなくなる組織を構築することができます。
しかし、その未来は自然にやってくるわけではありません。
だから、予言を政策として受け入れないでください。
集中を安全だと誤解しないでください。
AIの夜に静かに消えゆくことなかれ。
人間を中心に据えよ。
彼らにエージェントを与えよ。
彼らにリードすることを教えよ。