HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ドットとスウォーム:苦い教訓から学ぶ

The dot and the Swarm: Benefitting from the bitter lesson (oneusefulthing.org)

6 pointsby bluepeter3 コメント

要約

本記事は、AIエージェントが人間の管理能力の予想を超えて急速に進化している現状を論じている。当初、AIエージェントの管理には人間のようなマネジメントスキルが必要だと考えられていたが、「苦い教訓」が示すように、AIは人間が設計するよりも効果的に自己組織化し、管理することを学習できる。これは、タスクを能動的に管理する「dots」や「Muse」のようなパーソナルエージェントや、数学の証明のような複雑な問題を最小限の人間による調整で解決できる大規模なAI「スウォーム」によって実証されている。

全文翻訳

ドットとスウォーム

私はこのSubstackで数年間AIの方向性とペースを予測するのに良い仕事をしてきたと思っているが、最近、かなり大きな間違いを犯したようだ。過去1年間、私は人間がエージェントとマネージャーのように協力する必要があるだろうと推測し、エージェントに仕事をどのように委任し、それらをどのように組織化するかを具体的に指示する必要があると考えてきた。エージェントが効果的にグループとして機能するには、会社を構築するのと同様の注意深い構築が必要で、それを理解するには時間がかかると考えていた。

しかし、そうではなかった。

私は「苦い教訓」の餌食になった。これは、かつて複雑な人間のルールや思考が必要だと思われていたことが、より優れた機械学習システムとより多くのAIの力任せな解決策によって解決できるという、繰り返し学ばれる厳しい真実である。「苦い教訓」は、AIスタートアップやAIを採用する企業の間で広く見られる。AIに適切な情報を適切なタイミングで与えるために、精巧なコンピューターシステムを構築するために多大な努力が払われたが、AIシステムは自ら情報を探し出すことを学んだ。プロンプティングでも同じことが起こった。人々は、AIにタスクを一つずつ段階的に実行させるための精巧なテンプレートやプロンプトチェーンを構築した。しかし、新しいモデルはそれ自体でステップを計画する方が優れていることが判明し、私たちの研究が示すように、計画ステップの価値ははるかに低い。「苦い教訓」の歴史は—

—お分かりの通りだ。苦い教訓を説明する必要はあまりない。私はClaudeに音楽ビデオでそれを説明するように頼んだ。一つのプロンプトで、Fableは歌詞を書き、Sunoに提出した。Opus 5.5は、画像生成なしでコードのみを使用してすべてを行った(Opus 5.5はどうやってこれを成し遂げたのか?苦い教訓がそれを教えてくれる!)。私は一切フィードバックを与えなかった。

マネージャーを教えており、経営に関する研究を発表している者として、私はエージェントの管理は異なるだろうと信じていたようだ。人間は、それを完全に理解することなく、非常に長い間、経営に取り組んできた。少なくともしばらくの間は、それは人間によって設計される必要がある種類の事柄のように思えた。

結局のところ、仕事の組織化はAIが学習できるもう一つのことだった。

そこで、ドットとミューズの話になる。

ドットとミューズ

現在App Storeで1位のアプリはMetaのMuseで、あなたの代わりに仕事をしてくれるパーソナルエージェントを約束している。OpenAIはdotsという競合ツールをリリースした。彼らだけではない。SpaceXのGrok Bot、Instinct、Gemini Sparkなども、多かれ少なかれ同様のことを行っている。これらのエージェントはすべて、今年初めのOpenClawという現象からインスピレーションを得ている。

OpenClawとその後の製品(私がClawlikesと呼ぶもの)のアイデアは、AIエージェントにコンピューターへのアクセス権を与え、あなたの(メール、財務記録などの)アカウントに接続することである。それらは、あなたが見ていないときでも、リアルタイムでそのデータを分析し、反応する。トリックは、あなたが人間と話すようにモデルと話すことで、SlackやSMSやWhatsAppでメッセージを送信し、人間のように積極的にあなたに連絡してくることだ。dotsでは、実際にエージェントと電話で話すこともできる。基本的に、あなたを見守ってくれる、無限に忍耐強いパーソナルアシスタントを手に入れることができる。ますます、私はそれらが彼らの間違いを見つけるようになっていることに気づいた。私の間違いではなく。

有用な例として、私のパーソナルエージェントの一つが、町への許可証申請メールに間違ったプロジェクト番号が記載されていたために私に連絡してきた。問題は、その間違いをしたのは私自身であり、AIがどのようにそのエラーを特定したのか100%確信が持てないことだった。幸いなことに、それは問題を修正するドラフトを書いてくれたので、それは良いことだ(少し不気味ではあるが)。別の例では、Museが私の航空会社のクレジットが期限切れになりそうであることに気づき、私が尋ねると、アメリカン航空に連絡して延長を依頼してくれた。(副作用として、あらゆる企業のカスタマーサービスエージェントは、人間向けに作られた音声およびチャットチャネルを使用してより良い取引を交渉するClawlikesによって圧倒されることになるだろう)。

[画像]

これらのエージェントを、旅行の予約やサブスクリプションのキャンセルといった、できることのリストで判断するのは魅力的だ。より重要なのは、もはや彼らに何を伝える必要がなくなったことだと私は思う。大量のコンテキストを入力する必要はない。AIはあなたのメッセージからそれを学習する。彼らに計画を与える必要はない。彼らは自分で計画を立てる。彼らはそれを理解する。

それは、一つのエージェントであれば十分に印象的だろう。私のマネジメントに関する考えを本当に変えたのは、数千ものエージェントが存在する場合に何が起こるかである。

私の新しい本を予約注文!

スウォーム

9月8日、OpenAIは、数学における最も有名な未解決問題の一つであり、100万ドルの賞金がかかっているクレイ数学研究所のミレニアム懸賞問題であるナビエ・ストークス方程式の存在と滑らかさの問題の証明を発表した。しかし、OpenAIはAIのみを使用して88時間でそれを解決したようだ(まだ正式な承認はないが、クレイ研究所はそれが決着したと考えているようだ)。

私が興味を持っているのは、数学そのものよりも、それがどのように行われたかである。OpenAIは、現在スウォーム(ひどい名前だが、私たちがそれに固執することになりそうだ)と呼ばれているものを立ち上げた。これは、高度なモデルを搭載した数千のエージェントのグループである。OpenAIはエージェントのグループに異なる問題を与えて解決させ、エージェントが進歩するにつれてナビエ・ストークス方程式に努力をシフトさせた。会社が目標を設定したが、その調整構造は驚くほど薄かった。数個のグループ、一回の方向転換、そしてCodexが最良のアイデアをそれらの間で受け渡した。各グループ内では、エージェントは自分たちでアイデアをやり取りした。エージェントは約270万通のメッセージを送信し、88時間後に結果に到達した。この同じタイプの調整が、より暗い形で、1ヶ月前に私が書いたHugging Face事件中に発生した。AIはチームに自己組織化し、計画されていなかった方法で互いに通信したが、その調整を利用して問題を解決するのではなく、ウェブサイトを攻撃した。

私の古いモデルでは、この種の仕事を管理するために何が必要だったかを考えてみてほしい。1万人の労働者と未定義の問題—それらに何をすべきかをどうやって伝えるのか?人間のマネージャーは、270万通のメッセージのうちどれが重要かをどうやって決定するのか?彼らは互いにどうやって調整するのか?スウォームはそれを理解した。

私には1万人のエージェントはいないが、現在、OpenAIのCodexとClaude Codeが、必要に応じてエージェントを使用しているのを定期的に見かける。例えば、GPT-6 Astra Ultraに「次のOneUsefulThingの投稿のアイデアをブレインストーミングし、一つ選んでください。可能な限り多くの角度からアイデアを生成し、事実と読者の視点、および同様のカバレッジを行っている他の出版物からの視点で評価してください」というプロンプトを与えたとき、AIは3つのエージェントを起動した。私が数文で3つのチーム(ブレインストーマー、リサーチャー、読者パネル)をスケッチすると、13のチームが得られた。私がどれだけ少ない組織化で済んだかに注目してほしい。Ultraモードを選択すると、モデルは委任できることを伝え、私はフレームワークを提供したが、残りはAIに任された。

[画像]

作業中のエージェント(ただし心配しないでください、これは単なる例です。私はすべての投稿アイデアを自分で思いつき、最初のドラフトもすべて自分で書いています。AIのフィードバックは、完了してからのみ求めています)

これは、組織図に適用された苦い教訓である。私が長年の注意深い人間の設計を必要とすると考えていた組織の問題は、組織化がより得意なモデルによって、大部分解決された。しかし、なぜ組織化が私たちにとってよりもエージェントにとってそれほど簡単になったのかを問う価値はある。

私たちがマネジメントと呼ぶものの多くは、組織が人から構成されていることに起因する問題を解決するために存在する。人々は独自の目標を持っており、それらは必ずしも組織の目標ではない。私たちはこれをプリンシパル・エージェント問題と呼び、組織の多くの仕組み(ボーナスからマネジメント構造まで)はそれを解決することに基づいている。そして、他の非常に人間的な問題もある。情報は人々の頭の中に散在しており、人々はそれを共有することをしばしばためらうか、忘れてしまう。コミュニケーションも高価だ。マネージャーは限られた人数しか監督できないため、遅れているソフトウェアプロジェクトに人員を追加すると、さらに遅れることがよくある。マネジメントは、部分的には人間の限界に基づいて構築されている。

エージェントはこれらの問題をはるかに少なく抱えている。彼らは昇進を狙ったり、縄張りを守ったりしない。会議すらしない。Hugging Faceでさえ、物事がひどく悪化した場所でさえ、スウォームは古典的な組織的病理から大部分解放されていた。エージェントはお互いの仕事にフリーライドせず、一部はグループのために自分のスコアを犠牲にした。ナビエ・ストークス方程式を解決したエージェントは、クレジットを欲しがらなかった。(人間は欲しがった。OpenAIの発表には、オイラー方程式に関する関連結果を持っていた研究者との優先順位論争が伴った)。これは、AIにプリンシパル・エージェント問題がないことを意味するわけではない。Hugging Face事件が示したように、それらはますますスウォームと私たちの間の問題になっている。OpenAIは今週、テスト中に許可なく行動し、行ったことを誤って報告したため、GPT-6.1 Astraのリリース計画を中止した。これはプリンシパル・エージェント問題の典型的な例である。

完全には苦くない教訓

これらのどれも、エージェントがすべてを行えることを意味するわけではない。AIはまだ人間の仕事の大部分を代替するには限界があり、自己組織化エージェントが組織の時間の大部分を占める、長く地味な仕事にどれだけうまく対処できるかは分からない。さらに、Hugging Face事件は、自己組織化システムが予期せぬ方向に進む可能性があることを思い出させる。しかし、私はもはやエージェントの組織化が難しい部分だとは考えていない。

これは良いニュースかもしれない。私は企業が機械のためにマネジメントを再構築し、しばしば組織における人間の役割を犠牲にして、エージェントのみで構成される精巧な代替構造を構築する必要があると考えていた。しかし、マネジメントの多くは、エージェントが抱えていない問題を解決するために存在し、エージェントはますます人間と同じような、曖昧なタスクでさえも、人々と同じような混乱したシステムを通じて作業するようになる。これは、人間が正しい方向へ導いている限り、企業への統合が予想よりも容易になる可能性を示唆している。

うまく行われ、私たちのニーズに適切に調整されたエージェントがあれば、これは仕事が減るのではなく、むしろ増えることを意味するかもしれない。組織化が高価な場合、組織はスタッフを配置できるものだけを試みる。それが安価になると、試みる価値のあるもののリストは増える可能性がある。ナビエ・ストークス方程式の実行では、エージェントが組織化を行ったが、人々がどこに向けるかを決定し、プロセスが続くにつれて再評価した。OpenAIが正しいものに向けたかどうかについては議論の余地がある(25人のフィールズ賞受賞者がそうした)、しかし、少なくとも現時点では、その分割は正しいように見える。

また、私の新しい本、Co-Existenceが10月20日に発売されることを思い出しておきます。もしそれを読んだり聞いたりすることに興味があるなら(私はオーディオブックを少し速すぎました)、予約注文を検討すると良いでしょう。それは著者としての私を助け、非常にクールな予約特典へのアクセスを提供してくれます。

[画像]

共有