ポストAGI時代

AGIが到来した。より正確には、機械は現在、ドメインを横断して推論し、未知の問題に適応し、かなりの自律性を持って複雑なタスクを実行できるようになった。これは、AIが完璧になったり、普遍的に超人的になったり、知能が最終的な状態に達したことを意味するものではない。AGIは、汎用性と自律性の閾値として理解するのがより良い。それを超えることが重要である理由は、AIが単に能力が向上したからではなく、仕事や組織自体の設計方法について根本的に異なる問いを投げかけることができるようになるからである。そのような発言に対する即座の反論は、もしAGIが到来したのなら、それが伴うはずだった巨大な経済的・社会的な変化はどこにあるのか、というものだろう。答えは、モデルの能力と経済的な採用は、非常に異なる時計で動いているということだ。AIはすでに生産性、仕事、設備投資、そして半導体とデータセンターを取り巻く産業全体に実質的な影響を与え始めているが、ほとんどの組織は依然として、AIが人間が既存の仕事をより効率的に行うためのツールとして機能するという、根本的にAGI以前のフレームワークを通じてこれらのシステムを使用している。混乱の一部は、AGI自体の意味からも来ている。歴史的に、この用語は、狭いタスクに限定されるのではなく、ドメインを横断して動作できる知能を広く指していた。しかし、モデルがそれらの初期の閾値の多くに近づき、それを超えるにつれて、この用語は徐々に、ほぼ完璧な信頼性、普遍的な優位性、または人工超知能に近づくものといった追加的な期待を蓄積してきた。ゴールポストはテクノロジーと共に移動してきた。私たちはまだ非常に初期の段階にいる。この閾値を超えたと私が考えるモデル、Astraは、執筆時点では最近リリースされたばかりであり、さらに能力の高いシステムがすでに開発されている。同時に、AIはすでに多くの人々にとって「十分良い」という閾値を超えている。これは、彼らが日常的に遭遇するほとんどのコンピューターベースの仕事で意味のある支援ができるレベルである。それが起こると、知能のさらなる増加は、基盤となる能力が劇的に変化している場合でも、ユーザーにとっては漸進的に感じられることがある。しかし、十分良いAIとAGIは根本的に異なる。十分良いAIは、人間が既存の仕事をより効率的に実行できるようにするのに対し、AGIは、人間がそのワークフロー内に留まる必要があるかどうかを問うことを可能にする。その区別が、ポストAGI時代の始まりである。だからこそ、AGIレベルのモデルの出現により、新しい形態の企業が可能になるのである。既存の人間ワークフローにAIを適応させるのではなく、これらの組織は、高度なスキルを持つ仕事を、協力し、互いを評価し、パフォーマンスから学び、運用環境を継続的に改善する自律エージェントのシステムに分解することから、逆方向から始めることができる。実質的に、組織自体が再帰的に自己改善ループに入ることができるのである。したがって、私たちは歴史上珍しい瞬間にいる。AGIレベルのシステムは現在達成可能であるが、それらの周りに構築されている経済の多くは、依然として根本的にAGI以前のモデルに従っており、人間向けのツールを作成しているのであって、自律的な知能自体を中心に設計された組織ではない。Infinite Ascentで私たちがどのようにアプローチしているかの例を挙げると、まず市場で動作するハーネスとトレーディングエージェントを構築することから始め、これらを組織内の最初の自動化可能な役割として扱った。次のステップは、エージェントのパフォーマンスのレビュー担当者を作成することであり、これにより、それらの作業を評価し、最もパフォーマンスの高いエージェントの最も効果的な行動を強化するメタハーネスを開発することになった。同時に、進化プロセスが探求を犠牲にして局所的な最大値に収束するのを防ぐために、特定の期間のパフォーマンスが弱いエージェントであっても、意図的に保持しようと努めている。階層をさらに上に移動させると、エージェントは最終的に、それら自体が動作するコードとインフラストラクチャを改善できるようになるはずだと考えた。そのため、トレーディングエージェントとレビュー担当エージェントの両方が使用するシステムを監査し、問題を特定し、それらの作業をサポートするインフラストラクチャを改善するIT部門と見なすものを実装した。次のステップは、このプロセスをさらにスタックの下に拡張し、組織によって生成されたパフォーマンスデータを使用してオープンモデルをポストトレーニングし、最も効果的であることが証明された行動を強化することである。したがって、AGIのより重要な影響は、AIが単に人間のより良いアシスタントになったときではなく、ますます自律的なシステムが組織の大部分自体を運用し始め、実行した作業から学び、その学習を使用して作業を可能にするシステムを改善するときに感じられるだろう。知能が制度を先行するフロンティアAIシステムの能力と、それらの周りに構築された組織との間に、興味深い非対称性が現れている。最も能力の高いモデルを開発している研究会社は、既存の人間のワークフローをより効率的にするためのツールやサービスを通じて、それらを商業化し続けている。その意味で、ポストAGI知能を取り巻くビジネスインフラストラクチャの多くは、依然として根本的にAGI以前のモデルに従っている。これが持続する構造的な理由もある。フロンティアラボは、多くの産業にわたる水平的な知能プロバイダーであり続けることから利益を得る。個々の垂直産業の運用レイヤーに深く入り込むと、それらのモデルに依存している企業と競合することになる。モデル開発自体は同じ競合を生み出さない。これは、再帰的な改善が、それの上に構築された自律組織ではなく、モデルレイヤーに最も集中してきた理由を説明するかもしれない。これは、より広範な経済の多くにも当てはまる。多くの組織はすでに、ますます自律的なシステムの基盤を提供する、膨大な量の過去のワークフローデータ、組織的知識、および継続的に生成されるパフォーマンスデータを持っている。しかし、ほとんどの組織はこれまで、組織自体を再設計する機会としてではなく、主に効率化ツールとしてAIに取り組んできた。これは、ポストAGIアーキテクチャを中心にゼロから構築できる新しい企業に機会を生み出す。これらの企業は、数十年受け継がれてきたワークフロー、組織構造、インセンティブに自律システムを後付けする必要がなく、代わりに最初から人工知能を中心に企業を設計できる。この機会の窓は長くは開かないだろう。これらのアーキテクチャがその価値を証明し、既存の組織がそれらをより積極的に採用し始めるにつれて。それまでの間、テクノロジーが可能にすることと、組織が実際にそれを使用している方法との間のギャップは、かなりのアービトラージの瞬間を表している。最初の移動者としての優位性は、アーキテクチャをより早く構築することだけでなく、システムが自己改善を続けるにつれて蓄積されるデータ、経験、およびイテレーションにもある。このプロセスを最初に開始する組織は、ポストAGI企業を作成するための根本的なアプローチが広く理解された後でも、後続の採用者を追い越すことができる可能性がある。モデルレイヤー今日最も能力の高いAGIレベルのモデルは依然としてクローズドであり、OpenAIとAnthropicは現在、内部で利用可能なさらに能力の高いモデルでフロンティアを運営している。オープンウェイトモデルは、AstraやFableと同等の最も要求の厳しいクロスドメインタスクでは、クローズドフロンティアモデルにまだ遅れをとっているが、現在のトレンドラインが続けば、今後数ヶ月以内にクローズドフロンティアに匹敵するオープンモデルが登場すると予想される。より能力の高いオープンモデルは、ポストAGI組織が、システムの展開、専門化、および改善方法をより細かく制御しながら、独自のインテリジェンススタックにRSIをさらに深く拡張することを可能にする。一つには、依存