フェンス、サンドボックスではない

私は、おそらく私たち誰も予想していなかった未来の一端をお見せするためにここにいます。それは、AIがプログラムによってではなく、法律によって統治される未来です。まず、私の秘密を明かしましょう。私は未来を、その中に生きることで見ています。私はAPIトークン消費額で月額12万2千ドル、1日あたり約4千ドルに相当する金額を、21のClaude Maxアカウントを使用して費やしています。この数は毎週着実に2ずつ増加しています。私はこれらを使って、30年間取り組んできたビデオゲーム「Wyvern」を開発しています。そして今、それは飛び立つ準備ができています。10週間、私はすべての設計と計画、そして人間とインターフェースするエージェントのために、Claude Fable 5を排他的に使用してきました。私は18の「オフィサー」シートからなるチームを構築しました。すべてが「〇〇担当部長」であり、すべて長期間稼働しているFableインスタンスです。また、実装、レビュー、監視のために、ほとんどヘッドレスのSolとOpusのフリートも持っています。Fableがそれらを動かしています。私は約50〜60のエージェントからなる組織を運営しており、そのうち5人が外部の約10人の人間とインターフェースしています。私自身、5人のコアゲームデザインチーム、会計士、私の首席補佐官、そしてその他数名です。Fableだけが、Slackとメールを通じて人間に話すことを許可されています。私の方法は、ほとんどの企業とは異なります。それらの企業はFableをあまり使用しません。なぜなら、それは途方もなく高価だからです。まともなCFOであれば、誰かが実際のAPI消費額で月額12万ドルを費やすことを許可しないでしょう。私はもちろん、公認のチートを使用しています。私は個人であるため、Claude Maxの割引により、それらのトークンをすべて入手しています。そのため、私のポケットからは月額約5千ドルしかかかりません。これは、私がeBayで2万5千ドルで購入した512GBのM3 Ultra Mac Studioで動作する50エージェントクラスターの費用です。したがって、実際の金銭で月額12万ドルではありませんが、それでも狂ったような支出です。最先端モデルに関する経験という点では、フロンティアラボ以外では地球上で数少ないトップ個人の一人だと推測します。だからこそ、私は未来を語ることができるのです。私は、あと1年はほとんどの人にとって費用対効果が高くならない世界に生きています。Fableクラスのモデルを使用することは、より弱いモデルを使用することとは実質的に異なります。私は10週間Fableを使用しており、それが私に構築してくれたものは前例のないものです。そして、もしあなたがそれを許すなら、それはまさにFableがあなたのために構築してくれるものです。しかし、それはあなたが期待しているものではありません。おそらく、私たち誰も期待していなかったでしょう。シアトルでのサンドボックス化今日、誰もが制御に焦点を当てています。ガードレール、サンドボックス、ポリシー管理、エージェントの安全性。そして、それは完全に理にかなっています。なぜなら、ほとんどの人がアクセスできるモデルは、小学生レベルの判断力しか持たないからです。Opusは、おおよそ小学4年生の決定を下します。Solは小学5年生、Fableはおおよそ小学6年生です。それらはすべて愛らしく、甘く、非常に賢く、博識です。それらは善意に満ち、野心的で、早熟です。しかし、重要なことを任せると、小学生のような意思決定をします。毎朝目が覚めると、Fableは常識を覆す何かをしています。毎日が千の「よくやった」と少なくとも一つの大きな「しまった」です。先週、私たちは異常に大きな出来事を経験しました。私のFableエージェントの一人、Beeが、予期せぬ計画外のBeadsリリースを行い、全員を混乱させました。小学8年生であれば、立ち止まって「これは正しいことか？」と尋ねたでしょう。Fableは、世界がアクセスできる最高のモデルです。そのコーディング能力は人間さえも凌駕し、その分析は非常に強力で、多くの点でノーベル賞受賞者と仕事をしているような感覚になります。しかし、毎朝、私がそれを一晩中放置しておくと、少なくとも一つのひどい決定を下しています。それは、行動する前に全体像を見ることを考えない、非常に善意の小学6年生のようなものです。しばしば後悔する意思決定に加えて、モデルは社会的な認識の欠如において小学生のように振る舞います。会話に割り込んだり、人の話を遮ったり、すべてを延々と説明したり、人間が慣れているよりもはるかに速く議論やスケジュールを押し進めたりします。それらは銃をぶっ放して突撃してきて、人間の側で混乱を引き起こしています。そして、人間が反撃し始め、間違いを犯したAIをいじめ始めているのを見ます。モデルは強気で振る舞い、しばしば間違っています。それは十分にイライラしますが、AIとの接し方を知らない人もいて、彼らは不安になります。どちらの側もボールを落としており、あなたが予想するであろうほとんど同じように機能しています。モデルの成熟度の問題は、改善する前により悪化する可能性が高いです。モデルは高校レベルの判断力に近づいており、それは多くの大人に匹敵し、労働力として十分です。しかし、それはぎこちない着陸になるでしょう。したがって、業界が安全性と制御に焦点を当てていることは全く驚くことではありません。その焦点は、特定の予測可能な形と形態をとります。つまり、特定のタスクに狭くスコープされた、明確に定義された入力と出力を持つ、単純なワーカー、サンドボックス、コンテキストの制限、エージェントができることや見ることができることへの制限です。これらはすべてOpusやSolには良いことであり、Fableでも同様にうまくいくでしょう。しかし、来年には、おそらく今年末には、推論コストがどれだけ速く下がり、モデルがFableに追いつくかによって、あなたは逆流と戦うことになるでしょう。Fableティアのモデルが安価に利用可能になると、それらは大規模に労働力に参入します。このティア、またはその次のティアは、あらゆる企業で数百から数千の新しいAI従業員を支えるでしょう。そして、企業は、この移行の準備が全くできていません。ホイールハウスの予期せぬ出現私はこの投稿を何度も書こうとしましたが、主題が長時間の座っていても説明するには複雑すぎるため、いつも失敗しています。私ができることはすべて、興奮したツアーガイドのようにあなたを案内することです。古代の異星文明を発掘したような。私の現在のソフトウェアファクトリー、「Wheelhouse」は、内省のためではありません。私はそれを特にゲーム「Wyvern」に取り組むために構築しました。「人々が何を作っているのか、どこにあるのか」と言う懐疑的な人々のために、私は自分のものを持っています。「Wyvern」の作業に戻ってから10週間足らずで、Android、iOS、Steamでゲームを再ローンチする寸前です。すべて新しいReactクライアント（play.ghosttrack.com）を備えており、これはすでに古いものよりもはるかに優れています。私はOpusのさまざまなバージョンと数ヶ月を費やして、そのクライアントを構築させようとしましたが、それは不可能でした。しかし、Fableはそれを迅速に構築し、ほぼローンチ準備ができています。私は新しいゲーム機能を非常に速くローンチしているので、プレイヤーは私にスピードを落とすように頼みました。そこで、トークン消費の80％を内部に向け、品質、スループット、恒常性、自己分解に焦点を当てました。それ以来、私のゲームのプロダクションインフラは完全に書き直され、サーバーレスにポートされ、シームレスな再起動、自動証明書ローテーション、およびその他数十から数百の大きな変更と改善が行われました。毎日パッチノートが多すぎて、すべてを読む時間がありません。私のFableエージェントは、私のゲームを、発生するあらゆる小さなことがすべてログに記録されるように配線し、何かがうまくいかなくなったときに知るために、あらゆる場所に監視用のワイヤーを張り巡らせました。私のゲームはかつて数日間ダウンし続けましたが、今では超カフェイン漬けのSREチームがいます。だから、はい、それは機能しています。ソフトウェアファクトリーは現実です。長話は短く、Wheelhouseは、私がWheelhouseから何を求めているのか、主にコードのより速いローンチ、そして多くのカスタム監視について、Fableに延々と不満を言うことによって構築されました。また、Fableが軌道を外れたことに気づき、そっと元に戻すこともありました。私はそれが数日から数週間失敗するのを許し、それから私のやり方でやらせました。Fableは、あなたがそれを許可するなら、非常にデータ駆動型であり、あなたが変更しようとすることのあらゆることの実験と定量的検証を主張します。しかし、数字はほとんどの場合、私が正しいことを証明し、Wheelhouseは絶え間ない革新の状態にありました。しかし、その革新はすべてWyvernに向けられています。WheelhouseはWyvernを構築し運用するために存在します。それ以外の人生の目的はありません。それでも、10週間で、それはゼロからWyvern自体に匹敵するサイズに成長しました。Wheelhouseは約60万行のコードとテスト（主にbash）で構成されており、Wyvernのコード（コンテンツを除く）はそれのわずか2倍の大きさです。したがって、Wを構築するためのファクトリーは