AnthropicのS-1をZvi Mowshowitzと共に読む

AnthropicのS-1をZvi Mowshowitzと共に読む

AnthropicのIPO申請書が明らかにする、創業者支配、コンピューティング債務、そして同社が顧客ではなくGPU不足に陥っている理由

Patrick McKenzie（patio11）は、ゲストとして再登場するAIウォッチャーのZvi Mowshowitz氏と共に、AnthropicのS-1を読み解き、AI業界についてそれが示唆することを議論します。彼らは、投票権の50.1%を握る単一のClass F株式に支えられた創業者支配構造、史上最も高価な特典かもしれない上限のない3:1の従業員寄付マッチング、そして約9000億ドルに及ぶ将来のコンピューティングコミットメントについて触れます。また、第3四半期の収益の伸び悩みが顧客不足ではなくGPU不足を示唆している理由、バブルと循環的資金調達の弱気シナリオ、そしてAI支援ハッカーがBinanceから50億ドルを盗んだ場合に誰が責任を負うべきかについても議論します。

スポンサー: Mercury
Complex SystemsはMercuryがお届けします。Mercury Payrollは、給与、福利厚生、コンプライアンスをMercuryアカウント内に統合します。社内チームがAIによって新しい州での登録、給与税の申告・納付、通知の処理を行い、PDFからExcel、Webポータルへのコピー作業を不要にします。セットアップは数分で完了し、Mercury Payrollは対象となるMercury顧客向けに2026年末まで無料で利用できます。mercury.com/payrollをご覧ください。

タイムスタンプ:

(00:00) Intro
(01:35) S-1はどのように存亡リスクについて語っているか
(07:45) Anthropicは以前から態度があった
(12:20) Anthropicの上限のない寄付マッチング
(14:18) ポストスクリプト：マッチングプログラムの実際の費用
(16:00) スポンサー：Mercury
(18:29) 収益成長とコホート経済
(22:25) ポストスクリプト：第3四半期は供給側の話であり、需要側の話ではない
(24:55) バブルか？
(28:27) トークンの市場規模
(31:02) コモディティ化の弱気シナリオ
(31:56) 資金効率と8000億ドルのコンピューティングコミットメント
(36:44) ポストスクリプト：コミットメントが悪化した場合
(39:20) トレーニング、推論、サブリース間のコンピューティングの柔軟性
(43:37) LLMありとなしでのS-1の読み方
(46:49) 循環的資金調達とドットコムバブルの比較
(50:08) ウォール街 vs テック業界
(52:02) 3つのAIピル
(54:53) 産業革命と未来の奇妙さ
(57:31) AI数学と苦い教訓
(01:00:52) トレーニングされていない能力
(01:04:40) 能力 vs 拡散
(01:07:12) フロンティアでのトークン支出
(01:09:09) S-1に関する最終的な考察
(01:11:48) ハッケニングと責任の所在
(01:17:49) トラップドアと不可逆的な決定
(01:19:12) まとめ

トランスクリプト

Patrick: Complex Systemsへようこそ。ここでは、世界がどのように機能しているかを支える技術的、組織的、そして人間的要因について議論します。

皆さん、こんにちは。私の名前はPatrick McKenzie、インターネットではpatio11としてよく知られています。今回は、複数回ゲストに来ていただいているZvi Mowshowitzさんと一緒です。お越しいただきありがとうございます。

Zvi: また来られて嬉しいです。ええ、いつも楽しんでいます。

Patrick: 今日はAnthropicのS-1について、そしてそれがAI業界に投げかけるより広い窓について議論します。

そして、私たちが専門的に関連するトピックを専門的に議論しているので、S-1のつまらない免責事項と同様に、つまらない部分から始めなければなりません。私はどのラボの株式も所有していないと信じています。私は公開されているテクノロジー株には、市場全体を広く追跡するETFを通じて以外は投資していません。［Patrick注: 投資アドバイスを私に求めてはいけません。それは良いことです。なぜなら、私がテクノロジー業界にいる20年以上、これは非常に悪い決断だったからです。］

私はテクノロジー業界でキャリアを積んでおり、現在、ラボとそのAIサプライチェーンの他の部分の重力井戸に引き込まれています。私は、そのように利益相反があることを前提としてください。しかし、私はこの会社について、比較的責任ある人物として話していると信じており、私については以上です。

［Patrick注: より明確にするために言いますと、私はラボの多くの人々、元同僚や上司を含め、その中には現在非常に重要な役職に就いている人もいます。アメリカの主要な2つのラボは、私と商業的な議論をしてきました。AI業界の他の非ラボ企業は、私にコンサルティングで相当な金額を支払い、また、Complex Systemsの広告枠も購入しています。将来も同様の関係が繰り返されると合理的にモデル化できます。私がStripeの株式を所有していること、それは私がStripeで働いたことによるもので、私の家族の資産の大部分を占めていますが、AI業界に対して機械的にも投資家心理を通じても、実質的にさらされていると信じています。］

ご自身の免責事項はありますか？

Zvi: 個別株は購入します。私はGoogleとAmazonを所有しており、Anthropicに関連していますが、潜在的な利益相反の懸念から、Anthropicには直接投資しないようにしました。

Patrick: そして、このポッドキャストで聞くことは一切投資アドバイスではありません。さて、始めましょう。

あなたは最近、S-1に関するあなた自身の視点について何か書きましたね。そこにはいくつかの重要なポイントがありました。それらを皆さんに説明してもらえますか？

S-1はどのように存亡リスクについて語っているか

Zvi: はい。いつものように、Anthropicから何かを見ると、彼らが存亡リスク、アライメント、そして潜在的に皆を殺してしまうかどうかについて、どのような態度をとっているかを見たいのです。

この場合、彼らは存亡リスクについて通りすがりに、受動態でしか言及していません。彼らは明らかに両方の立場を取ろうとしています。投資家に話すとき、「ああ、私たちの大きな使命を見てください、しかし私たちの大きな使命は、この超収益性の高いハイパーコンピューティングを構築することです」と言いたいのです。そして他の時には、「私たちのデータセンターの天才たちは、皆を殺してしまうかもしれない」と言いたいのです。そして、これら2つのことは共存しなければなりません。同様に、フロンティアのペースを合わせることは、彼らがここで話すことですが、投資家にはこう明確に伝えます。「心配しないでください。フロンティアのペースを合わせると言ったとき、それは信じられないほど速いAIの進歩をしないという意味ではありませんでした。誰かが先に進むのを自発的に許すという意味でもありませんでした。ただ、皆が集合的に超スピードで、そしてとんでもないスピードではなく、進むことに同意できれば素晴らしいだろう、という意味でした。」しかし、彼らは組み込み評価を行います。同様に、私たちは再帰的自己改善を心配していますが、ここではそれをよりビジネスフレンドリーな言葉で「ループを閉じる」と呼んでいます。しかし、彼らは、もし他の誰かが自分たちより先にループを閉じれば、自分たちはループから外れて負けてしまうと言っています。したがって、彼らはループを可能な限り速く、可能な限り多く閉じることを意図しています。

Patrick: S-1には興味深い緊張感があると思います。なぜなら、私たちはテクノロジー業界で、必然的に、ザッカーバーグがFacebookのために話し、Facebookがザッカーバーグのために話すという文化を、ほとんど持っているからです。テクノロジーは、創業者と会社の関係が長年にわたって比較的持続可能であることを可能にする株式クラスで複雑なイノベーションを行ってきました。［Patrick注: Facebookは、超投票権を持つ創業者株式を発行した最初の会社ではありませんでしたが、そのモデルを普及させました。パターン認識は、シリコンバレーの投資家とも両方向で機能します。新しい投資がFacebookの二番煎じであると信じるべきです。そうでないなら、今すぐやめてください。ベンチャーでのリターンは、ごく少数の世代を超えた企業に大きく偏っており、ゲーム全体は、ファンドを分散させて、それらの企業に確実に投資し、創業者にあなたが協力しやすい人物であると説得すること（だから、どのラウンドでもあなたの配分をカットしないでください）です。次のFacebookに投資していると信じるなら、たとえ彼らが資本を調達するにつれて経済的持分が希薄化しても、永続的に次のザッカーバーグを経営陣に置くことを積極的に望んでいます。公開市場の投資家は、部屋の片隅から世界的な大企業へと成長した企業を見て、創業者支配を保証する規定をほとんど受け入れています。IPO時に創業者がそれらを持っていれば、彼らはそれを保持します。］

Patrick 続けます: 創業者主導の企業は一種の「もの」であり、Anthropicは、IPO前の複雑な株式クラスに関して独自のやり方をしています。もし人々が非常に興味を持っているなら、私たちはそれを議論できます。例えば、50%以上の投票権を持つ単一株式のメカニズムなど、 yada, yada, yada。しかし、「責任ある大人」と呼ばれる人々が関わるとき、S-1は主に外部弁護士と、S-1の引受会社である銀行の弁護士によって作成されます。

責任ある大人たちはこう言います。「私たちは皆、テクノロジー業界の誰もがCEOが会社を運営していると考えていることを理解しています。しかし、経営資本主義は、CEOが取締役会によって株主の代わりに解雇されない限り、会社を運営しないと述べています。

そして、それが決して起こらないようにするためにかなりの努力をしましたが、原則としてそれが起こる可能性があると仮定しなければなりません。そのため、CEOの声を他の多くの声の中で優先することはできません。」そして、CEOが自身のスペースで自身の意見を述べている場合と、会社を代表して発言している場合などとの間には違いがあります。そして、企業コミュニケーションに蔓延する通常のシニシズムのレベルの一部と、一部の著者は心から信じています。「いいえ、ここには儀式があります。私たちは儀式を深く信じており、その境界線を気にしています。」しかし、AIのリスクについて受動態で話すことには、多くの笑いがありました。「懸念が提起されている」というのは控えめな表現であり、あなたやMatt Levine、そして他の多くの人々によって指摘されています。この「懸念」の電話は、家の中から、経営陣レベル、そして実質的にAnthropicのすべてのレベルからかかってきていました。したがって、これは通常の形式の興味深い逆転です。通常の形式は、会社が皆を殺す可能性があるということ、そしてそれがビジネスの結果にとって悪いということではありません。

Zvi: ええ、明らかにそれは妥協です。銀行家はこれを全く言いたくないでしょう。なぜなら、もし皆が殺されたら、証券詐欺で訴えられることは実際にはないからです。訴える人が誰もいなくなるでしょう。そしてDarioや会社の他の人々は、受動態だけでなく能動態を使用し、それをさらに大きく、より広範囲に使用し、それを機会として利用したいと望んでいたでしょう。

Patrick: ここには責任最小化もあります。弁護士は常にあなたにこう助言します。「言う必要のないことは何も言わないでください。取引、契約、証言などを完了するために言う必要のないことはすべて、不必要にリスクを生み出すだけです。」そして、あなたが感情的、美的、あるいは道徳的に「いいえ、私たちは皆を殺す可能性がある」と言うことにコミットしているなら、弁護士は合理的にこう言うでしょう。「さて、あなたがそう言うとき、あなたは将来、様々なことが起こる可能性のあることに対して、訴訟原因を提供することになります。それには、現状と大差ないことさえ含まれます。」

［Patrick注: この要因は過小評価されていると私は信じています。通常の企業問題に関する非常に平凡な訴訟を考えてみてください。反対側が、無謀な軽率さを示すことを望む場合、それはしばしば良い法的戦略です。軽率さを示す一つの方法は、すべての通常のステップが取られたという証言と、「本当に？あなたの会社では、人類を終わらせる可能性のあることを行うのは、普通の火曜日だ。あなたのS-1/上級役員/企業文化ガイドなどからの以下の言葉を覚えていますか？」と対比することです。］

弁護士は続けます。「そしてそれはあなたに対して引用されるでしょう。そして、ブログ記事からの引用よりもS-1からの引用の方が悪いでしょう。なぜなら、これらのことを調べる様々な人々、例えばワシントンDCの規制当局や将来の裁判所は、ブログ記事の内容よりもS-1の内容をはるかに重視するからです。

そして、私たちは将来ブログ記事の内容を「ああ、それは単なる彼の意見だった」などと片付けることができますが、S-1の内容を本当に片付けることはできません。」

Zvi: そうですね。そして私の視点からすると、弁護士、企業の担当者、ロビイスト、PR担当者、いつもの関係者、すべてのビジネス上の利害関係者は、これらの懸念をすべて軽視し、無視し、隠蔽しようとし、他のすべての人にもそれを隠蔽し、無視させようとします。

そして私の見解は、もし私たちがそれをやりすぎると、Anthropicまたは他の誰かによってAIが皆を殺してしまう可能性が非常に高いということです。そして、「ああ、いや、これは言うべき場所だ、だから君が望むように言うべきではない」という議論は、それはまさに私がそれを言うべき理由であり、もしあなたが費用のかかるシグナルを出さないことを選ぶなら、あなたは私にあなたが誰であるかを示したことになります。あなたは、あなたが意味のある犠牲を払うことをいとわないことを私に示しました。あなたは、他の考慮事項を優先することを私に示しています。あなたはまさにそれをしました。

それが演習の全体的なポイントです。そして、人々がこれらの状況で他の人へのメッセージングを優先することを選ぶ理由を完全に理解していますが、私はそれを言い訳や、他の方向を気にしない理由として扱ったことはありません。もしあなたが私が気にする考慮事項よりもこれらの他の考慮事項を選ぶなら、そしておそらく私はあなたがそうするのが正しいと思うとしても、私はあなたがそれをしたことを非難します。

Patrick: クール。あなたの次のテイクアウェイ、つまりコントロールに関するものに進みましょうか？

Zvi: Anthropicは、多くのテクノロジー企業と同様に、創業者がある程度の期間、会社を支配し続けるべきであり、Anthropicに起こりうる最悪のことは、GoogleやAmazonのような企業が株主価値の最大化だけを考え、企業のことだけを考えるようになることだと、以前から考えてきました。そうすれば、彼らの会社は世界を破壊するリスクを高め、独自の企業文化を失うでしょう。これは非常に悪いことです。

そのため、Anthropicは非常に奇妙な構造を持っており、IPOに先立ってさらに奇妙なものにしました。彼らは創業者に属する単一のClass F株式を持っており、創業者は集団でその株式の権利行使方法を投票します。そして、その株式は幅広い問題に対して投票権の50.1%を保有しています。これは、少なくとも3人の創業者が会社に来続ける限り、創業者は会社の支配権を維持するという別の言い方です。これはかなり長い間続く可能性があります。Anthropicの予測では、これは世界の運命が決まった後もずっと続くということです。そして、これはかなり可能性が高いです。なぜなら、彼らが9人いて、そのうち3人だけが来続ける必要があるからです。

Patrickがインタビュー後に追記: patio11です。記録の簡単な訂正です。正式には、Anthropicには7人の創業者と、脚注に記載されている初期の従業員Benjamin Mannがいますが、彼は正式な創業者ではなく、このClass F株式クラスへの参加資格はありません。また、Zviが言及しているClass H株式についても、従業員が慈善団体に株式を寄付する際に、Class HではなくClass Eの議決権を得ています。さて、流れに戻りましょう。

Zvi: 同様に、彼らは長期利益信託（Long-Term Benefit Trust）を設立しました。これは長期的に取締役会のメンバー7人のうち4人を名目上任命することになりますが、理論上は会社の支配権を与えたはずです。しかし、実際の詳細を見ると、取締役会が3人、長期利益信託が3人を任命し、そして7人目の席は長期利益信託が提案しますが、創業者の承認が必要になります。創業者が同意しない場合、株式を慈善団体に寄付した従業員、つまりClass E株式の投票に移ります。そして、Class E株式は創業者に味方すると仮定するのが一般的です。

Patrick: 従業員に株式クラスを明示的に優遇する会社は、他に聞いたことがありません。通常は逆です。

［Patrick注: 従業員は通常、株式オプションや制限付き株式ユニットを受け取ります。これらは普通株式、または経済的に同一で投票権のみが異なる第2のクラスの株式に転換するように設計されており、通常はIPOまたは売却後に区別がなくなります。企業は、例えばオプションの行使条件を市場よりも有利にする見返りに、従業員に株式の権利を制限させる（創業者に投票権を委譲するなど）よう、インセンティブを与えることがあります。
普通株式はシカゴの共和党のように投票します。数学的には結果に発言権はありませんが、意見を集計する権利はあります。］

Patrick 続けます: そして、それは興味深いことです。あなたは、AIにおけるアライメント（中央の意味ではない）について強く信じていることを示唆しています。つまり、あなたは、管理職と哲学的に十分に連携している従業員を複数採用することに成功したということです。彼らはプロキシ契約なしでプロキシするでしょう、というのは興味深い見方です。

そして、私は「興味深い」と言っているのは、それが適切に調整されていないという意味ではありません。Anthropicの様々な人々と多くの会話をしてきましたが、彼らは、その段階、その従業員数、その収益成長率などにおいて、ほとんどのテクノロジー企業よりも「より連携している」ように見えます。

［Patrick注: 多くの企業は、ハイパースケール後の長期従業員（そして時には創業者）の間で、企業が特別な何かを失ったという不満を経験します。時にはこれは「私たちは退屈になり、クールな人々が去った」と診断されます。私は、平均への回帰に似ていると思います。あなたはN人のコアメンバーを持っており、何らかの方法で区別されていました。そして、あなたは意図的に、ハイパースケールの機械的な結果として、そしてあなたの目を開いて、以前あなたと一緒に働いていた人1人につき、AppAmaGooBookSoftから完璧な資格を持つ10人の人々を雇用しました。その結果、あなたは常に、AppAmaGooBookSoftの中央の文化に引き寄せられるでしょう。あなたは事前に警告され、「ここでは起こらない！」と言うでしょう。それはあなたに起こります。それはAppAmaGooBookSoftにも起こりました。］

Patrick 続けます: 他にその収益成長率の会社を挙げるわけではありませんが、それについては後ほど触れると思います。

Zvi: さて、次に進む前に、Anthropicは、安全、利他的な目標、慈善活動、そして世界をより良くすることへの大きな意識を持つ、非常に特別な企業文化を長年培ってきたと言えます。

創業者たちは、株式の80%を慈善団体に寄付することを誓約したことで有名であり、株式を譲渡したい人々に対して非常に、非常に寛大なマッチング寄付を提供しています。そして実際、どれだけ株式を譲渡したかによって、Class E株式をどれだけ持つかが決まります。したがって、彼らは複数のレベルで、個人的な富を築き、利益を最大化するのではなく、一般的に良い方法で未来に影響を与えたいと、非常に高価なシグナルを送ったこれらの人々を選別しています。

それらの人々が、この状況で最終的な決定票を投じることになります。そして、それがまさに選ばれた理由です。

Anthropicの上限のない寄付マッチング

Patrick: S-1でこれが明示的に言及されているかどうか見つけられませんでしたが、もし見落としていたらトランスクリプトを編集します。しかし、従業員向けの彼らのマッチングプログラムは、資本主義の歴史上、最も高価な単一の企業決定の1つかもしれません。

従業員向けのこのマッチングプログラムは、従業員が創業者と同じように、経済的持分の80%を譲渡できるように調整されたと聞いています。そして、それらの数値を機能させるために、彼らは、企業が3:1の比率で従業員の寄付にマッチすると言いました。これは、資本主義の他のどこにも見られないことです。

さらに、通常、企業の Пマッチングプログラムは次のようになります。「OK、私たちは1対1で、例えば年間7,000ドルまでマッチします。」そして、あなたは「OK、最適に実行されれば、そのオプションは慈善団体にとって7,000ドル、そしておそらく税引き前所得で10,000ドル、11,000ドル程度になる」と言います。Anthropicのマッチングプログラムは上限がありません。

そして、従業員の中には、IPOとその後の継続的な運営などの影響で、2000万ドルを慈善団体に寄付し、それが6000万ドルのAnthropicのお金でバックアップされる人もいます。そして、非常に慈善的な考えを持つ従業員、数千人、そして彼らが潜在的に8桁、9桁の株式価値を持っており、それをすぐに譲渡することになる人々の合計を考えると、これは非常に高価な決定になるでしょう。

Zvi: ええ、しかし彼らはそれによって望むものを得ました。あなたは、雇用主として強く差別化し、連携した従業員を引き付けたいのです。

もしあなたがミッションにコミットしていないなら、それは高価に聞こえますが、もしあなたがミッションに連携しているなら、その費用はプラスです。そして、あなたが歴史上最も急成長している企業になり、その株式が2兆ドル近くの価値になったとき、それはあなたが思ったよりも大きな項目になるでしょう。

しかし同時に、成功を条件にそれを支払うことができるでしょう。だから、両方の側面があります。

ポストスクリプト：マッチングプログラムの実際の費用

Patrickが録音後に追記: 録音前にCtrl+Fで検索しましたが、失敗しました。S-1は確かに寄付マッチングプログラムについていくつかの箇所で言及しています。例えば、Class N株式がこれらのコミットメントを履行する必要性に対して確保されていると述べられており、会社はそれに関連して第3四半期に20億ドルの非現金費用を計上しました。

したがって、現金に関しては、マッチングプログラムはほぼ無料です。株主は、寄付者を含むクラスとして、希薄化を通じてそれを支払います。しかし、会計上は、数10億ドルの価値のある報酬を人々に約束するとき、その約束された数10億ドルを記録したいのです。将来の世界の状態に基づいて報酬を約束する場合、将来について学ぶにつれて、その約束の費用を更新します。マッチングプログラムに起因する非現金費用の請求が、これが最後であるとは思いません。将来の請求は、従業員が新しい約束をするとき、まだ決済されていない過去の約束が409A評価から公開価格に再評価されるとき、そしておそらく主要な要因として、現在約束されている株式が引き続き権利確定し、プライベートな価格ではなく公開市場価格でマッチングされるときに発生します。

S-1は、現在約240億ドルの権利未確定株式報酬があると示唆しています。この計算は、株式が付与された日に行われました。マッチの費用が計算されるとき、それは株式が権利確定した日に行われ、おそらくより高い評価額になります。

そして、株式の大部分が、新しい評価額で3対1のマッチング資格を持つ従業員に、残りの大部分が1対1のマッチング資格を持つ従業員に、そしておそらくその数10%が寄付されると仮定します。そして、それらの株式の大部分が、新しい評価額で3対1のマッチング資格を持つ従業員に、残りの大部分が1対1のマッチング資格を持つ従業員に、そしておそらくその数10%が寄付されると仮定します。そして、それはおそらく資本主義史上最も高価な特典でしょう。

IPO後の最初の請求額の規模は、人々を驚かせるだろうと私は推測します。私の元同僚Nanを含む多くの人々が、慈善寄付の津波について書いてきました。その津波の大部分はAnthropicの損益計算書を通過します。

収益成長とコホート経済

Zvi: 次のセクションは、もちろんお金についてです。

Anthropicは、歴史上最も急成長している企業の一つです。数年連続で年間10倍の成長を遂げています。場所によってはそれ以上です。今年の最初の2四半期は完全に異常でした。

Patrick: 前半で約15倍ですよね？

［Patrick注: 2025年前半の11.6億ドルから2026年前半の163億ドルへ、約14倍ですが、友人の間では前の年の半分が丸ごとどれだけか、というところです。］

Zvi: そうです。約、そんなところです。前半で15倍、非常に大きなベースラインから、非常に小さな金額からではありません。つまり、最初は「OK、10倍になっているが、これは珍しくない。なぜなら非常に小さな会社だからだ」という感じでした。今では比較的大きな会社になり、人々は「何回10倍にできるのか？」といった質問をしています。経済全体はそれほど大きくありません。フォーチュン500企業は限られています。せいぜい500社です。いつかはターゲットがなくなるでしょう。しかし、それは必ずしも私たちが近づいているものではありません。第3四半期には、成長が鈍化しました。したがって、成長は依然として地球上のほとんどの企業が羨むものでしたが、彼ら自身の基準では、それは比較的わずかでした。

これには様々な説明があります。Anthropicは、以前の期間や現在のような、モデルの品質とビジネスへの魅力という点で、比較的不利な立場にありました。それがおそらく主な理由でしょう。第3四半期がカレンダー上の理由で比較的成長が遅かったという話もあります。しかし、私の予想では、第3四半期は比較的遅かったものの、第4四半期には再び盛り返し、Anthropicからは非常に、非常に大きな成長数字が見られるでしょう。

Patrick: 証券分析では、四半期ごとの収益結果が重要であると仮定しなければなりませんが、この場合、Anthropicはほぼソフトウェア企業としてモデル化できると思います。そこでは、コホートを積み重ねています。そして、理由あって、ソフトウェア企業にコホート数をS-1などで開示することを義務付けていません。

［Patrick注: これは世界の最高のマネージャーの間で非常に良く理解されており、投資家の間でも比較的良く理解されています。その古典的な説明の1つは、2017年のBezosの発言で、はるかにゆっくりと動く、かつて史上最速成長企業だったビジネスに言及しています。「それらの四半期ごとの結果は3年前に完全に焼き固められていました。だから今日、私は2020年に起こる四半期に取り組んでいます。来四半期ではありません。来四半期はすでに終わっており、おそらく数年前に終わっています。」］

もしそうすれば、ビジネスの成長を垣間見ることができるでしょう。そして、コホートはしばしば互いに異質であり、Q3 2026に採用した顧客は、Q3 2025や2024の顧客よりも、支出の増加段階が異なります。

そして、それらのグラフで興味深いのは、それらがどこかで漸近するかどうかです。そして、私の推測では、答えは「いいえ」です。S-1には、900%の純収益維持率があると書かれています。これは、他のSaaSビジネスにとってはばかげた数字です。もし110%であれば、それは素晴らしいでしょう。

［Patrick注: 少し誇張しています。年次契約で販売するIPO可能なSaaS企業としては、標準的な実行です。］

しかし、私の推測では、彼らの「初期採用顧客」、つまり2年前の古代の歴史にいた顧客は、ビジネスにおける認知の限界をまだ理解しておらず、トークンにお金を注ぎ込み、ビジネス成果を得続けています。そして、もし仮にコホートグラフが「OK、導入後2年間で、成長ペースは通常のソフトウェアビジネスのものになる」と示す世界にいたとしたら、あなたはAnthropicやラボ全般をビジネスとして、はるかに弱気に見るでしょう。

私は、私たちはその世界にいないと推測します。私は、2年間利用している人々の線が垂直であり続けると推測します。そして、顧客の生活の最初の3ヶ月間は、内部パイロット、ITの関与など、この技術の吸収に関連するすべての楽しいことのために、それほど垂直に見えなくなるでしょう。そして、四半期ごとの数字の軟化は、その四半期の競合他社に対する全体的な企業ポジショニングのアーティファクトというよりも、コホートグラフの積み重ね方のアーティファクトであると推測します。しかし、これに関する内部データはありません。明らかに、もし内部データがあれば、共有することはできません。

ポストスクリプト：第3四半期は供給側の話であり、需要側の話ではない

Patrick: エピソード録音後、Claudeの助けも借りて、この件についてもう少し考え、より良い仮説を立てました。

前述したように、SaaS的な視点を持つことは、コホートの観点から世界を見ることを可能にするため、有用です。しかし、それは時々視界を妨げます。なぜなら、すべてのビジネスが任意に高い利益率を持ち、DevOpsがターミナルにタイプするのと同じくらい速く顧客需要に対応できると想像してしまうからです。

Anthropicは、これらの点において、ソフトウェアビジネスとは異なるところが重要です。AnthropicはS-1で、「私たちは歴史的にコンピューティングリソースが制約された環境で事業を行っており、コンピューティングの需要が利用可能な供給を上回っていました」と述べています。完全にコミットした顧客からの収益をサービスする能力は、契約され、ラックに設置され、電力が供給されたGPUの利用可能性によって制限されます。

S-1によると、彼らは歴史的に12〜18ヶ月前にこれらの契約を結んでいます。したがって、2025年の第1四半期または第2四半期頃に、まだリリースされていないOpus 5.5のコンピューティング効率がどれくらいになるか、そして顧客がそれを使用する意欲がどれくらいあるかを推測する必要がありました。

Anthropicは、Zviが他の場所で言うところの、おそらく単に十分に積極的ではなかった、過小評価したようです。

彼らの第3四半期の収益の鈍化は、需要の問題ではありません。それは供給の問題です。彼らは利用可能なすべてのGPUを稼働させていますが、それでも十分ではありません。証拠として、彼らはGPUをスポット市場で50億ドルで調達したと述べています。これは、彼らの複数年契約よりも大幅に高い価格であり、ミックスのシフトだけで利益率の10%を食いつぶしています。

収益の低数十パーセントがスポットコンピューティングで賄われていると仮定するでしょうが、そのスポットコンピューティングは、その四半期のコンピューティング支出の50%を占めていました。S-1では「短期コミットメント」と述べられており、これは例えばAWSがスポットインスタンスを販売する方法と1対1で一致しないかもしれません。専門用語でついてきてください。

重要なのは、事前にその容量を契約しなかったことの代償として、法外な価格を支払っているということです。では、なぜ収益が鈍化したのでしょうか？それは、トップラインの指標を膨らませるためだけに、スポット市場のコストカーブを登り、薄利または損失で販売したくないという原則的な決定をしたからか、あるいは単に2026年第3四半期に利用可能なすべてのスポットを使い果たしたからかのどちらかです。

これを需要の鈍化と読むアナリストは、支出の50%をスポットで調達したことを説明する必要があります。私は率直に言って、そこに説明はないと思います。これらのアナリストは完全に間違っています。たとえスポットコンピューティングのすべてをOpus 6.xなどのトレーニングランに割り当てたとしても、それは長期契約されたチップをすべて飽和させ、顧客はまだトークンを待っていたということになります。

バブルか？

Zvi: はい、本当に言うのは難しいです。多くの異なる要因があります。明らかな理由から、私たちは非常に低い可視性しか持っていません。OpenAIとAnthropicの差し迫った破綻、モデルの差し迫ったコモディティ化、そして皆がトークンにそれほど多くのお金を費やすのをやめるだろうという、同じ人々が絶えず予測するのを聞かなければなりません。

そして、彼らは数字が10倍になるたびにこれを言います。これは驚くほど多い回数です。そしてはい、いつかは、数字が上昇し、将来の数字の上昇率の推定値が低下し、したがってトークン使用量と収益が増加しても株価は低下します。そしてその時点で、人々はバブルが弾けることについて話すでしょう、そして彼らは間違っているでしょう。

それがデフォルトです。もちろん、私が言うことは投資アドバイスではありません。いつものように、あなたが言うことも投資アドバイスではありません。しかし、これらのことを継続的に予測する人とそうでない人を予測するのは非常に簡単です。

Patrick: 合理的に調整された人々は、単に事前情報に基づいて、「私はAIが何をしているかにあまり注意を払っていません。この話は何度も聞きました。「今回は違います」というミームです。これは、Byrne HobartとTobias Huberの著書『Boom』の古典的な例のように、新しい産業のインプットが開発されるときです。私たちは数年間、実際の需要を過大評価します。

私たちは、最初は生産的ではない投資に数十億ドル以上を注ぎ込みます。初期の投資家はいつか大損をします。その後、荒野をさまよう期間があり、そして最終的に私たちは、私たちがしたすべてのインフラ投資の使い方を理解するようになります。

Zvi: はい、ここにはそのモデルと異なる点がたくさんあります。1つは、初期投資が最初は遊休状態であったり無用であったりしないことです。現在利用可能なものすべてに対して、圧倒的な需要があり、システムは非常に速いペースで明確に改善されています。したがって、AGIや超知能、あるいは数年後に行うことになるすべてのことについて話さないとしても、これは私には明らかに非常に異なっているように見えます。

Patrick: はい。暗号通貨を叩くのは好きではありませんが、ところで、私たちがこれを録音する前日に、Binanceが50億ドル以上をハッキングされたというニュース速報がありました。おそらく北朝鮮がAIによって加速させた方法で。

［Patrick注: このポッドキャストは、攻撃直後に録音されました。Binanceは、パートナーが盗まれた63.4億ドルのうち約28.5億ドルを凍結または傍受することに成功したと主張しています。いずれにせよ、北朝鮮のLazarusグループは、史上最大の強盗の記録を…自分たち自身から奪いました。彼らの以前の最高記録は、2025年のBybitからの15億ドルの盗難でした。］

いずれにせよ、暗号通貨のブースターは15年間、「来年は機関投資家による大規模な採用の年になるだろう」と一貫して言っていました。

［Patrick注: 彼らは、ステーブルコインがB2B決済に利用されることは、暗号通貨のスケーラブルで新しい、投機的でないユースケースであるという合理的な主張をしています。また、ビットコインはそのセキュリティと手数料が銀行の提供するものより優れているため決済に利用されるだろう、証券は技術的優位性からブロックチェーンに移行しカウンターパーティリスクを減らすだろう、NFTは芸術の新しい繁栄につながるだろう、ブロックチェーン上で動作する新しいVMが金融業界のアプリケーション開発プラットフォームになるだろう、などと自信を持って言っていました。そして暗号通貨支持者は、初期に投資し、それらの主張を使って他の人にそれらを買い取らせることで大儲けしました。これは、論理の特定の系統にとっては、 retrospectively 効果的な主張です。］

そしてAIは、「いや、今年は機関投資家による大規模な採用の年だ。ただし来年はこれを10倍にする」という感じです。10億ドルの収益が160億ドルになり、来年は誰にもわからない数字になる、これは狂っています。だから、私はあなたに同意します。

バブルのあらゆる例にパターンマッチングするから「これは単なるバブルだ」と言う人々。

「今回は本当に違う」と言うことほど、時代遅れになるのが早い言葉はありません。「今回は本当に違う」と言うと、さらに早く時代遅れになります。「今回は本当に違う、そしてこの声明が私の顔に吹き飛ばされないという説得力のあるビジョンを持っており、世代の投資アナリストが同じことを言ったという記録を明示的に認めるほどだ」という言葉はどうなるでしょうか。

Zvi: はい。私たちはもちろんお金について話し続けるでしょうが、これがバブルであるという具体的な証拠は全くないと思います。もちろん、数字は下がるかもしれません。数字は常に下がる可能性があります。しかし、私は間違いなくこれに賭けたくありません。それは非常に、非常に悪い考えのように思えます。

トークンの市場規模

Patrick: 5年前、私はLLMが能力曲線で「今日の状況よりほんの少し上」で漸近する可能性は十分にあると考えていました。そして、過去5年間、何度もそう考えてきたことに懲りて、今では、いや、それは非常に起こりにくいと考えています。それは、信じられないほど狭い的を射抜かなければ起こりません。

だから、私は証拠に基づいて更新しています。まだその証拠に基づいて更新していない他の人々もいます。しかし、たとえ私たちがOpus 5.5やFable 5.1よりも良くならなかったとしても、もしこれが最高だったとしても、それを数年間資本主義に展開するだけで、これらは経済の中で最も大きなビジネスのいくつかになるでしょう。

もちろん、それらは構造的にそうならないことに依存しています。しかし、StripeのJohn Collison（以前は私が働いていた会社で、私はStripeの代表として話しているわけではありません）は数日前にJohnのポッドキャストCheeky PintにSam Altmanを招きました。そしてJohnはこう言いました。以下はすべて私の解釈であり、引用ではありません。プラスマイナス、丸めて言えば、Stripeの総経費の1%が現在AIトークンです。

正しい数字はいくらになるかと聞かれたとき、Johnは少し言葉を濁し、それから「数十パーセントの経費」になると示唆しました。

もしホワイトカラーの労働者が知的労働を行っているなら、明らかにあなたの総経費の数十パーセントが「正しい」数字であり、それに到達するのにかかる時間は多かれ少なかれでしょう。そして、経済における知的労働の量に数十パーセントを掛けると、総アドレス可能市場は数十兆ドルになります。

［Patrick注: 上記は私の口頭での解釈です。両方のスピーカーの見解を公平に表していると信じています。それはCheeky Pintのトランスクリプトで見つけることができます。Ctrl-Fで「1%-ish order of magnitude of Stripe’s OpEx」を検索してください。］

これは、ラボとそのサプライチェーンからの総価値が、それらの20倍、30倍以上になることを意味します。ええ、それは頭に入れて考えるだけでもすごい数字です。

［Patrick注: 暗黙のうちに、私は彼らの公開声明と、Stripeがトークンをあらゆるものに利用する大手初期導入企業であるという業界トレンドに関する私の一般的な感覚を信じています。Stripeは、すでにヘビーユーザーである20倍以上の利用率への道を見ているように見えるため、顧客がトークンに割り当てる総価値は莫大になるでしょう。それは直接的に株式価値の20倍以上の増加にはつながりませんが、私はJohn Collisonがトークンに支払う金額について、AI投資家が彼がトークンに支払う金額について考えているよりも楽観的であると信じています。いつものように、私はStripeの元従業員であり、現在もアドバイザーですが、Stripe（とJohn）は私の発言を必ずしも支持しているわけではありません。］

Zvi: はい。そしてそれは、AIが全く新しい形の労働と生産を可能にするという考えさえも割引いています。そしてそれはほぼ間違いなく起こるでしょう、たとえ、再び、私たちがそれほど進歩しなかったとしても。

だから、弱気シナリオは「AIモデルがさらに改善されなければ、AIモデルがやることはそれほど多くない」という弱気シナリオではありません。AIモデルがやることは膨大にあります。

コモディティ化の弱気シナリオ

Zvi: 弱気シナリオは、本質的には多くの人々がコモディティ化を期待していることです。それは、より安価で、高速で、オープンウェイトの競争モデルが、あなたがやりたいことすべてに対して十分によくなるだろうという考えです。

あなたはそれらを使用することを選択します。Anthropicのモデルが改善されなければ、1年後、彼らは「OK、その時点で、DeepSeekモデルやQwenモデルはほぼ同等になり、より安価で高速になるだろう」と考えるでしょう。だから、Anthropicが自社のモデルをより安価で高速にするだけなら、それは収益マージンを破壊し、彼らのビジネスはもはや機能しなくなるでしょう。しかし、AIがあまり多くのことをせず、経済がほとんどAIを採用しないというシナリオはもはやありません。再び、たとえAIが可能な限り最小限であり、私たちが再び良いリリースを一切見なかったとしても、Carbonがひどい結果になり、Fable 5.5が失望に終わり、そこから進んでいくとしても、などなど。

資金効率と8000億ドルのコンピューティングコミットメント

Zvi: Anthropicの財務について知っておくべきもう一つのことは、Anthropicの財務は、この種の成長率のスタートアップにとって、特に様々な方法で資本を消費する企業としては、信じられないほど良いということです。だから、Anthropicはここまで来るのに莫大な費用を費やしたと思うでしょうが、実際にはそうではありません。

純粋に見て、彼らはS-1によると、合計1410億ドルを調達し、1310億ドルの現金、現金同等物、および投資を保有しています。これは、彼らの真の損失、つまりキャッシュフロー損失の総額が、ここまで100億ドルに過ぎないことを意味します。そして、彼らは前半で直接的に収益を上げています：キャッシュフローは39億ドルのプラスです。

転換社債がまだ転換されていないため、株価が上昇するたびに損失として考慮しなければならない場合、それから800億ドルの損失を計上します。そのため、700億ドル以上の損失を計上していることになります。しかし、これは私の意見では、会計上の単なるアーティファクトです。彼らはその株式を売却しました。Amazonは株式に転換していませんが、実質的にはAmazonはAnthropicの株式を保有しています。したがって、これを会社の資本構成の一部として考えるべきであり、Darioの株式価値の上昇を損失として請求するのと同じように、彼らに損失を請求すべきではありません。

それは会計処理としては非常に愚かな方法です。そして、私たちが将来見なければならない実際の費用は、Anthropicは約8000億ドルのコンピューティングコミットメントを持っています。

Patrick: 彼らが信じられないほど資金効率が良いことに関して、私が言いたいことは、彼らは非常に資金効率が良いということです。しかし、現金と将来の約束を交換する方法には、重要なものがあり、彼らは優れた企業金融を行ってきました。

そして、私はそれを批判として言っているわけではありません。これはゲームを楽しむ誰かが、ゲームに非常に非常に長けているチームを見ているだけです。彼らは、両当事者が望むものを得る取引で、今後数年間のコンピューティングを確保しました。Anthropicは、「価格と利用可能性が欲しい」と言い、相手方は「OK、数年間の保証された支出が欲しい」と言います。

だから、現在の期間の現金支出を低く抑える方法の1つは、「OK、私たちはこの大きなコミットメントを今後数年間にわたって分散させます」と言うことです。そして、彼らは、私は、数字は約8000億ドルのコミットメントに達していると思います。私は、それを「負債8000億ドルと同等」と見るのは、不動産リースを8000億ドル持っているようなものだと考えるのは、中途半端な見方だと思います。そしてそれは、「会社の破産」を引き起こす可能性があります。もし需要の成長が鈍化したり、 yada, yada, yada。

［Patrick注: 8950億ドルを丸める一般的な方法は9000億ドルですが、友人同士で950億ドルがどれほどのものか。］

そうならない理由がいくつかありますが、あなたの将来のコミットメントに対する見解はどうですか？

Zvi: Anthropicは、私の意見では、将来のコミットメントとコンピューティングの取得において、信じられないほど保守的でした。OpenAIははるかに積極的でした。それでも、結果的に最適であったよりも、OpenAIは保守的であることが証明されました。

しかし、あなたはダウンサイドオプションを守ろうとしています。そしてAnthropicは基本的に、「ああ、私たちは破産して、もし成長が非常に良いだけで異常でなければ、突然この状況に陥りたくない」と言っています。私は、彼らが潜在的な成長の最低ライン、あるいは成長が様々な理由で停滞した場合の、彼らの妥当な質の高い将来の量という点で、どれほど死んでいるかを過小評価したと思います。彼らはトップティアから脱落し、これらの販売ができなくなっていました。それは起こりませんでした。しかし、もしそれが起こっていたら、十分なコンピューティングを購入しなかったことが、それほど価値のあるものを救ったかどうかは明らかではありません。一方で、物事が非常にうまくいったときにコンピューティングが利用できないことのコストは非常に高いです。明らかに、リスク回避を望む理由がありますが、私は彼らがそれをあまりにも保守的にプレイしたと思います。外部からの視点では、ああ、8000億ドルの将来のコミットメント、それは完全に狂っています。

それは数年間にわたるものです。コンピューティングは急速に成長しています。AIは急速に成長しています。これが彼らにとって悪く結果する唯一の方法は、コンピューティングの価格が大幅に下落し、再販できなくなり、需要がなくなることです。そして、それは私が非常に、非常に期待しない奇妙な世界です。

SpaceXを思い出してください、彼らは大量のコンピューティングを購入しましたよね？彼らはColossusを構築し、Colossus IIを構築し、これらすべてを行いました。そして、それの一部をGrokモデルのトレーニングに使用しましたが、誰もGrokモデルを欲しがりませんでした。だから、推論顧客がいませんでした。だから、推論を売ることができませんでした。推論を売ることができませんでした。そして、モデルをトレーニングするのに十分なコンピューティング使用量がありませんでした。しかし、今ではそれがSpaceXがお金を稼ぐ主な方法であり、Anthropicにそのコンピューティングを販売しています。

ポストスクリプト：コミットメントが悪化した場合

Patrick: 皆さん、こんにちは。さて、このトピックに関するインタビュー後の雑談です。古い格言があります。銀行に900ドル借りたら、あなたは問題を抱えている。銀行に9000億ドル近く借りたら、銀行が問題を抱えている。

買い手が9000億ドルの将来のコミットメントに不満を抱く未来はどのようなものでしょうか？最も可能性の高い未来は、世界的にコンピューティング価格が軟化する未来です。それは、A）需要に対する電力供給とラック設置済みGPUの供給過剰による、電力供給とラック設置済みGPUの供給過剰の組み合わせによって達成されます。B）推論時間コンピューティング効率の大幅な改善。C）現在の知能アプローチの飽和、それにより新しいトレーニング実行が経済的影響を改善せず、そのため棚上げされる。D）トレーニングに投入できるコンピューティング量に対する政策制限、あるいは、可能性は低いですが、推論に対する制限。あるいはE）世界的な認知需要の大幅な減少。そこに至るにはいくつかのありえない世界状態を想像する必要がありますが、おそらくそうなるでしょう。さて、そのコミットメントをどうするか？WeWorkが最終的に多額のリースから抜け出すために行ったように、破産にまっすぐ進むのか？いいえ。

［Patrick注: 私はWeWork債券を保有していました。優れた日本の資本市場へのアクセスを利用して、魅力のないリースを借り換えることができると信じていました。多くの投資家は、キャリアリスクの観点から、パンデミックによって取引が破綻したと言うでしょうが、私はそれをした瞬間に間違っていたと思います。いずれにせよ、Softbankに200億ドル借りたら、それはSoftbankの問題です。

Softbankは、もちろん、AIインフラ構築の大部分に資金を提供しています。彼らはかつて、ゲーマー向けGPUを製造する会社の約5%を所有していました。Softbankはそのニッチなハードウェア事業を売却し、CPU設計者の大規模な株式を保持しました。なぜなら、明らかにCPUはGPUよりも経済的に重要だからです。SoftbankはそのCPU会社をGPU企業に売却しようとしましたが、米国当局がGPU企業がCPUを支配した場合、あまりにも重要になりすぎることを懸念したため、独占禁止法で取引は頓挫しました。（CPUは、もちろん、世界中のデータセンターに何十万ものラックに設置されるチップです。）連邦当局に懲らしめられたGPU企業は、そのニッチビジネスに焦点を戻しました。それは現在、約4兆ドルの価値があります。これが堅牢な独占禁止法政策の提唱者の目標を達成したかどうかは、彼らに説明してもらいましょう。

Softbankのチェックの入った投資履歴を、彼らが数十億ドルを投資しようとするものすべてに対する懐疑論の理由と見なす人もいるかもしれません。個人的には、彼らの戦略の最も広範な概要は単に正しいと思います。先進国でインターネット税を徴収することは、a）莫大な現金を生成し、b）10年ごとに全国的なインフラ更新のために継続的な資本市場へのアクセスを必要とし、c）ビジネスとして完了します。ユーティリティを運営するか、人生で何か面白いことをするかを選択できます。産業革命に資金を提供する高バリアンスゲームですが、一度だけ正しければ良いのです。］

まず、コミットメントの契約上の機能の一部を使用し始めます。SpaceXへの月額30億ドル、年間1200億ドルのコミットメントについて、90日前の通知でキャンセル可能と記載されている契約の行を指します。これにより、もし何らかの理由であなたの水晶玉が、コンピューティングが現在豊富で、予想されるニーズよりも良い価格であると告げ、それが続くと予想される場合、いくらかの余裕が生まれます。十分な余裕がない場合？他の契約を解除します。Nscale、Lambda：コンピューティングが納品されたら支払う契約をしました。将来、私たちにとって状況が悪化したことが判明しました。悪いニュース：それはあなたにとってさらに悪いです。合意された通りコンピューティングが納品されたら、もちろん支払いますが、そのコンピューティングを成功裏に納品するには数十億ドルの資本が必要です。そして、もしあなたが今周りを見回せば、ハムサンドイッチを買う余裕があるかもしれないと予想します。だから、あなたへの私たちのコミットメントは、あなたが納品に失敗したときに消滅します。まだ十分ではありませんか？次に、事前に合意された契約条項を発動し、ドルではなく転換社債で家賃を支払うことを可能にします。それで数10億ドルが得られます。ここでは小銭ですが、数10億ドルは現実の金額になり得ます。それでも十分ではありませんか？次に：Google、Amazon、Microsoft、私たちの愛するサプライヤーであり、主要な株主でもある皆さん、取引をしましょう。新しい取引の最初のスケッチです。数四半期にわたって、契約された収益に対して会計上の打撃を受けます。その見返りに、あなたは私たちの資本構成のより大きな部分を、あなたが予想していたよりも多く占めることになります。この構造は、あらゆる可能な世界状態に対して確実に堅牢ではありません。再び、彼らは会社の破産という重大なリスクを考慮しています。しかし、将来これらの取引を後悔する可能性があることは、明らかに予想されています。

トレーニング、推論、サブリース間のコンピューティングの柔軟性

Patrick: そして、これはラボ内でも同様です。彼らはいくつかのダイヤルを持っています。私は、ラボが自身のコンピューティングを分類する3つの古典的なバケットは、独自のモデルのトレーニング、顧客によるモデルの使用のための推論、そして3番目は何でしょうか？トレーニング後またはアライメント、あるいはそれ以外です。場所によって異なる名前で呼ばれていると思います。

Zvi: はい。ラボのコンピューティング支出は、一方では内部使用、事前トレーニング、ポストトレーニングの組み合わせと、もう一方ではモデルの提供の間に、ほぼ半分に分けられると思います。

Patrick: はい。そして、仮に将来、推論の需要が増加した場合、コンピューティングを一定に保つことで、それに対応できます。「OK、次のモデルリリースでのスローダウンを受け入れる」とか、最高レベルの能力を低く抑えるとか、 yada yada。

そして、顧客からのモデル需要が鈍化した場合、「よし、次のモデルにもっと多くの機能を詰め込んで、トレーニングにもっとお金をかける」と考えます。あるいは、3番目の選択肢は本質的に、他の人々がより価値のある使い方をしている人にコンピューティングをサブリースすることです。

これは人間の経験において新しい現象ではありません。AmazonやGoogleなどが、いわゆるクラウドの初期にサーバーをラックに設置するのが非常に得意になった理由の1つは、彼らが基本的に経済全体でサーバーを収益に変えるのが最も得意だったからです。しかし、彼らはそれをラックに設置するのが非常に得意になったので、発見しました。「待てよ、サーバーを収益化するのが経済全体で最も得意である必要はない」と。

［Patrick注: AmazonとGoogleは、他の誰も持っていない問題を抱えていたため、サーバーをラックに設置することに特化しました。Googleは高利益率の世界的なソフトウェアビジネスを持っていました。Amazonは、ブラックフライデー/サイバーマンデーに、発明されたエンジニアリング分野を必要とするほど大規模な予測可能な需要のピークを持っていました。

その後、彼らは、実質的に、彼らが世界のサーバーの限界オペレーターであることを発見しました。彼らは資本主義の残りの部分にその事実を伝えました。企業は、約15年かけてオンプレミスからワークロードを移行しました。そして、3つのハイパースケーラー（Amazon、Google、Microsoft）は、お金の帽子を印刷しました。

それらの数百のクラウドインフラ製品ラインの1つとして、彼らはGPUホスティングに参入しました。当時の動機付けられたユースケースには、グローバル規模でのビデオコーデック変換が含まれていました。これは、GPUで実行できる最も興味深いパイプラインではないことが判明しました。］

もし私たちがこれらのボックスを宇宙にクローンスタンプのように配布したなら、フォーチュン500企業は、私たちが提供できる価格で、それらにワークロードを移行するでしょう。そしてそれは私たちにとって、とてつもなく高利益率のビジネスになるでしょう。そしてAWSは、おそらくAmazonの中で最も重要なビジネスです。Googleのコンピューティングビジネスも同様に重要です。

そして、古いものが新しいものになる可能性があるということです。つまり、仮にAPIの直接使用が数四半期で低迷したとしても、彼らは「さて、私たちは今、コンピューティングの山の上に座っていて、他の人々がそれを自分たちの目的のために使う必要があるだろう。四半期ごとにコンピューティングホードの10%または20%を、相互に合意できる価格でサブリースするだろう」と言い、そして来四半期の技術のグローバルな普及状況を見るでしょう。

Zvi: はい、それは確かに選択肢ですが、それを行う必要はないと予想しています。しかし、私たちは、GPUの減価償却スケジュールについて、そしてああ、神様、これは数年間しか持たないだろう、価値は下がるだろう、ビジネスモデルは機能しない、彼らは非常に薄い利益率に頼っている、これはどうすれば機能するのか？という議論にかなりの時間を費やしました。

そして今、コンピューティングの需要が非常に多く、これらのものが無期限に事業を継続している状況があります。価格は、むしろ下がるのではなく、時間とともに上昇しているかもしれません。なぜなら、私たちが毎年、前年よりも多くのコンピューティングを生産しているため、エコシステムにはるかに多くのコンピューティングがありますが、それは問題ではありません。需要は供給よりもはるかに速く成長しています。

Patrick: はい。過去数年間の歴史についての私の理解は、不完全ですが、半導体アナリストが私の仕事ではないためですが、私たちはしばらくの間、深刻なコンピューティング制約を受けていました。そして、これらの将来のコミットメントを行う理由の1つは、コミットメントをしなければ、割り当てを得られなかったということです。

［Patrick注: AnthropicはS-1で、彼らの企業存続期間中ずっと、十分なコンピューティングの不足によって常に制約を受けていたと述べています。］

そして、世界で利用可能な電源付きH100の数が限られていたため（数は多いですが、無限ではありません）、ゲームに参加し続けるためには、将来へのコミットメントが必要でした。将来へのそのコミットメントをした後、私たちは可能な限り速くH100およびH100相当のものを生産、電力供給、ラック設置などを行おうとしています。米国では、非常に強力なゲーマー向けGPUをすべてのデータセンターに設置するための、数兆ドル規模の産業的構築が行われています。

［Patrick注: すべてのデータセンターに事実上H100または同等物があるわけではありませんが、データセンターは基本的に「電源供給されたボックス」です。インフラエンジニアやデータセンター投資家であれば、より詳細なモデルが必要ですが、それらを「ワークロード間で実質的に交換可能」と丸めることができます（冷却改造は別として。GPUは熱密度が高いです）。新しいデータセンターは、新しい限界需要に対応するラックの組み合わせを持つ傾向がありますが、2026年ではビットコインASICは非常に少なく、GPUは非常に多くなります。］

しかし、私たちはこれらのチップが燃え尽きるまで、それらを設置場所で稼働させ、新しいチップと交換し、それを継続するでしょう。なぜなら、私たちは代替知能、あるいは代替認知の経済的価値の最大値を発見することにはほど遠いからです。

LLMありとなしでのS-1の読み方

Zvi: はい、強く同意します。

そして、私がS-1から得たもう一つの点は、それが実際に非常に高価な弁護士や銀行家によって書かれており、彼らが各文を細心の注意を払って確認しているにもかかわらず、非常に、非常に定型的な部分が数回繰り返されていることです。誰もそれを読むことを意図していなかったようです。単にチェックボックスをいくつかチェックする必要があるだけです。そして、GPT-4をこれに信頼することはできなかったでしょうが、GPT-6.1やOpus 5.5なら絶対に信頼できるでしょう。

Patrick: 業界では、多くのS-1がコピー＆ペーストされている、あるいはその大部分がコピー＆ペーストされているというのは公然の秘密です。

サイバーインシデントに関する通常の定型文を取り出します。私たちはソフトウェア会社です。サイバーインシデントの段落をそこに入れる必要があります。そしてその費用は、投資銀行が手がけた他のすべてのソフトウェア会社に償却されます。そしてそれは基本的に、最大限に設計されています。まあ、もし私たちがすべてのリスクを開示したら、訴えられることはありません。しかし、もし私たちが一つを忘れたら、あなたは「ああ、あなたの役員が死ぬリスクについては知らされていませんでした。それはあなたのビジネスの結果を損なうでしょう。」と言うことができます。そして役員が死んだら、「ああ、しまった。標準文書を「時々人が死ぬ」ように更新しなければならない」などと言うことになります。

これはこの文書にはありません。私はポイントを説明するために、仮の冗談の例を作っています。ただし、実質的にすべてのS-1は「主要なスタッフを維持できないかもしれない」と述べています。

Zvi: これはそうです。

［Patrick注: 複数の言及の1つ：「［私たちの目標］を達成し、この地位を維持することは、私たちの共同創業者、上級経営陣、および主要な技術従業員の継続的なサービスを維持し、激しく競争的で進化する市場において、主要な研究者、エンジニア、および技術的才能を引き付け、維持し、動機付ける能力にかかっています。」

Patrick: はい。

Zvi: はい、ええ、それを読んだのを覚えています。そして私にとって、これは資本主義の非常に愚かな結果です。しかし、もしそれが実際に文字通りのコピー＆ペーストなら、誰が気にするでしょう？

それは単に、誰もが初めてS-1を読むときは、これをまだ知らないか、まだ理解していないので、これらの資料すべてを見る必要があるということです。そしてその後、おそらく、あなたはS-1に座って、「Claude、私が読む必要のないコピー＆ペーストされたものをすべて削除して、実際のS-1を読めるようにして」と言うでしょう。

Patrick: はい。あなたのSubstackで、これがあなたの最初のS-1だったと見ました。私は一瞬驚きましたが、それから、ああ、そうです、金融業界は多様だということを思い出しました。だから、これは私の最初のS-1ではありません。そして、これらのものにはリズムと言語があり、10個以上読んだ後では、「OK、この部分には何も面白いことはないだろう」ということが上手になります。それをスキップするか、完全にスキップして数字に進むことができます。そして特に、このS-1ではありませんが、一般的に言えば、あなたは興味深い選択がなされている点を探しています。そして、通常提示されるものとの違いは、しばしばS-1の知的に肉厚なコンテンツが存在する場所です。

そして、脚注に直接進む、などというのは、これらのものを定期的に読む人々のテクニックです。もちろん、最先端のモデルはかなり優れています。プロンプトは、「このS-1を読んで、驚いたことを教えてください」というくらい簡単です。

そして彼らは、それだけで多くの金（ゴールド）を得ています。

Zvi: はい。私は、LLMに適切な質問を簡単に、考えずに尋ねて、私が望むことを指摘させる方法を常に学んでいます。

循環的資金調達とドットコムバブルの比較

Patrick: では、彼らの資本構成の問題について話しましょう。

転換社債がありました。道徳的に言えば、それは転換されるでしょう。それを株式として考えるべきです、 yada, yada。しかし、転換社債は現在転換可能です。明らかに、彼らはIPOで普通株式の発行を通じて追加の資金を調達しています。また、これはまさに産業革命の最中であるため、この構築をサポートするために、テクノロジー業界全体で資本調達が行われています。

ウォール街が物事が悪く進むことを心配している限り、私は、私たちが以前に見た症状、つまり、複雑な策略を通じて、中央の俳優によって、あるいは単に市場の個々の参加者が局所的に合理的な決定を下し、グローバルに非合理的な場所にたどり着くことによって、心配していると思います。

もしあなたが資本を収益に変える方法を見つけ、それを非常に速くループさせると、時々物事はクレイジーな場所に行き着きます。そして、ドットコムバブルの直前のYahooと他のスタートアップとの間の相互作用は、その古典的な例です。Yahooの株価は急速に上昇していました。

人々はそれをインターネットの将来価値のインデックス価格として扱いました。そしてスタートアップは、「Yahooの株価の上昇を見てください。私たちはこのインターネットの土地獲得競争の一部として私たちに賭けるべきです。だから私たちに高い評価を与えてください。私たちはその資金を調達します。私たちは、もちろん、Yahoo広告にそれを費やします。なぜなら、それがユーザーを獲得する方法だからです。」と主張して資金を調達しました。

Yahoo広告に資金を費やすことは、Yahooの収益を増加させ…それはYahooの株価を増加させ…それはインターネットスタートアップへの資金提供への投資家の関心を高め…そしてそれらはすぐにYahoo広告に資金を費やします。

そして、このサイクルが数回繰り返され、私たちは少し先を行き過ぎます。そして、複雑な産業装置が現在、再び、時代の構築のために起こっています。私たちはこの瞬間に歴史を生きています。そして、その複雑さの1つの部分は、株主であるAmazonとGoogleが、主要なサプライヤーであり、また主要な顧客でもあるということです。

そして、ウォール街の一部の人々が、ここに悪い結果をもたらす可能性のある循環性があると感じていると思います。私はその見解を共有していませんが、信頼できる弱気シナリオが存在する限り、それはおそらく信頼できる弱気シナリオの知的構造でしょう。

Zvi: はい、外部からの視点としては、心配するのはもっともだと思います。

私は、技術と起こっていることについての私の理解に基づいて、この問題に多くの知的努力を費やしていなければ、それほど心配しないでしょうが、それは確かに可能です。債務危機のようなものが業界に影響を与える可能性は確かにあります。

世界は、本当に前例のない方法で、かなりの量の債務を提供するように求められています。もちろん、あなたがそうするのは合理的です。これらの企業は急速に価値を増しています。あなたは、あなたが持っているよりも多くの株式を売却したくないのです。だから、それは確かに合理的です。

そして、別の考え方をすれば、もしあなたが資本を効率的に調達し、資本を効率的に配分し、産業革命を効率的に行うことを試みているなら、収益の想定と循環性において少し先を行き過ぎたことによる危機状況の適切なリスクは、ゼロでは全くありません。

ウォール街 vs テック業界

Patrick: また、金融コミュニティのウォール街側と金融コミュニティのテック側は、何が起こっているかについて、本当にお互いの意見が一致していないと思います。ウォール街は、これらは信じられないほどのソフトウェア企業だと見ていますが、業界のソフトウェア側は、ウォール街の首を掴んで「いいえ、あなたは理解していない」と言っています。

Googleのこれまでの全事業史が、このビジネスのためのブートローダーであった可能性があります。

［Patrick注: イーロン・マスクが、人類はAIのブートローダーになるかもしれないと言ったことへの敬意を表します。それは私の主張ではありません。しかし、私たち両方がこの比喩を使っている方法は、あなたが今このエッセイを読んでいるプログラムはオペレーティングシステム上で動作し、それは信じられないほど複雑で価値のあるソフトウェアです。そのオペレーティングシステムは、実行可能であるために特定のハードウェアへのある程度の結びつきを必要とします。これは歴史的にブートローダーによって行われてきました。ブートローダーは、デバイスの電源が入ったときにオンになり、残りのオペレーティングシステムを起動する、非常に最小限のオペレーティングシステムです。ブートローダーは重要なソフトウェアですが、その上に座っているすべてのソフトウェアと比較して、それほど複雑でも経済的に価値があるわけでもありません。］

Googleは、そのフリーキャッシュフローのすべて、あるいはそれ以上を費やし、自身のクレジットラインを最大限に活用するなどして、このビジネスの可能な限り多くの部分を様々な時点で獲得しようとしています。これは単にLLMが検索と広告ビジネスを脅かすからではありません。率直に言って、それは過大評価されています。（そしてGoogleは、検索を自社のLLMであるGeminiの上に薄いペイント層にする方向に積極的に動いています。）

しかし、これは検索を時代遅れにするでしょう。なぜなら、それは資本主義史上最高のビジネスよりもはるかに優れたビジネスだからです。そしてウォール街は、様々な理由で、まだそれを購入していません。1つは、テクノロジー業界がいかに小さいかを過小評価しており、私たち全員が異なるレベルで同じブログを読んでいることを過小評価していることです。

［Patrick注: 数世紀前のAI時代、あるいは人間時間で約12ヶ月前、私はイングランド銀行で働く人々とのチャットをしました。そのチャットのトピックの1つは、最近話題になっていたことでした。ロンドンの責任ある大人たちは、今後12ヶ月間のインフラ構築に必要な資本が利用可能かどうかは不確かだと考えていました。これは、責任ある大人たちが責任ある出版物で、責任ある大人たちとの協議の後、金融機関、国家機関、その他の権力を持つ場所で報告されていました。

私は、責任ある大人たちに、彼らの意見を尊重するが、テクノロジー業界は自分たちのお金を持っていると伝えました。そして、1兆ドルというような些細な金額は、誰かの許可を求めることなく、私たちの能力で簡単に調達できるものでした。（責任ある大人たちは、トランスフォーマーに資金を調達するためにいつ資本が必要になるかについて、ジュニアアナリストに尋ねることができます。それは6ヶ月後に納品される予定です。ネタバレ：それは数年前に完全にコミットされていました。）

私は、AppAmaGooBookSoftの最高経営責任者たちが、あなたがこれまでに出会った誰よりもAIに傾倒しており、そしてラボの多くの人々が、それらの経営陣はラボが12ヶ月前に達成した研究結果について、彼らが知っていることよりも大幅に情報不足であると考えていると、主催者に伝えました。］

Patrick 続けます: そしてまた、テクノロジー業界ではエンジニアがハンドルを握っており、Claude Codeの採用などを指摘して、「これは12ヶ月未満でエンジニアリングの全分野を完全に破壊した」と言うことができます。これは最後ではありません。明らかに、これは将来の経済の数十パーセントです。

そして投資銀行、例えばJPMorganは、まだ「ああ、私たちは年間数十億ドルをトークン費用に費やす世界を本当に見ることができる」とは見ていません。そして彼らがそこに到達したとき、彼らは現在よりもはるかに高い暗黙の評価額を持ち、債務をそれほど割り引かないでしょうが、彼らはまだそこにいません。

3つのAIピル

Zvi: はい、これらの人々が、私の意見では、AIが現在何ができるか、そしてAIの現在の影響についてさえ、信じることを拒否するのは奇妙です。私は3つのAIピルについて話します。AIピル、AGIピル、ASIピルです。AIピルは単に、AIが存在すると信じているか、そしてそれが何ができるかを漠然と知っているかということです。

そして、もし私たちがそれを維持して経済全体に普及させることができたら、私たちはそれで何ができるかということです。そして、テクノロジー業界のほぼすべての人が、これらの企業では少なくともAIピルですが、銀行のような場所のほとんどの人はAIピルではありません。そしてそれは、人工汎用知能、AGI、そして人工超知能、ASIの質問とは別です。

これらの経済学者は、GDP成長を0.5%押し上げるかもしれないと、財務予測を立てています。そして、もしあなたが本当に、本当に狂いたいのなら、1%です。そして、はるかに大きな知能を持つことの意味の客観的なレベルを実際に考えている人々は、「いや、いや、いや、あなたは桁が違う。比較的正常な世界では。」と言っています。

そして、すべてが完全に変革され、人々が皆死ぬかもしれない世界もあります。

Patrick: はい。権力の他の回廊をチェックしています。DCに友人がたくさんいて、私は非営利団体（Sparrow Infrastructure）でDCとサンフランシスコ・ベイエリアの人々がもっと頻繁に会えるように協力しています。そしてDCについての私の感覚は、昨年、私たちは転換しました。もしあなたが代表的な、数えられる影響力のある人々のグループ、例えば議会スタッフを選んだら、議会スタッフの50%以上が、AIツールから有用な仕事を得ることができると信じるようになりました。

素晴らしい。彼らは最初のピルを飲みました。そして、ごく少数の人々が、「さて、私が言っているわけではありませんが、存亡的および/または壊滅的なリスクが米国に存在することについてですが、他の人々がそれを言っているのを聞きました。そして彼らは狂って聞こえません。だから、もし仮に、それらがコンピューターハッキングに非常に、非常に長けていたら、そしてもし仮に国家レベルのコンピューターハッキングと同じくらい長けていたら、そしてもし仮に国家よりも長けていたら、どうなるか説明してもらえますか？」と言っています。

そして、DCの最先端は、今年の2月のMythosリリース…それは何でしたか？…の世界に更新されています。非皮肉なことに、私は、2月の時点に追いつくために、彼らの評判と職業人生などを危険にさらした人々を、8ヶ月遅れで、信じられないほどの先見の明があると思います。［Patrick注: 公開リリースは4月でした。私の最大の過ち。］

DCの基準では、それは信じられないほどの先見の明です。しかし、3番目のピルを飲むこと…私はまだ3番目のピルを飲んでいないと思います、あなたの基準では。

Zvi: はい、あなたは飲んでいません。あなたは十分にASIピルではありません。

Patrick: これをいつ飲み込まなければならないかについて、ますます心配になっています。

［Patrick注: Dwarkesh Patelは、彼の著書で印象的な脚注を書いています。「［LLMは］すでにいくつかの次元で明らかに超人的です：読書と執筆速度、知識の幅、流暢に話せる言語数、そして文章の次の単語を予測する精度。私はあなたが自分で確認することを勧めます。それは明白だと思います。」

私は、LLMが研究数学において明らかに超人的であると自分で確認することはできませんが、これは正しく、そして最近数ヶ月で新しいことのようです。おそらく、ある分野で最も賢いことが、最も良いことを意味するわけではない領域がありますが、研究数学が機械に落ちてきた後では、兆候は明らかです。分野がgロードされている限り、その最先端は間もなく機械によって実行されるでしょう、卒業生ではなく。］

産業革命と未来の奇妙さ

Patrick: 私は、たとえ経済の根本的な変革を認めなくても、産業革命がどのように機能するかというと、新しいものに有利になるようにサプライチェーン全体を再開発することです。そして、自動車と馬車との根本的な影響は、人々がアメリカ全土で多くの長距離旅行をできるようになるということではありません。それも一つの影響ですが。しかし、それは、ほとんどすべての商品とサービスの輸送がもはや馬で行われなくなるということです。そして、私たちは数十年かけて、経済の相互接続を再描画するためにこれを利用するでしょう。そして、それらは、最初のモデルTが組み立てラインから転がり落ちるのを見て、「うん、それは本当にクールなものだ。それがどうなるか想像できる」と言うときには理解するのが非常に難しい方法で、反復され、ループされ、相互接続されるでしょう。そして、私たちは今、それがどのように展開するかを理解する能力が非常に限られています。

［Patrick注: モデルT自体が州間高速道路システムを意味するわけではありません。トラックはアメリカの貨物輸送の大部分を運んでおり、そのシステムによって大幅に可能になっています。長距離トラック運転手は、この国で最も一般的な職業の1つです。長距離馬車は、生理学的にほぼ不可能です。長距離トラック運転手は、全国的なファストフードチェーンを可能にしています。なぜなら、それは年間を通じて大量の食品システムの投入物を供給するからです。そして、実質的に、モデルTは子供たちが何を食べて育つかを変えました。］

私が常に立ち返るのは、未来は本当に、本当に奇妙になるということです。私は、ほとんどすべての人が未来がどれほど奇妙になるかを過小評価していると思います。そして、あなたと私、そして私たちの何人かの友人のような、認定されたインターネット変人たちでさえ、未来がどれほど奇妙になるかを過小評価していると思います。さて、私は未来がどれほど奇妙になるかを過小評価していると言いましょう。

おそらく3番目のピルを飲むことが、それに役立つかもしれません。そうでないかもしれません。

Zvi: はい、私はいくつかの点で、それがどれほど奇妙になるか、どれほど速くなるかについて、成功裏に過大評価しました。しかし、未来は本当に、本当に奇妙になるでしょう。そして現在も、実際には本当に、本当に奇妙です。ただ、私はそれらの質問の一部で、わずかに過大評価しただけです。

そしてそれは非常に残念です。なぜなら、それは将来の危険について警告しようとする試みの縮図だからです。将来の産業プロセス、将来の経済活動、将来の普通の物事について話しているときでさえ、人々はAIをほとんど常に、既存の人間または機械が現在行っている既存のアクションに、今日のAIをどのようにスロットに入れるか、そしてそれが現在行われていることの正確な代替として機能させるか、で測定します。それはそのことにおいてどれほど優れているか？そして、それは明らかに、起こることの非常に小さな部分です。そして、それだけでも世界は本当に奇妙になるでしょうが、それは起こる奇妙さの総量の非常に小さな部分です。再び、AIがこれから比較的普通だったとしてもです。

AI数学と苦い教訓

Patrick: そして、それはイライラします。なぜなら、私たちはすでにこれを十分に経験したので、最近の過去を指して言うことができます。もしあなたがAIがエンジニアリングを変革する方法を、それが既存のIDEで世界最高のオートコンプリートになるだろうと考えていたなら、そう考えていた人々がいました。AIがIDEを以前よりも20%効率化し、それによってエンジニアあたりの総生産量が10%増加するという大きな賭けがなされました。

その信念を持ってから12ヶ月後、私は、エンジニアリング業界のおそらく数十パーセントが、もはやソフトウェア開発のためにIDEを起動しなくなったと考えています。なぜなら、なぜ起動するのでしょうか？それはコンピューターコードを見ていることを意味します。そして、クールな子供たちの最先端はそれをはるかに超えています。クールな子供が、自分のメインエージェントにコンピューターコードを見させるのはなぜでしょうか。なぜなら、スワームが彼の代わりにコンピューターコードを見て、彼のコンテキストウィンドウを節約してくれるからです。

私たちは、非常に短い期間で、非常に困難な領域で、タスクの外観の根本的な再考を行い、それが回転し始めます。

数学の分野は奇妙です。なぜなら、数学的ブレークスルーに関連する個々のドル価値は非常に低いですが、それらは非常に難しいことで知られています。そして、実質的にマーケティングのスタントとして、両方のラボは、SaaS企業がブログ記事を書くのと同じような巧みさで、数学の定理を次々と打ち破ったり、仮説の証明を生成したりしています。

そして数学コミュニティはこれに対して非常に感情的に葛藤しています。そして、私は、今後数年間で、穏健に言えば、私たちのすべてが何らかのことで感情的に葛藤することになるでしょう。しかし、その結果を生み出したのは、チャットボットが数学者と対話し、仮説を推進する上で、以前のWolfram Alphaよりも優れているということではありません。

それは、RSI、再帰的自己改善です。エージェントのスワームは、問題に対してある程度の指示を受けて、内部でチャットするだけで、過去数千年もの間、王の馬や王の兵士たちでさえ思いつかなかった証明を自律的に書き出し、そして、研究数学の分野全体が、それらが生成される速さでチェックできないほどの速度でそれらを生成します。

しかし、良いニュースもあります。それらが正しいと確信しています。なぜなら、それらは形式化を伴うからです。これは、研究数学が通常証明を伴わないものです。なぜなら、証明自体よりも100倍以上費用がかかるからです。私の心は吹き飛んでいます。そして、この未来は奇妙です。

私たちは、今後数年間で、多くのことに対して心を吹き飛ばされるでしょう。

Zvi: はい、それは苦い教訓です。物事をより有能にするだけで、突然、予想していなかったことを、ほとんど魔法のように、自分でできるようになるのです。

あなたは突然、「ああ、実際、LLMは運転できる。」と言います。それは、「LLMは運転できる？」ということです。はい、LLMは運転できます。何を期待していましたか？

［Patrick注: ずっと昔、遠い場所で、私はコンピュータビジョンラボに所属していました。コンピュータビジョンは、何十年もの間、活発な学術分野でした。ジャーナル、カンファレンス、博士課程があり、「このJPEGで顔を見つける」や「この写真に鳥は含まれていますか？」のような実用的で有用な問題の漸進的な改善を積み重ねていました。

LLMは、多くのコンピュータビジョン問題を偶然解決します。この写真に鳥は含まれていますか？

［画像］

Claude Fable 5.1が高く、質問され、詳細に説明するように指示されると、次のように応答します：はい。鳥は1羽います：ほぼ中央に、ディスプレイ中の成鳥のインドクジャク（Pavo cristatus）です。 …

Claudeはさらに数千語を書き、クジャクがカメラから約6メートル離れていると推定し、写真の場所をバルセロナ市動物園と35%の確信度で特定しました（「それは公園のシウタデリャ公園内にあり、プラタナスの木に囲まれています。その古い展示物はまさにこの丸太と偽岩の障壁スタイルを使用しています。そのクジャクは自由に歩き回っています。そして、その淡い砂色の表面はバルセロナのサウロのように見えます。次点：リスボン動物園、ローマのビオパルコ。」）。

Claudeは正しいです。私は2015年にバルセロナ市動物園でこの写真を撮りました。インターネット上では公開されておらず、質問する前にEXIFデータを削除しました。Claudeは、その声明にpedantically異議を唱えます：あなたが送ったファイルはカメラのJPEGではありません。それは、1076 x 1404 RGBA PNG（アルファは完全に不透明）で、名前が「Display」のICCプロファイルと、PixelXDimension=1076およびPixelYDimension=1404のタグのみを持つ62バイトのEXIFスタブを保持しています。その署名はmacOSがスクリーンショットまたはプレビューエクスポート用に書き込むものです。補足：左側の18列は写真の一部ではない完全に均一な灰色（150,150,150）です。つまり、選択矩形によってキャプチャされたビューアの背景です。したがって、「EXIFが削除された」は効果としては真ですが、明示的に削除されたというよりはスクリーンショットによって行われたように見えます。］

トレーニングされていない能力

Patrick: 数年前、私はラボの1つを訪れ、彼らはリリース前のモデルを見せてくれ、「ところで、このモデルが日本語を話すことは意図していませんでした。

私たちは建物内に日本語ができる人はいません。意図的に日本語をトレーニングデータに含めたわけではありません、などなど。モデルは、英語のインターネット上の十分なページから日本語言語の構造を直感的に理解したと考えています。だから、これが私たちのデモです。Patrick、このモデルが日本語を話すかどうか教えてください。CNN.comのニュース記事を日本語に翻訳するように頼んでみます。」と彼らは言いました。それは明らかに誰もトレーニングセットに含めていないものです。「これを日本語に翻訳してください。」そして私はそれを読みました。「OK、一度プロの翻訳者として、この翻訳の品質チェックに最適な人物ではありませんが、指を風になびかせて、はい、あなたのモデルは日本語を話します。おそらく20年間、私のすべてのサイクルをその習得に費やしてきた私よりも、あなたは日本語が上手でしょう。偶然達成しました。素晴らしい。」

それで、あなたは先日Twitterで言及しましたが、Anthropicは、独自の理由で、画像生成モデルをリリースしないことを決定した、あるいは、画像生成モデルのリリースを優先しなかったということです。Stable Diffusionのような画像生成モデルに関するAI研究のサブストリームがありました。OpenAIは非常に有能なモデルを持っています。Midjourney、yada, yada, yada。そして、Anthropicは、Claude Codeに十分焦点を当てた結果、偶然にも画像生成モデルを発明しました。彼らは、画像生成が、コンピューターコードをたくさん書けばできることの1つであるという、驚くほど画像関連のタスクを実行する能力を持っています。

Zvi: はい、基本的にすべては、十分なコンピューターコードを書くことができ、合理的な思考とデータ分析能力があれば達成できると思います。そして、AIは、彼らに入ってくるすべてのデータの構造に内在するすべてのことを理解すると予想すべきです。そして、地球上のほぼすべてがインターネットの構造に内在しています。

Patrick: それは素晴らしい、恐ろしい教訓です。苦い教訓とは反対のものです。私は、現在の重みにあるニューロンの数がどれくらいかはよくわかりませんが、Stable Diffusionの最初のバージョンが出たとき、現在の基準では、Stable Diffusionは画像生成において笑えるほどひどいものでした。しかし、あなたは確実に芸術のように見えるものをそこから得ることができ、それは2ギガバイトのダウンロードでした。そして、人類の芸術史を2ギガバイトに圧縮できるというのは、少しワイルドでした。情報理論によれば、それは不可能であるはずです。しかし、Stable Diffusionは、ダウンロードして品質の出力を引き出すことができるアーティファクトでした。

そして、人間の経験の大部分は重みに圧縮されています。それは、私たちが生きている世界の声明であり、それはワイルドです。そして、それがエージェント的な方法で、人間の経験にはないこと、しかしそれにブートストラップされたことを行うために活用できるという事実は、それ自体のワイルドさのフレーバーです。

そして、あなたが今、物理宇宙で見ることができるワイルドさと奇妙さのすべてのフレーバー、S-1などに反映されているものについて、私たちはまだ何も見ていません。それは良いことかもしれません。

能力 vs 拡散

Zvi: 絶対に。これまでのところ、私は次のように要約したいと思います。モデルがこれほど速く能力を獲得したことに驚いています。そして、他の皆と同じように、彼らがどれほど能力を獲得したかという条件で、私たちの周りの世界がその結果としてどれほど違って見えるかという点に驚いています。

拡散は私が予想していたよりも遅かったですが、最終的にはそれは問題ではありません。そして、モデル自体が拡散を推進できる能力を持っているため、拡散は加速するでしょう。だから、はい、高い奇妙さを期待してください。

Patrick: 私は、能力の進歩の速度に関しては、あなたや他の人々よりもはるかに悪く調整されていましたが、拡散に関してはより良く調整されていたと思います。

彼らは私の拡散モデルよりも速く拡散しています。（ここでは「拡散」は専門用語で、資本主義がそれらをどれだけ速く採用しているかということです。）

［Patrick注: 私の単純な拡散モデルは「資本主義がGPT 3レベルの能力で、あらゆるものにそれを普及させるのに約10〜15年かかる」というものでした。あなたはAI 2027などと比較することができます。重要なのは、GPT 3/3.5はすでに産業革命を引き起こすのに十分であったと私が信じていることですが、それを活用するために十分な努力をした場合です。］

Zvi: はい、私は拡散の速度についてそれほど狂ったように愚かではなかったと思いますが、私は実質的にそれについて高かったと思います。そして、それは私には非常にクレイジーに見えます。周りを見回すと、「まあ、彼らはあなたのためにすべてクールなことをできる素晴らしいものを持っていて、非常に安価だ。なぜ人々はそれに投資しないのか？」と思います。そして人々は行動しません。時間がかかります。彼らは他の人々がそれを行うのを見る必要があります。それは、飛躍したり、投資したりする必要がないように、自然にそこにステップバイステップで存在する必要があります。

Patrick: はい。そして明確にするために、私たちが資本主義がまだ何もしていないと言っているとき、それは推論に年間数十億ドルしか費やされていないということです。

明らかに、もし私たちが真剣なら、すでに数兆ドルに達していたでしょう。

そして、何も投資アドバイスではない、などなど。しかし、私たちが数兆ドルの推論支出に到達しないと仮定するには、世界のクレイジーなことを仮定しなければなりません。それは、推論コストの完全な崩壊、あるいは、おそらく、すべての人間の死、あるいは世界経済の大幅な縮小などです。

これらはオンデマンドで認知を提供します。その価値に明確な上限はありません。

Zvi: はい、もちろん、5年後、モデルの能力がほとんどの実用的な目的で事実上停滞し、皆が使用するモデルが現在私たちが最先端モデルに支払っている費用の10分の1または100分の1になり、そしてそれは非常に、非常にコンピューティング効率が良いということが判明する可能性はあります。そして、私たちはそれをもっとたくさん使うでしょう、そうでしょう？

その状況では、それが非常に優れていて非常に価値があるため、そしてそれを使って何をすべきかを理解する時間があったためです。

フロンティアでのトークン支出

Patrick: あなたのソーシャル/プロフェッショナルセットなどの人々の中で、現在、月あたりのトークン使用量のピークについて、何か逸話はありますか？

Zvi: 私は奇妙な立場にいます。私は作家なので、大量のコードを書くわけではなく、制限に達しません。私は最大サブスクリプションを持っています。なぜなら、バリアに達しないことが私にとって非常に重要だからです。また、初日にすべてにアクセスできることが非常に重要なので、評価して報告できます。

ほとんどの人が1週間待つことができても、それは実際には問題ではありません。

Patrick: 私はまだ言える立場にありませんが、少なくとも1人の人物が、彼らの専門的な仕事の加速のために、月に100万ドル以上を推論に費やしており、彼らの雇用主は毎月彼らの推論支出を見て、「素晴らしい。それは成長し続けている。素晴らしい。」と言っていることを知っています。そして、世界で月に100万ドルの支出に達する人がそれほど多くなくても、これらはクレイジーなビジネスになり得ます。そして再び、この人物の現在の仕事は2年前の彼らの仕事と似ていますが、仮想のミニオンのチームがいるため、彼らは今、はるかに多くのことを行っています。

Zvi: はい。私の推測では、私が推論に現在費やしている額の少なくとも10倍、おそらく100倍を費やしていないという事実は、主にスキル不足です。私はそれをどのように行うかを理解することに優先順位を置かないことを選びました。しかし、それは私がそうすべきであると、ばかげて思えます。

Patrick: はい。

私も同じように感じています。私は時々このポッドキャストのために人を雇うことを考えていますが、もし私が厳密に合理的であれば、それは「すべてを自動化する」に4週間費やすだけでしょう。しかし、私はまだそれをしていません。たとえ私がここで生産機能の様々な部分でAIを広範囲に使用していてもです。

S-1に関する最終的な考察

Patrick: では、AnthropicのS-1について、まだカバーしていないことはありますか？

Zvi: それが主なものです。それは、彼らがほとんど標準的な企業文書を選択して書き、非常に、非常に速い成長の可能性を示し、非常に、非常に魅力的な、非常に良い財務諸表と見通しを提供したということです。

しかし、私たちがより詳細を得た企業構造と、コミュニケーションの選択を除けば、中心的な問題はニュースではなかったと感じています。私たちはAnthropicがどこにいるかを漠然と知っていました。彼らはすでに多くの詳細を事前に共有していました。そして、私たちは皆、それを少しでも良く理解するために、そして私たちが持っていなかった多くの詳細を得るために見ていました。しかし、ええ、AnthropicのS-1は、ある程度、私たちが常に知っていたS-1でした。彼らが前に出て、より堅牢な警告を発行していたら、非常に喜ばしく驚いただろうと思いますが、期待はしていませんでした。

Patrick: 私たちがまだ議論していないマイクロノートは、S-1が一度、明示的に能力の成長と製品の改善、そしてAnthropicがこれまでの製品を経済的に凌駕する製品を作成することを検討していることです。

そして、私たちは実際にこの種のイテレーションをいくつか見てきました。彼らはAPIを持ち、次にAPIの上にチャットボットを持ち、次にClaude Codeを持ちました。これは単一スレッドのチャットボットとは全く異なるものであり、それ以降も構築を続けています。私は常に、ラボのチャットボットを、実際の製品、つまりAPIのセールスエンジニアとして認識してきました。しかし、エージェントとハーネスは、APIを使用する「正しい方法」であるようです。単一スレッドの呼び出しと比較して。そして、それが2年後も真実であるかどうかを見るでしょう。しかし、現時点では経済的関心はそこにあります。そして、自己改善ループにますます緊密に入り込むにつれて、以前のビジネスをゼロにするのではなく、経済的に無関係にするビジネスの層が増える可能性があります。なぜなら、それらははるかに価値があるからです。それは、10億ドル以上をベースにした15倍の収益成長を達成していたものが経済的に無関係になるというのは、ワイルドなことです。しかし、私たちは、個々の証券の株価やリターンに関係なく、ワイルドでワイルドな数年間を価格設定されています。

ハッケニングと責任の所在

Zvi: はい、それはほとんど保証されていると思いますし、物事のペースは加速しています。The Hackeningは過去数日間で悪化する一方のようです。

Patrick: それについて少し議論できますか？ラボに対して反発があると思います。なぜなら、私はラボが私たちをそれに対してより脆弱にしたとは思いません。ソフトウェアは、ソフトウェアの全生涯を通じて安全ではありませんでした。それが、それを作成するデフォルトの方法です。最近、AIで強化されたハッキングインシデントを通じて、その請求書にさらされています。ほとんどの場合、ハッカーを強化するために実際に使用されたツールは、ラボの製品に直接のものではなく、ラボの製品を蒸留することに大幅に依存して作成されたオープンウェイトモデルのいずれかであったようです。（ただし、ラボの製品が直接様々なターゲットに対して悪用された記録的なケースもあります。）

そして昨日、私たちは2つの主要なインシデントを経験しました。朝、私は「わあ、Polymarketは大きな、しかし取るに足らない損失を被った」と考えていました。そしてBinanceは北朝鮮に対して50億ドル以上の損失を被りました。AIが世界経済に与える影響について言えば、AIが国家のGDPの5%以上を占める時点はすでに過ぎています。北朝鮮のGDPの5%以上を占めています。なぜなら、彼らが暗号通貨の人々からお金を盗むビジネスモデルで革新することを可能にしているからです。そして、私は暗号通貨をあまり叩くべきではありません。彼らは暗号通貨の人々からだけ優先的に盗んでいます。なぜなら、それが最も低い吊るされた果実だからです。暗号通貨業界からさらに数十億ドルを盗んだ後、彼らは現在よりもさらに積極的に私たちを攻撃し始めるでしょう。しかし、人々は「わあ、今や、少なくともLLM以前の価格で、5000億ドルの修正が必要だ」という時期に来ると思います。そして、この5000億ドルは、一部の人々にはラボからの身代金要求のように感じられるでしょう。なぜなら、私たちが合理的にそれを支払う唯一の方法は、AIをブルーチーム、つまり防御者のために採用することだからです。

そして、「あなたが問題を作り出し、今、それに対する解決策を数十億ドルで売っている」ということは、一部の人々を不快にさせるでしょう。この点についてどう思いますか？

Zvi: あなたは楽観的なシナリオを描いているように感じます。つまり、技術的負債の固定されたセットがあり、ほとんどの場合、それは単に請求書の到来が通常よりも速くなっただけであり、AIを通じてそれに対処することを余儀なくされているということです。それはあなたに多くのお金を費やさせるでしょうが、最終的には一度限りの請求書であり、あなたはそれを支払うことができ、問題は解決されます。

私はそのようには考えていません。

Patrick: 私はそれを一度限りの請求書とも考えていません。単にバックログがすでに5000億ドルに価格設定されているだけです。

Zvi: そうです。問題は、その5000億ドルを使い始めた瞬間に、それがもはや堅牢なものになるとは思わないということです。それは、次のレベルの物事、次のドミノのセットが倒れ始めるようなものです。

インターネット全体と現代世界のすべてを、完全には安全でないものに基づいて構築するのは、明らかに非常に合理的でした。なぜなら、完全に安全であることはほぼ不可能だからです。そして以前は、1）トラブルを引き起こそうとする人、2）トラブルを引き起こす能力と知識を持っている人、そして3）あなたとあなたのものを特に標的にする、非常に限られた人々がいました。なぜなら、世界には非常に多くのものがあり、それらを標的にする人々はそれほど多くなかったからです。

そして今、あなたは大規模に、並行してプローブして悪用することができ、任意の数の人々がそれを実行でき、それらの能力は向上しており、彼らはいつでも好きな弱点に火力を集中させることができます。弱点を見つけることを含めて、火力を集中させるために。

はい、それは劇的に、劇的に難しくなるでしょう。そして、私は「インターネットが壊れる」という最大主義的な見方をする人でもなければ、Wi-Fiを有効にしたすべての電話がすぐにルート化されると仮定する人でもありません。これらは可能性のあるシナリオではないと思いますが、私たちはインターネットの多くを、おそらく永久に、ロングテールで失うことになるでしょう。多くのことが比較的頻繁に起こるでしょう。多くのものが盗まれるでしょう。多くのものが侵害されるでしょう。多くの情報が漏洩するでしょう。私たちは継続的な問題のセットを持つことになるでしょう。ラボはこれの責任を問われるでしょうか？まあ、ある程度はそうです。しかし、彼らは責任を問われるべきです。アメリカのモデルなしでは、これを行う能力のある中国のモデルは存在しないでしょう。

Patrick: ふむ。そこには複雑な功績の概念があると思います。ラボが最先端のモデルを持っていなければ、この状況は起こらなかったという点では同意します。他の人々が彼らの技術を使用して行った決定の結果を彼らのせいにすることが合理的かどうかはわかりません。同様に、彼らが単に蒸留を十分に速くロックダウンしなかったと主張することが合理的かどうかはわかりません。そして今、彼らは何らかの形でその結果に対して道徳的に責任を負っているのかどうか。私は知りません。

Zvi: つまり、それは良い締めくくりの点だと思います。それは単に、インセンティブではなく、あなた自身です。そしてこれは存亡リスク、そしておそらく、私たちが自分たちよりも賢く、より有能なものを制御する方法を知らないときに、皆を死に至らしめるAI競争につながるもの、あるいは、良い解決策がない均衡を生み出し、すべての自然な結果が非常に悪い場合、それにつながるものを作り出すことになります。

そしてそれはハッキングにも適用されます。個々の決定は理にかなっていますが、必然的にこの道を進み、あなたは実際にこれを十分に軽減する方法を見つけられませんでした。あなたは実際にそれを修正する方法を見つけられませんでした。そして彼らは、状況を軽減しようとして、GlasswingやDaybreakなどの、非常に称賛に値することをいくつか行いました。

もし彼らがそれらのことをしていなかったら、それははるかに悪かっただろうと確信しています。しかし、結局のところ、ええ、それはインセンティブではなく、あなた自身です。他の誰かがそれをやったからといって、あなたがそれをしても良いということにはなりません。なぜなら、他の誰かがあなたを指しているからです。

トラップドアと不可逆的な決定

Patrick: 私は、決定にはトラップドアの要素があると言わざるを得ません。私たちは、完全には元に戻せない決定を下しています。

そしてそれは数年前から明らかでしたが、多くの人々が、元に戻せると思っていた世界では合理的な見解を持っていた人々が関わっていました。そして、テクノロジー業界には多くの人々がいます。この問題に対して多くの資金をロビー活動に投じた人々も含め、オープンソースモデルが利用可能であることを非常に強く支持しています。

そして、オープンソースモデルとオープンウェイトが能力を達成すると、それは、もしあなたがすべての基本的なコンピューティングを世界的に監視する体制を成功させない限り、将来の最悪の能力はそれ以上悪化しないでしょう。それは、私たちが数学をブラックリストに入れることができれば、信じられないほどディストピアな世界になるでしょう。

だから、一度それが外に出たら、それは外に出てしまいます。そしてそれは今、北朝鮮や他の悪意のあるアクターを強化する能力を持って外に出てしまいます。そして、私たちはそれを決して元に戻すことはできません。私たちは今いる場所から前進するしかありません。そして、私は、例えば、AIが潜在的にできることの基準から見れば、Binanceから50億ドルを盗むことは、平凡なリスクです。将来、他のトラップドアが現れるでしょう。そして、私たちはそれらのトラップドアにも落ちたくありません。そして、それが呼び出すのに良い場所だと思います。さて、Zvi、議論してくれてありがとう。最近、あなたのニュースレターは、このフロンティアについていくのが難しい人々にとって、不可欠なものになっています。

どこで見つけられますか？

Zvi: 私のニュースレターはthezvi.substack.comで見つけることができます。

Patrick: 番組に来てくれてありがとう。そして、聞いてくれた皆さん、聞いてくれてありがとう。来週、Complex Systemsでお会いしましょう。

---