GLM 5.2と迫り来るAIマージン崩壊

これは、私がAI経済における最も理解されていないと思われる変化の1つに焦点を当てた2部構成のシリーズです。もしこの記事を楽しんでいただけ、第2部について通知を受け取りたい場合は、私のニュースレターに登録してください。 真のDeepSeekの瞬間が訪れています。 数十年前に感じられるほど昔、市場はDeepSeekのR1モデルに反発しました。その理論は、基盤となるV3モデルのトレーニングコストが600万ドル未満であったと報告されているため、市場はモデルトレーニングのための設備投資への巨額の投資は終わったと考え、それゆえNvidiaなどの株価は一夜にして暴落したというものでした。もちろん、これはAIにおけるコストが実際にある場所についての非常に誤った読みでした。 トレーニングは、疑いなく設備投資集約型ですが、固定の初期費用です。モデルをトレーニングするために数億ドルを費やし、その後「完了」します。[1] 一方、推論は需要に応じてスケールします。これには真の限界費用があります。私はこのことについて過去1年ほどにわたって詳しく書いてきました。ここでも、主流の理解、つまりAPIプロバイダーが請求するコストが彼らの実際のコストであるという考えは誤っています。実際、Anthropic/OpenAIが推論に100万トークンあたり25ドルを請求するとき、私の概算では、これはおそらくコンピューティングコストに対する粗利益率が90%程度であると示唆しています。それは少し高いか低いかもしれませんが（OpenAIの流出した財務諸表は、収益に対する粗利益率が約60%であることを示唆していますが、これにはサポート、支払い処理、および彼らが提供するその他のサービスなど、多くの他のコストが含まれていることは間違いありません）、フロンティアAIラボのビジネスモデル全体は、モデルをトレーニングするために多額の給与とコンピューティング費用を費やし、その後、そのコストを非常に収益性の高い多数の推論に償却することです。十分な推論でそのコストを償却できれば、原価ベースで収益性がある状態から…実際に収益性のある状態になります。 GLM 5.2 私は過去数週間、Z.aiのGLM5.2を試してきました。GLM5.2は、OpusやGPT（執筆時点でのGPTの最新バージョンは5.5であり、将来のモデルは間違いなくこれを上回るでしょう）の真のオープンウェイト競合他社の「基準」に達した最初のモデルであると信じています。それは本当に非常に優れており、私の日常的なドライバーであるOpusとの違いをほとんど見分けることができません。思考に多くの時間を費やすため、遅いと感じています。インタラクティブでないエージェントタスク（バックグラウンドでのPRレビューなど）で、時間的制約がない場合は問題ありませんが、インタラクティブな使用では私の注意を引き続けるには明らかに少し遅すぎます。これはコスト効率もいくらか低下させます（より多くの思考はより多くのトークンを意味し、コストが増加します）。また、ビジョンサポートもありません。 私がかつてビジョンをほとんど使いたくなかった（非常に不正確で、ビジョンを使用しているのに気づくとセッションを一時停止することがよくあった）ことから、Opus 4.7がより高解像度のビジョン機能をもたらして以来、常に使用するようになったのは、驚くほど速い変化です。画像ベースのPDF、スクリーンショット、デザインファイルを読み込めないのは本当にフラストレーションがたまります。彼らはよりマルチモーダルなモデルを開発中であると確信していますが、これはフロンティアラボに対する重大な弱点です。 第二に、そして私が本当にブロッカーになるとは予想していなかったのは、ウェブ検索機能の欠如/貧弱さです。ほとんどのエージェントセッションで、アイテムを検索するために多くのウェブ検索が行われることが判明しました。Z.aiはウェブ検索用の代替MCPを提供していますが、それはかなりひどく遅いです。Fireworksは何も提供していませんが、製品の改善を常に模索しているという非常に曖昧な回答をくれました。個人的には、これは計画がないと受け取りますが、様子を見ましょう。ddgrのようなCLIベースのウェブ検索を使用するようにエージェントに指示することで、ある程度回避できましたが、これは現在本当の弱点です。 私はサードパーティのウェブ検索APIの可能性に非常に楽観的です。これは実際、オープンウェイトモデルプロバイダーが提供できるものにおける巨大なギャップであり、優れたウェブ検索機能が多くのエージェントタスクに不可欠であることが判明しました。それでも、多くの人々がウェブ検索インデックスを構築しており、適切なパートナーシップと配管が整っているだけで済むため、これは時間とともに解決されるでしょう。 ドロップインリプレイスメント フロンティアラボにとって本当に恐ろしいのは、オープンウェイトモデルへの移行がいかに簡単かということです。Z.aiとFireworksの両方が、OpenAI互換およびAnthropic互換のエンドポイントを提供しています。これにより、Claude CodeやCodexとの連携が非常に簡単になります。ベースURLを推論プロバイダーに向けるように設定し、APIキーを与えてGLM5.2を使用するように指示するだけです。 Anthropicが最近、Claude-pの非インタラクティブなエージェント使用に対するAPI料金の請求を発表（その後撤回）したことを考えると、それらのユースケースの多く/ほとんどで、GLMをドロップインするだけで済むでしょう。そしてインタラクティブな使用では、ビジョンの欠如と（より）遅い速度[2]を除けば、Claude CodeでOpusを使用していないと気づくことはほとんど不可能でした。 これは、数年かけて移行計画を立てる必要があるMicrosoftやSalesforceのようなロックインではありません。切り替えコストは信じられないほど低く、フロンティアラボモデルがしばしば変更するポリシーや利用規約の変更についていくよりもはるかに低いと主張します。Claude Codeがサードパーティプロバイダーの使用をより困難にする可能性がありますが、多くの優れたオープンソースオプション（Codex自体やOpenCodeなど、数十種類あります）があります。 エンタープライズから聞く懸念の1つは、データプライバシーとセキュリティです。Z.aiの公式APIとサブスクリプションの使用は、利用規約が少なくとも弱いこと、そして中国本土との深い繋がりを考えると、ほとんど間違いなく除外されるでしょう。しかしもちろん、オープンウェイトはオープンであるため、市場には多くの他のプロバイダーがおり、多くは適切な契約条項を持っています。そして、それでも十分でない場合は、もちろん自分でオンプレミスでホストすることもできます。これにより、これまで第三者に送信できなかった、さらに機密性の高いデータも、Opus品質のエージェントワークフローに公開できます。 コスト削減 GLM5.2の現在のレートは、100万トークンあたり約4.40ドルです。これはOpusの小売価格の20%未満、GPT5.5のコストの約15%です。さて、特定のタスクでより多くのトークンを使用するため、これは完全にリンゴとリンゴの比較ではありません。しかし、品質が非常に近い場合、ほとんどのワークフローで50%以上安いことは間違いないでしょう。 サブスクリプションに関しては、Z.aiはAnthropicやOpenAIで見られるようなプランを反映した「コーディングプラン」サブスクリプションを提供していますが、主張される使用量制限は高くなっています。ほとんどのプロフェッショナルな使用では、トレーニングとデータ保持に関する非常に緩い条件が販売を困難にするでしょうが、フロンティアラボが価格を大幅に引き上げようとした場合、予算を意識する人々にとって信頼できる選択肢となる可能性があります。 これらのGLM5.2のコストは、サービングスタックの最適化が進むにつれて、今後数ヶ月で大幅に低下すると予想されます。Waferは、AMDハードウェアで実行するための取り組みについて興味深い記事を書いています。彼らは、Nvidia Blackwellで推論を実行するよりも、AMDで実行する方がトークンあたり2.75倍安価であると示唆しています。 第2部では、推論マージンの崩壊が業界にどのような影響を与えるか、そして誰が勝ち、誰が負ける可能性が高いかという点が興味深くなります。Bezosの有名な言葉「あなたのマージンは私の機会です」を心に留めておいてください。もしそれが公開された瞬間にあなたの受信トレイに届けたい場合は、ニュースレターに登録してください。または、RSSフィードがあなたの好みに合えば、そちらを取得してください。 開示 - Fireworksは、この記事の執筆を支援するために、GLMを試すための無料クレジットを親切に提供してくれました。 これは単純化です。フロンティアラボは競争力を維持するために常に新しいモデルをトレーニングしているため、実際には真の一回限りの費用ではなく、ローリングコストです。しかし、重要な区別は依然として当てはまります。推論とは異なり、そのコストは顧客が実際に製品をどれだけ使用するかによってスケールしません。↩︎ 公平を期すために言うと、遅さは主にモデルが多くの思考をしているためであり、サービング自体によるものではありません。FireworksはGLM5.2を非常に高速なトークン/秒でリリースしました。これは大幅な改善でした。