AI・機械学習
トークン価格を考える方法
Ways to think about token pricing (ben-evans.com)
要約
現在のトークン価格は、供給不足と不安定さという2つの確実な事実に直面しています。データセンターや半導体の設備投資、推論効率の向上、新しいモデルの効率化により供給は増加しますが、ソフトウェア開発におけるAIの製品市場適合性が需要を牽引しており、この需要が将来的に持続するかは不明です。推論の利益率は高いものの、モデルの学習コストや将来的なユースケースのROIは不透明であり、市場は今後数年間で再均衡に向かうと予想されます。
全文翻訳
トークン価格を考える方法
トークン価格について確実なことが2つだけあります。それは、供給不足にあり、そして不安定であるということです。すべての変数が影響しており、市場は今後数年間で再均衡に達するために激しく変動するでしょう。
現在、私たちは「稼働時間」について多くの熱狂的な分析を行っていますが、その究極の問いは、基盤モデルが持続可能な価格設定力、戦略的レバレッジ、価値捕捉能力を持つのか、それとも低マージンのコモディティインフラストラクチャプロバイダーになるのかということです。現時点では、私たちが確認できるすべてのダイナミクスが後者を示唆していると思います。
明らかに、今日の状況は一時的です。供給側では、1兆ドル以上のデータセンター設備投資がパイプラインに入っており(さらにその背後には多くの半導体設備投資があります)、推論効率は非常に速く向上し続けており、新しいモデルはトークン使用において(はるかに)効率的になっています。
需要側では、市場は2022年から能力に制約がありますが、今年の前半の逼迫は、実際にはごく1つのユースケース、すなわちソフトウェア開発における突然の製品市場適合性によって引き起こされており、これは実際にはかなり小さな分野です(もし私たちが何億ものDAUを持つ消費者向けユースケースの製品市場適合性を持っていたらどうなるか想像してみてください――今日のインフラストラクチャでは、どんな価格でもそれをサポートできません)。
次にどのユースケースがスケールするか、それがいつになるか、そしてそのトークンニーズがどうなるかはわかりません。
より高いレベルで見ると、今日の推論には40〜50%の粗利益があることが広く報告されています。これには、関連するサーバーコスト(またはそれらを借りるコスト)の減価償却が含まれますが、資産寿命(5年? 7年?)は実際にはわかりませんし、明らかにこれは年に数回新しいモデルを学習するコストを含んでいません。これは現在、収益をはるかに上回っています。
原則として、推論は限界費用であり、学習は固定費用です。したがって、十分な収益があれば利益を達成できますが、学習コストがどのように変化するかはわかりません。
一方、過去数ヶ月の使用量の急増のどれだけがROI(少なくともCFOに定量化できるROI)を持っているのか、将来のユースケースは言うまでもなく、人々がそれらにいくら支払う用意があるのかは不明です。
したがって、すべての変数は今後12ヶ月間、そして今後3年から5年間、あちこちで大きく変動します。これがどこに落ち着くかを示唆するにはどうすればよいでしょうか? サプライ、デマンド、価格、キャパシティ、設備投資はどのように、そしてどこで均衡に戻るのでしょうか?
理論的には、ボトムアップでモデル化できます。上記の各変数についていくつかの仮定を立て、現在いくつのチップがあるか、TSMCや他の半導体業界がいつ、どのような性能のチップをどれだけ供給できるか、そしてそれらがデータセンターでどれだけ速くオンラインになり、どれだけ速く電力を供給できるかをモデル化しようとすることができます。その後、価格規律について考え、ユースケースについて推測することができます。
これにより数字は得られますが、1998年にブロードバンド市場の5年間の予測を構築しようとするようなものになるでしょう。スプレッドシートは非常に見栄えが良く、今年の数字にかなり近づくかもしれませんが、より長期的な市場構造の有用な予測を行うには、未知の変数が多すぎます。
言い換えれば、トークン価格は、売り手の限界費用と買い手のROIの間のレベルでの供給と需要の関数であると言えますが、供給、需要、限界費用、またはROIが何になるかは実際にはわかりません。
もう1つのアプローチは、トップダウンで見ることです。このようなものはどのように展開する傾向がありますか? ビルディングブロックは何であり、どこへ行くことができますか?
この会話のほとんどは、このカーブに何が起こるかに依存します。まず、カーブの右上にいる、フロンティアにいることにいくら払う人がいるでしょうか? 一方の極端には、小さく、古く、おそらくオープンソースのモデルでうまく機能し、オンプレミスまたは携帯電話で「無料」で実行できるユースケースがすでにあります。もう一方の極端には、最新で最も高価なフロンティアモデルからより良い結果を得て、多額のお金で大量のトークンを消費するものが存在するでしょう。そして、その中間に多くのものが存在するでしょう。
したがって、コストカーブをどれだけ上に進むことでより良い結果が得られるユースケースはどれくらいあり、それに対するROIがあるのはどれくらいで、そしてモデルが小さく、安く、「十分」で、はるかにコモディティ化されたモデルによって処理される使用量のどれくらいでしょうか?
楽観的な見方では、より高価なフロンティアモデルはより良い結果をもたらすためROIが上昇するかもしれませんが、それは本当にどこに適用されるのでしょうか?
第二に、フロンティアは大幅に移動し続けますか? これは明らかにAIにおける最も基本的な科学的な質問です。フロンティアはどれくらい改善し続け、どれくらい多くのコンピューティングパワーを必要とし続け、そして効率と容量の増加による価格下落圧力を上回るペースでそれが起こり続けるのでしょうか? カーブの費用のかかる先端は、引き続き存在するのでしょうか?
第三に、フロンティアモデル間には激しい競争が続くでしょうか? フィールドはますます少ないフロンティアモデルに縮小し、おそらくネットワーク効果が出現するでしょうか? フロンティアモデルは分岐し、異なるモデルが異なる分野でより明確なリードを持つでしょうか? それは持続可能な価格設定力への別の道となるかもしれません。
それとも、フロンティアモデルをすべて製造しており、すべて一般的に同等の能力を持つ企業が、中程度の数社で継続するのでしょうか? 現時点では、誰もがほぼ同じ科学とほぼ同じトレーニングデータを使用しており、ほぼ同じ結果を得ています。そして、1社が先行し、先行し続け、他社が持続可能な方法でできないことをできるようにするネットワーク効果やその他の勝者総取り効果はまだわかっていません。それは変わるのでしょうか?
第四に、これらのハイエンドユースケースからの価値のどれだけが、フロンティアモデル自体によって捕捉されるのでしょうか? 従来のソフトウェア企業に関連するツール、プロセス、独自のデータ、市場投入、ネットワーク、サポート、その他のすべてにどれだけラップする必要があるのでしょうか。たとえその下に大きな高価なフロンティアモデルが必要だとしてもです。
そのモデルはすべてを行うことができるのでしょうか、それともモデルは、どれほど優れていても、実際の製品を作るために使用するインフラストラクチャの一部にすぎないのでしょうか? 極端な場合、モデル自体がそれらすべてを発明して作成できるのでしょうか、そしてそれは彼らがシートごと、成果ごと、または単に利益を上げるごとに請求できるようにするのでしょうか?
それとも、最も洗練された高価値のユースケースでさえ、モデルを選択して使用できる何百もの新しい企業の内部に配置する必要がありますか?
これらのどれも二項選択ではありません。それらはすべて程度の問題であり、ユースケースによってかなり異なるでしょう。
しかし、一方の極端には、すべてを半分実行し、巨大な価格設定力を持つ2つか3つの巨大な知性が存在し、もう一方の極端にはLLMはデータベースのように見えます――何百万ものLLMが存在し、大きいものも小さいものも、そして価値はそれの上に構築されるものにあります――結局のところ、すべてのSaaS企業は「データベースラッパー」です。
Anthropic(またはまだ名前を聞いたことのない企業)がすべてを勝ち取り、独自の条件を設定できる未来と、多数のルーターがリアルタイムオークションを実行して、何百もの低マージンモデルファームにタスクを割り当て、ベンチマーク企業がそのすべてに手数料を徴収する未来があります。
誰もまだ答えを知ることはできないと思います。
私は「わかりません」と何度も言いましたが、それは意図的です。
「Sカーブ」の概念の一部は、新しいテクノロジーが出現する初期段階では、それが巨大になることは明らかですが、それ以外は何も明らかではないということです――例えば、インターネットの1990年代半ば、そしてモバイルの2008年または2009年です。
見解を述べられる場所はあります――例えば、私はチャットボットは価値を積み上げていくのに苦労するだろう poor interface であると長々と主張してきましたが、私たちは大きな疑問があるはずだと仮定すべきです。それは私たちにはわかりません。