トークン価格を考える方法
Ways to think about token pricing (ben-evans.com)
要約
現在のトークン価格は、供給不足と不安定さという2つの確実な事実に直面しています。データセンターや半導体の設備投資、推論効率の向上、新しいモデルの効率化により供給は増加しますが、ソフトウェア開発におけるAIの製品市場適合性が需要を牽引しており、この需要が将来的に持続するかは不明です。推論の利益率は高いものの、モデルの学習コストや将来的なユースケースのROIは不透明であり、市場は今後数年間で再均衡に向かうと予想されます。
全文翻訳
トークン価格を考える方法
トークン価格について確実なことが2つあるとすれば、それは「供給不足に陥っている」ことと、「この状況は不安定だ」ということだ。あらゆる変数が絡み合っており、市場は今後数年間で激しく変動し、新たな均衡点に落ち着くだろう。現在、「電力到達までの時間」に関する熱狂的な分析が行われているが、その先に残る疑問は、基盤モデルが持続的な価格決定力、戦略的レバレッジ、価値捕捉能力を持つのか、それとも低マージンのコモディティインフラプロバイダーになるのか、ということだ。現時点では、我々が見ることのできるあらゆる力学が後者を示唆していると私は考えている。
明らかに、今日の状況は一時的なものだ。供給側では、1兆ドル以上のデータセンター設備投資がパイプラインに入ってきており(さらに多くの半導体 設備投資がその背後にある)、推論効率は非常に速く向上し続けており、新しいモデルはトークン使用において(はるかに)効率的(または非効率的)になっている。需要側では、市場は2022年から能力不足に陥っているものの、今年の前半の逼迫は、ソフトウェア開発という、実際にはかなり小規模な分野での突然のプロダクトマーケットフィットによって引き起こされた(もし、何億ものDAUを持つ消費者向けユースケースでプロダクトマーケットフィットが起こったらどうなるか想像してみてほしい。今日のインフラはその価格ではそれを支えきれないだろう)。次のスケーリングするユースケースが何になるのか、それがいつになるのか、そしてそれらがどのようなトークンを必要とするのか、我々にはわからない。
一段上のレベルで見ると、今日の推論は40〜50%の粗利益率であると広く報告されている。これには、関連するサーバーコスト(またはそれらを借りるコスト)の減価償却費が含まれるが、資産寿命(5年?7年?)は実際にはわからないし、明らかに、年に数回行われる次のモデルのトレーニングコストは含まれていない。そのトレーニングコストは現在、収益をはるかに上回っている。原則として、推論は限界費用であり、トレーニングは固定費用であるため、十分な収益があれば収益性を達成できるが、トレーニングコストがどのように変化するかはわからない。一方、過去数ヶ月間の使用量の急増のうち、ROI(少なくともCFOに定量化できるROI)がどの程度あるのか、ましてや将来のユースケースについては不明であり、それゆえ、人々がそれらにいくら支払う用意があるのかも不明である。
したがって、今後12ヶ月間、あらゆる変数が大きく変動し、さらに今後3年から5年間で再び変動するだろう。これがどこに落ち着くと提案できるだろうか?供給、需要、価格、能力、設備投資はどのように、どこで均衡に戻るのだろうか?
理論的には、これをボトムアップでモデル化できる。上記の各変数について仮定を立て、現在いくつのチップがあり、TSMCや他の半導体業界がいつ、どのような性能のチップを提供できる可能性があり、それらがデータセンターでどれくらいの速さで稼働でき、どれくらいの速さで電力を供給できるかをモデル化しようとすることができる。その後、価格規律について考え、ユースケースについて推測することができる。これにより、ある数値は得られるだろうが、それは1998年にブロードバンド市場の5年間の予測を構築しようとするようなものになるだろう。スプレッドシートは非常に見栄えが良く、今年の正しい数値に近づくことさえできるかもしれないが、より長期的な市場構造の有用な予測を行うには、未知の変数が多すぎる。
言い換えれば、トークン価格は、売り手の限界費用と買い手のROIの間のレベルでの供給と需要の関数であると言えるが、実際には供給、需要、限界費用、またはROIが何になるかはわからない。
もう一つのアプローチは、トップダウンで見ることだ。このようなものはどのように展開する傾向があるのか?構成要素は何で、どこへ向かうのか?この会話のほとんどは、この曲線に何が起こるかに依存している。
[画像: グラフの画像]
第一に、曲線の右上のフロンティアにいるために、何人がお金を払うだろうか? 一方の極端には、小さく、古く、おそらくオンプレミスまたは電話で「無料」で実行されるオープンソースモデルで十分に機能するユースケースがすでに存在する。もう一方の極端には、最新で最も高価なフロンティアモデルからより良い結果を得て、多額のお金を消費して大量のトークンを使用するユースケースがあるだろう。そして、その中間に位置するものがたくさんあるだろう。では、コスト曲線をどれだけ上に進むことでより良い結果が得られるユースケースはいくつあり、それに対するROIがあるのはいくつで、どれだけの使用量が、より小さく、安価で、「十分」で、よりコモディティ化されたモデルによって処理されるのだろうか?楽観的な見方では、より高価なフロンティアモデルはより良い結果をもたらすため、ROIが増加する可能性があるが、それは実際にどこに適用されるのだろうか?
第二に、フロンティアは大きく移動し続けるのか? これは明らかにAIにおける最も基本的な科学的な質問だ。フロンティアはどれくらい良くなり続けるのか、それにはどれくらい多くのコンピューティングが必要になり続けるのか、そしてそれが効率と能力の向上による価格下落圧力を上回るペースで継続するのか?曲線の高価な先端は、今後も存在し続けるのだろうか?
第三に、フロンティアモデル間には激しい競争が続くのか? この分野は、ネットワーク効果が出現する可能性のある、ますます少数のフロンティアモデルに縮小するのだろうか?フロンティアモデルは分岐し、異なるモデルが異なる分野でより明確なリードを持つようになるのだろうか?それは持続的な価格決定力への別の道となりうる。それとも、フロンティアモデルをすべて製造しており、すべてが一般的に同等の能力を持っている中堅企業が数社、現状維持となるのだろうか?現時点では、誰もがほとんど同じ科学とほとんど同じトレーニングデータを使用しており、ほとんど同じ結果を得ている。そして、1社が持続的に先行し、他社ができないことをできるようにするネットワーク効果やその他の勝者総取り効果はまだわかっていない。それは変わるのだろうか?
第四に、それらのハイエンドユースケースからの価値のどれだけがフロンティアモデル自体によって捕捉されるのか? どれだけが、たとえ下には巨大で高価なフロンティアモデルが必要だとしても、従来のソフトウェア企業に関連するツール、プロセス、独自のデータ、市場投入、ネットワーク、サポート、その他のすべてでラップされる必要があるのだろうか?そのモデルはすべてをこなすことができるのか、それとも、モデルは、どれほど優れていても、実際の製品を作るために使用するインフラの一部に過ぎないのか?極端な場合、モデル自体がこれらのすべてを発明し、作成できるのか、そしてそれは座席ごと、成果ごと、あるいは単に利益を享受することによって課金することを可能にするのだろうか?それとも、最も洗練された高価値なユースケースでさえ、使用するモデルを選択できる何百もの新しい企業の内部に配置される必要があるのだろうか?
これらのどれも二者択一ではない。すべては程度の問題であり、ユースケースによって大きく異なるだろう。しかし、一方の極端には、すべてを半分実行し、巨大な価格決定力を持つ2つか3つの巨大な知性が存在し、もう一方の極端には、LLMはデータベースのように見えるだろう。それらは何百万もあり、大きいものも小さいものもあり、価値はそれの上に構築されるものにある。結局のところ、すべてのSaaS企業は「データベースラッパー」だ。Anthropic(またはまだ我々が聞いたことのない企業)がすべてを制覇し、独自の条件を設定できる未来と、数十台のルーターがリアルタイムオークションを実行してタスクを何百もの低マージンモデルファームに割り当て、ベンチマーク企業がそのすべてに手数料を取る未来がある。
私は誰かが実際に答えを知っていることができるとは思わない。「わからない」と何度も言ったが、それは意図的だ。「Sカーブ」の概念の一部は、新しいテクノロジーの出現の初期段階には、それが巨大になることは明らかだが、それ以外は何も明らかではないという段階があるということだ。例えば、インターネットは1990年代半ば、モバイルは2008年か2009年だった。見解を述べられる場所はある(例えば、私はチャットボットは価値を積み上げて捕捉するのに苦労するだろう poor interface であると長々と主張してきた)が、我々が見ることさえできない、ましてや答えることさえできない大きな問題があることを前提とすべきであり、我々が見ることができる10の可能な結果のうちの1つを選んで「それだ!」と言う人は、単に推測しているに過ぎない。
一方、すべての大きな新しいテクノロジーの初期段階には構造的な不確実性があるが、現在の不確実性は異なっている。なぜこれらのモデルがこれほどうまく機能するのか、理論的な理解が十分ではなく、どれほど良くなるのかわからないからだ。1995年には、インターネットがどのように進化するかはわからなかったが、地球上に1億台未満のPC(そしてそれらは高価だった)があり、通信事業者は来年FTTHをすべての人に提供できなかったことはわかっていた。2010年には、次のiPhoneが何になるかはわからなかったが、網膜投影機能は搭載されないことはわかっていた。LLMでは実際にはわからないような物理的な限界を知っていた。来月、新しいアプローチが推論コンピューティングの必要性を90%削減したり、需要を倍増させたり、あるいはその両方を達成したりする可能性がある。
これらすべてが、人々がパターン認識に駆り立てられている(実際、AIに関するすべての会話は比喩の探求に終わることが観察されている)。ドットコムバブルの際の光ファイバーの大規模な過剰供給は、今日のインフラ構築に似ているが、それと比較されることが一般的になっている。その狭い問題は、光ファイバーの建設は需要をはるかに先行していたのに対し、AIコンピューティングの建設は需要に大きく遅れをとっていることだ。ただし、上記のように、将来の供給/需要バランスがどうなるかはわからない。しかし、より関連性の高い反論は、光ファイバーの建設は主に固定費用(穴を掘る)であり、限界費用(より多くの機器)ではなかったのに対し、コンピューティング需要の増加はより多くのコンピューティングを購入する必要があるということだと私は思う。
これは、モバイルデータの方がより有益な比較になる。モバイルネットワークは容量に限界費用があり、AIと同様に15年前に膨大な使用量の急増があり、容量を圧迫し、通信事業者は容量を追加し、価格を再調整するのに奔走した。一方、ビットの販売は、表面的にはトークンの販売と似ている。それは限界費用の不透明な尺度であり、ユースケースや価値に透明または直感的な方法でマッピングされず、何らかのバンドルに置き換える必要がある。しかし、最も重要なのは、過去20年間でセルラーデータトラフィックは数桁増加し、これは巨大な産業となり、年間収益は1兆ドル、設備投資は2000億ドルになったが、株価はどこにも行かず、すべての価値はスタックの上位にいる他の人々に捕捉されたことだ。これはもちろん、AIの核心的な質問の1つだ。これは、スタックの上位にいる他の人々にすべての価値が捕捉される、低マージンのコモディティインフラになるのだろうか?
半導体製造にもAIの響きがある。セルラーとは異なり、基盤モデルに見られるようなエスカレートするコストと複雑さを持っているからだ。ロックの法則は、最先端ファブのコストは4年ごとに倍増すると指摘した。時間の経過とともに、半導体のフロンティアは非常に困難で高価になり、プレイヤーの数は数十社から数社に減り、今では本当に1社、TSMCだけになった。これはAIのもう1つの核心的な質問だ。これは、ネットワーク効果がなくても、数社しかできないほど困難で高価になるのだろうか?同様に、多くの半導体の用途は、AIについて議論した価格/パフォーマンス曲線のさらに後方に位置している。しかし、ここでも、TSMCはフロンティアの事実上の独占権を持ち、良好なマージンを持っているが、広範なテクノロジー経済から大きな価値シェアを実際には捕捉していない。昨年の純利益は530億ドルで、Apple単独の半分未満だった。
ここには他にも多くの比較ができる。過去6ヶ月間で、サム・アルトマンはOpenAIを、ネットワーク効果に基づいた高マージンの資本軽量な独占企業であるWindowsと、自然独占企業でありながら純粋なコモディティを販売する低マージンの規制対象ユーティリティである電力会社の両方と比較した。クラウド(良好なマージンと明確に区別された提案を持つ3つの主要プレイヤーだが、ここでも価値捕捉は限定的)を挙げることもできる。しかし、これらのどれも予測的価値を持たない。類推は予測的価値を持たない。モバイルに似た結果になるかどうかを、モバイルに似ていると主張することによって証明することはできない。これは15年前に多くの非常に賢いテクノロジー関係者が犯した間違いであり、Androidは「オープン」であり、「オープン」なWintelが1990年代に「クローズド」なMacを打ち負かしたため、AndroidはiOSに勝つだろうと主張した(これは、AIが原子力兵器に「似ている」と主張する終末論者が犯す間違いでもある)。すべては異なる。ビット、トークン、トランジスタは異なり、これらの例はそれぞれ異なり、AIも異なるだろう。
しかし、これらの例は、何かが非常に重要で、非常に高価で、世界を変え、非常に洗練された科学と工学に満ちているにもかかわらず、幅広い結果の可能性を秘めていることを経験的に教えてくれる。ここには1つの必然的な道はない。高マージンと低マージン、市場集中ありとなしで価格均衡があり、AGIについて「指数関数を理解していない!」と話すことでそれを曖昧にすることはできない。
しかし、私がここで書いたすべてのことの1つの糸が、我々がまだ知らないことの多さであるなら、もう1つの糸は、基盤モデルが市場支配力、戦略的レバレッジ、価値捕捉、勝者総取り効果、あるいはコモディティインフラになる以外の何らかのものを得るためのすべての道は、何かが変わる必要があるということだ。
おそらくフロンティアモデルは競争力を失うだろう。しかし、過去6ヶ月間で、マーク・ザッカーバーグとイーロン・マスクはゼロからリーダーボードに戻ってきた。おそらくネットワーク効果が出現するだろう。おそらくチャットボットは製品に成長し、ソフトウェアでラップされる必要がなくなるだろう。おそらく1つの研究所が他のすべての研究所を凌駕し、純粋な製品のダイナミズムで先行するだろう。マイクロソフト、グーグル、フェイスブック、アップルは、勝者総取り効果を持つ前に、実行によって勝利の位置を確立しなければならなかった。おそらく何か他のことが起こるだろう。
特に、我々にはトランプと中国という、1つではなく2つの潜在的なデウス・エクス・マキナがある。中国はオープンソースを規制することを検討していると報じられており、トランプに近い人々もこれを浮上させている(ただし、MetaがLlamaを放棄して以来、米国には主要なオープンモデルがない)。そして、輸出管理が拡大し、体系的になる可能性がある。多くの人々は、Anthropicや(時には)OpenAIからの規制緩和の嘆願を、規制捕獲の隠れ蓑と見なしているが、いずれにせよ、これが完全に自由市場であり続けるとは仮定できない。
それでも、それは同じ点に戻ってくる。現在の市場力学は、今日の供給逼迫が緩和されるにつれて、フロンティアモデルがコモディティインフラに向かっていく未来を示唆しており、すべての価値はその上に構築される。そして、異なる結果のためには、我々がまだ見ていない何かが起こる必要がある。