現在のLLMコストは持続可能ではない理由
Why current LLM costs are not sustainable (aditya.patadia.org)
要約
AI、特に大規模言語モデル(LLM)の運用コストの高さが多くの企業にとって問題となっており、UberやMicrosoftなどがAI支出の削減に動いています。しかし、モデル性能の頭打ち、オープンウェイトモデルの登場、チップおよびモデルアーキテクチャの改善、ゼロスイッチングコスト、そしてローカルモデルの普及といった要因により、現在の高価格は持続不可能であり、消費者にとってコストが大幅に低下すると予測されています。
全文翻訳
AIとクラウドコスト
多くの企業が高額なAIコストに苦しんでいます。Uberは年間AI予算のすべてをわずか4ヶ月で使い果たし、Microsoft、Salesforce、Githubは従業員によるAI支出を削減する措置を講じています。
一方で、AIは多くのプログラミングタスクを非常に容易にし、データ解釈、美しいスライド作成、アプリやウェブサイトのデザインなど、他の分野でも役立ち続けています。現在、大手AIラボはフロンティアモデルと呼ばれるものを所有しており、これらのモデルは幅広いタスクで例外的に優れたパフォーマンスを発揮します。フロンティアAIラボは独自に研究とホスティングを行っているため、これらのモデルのコストは最も高くなります。例えば、GPT 5.5は、入力トークン100万件あたり5ドル、出力トークン100万件あたり30ドルかかります。これは、OpenRouterによると、現在利用可能な最も高価なモデルです。例を挙げると、今朝、このモデルを使って50ファイルにわたるTypeScriptの型修正を行っただけで54ドルかかりました。
[画像: AIコストのグラフ]
モデル性能のプラトー化、オープンウェイトモデルのリリース、チップとモデルの改善、ゼロスイッチングコスト、そしてローカルモデルといった要因が、AIラボが高額な価格を維持できなくなる理由となる可能性があります。
モデル性能のプラトー化
最近のモデルリリースでは改善が見られますが、その改善がますます小さくなっていることは明らかです。全く新しいブレークスルーが発明されない限り、現在の学習および推論能力はスケールできる限界があります。トレーニングデータの問題もあります。ほとんどのAIラボは、モデルトレーニングのためにデジタルおよび印刷メディアで利用可能なすべてを摂取した可能性が高いです。トレーニングデータセットの改善は非常に困難であることが証明されるでしょう。
これは、パフォーマンス向上によるモデル価格の継続的な引き上げが容易ではないことを意味します。Claude Opus 4.8がClaude Opus 4.7と同じ価格であったことから、その証拠が見られました。モデルが大幅に改善されなくなり、トレーニングデータと方法が類似した場合、競争によりモデル価格は下落する可能性が高いです。
オープンウェイトモデル
OpenAIは2022年にChatGPTをローンチした際に圧倒的なリードを持っていましたが、そのリードは徐々に失われ、2025年から26年にかけてAnthropicがトップの座につきました。現在では、GLM-5.2のようなオープンウェイトモデルが、コーディングベンチマークでGPTやOpusを凌駕しています。このモデルはGPT 5.5の10分の1のコストです。
ここで起きているのは、主要なAIラボが推論だけでなく、モデルアーキテクチャの研究、トレーニングデータの収集とキュレーション、モデルトレーニングコスト(数千万ドル、あるいは数億ドルになることもあります)、従業員への支払い、マーケティングコストの回収に対しても料金を請求しているということです。
一方、オープンウェイトモデルがリリースされると、どの推論プロバイダーでも簡単にホストでき、推論コストにわずかなマークアップを加えるだけで済みます。これは、フロンティアAIラボを運営するよりもはるかに安価であることが証明されています。
チップとモデルの改善
Cerebras、Groq、Googleなどの多くの企業は、AIには独自のシリコンが必要であり、通常のGPUでは不十分であることを認識しています。特殊なチップは設計に非常にコストがかかりますが、アーキテクチャが完成すれば、それらを数百万個製造するのは容易であり、推論コストははるかに安価になります。例えば、TPUはNvidia H100 GPUよりも30〜70%安価になる可能性があります。このような進歩は今後も続き、トークンあたりの価格を下げるでしょう。
モデルアーキテクチャも進化しています。キャッシングのような基本的な改善が見られ、現在ではMoEモデルやその他のアプローチが、同じ精度レベルを維持しながらモデルを高速化しています。
ゼロスイッチングコスト
Windows OS、MS Office、Adobe Suiteのような従来のソフトウェアや、Salesforce、Hubspot、FigmaのようなSaaSには、AIモデルが持っていない非常に重要な「堀」がありました。構築された個々のソフトウェアは相互に交換可能ではありませんでした。CRMを午後に交換することはできませんでした。数ヶ月かかりました。
より多くのAIラボがこの分野に参入し、より多くのオープンウェイトモデルが利用可能になると、この要因が非常に迅速な価格クラッシュの原因となるでしょう。OpenRouter.aiのようなAIゲートウェイプロバイダーは、モデルの切り替えを非常に容易にしています。数秒で切り替えが可能であり、実際、オンザフライでプロバイダーを変更するようにプログラムすることもできます。ゼロスイッチングコストとは、より優れたモデルが登場した場合、消費者は時間投資なしでそれに切り替えることができるということです。
ローカルモデル
最後になりましたが、そして実際には最も重要な要因は、ユーザーがローカルモデルを実行できる能力です。これまでのところ、ほとんどすべての人がクラウドホストモデルを使用しており、ローカルモデルはデプロイするには大きすぎるか、遅すぎて実用的ではありません。チップの進歩により、これは4〜5年後には変わるでしょう。新しいチップはモデルをローカルで実行できるようになり、RAM価格のほぼ確実な下落により、コンピューターやスマートフォンにモデルをデプロイすることが容易になります。ほとんどのオペレーティングシステムは、モデルをデプロイする方法を提供し、ローカルで実行されているアプリがモデルに接続できるインターフェースも提供すると予測しています。
これが起こると、クラウドモデルは最も複雑なタスクにのみ使用され、コードのタブ補完、校正、事実確認のような簡単なタスクはローカルで実行されるようになります。これは、顧客がもはや月額20ドルまたは200ドルのサブスクリプションを必要としなくなることを意味します。
締めくくり
これは私の個人的な最初のブログであり、いくつかの大胆な予測をしました。時間が経てば、それらがどうなるかがわかるでしょうが、一つ確かなことがあります。上記の一つ以上の理由により価格圧力が生じ、最終的にはすべて消費者にとって良いことになります。