現在のLLMコストは持続可能ではない理由

AIとクラウドのコスト AIにはコスト問題があります。出現する解決策は、私たちが予想するよりもシンプルなものになるでしょう。 Aditya Patadia 2026年6月25日 共有 多くの企業がAIの高いコストに苦しんでいます。Uberは年間AI予算全体をわずか4ヶ月で使い果たし、Microsoft、Salesforce、Githubは従業員のAI支出を削減する措置を講じています。 一方、AIは多くのプログラミングタスクを非常に簡単にし、データ解釈、美しいスライド作成、アプリやウェブサイトのデザインなど、他の領域でも役立ち続けています。現在、大手AIラボはフロンティアモデルと呼ばれるものを持っており、これらのモデルは様々なタスクにおいて例外的に優れた性能を発揮します。フロンティアAIラボは研究を行い、自社でホスティングもしているため、これらのモデルのコストは最も高くなっています。例えば、GPT 5.5は入力トークン100万あたり5ドル、出力トークン100万あたり30ドルのコストがかかります。これはOpenRouterによると現在最も高価なモデルです。例を挙げると、今週の午後、このモデルを使って50ファイルにわたるTypescriptの型修正を行うだけで54ドルかかりました。 モデル性能の頭打ち、オープンウェイトモデルのリリース、チップとモデルの改善、ゼロスイッチングコスト、そしてローカルモデルが、AIラボが現在要求している高価格を維持できない可能性のある理由です。 モデル性能の頭打ち 最近の各モデルリリースでは改善が見られますが、その改善がますます小さくなっていることは明らかです。全く新しいブレークスルーが発明されない限り、現在の学習および推論能力は、ごく限られた範囲でしかスケールできません。学習データの問題もあります。ほとんどのAIラボは、モデル学習のためにデジタルおよび印刷メディアで利用可能なすべての情報をすでに摂取している可能性が高いです。学習データセットを改善することは非常に難しいと判明するでしょう。 これは、性能向上によるモデル価格の継続的な値上げトレンドが容易ではないことを意味します。Claude Opus 4.8がClaude Opus 4.7と同じコストであるという証拠を見ました。モデルが大幅な改善を止め、学習データと手法が似てくると、競争によりモデル価格は下落する可能性が高いです。 オープンウェイトモデル OpenAIは2022年にChatGPTをローンチした際、圧倒的なリードを持っていましたが、そのリードは徐々に薄れ、2025-26年にはAnthropicがトップの座を奪いました。今や、オープンウェイトモデルであるGLM-5.2のようなモデルは、コーディングベンチマークでGPTやOpusを上回っています。このモデルのコストはGPT 5.5の10分の1です。 ここで何が起こっているかというと、主要なAIラボは推論だけでなく、モデルアーキテクチャの研究、学習データの収集とキュレーション、モデル学習コスト（数千万ドルから数億ドルに達することもある）、従業員の給与、マーケティング費用の回収にも課金しているということです。 一方、オープンウェイトモデルがリリースされれば、どの推論プロバイダーも簡単にホストでき、推論コストにわずかなマークアップをするだけで済みます。これはフロンティアAIラボを運営するよりもはるかに安価であることが証明されています。 チップとモデルの改善 Cerebras、Groq、Googleなど多くの企業は、AIには専用のシリコンが必要であり、通常のGPUでは不十分であると認識しています。特殊なチップの設計は非常に高価ですが、一度アーキテクチャが完成すれば、数百万個を製造するのは容易であり、推論コストははるかに安くなります。例えば、TPUはNvidia H100 GPUよりも30〜70%安価になり得ます。このような進歩は継続的に起こり、トークンあたりの価格を下げるでしょう。 モデルアーキテクチャも進化しています。基本的な改善としてキャッシングが登場し、現在ではMoEモデルやその他のアプローチにより、同じ精度レベルを維持しながらモデルが高速化しています。 ゼロスイッチングコスト Windows OS、MS Office、Adobe Suiteのような従来のソフトウェアや、Salesforce、Hubspot、FigmaのようなSaaSには、AIモデルにはない非常に重要な堀がありました。構築されたすべてのソフトウェアは互換性がありませんでした。CRMを午後中に交換することはできず、数ヶ月かかりました。 より多くのAIラボがこの分野に参入し、より多くのオープンウェイトモデルが利用可能になると、この要因が非常に急速な価格暴落を引き起こす原因となるでしょう。OpenRouter.aiのようなAIゲートウェイプロバイダーは、モデルの切り替えを非常に簡単にしています。それは数秒で可能であり、実際には、プロバイダーをオンザフライで変更するようにプログラムすることもできます。ゼロスイッチングコストとは、より良いモデルが登場した場合、消費者が時間投資なしにそれに切り替えることができることを意味します。 ローカルモデル 最後になりましたが、最も重要な要因は、ユーザーがローカルモデルを実行できることです。これまでのところ、ほとんどすべての人がクラウドホスト型モデルを使用しており、ローカルモデルはデプロイするには大きすぎるか、動作が遅すぎます。チップの進歩により、これは4〜5年で変わるでしょう。新しいチップはモデルをローカルで実行し、RAM価格のほぼ確実な暴落により、コンピューターやスマートフォンにモデルをデプロイするのが容易になります。ほとんどのオペレーティングシステムがモデルをデプロイする方法を提供し、ローカルで実行されているアプリがモデルに接続できるインターフェースも提供すると予測しています。 これが実現すると、クラウドモデルは最も複雑なタスクにのみ使用され、コードのタブ補完、校正、事実確認のような単純なタスクはローカルで行われるようになります。これは、顧客がもはや20ドルや200ドルのサブスクリプションを必要としないことを意味します。 結びの言葉 これは私にとって初めての個人的なブログであり、ここでいくつかの大胆な予測をしました。これらがどうなるかは時が教えてくれるでしょうが、一つ確かなことがあります。上記のいずれかまたは複数の理由により価格圧力がかかり、最終的には消費者にとって良い結果となるでしょう。 Founder's Notesを読んでいただきありがとうございます！無料で購読して、新しい投稿を受け取り、私の仕事をサポートしてください。 購読 共有