AIの次の時代は、モデルだけでなくインフラストラクチャが鍵となる理由

モデルは簡単な部分 - 価値を得て、それを維持する方法 ここ数年における企業のAIの進化は、以下のように見ています。 2022年秋、世界は景気後退に突入すると考えられています。IT予算は2023年に凍結されます。 2022年11月30日：ChatGPTがローンチされ、Cスイートの非技術系担当者がAIに触れる具体的な接点を得ました - オンラインで利用可能なシンプルなチャットインターフェースです。 CEO、CFO、CROはホリデーシーズンに帰宅し、初期段階のGenAIに驚嘆します - テイラー・スウィフトにエミネムのようにラップさせたり、メールを要約したり、旅行の計画についてチャットしたりします。感銘を受けた彼らは、2023年にGenAIのペットプロジェクトのためだけにIT予算を解放します。 2023年：ペットプロジェクト、実験。唯一の新規予算はGenAIにあり、ITチームはすべてそこに集中しました。 2024年：有望でないGenAIペットプロジェクトの90%が淘汰され、有望な10%が展開のためにGRC（ガバナンス、リスク、コンプライアンス）プロセスを通過し始めています。 2025年：アプリケーションが本番環境に投入され、ガードレール、コスト追跡、ROI測定のレベルは様々です。（また、エージェント型コーディングが2025年後半に現実のものとなるため、製品展開の速度が向上します。） 2026年：本番環境でのGenAIの社内外での利用が爆発的に増加します。年間予算は数ヶ月以内に使い果たされます。システムとデータの所有権に関する懸念は、主権AI（Sovereign AI）の議論や、フロンティアラボへの政府の関与増加とともに高まります。 簡単に言えば、「AIを実験すべきか？」から「なぜこれがまだ本番稼働していないのか？」、そして「ROIはいくらか、そして神よ、いくらかかったんだ？！、そして私のデータはどこへ行ったんだ？！」という議論へと移行しました。 非常に異なる議論です！ 実験は安価です：APIキーを起動し、何が起こるか見て、次に進みます。本番環境は異なります。信頼性、監査可能性、大規模なコスト管理が必要です。地理的制約、オンプレミスコンピューティング、独自のモデルを所有する能力といった厳格な制約が必要になる場合があります。だからこそ、私たちはOtariを構築しました。モデルが十分に良くないからではなく、むしろその逆で、多くのモデルが多くのタスクに十分すぎるほど良いからです。しかし、組織レベルでそれらを管理するためのインフラストラクチャはまだ存在しません。私たちはそれを構築しています。 過去2年間で何が変わったか 議論を呼ぶ見解ですが、最も重要な変化はモデルの能力ではありません。モデルは確かに劇的に改善しました。特にオープンソースとオープンウェイトのモデルはそうです。しかし、真の変化は採用の速度です。本番環境でのAIは、少数の資金力のあるテクノロジー企業から、あらゆるセクターの数千のチームへと広がりました。それに伴い、誰も完全に予期していなかった問題が発生しました。 第一：断片化。ほとんどのチームは1つのモデルを使用しているのではなく、数十ものモデルを使用しています。高レベルでは、テキスト要約のためにGPTリリース、コーディングのためにClaude、機密性の高いタスクのためにオンプレミスのオープンウェイトモデルを使用しているかもしれません。しかし、「OpenAIショップ」であっても、GPT-5.5、-5.4、-5.4-mini、-5.4-nano、そして展開時にうまく機能し、それ以来触られていないレガシーモデルを使用しているチームがあるでしょう。それぞれが独自のAPI、価格設定、レイテンシプロファイル、レート制限を持っています。柔軟に見えたものは、すぐに運用上の混乱となりました。 第二：コストの不透明性。AI推論は非線形にスケールします。テストで月額200ドルの機能が、使用量がシフトした場合、本番環境では月額20,000ドルになる可能性があります。これは、今後のフロンティアラボのIPOに伴いトークンに対する「VC補助金」が解除され、トークンの真のコストがより不透明になるにつれて、ますます重要になっています。ほとんどのチームは、請求書を受け取るまで、いくら請求されるのかを知りません。プロバイダー間で、手遅れになる前にこれを表面化させるネイティブなツールはありません。 第三：ガバナンスのギャップ。AIが金融、ヘルスケア、法律、教育などの規制産業に進出するにつれて、「どのモデルが、いつ、誰に、なぜそれを言ったのか」がコンプライアンス要件となります。そして、世界中で行われている主権AIの議論は、これらの要件に複雑さを加えています。現在のインフラストラクチャには、これに対する答えがありません。 複数のプロバイダーを管理する課題 これが、マルチプロバイダーの複雑さが実際にはどのように見えるかです。製品チームは、3つまたは4つの異なるモデルプロバイダーにルーティングしており、プロバイダーごとに複数のモデルがあり、アドホックなローカルソリューションにルーティングしています。障害発生時のカスタムフェイルオーバーロジックを構築しました。コストを追跡するスプレッドシートを持っています。エンジニアは、勘と不完全なデータに基づいて、どのモデルがどのリクエストタイプを処理するかを手動で調整しています。 これは持続可能なアーキテクチャではありません。 問題は、チームが何か間違ったことをしているということではありません。ツールが追いついていないだけです。クラウドコンピューティングが成熟したとき、組織はサーバーを手動で管理するのをやめ、複雑さを抽象化するプラットフォームを採用しました。私たちはAIにおいても同じような転換点にいます。モデルはコンピューティングです。それらを管理するコントロールレイヤーが欠けているものです。 コストの可視性はファーストクラスの問題です コストは戦略的な問題として過小評価されていますが、組織が「トークンマクシング」がいかに疑問のあるリターンで資本を燃焼させているかを理解し始める2026年には変化するでしょう。とはいえ、AIインフラストラクチャをコストセンターとして扱っているほとんどの組織は、それを間違って考えています。本当の質問は「いくら使っているか？」ではありません。それは「私たちが求めている成果を可能な限り低コストで得られているか、そしてそれを知っているか？」です。これらは非常に異なる質問です。 現在、ほとんどのチームは後者の質問に答えることができません。プロバイダー間でコスト対成果を比較できません。比例した価値なしに予算を燃焼させているルートをリアルタイムで見ることができません。ポリシー（「Yが発生しない限り、このユースケースにX以上は決して使わない」）を設定し、それが自動的に強制されるようにできません。 財務チームは最終的に、率直に言って、今まさに、このような可視性を要求するでしょう。それを先取りするエンジニアリングチームは、そうでないチームに対して構造的な優位性を持つでしょう。 なぜコントロールがますます重要になるのか 私が繰り返し立ち返る、そして私たちが構築しているものの中心にあるのは、コントロールこそが新しい堀（moat）であるという考え方です。 過去数年間、チームはどのモデルを使用するかで競合していました。その優位性は失われつつあります。モデルはコモディティ化しています。トップティアモデル間の差は縮まっており、Raspberry Piで実行できるものまで、あらゆるレベルのモデルパフォーマンスで複数の競争力のあるオプションがあります。次の競争レイヤーは運用です：誰がAIを信頼性高く、費用対効果が高く、安全に、大規模に展開できるか？ それはインフラストラクチャの問題です。 ここで「コントロール」とは具体的に何を意味するのでしょうか？それは、コスト、機能、レイテンシ、コンプライアンスによってインテリジェントにリクエストをルーティングすることを意味します。それは、AIが何をしていて、なぜそうしているのかについてのリアルタイムのオブザーバビリティを意味します。それは、組織レベルでポリシーを設定し、すべてのチームが車輪の再発明をすることなく、一貫して強制されることを意味します。それは、アプリケーションレイヤーを書き直すことなくプロバイダーを切り替えることを意味します。 コントロールとは、AIを成熟したエンジニアリング規律のように運用することを意味します。 なぜMozillaはOtariを構築することにしたのか Mozillaは常に、特定の種類のインターネットを信じてきました：オープンで、分散化され、公益のために、そして公衆によって管理されるものです。AIインフラストラクチャの方向性を見たとき、私たちは見慣れたパターンに気づきました。少数のプロバイダーへの権力の集中。ほとんどの組織が、検査、変更、または制御できない不透明なシステムに依存している状態です。 私たちはこの話を以前にも見たことがあります。誰も介入しなければ、その結末を知っています。 Otariはそれに対する私たちの答えです。それはLLMのためのコントロールプレーンであり、その中核はオープンソースであり、組織にAIインフラストラクチャに対する真の主体性を与えるように設計されています。単なるルーターではありません。単なるコストダッシュボードではありません。アプリケーションとモデルの間に位置し、AIを独自の条件で運用するための可視性、ガバナンス、柔軟性を提供する完全なコントロールレイヤーです。（そして、時代が進むにつれて、私たちは...） 私たちは意図的にオープンソースで構築しました。ヘルスケア、教育、防衛、金融、市民技術などの最もこのインフラストラクチャを必要とする組織は、ロックインを許容できません。はい、オープンソースは流通チャネルであり、私たちのコアバリューと一致していますが、私たちはそれをそれ以上に見ています。世界の経済を動かす最も重要な産業、機関、組織での採用には絶対的な要件です。 Otariの機会：新しい定義