小型モデルが登場

小型モデルが登場 2026年8月26日 ここ数週間、gpt-5.6-lunaを試しています。驚くほど有能で、高速で、賢いです。定期的に100 tps程度をこなし、私のコードベース、メール、ナレッジベースを素早く処理します。もちろん、lunaの最大の利点はコストです。かなり複雑なリサーチスレッドを実行してみましたが、高額な請求になることはほとんどありません。数千件のメールを検索しても、APIコストは数セント程度です。 artificialanalysis.ai提供 GLM 5.3では、パレートフロンティアに新たな選択肢が登場しました。コーディング作業を行う際、私はほとんどの場合、最も高価で高性能なモデル（Fable 5、5.6 Sol）を選びます。そのため、小型で高速なモデルが進歩していることに気づきにくいかもしれません。 私が話した数人の投資家が言っていたことの一つに、「なぜコンシューマーAI企業がもっと見られないのか不思議だ」というものがあります。これには単純な答えがあります。トークンコストです。AI以前の、大規模なコンシューマーアプリのビジネスモデルは以下のようでした。 魅力的なウェブサイトを作成する（運用コストは比較的安い） 多くのユーザーを引きつける（通常はバイラル性によって） 資金調達し、ユーザーをさらに拡大する 広告マーケットプレイスを作成する これは、ほとんどの大手コンシューマー企業（Google、Facebook、Snapchatなど）の概要です。 しかし、製品にAIを追加したい場合はどうでしょうか？リクエストごとに実際の推論コストが発生します！突然、必要な資本が劇的に増加します。 私の個人的な評価の一つは、私専用のデイリーニュースサイトを構築することです。 calvinfoの@calvinfoをインターネットでリサーチする。 彼らが好きそうなニュースを見つける。 今日のトップストーリーをパーソナライズしたマイクロサイトを構築する。 hn、reddit、twitterなどを検索する。 以前の世代のモデル（Sonnetクラス）では、どこかにたどり着くのに約1ドルかかっていました。月額30ドルを請求するのは、コンシューマーアプリでは無理です。明らかに、ここで最適化できることはたくさんありますが、WSJやThe Economistと同等の料金を請求するのであれば、それと同等の価値を提供する必要があります。 しかし、lunaを見ると、結果はかなりまともで、平均コストは約0.10ドルです。これなら話になります！ さらに興味深くなるのは、ビジネスの世界です。私のSegmentの共同創業者であるPeterと最近、ハイキング中に近況を交換しました。彼の様々なスタートアップ全体で、Peterは2種類の仕事を見てきました。 「IQ 180」の仕事。 ある狂った科学者の天才タイプが、あなたが考えたこともないようなクレイジーな解決策を思いつく。 「トークンスピュアー」の仕事。 非常にレスポンシブで、数十の異なるフロントでボールを前に進める。 Peterは複数の会社を経営しています。Segment以外にも、Charm Industrialで1億ドル以上を調達し、最近RevoyのシリーズAをクローズしました。彼は信じられないほど整理されており、時間を効率的に使っています。それにもかかわらず、Peterは彼が行う仕事の約95％がバケット2に分類されると述べています。電話に出たり、人に催促したり、ブロックアンドタックルをしたりすることです。 Peterによれば、彼の会社は、深い問題を解決するIQ 180の技術的な頭脳なしでは、今日では立ち行かなくなっていたでしょう。ただ、彼の仕事のほとんどはバケット2に分類されるだけです。 私は「フロンティアレベル」のモデルへの需要は増え続けると予想しています。特に、工学、ハードサイエンス、モデルトレーニングなど、新しいブレークスルーや発見を必要とする分野では。しかし、「高速・安価・十分」なモデルへの需要もまさに高まろうとしていると考えています。 あなたが日常的にやり取りする人々を考えてみてください。同僚、ベンダー、顧客です。10回中9回は、非常にレスポンシブで、物事を処理してくれる人を求めています。 今日、企業で費やされている「ヒューマントークン」のほとんどは、このように費やされています。採用は、高速・安価・十分というアーキタイプに大きく偏っています。 高速・安価・十分なモデルをビジネスで実現するためには、多くの作業が必要です。新しいハーネス、プロンプトインジェクションの安全性、ロール、パーミッションなどです。しかし、私たちはそれを解決できると確信しています。 もしあなたが小型モデルを役立てる実験をしているなら、ぜひ私に連絡してください。 脚注 AmazonとNetflixは注目すべき例外です。 Peterもここでは控えめです。彼は非常に鋭いです。