Mercury 2.5の紹介

Mercury 2.5 のご紹介

本日、私たちはこれまでで最も高性能なプロダクションモデルである Mercury 2.5 をリリースします。これは Mercury 2 から品質が大幅に向上しており、同じく低遅延、低コストのサービングプロファイルを実現しています。

Mercury 2 のローンチ以来、何千人もの開発者がこれを用いて構築し、数十の企業が本番環境に導入しており、その利用は1桁以上増加しました。現在、検索、音声、コーディング製品における遅延に敏感なワークロードに利用されています。

これらのワークロードは、ベンチマークだけでは得られない、より明確なシグナルを私たちに与えてくれました。顧客からのフィードバックと本番環境での失敗事例を用いて、評価を洗練させ、トレーニングに焦点を当てました。Mercury 2.5 は、そのループから生まれた最初の成果です。

何が変わったか

Mercury 2.5 は、市場で最も高性能な拡散言語モデル（diffusion LLM）です。私たちの知る限り、これまでにトレーニングされた中で最大の拡散言語モデルです。

• 品質: Mercury 2 から知能が40%向上しました。GPT-5.6 Luna (Low)、Gemini 3.5 Flash-Lite、Claude Haiku 4.5 のようなコスト最適化されたフロンティアモデルに匹敵します。

• 速度: 一般的な NVIDIA GPU で毎秒 1,107 トークンを処理します。

• コンテキスト: 260K トークンです。

• 価格: 入力あたり100万トークンあたり $0.20、出力あたり100万トークンあたり $0.75 です。

  • ローンチ時、Mercury 2.5 は 80% オフで、入力あたり100万トークンあたり $0.04、出力あたり100万トークンあたり $0.15 です。

• 機能: チューニング可能な推論、並列ツール呼び出し、スキーマに沿った JSON です。

［画像: Speed Benchmark］［画像: Mercury 2.5 vs Mercury 2.0］

Mercury 2 のローンチ以来、私たちは Inception が NVIDIA AI インフラストラクチャ上で拡散ベースの言語モデルをさらに進化させていくのを見てきました。Mercury 2.5 の知能の向上は、持続的な速度と低コストと相まって、NVIDIA プラットフォーム上で新しいアーキテクチャがいかに迅速に本番対応システムへと成熟できるかを反映しています。

Shruti Koparkar, Senior Manager of Product, Accelerated Computing Group at NVIDIA

Mercury の本番運用

検索エージェントと RAG パイプライン

1回の検索リクエストは、数十回のモデル呼び出しをトリガーする可能性があります。検索の計画、クエリの書き換え、結果の再ランク付け、事実の構造化、ソースの要約、回答の確認などです。Mercury は、これらの呼び出しを単一のユーザーインタラクション内に収まるほど高速に保ちます。現在、いくつかの主要な検索インフラストラクチャ企業がこれを本番環境で稼働させています。

［画像: Query Rewrite Latency Benchmark］

音声エージェントとインタラクティブアプリケーション

音声においては、遅延はインフラストラクチャの詳細ではありません。それは、発信者が聞く一時停止です。

OpenCall は、ライブの顧客通話を処理する AI 電話エージェントを構築しています。その本番ワークロードにおいて、Mercury はモデル応答の平均遅延を 170 ミリ秒近くにまで短縮しました。

［画像］

Mercury に切り替えた後、P99 の応答時間は数分からわずか1秒に短縮され、P50 は 0.4 秒から 0.2 秒未満になりました。これは、推論を含めても、私たちがこれまでに見たどのプロバイダーよりも大幅に高速です。

Oliver Silverstein, Co-founder and CEO, OpenCall

コーディングサブエージェントとアシスタント

コーディングエージェントは、すでにモデル間で作業を分割しています。あるモデルがコードを計画または記述する一方で、他のモデルは検索、ツールの実行、リクエストのルーティング、状態の要約、または長いセッションの圧縮を行います。これらのサポート呼び出しは繰り返し発生するため、遅延とコストは急速に積み重なります。

Augment Code は、コンテキスト圧縮、モデルルーティング、MCP ツール検索に Mercury を使用しています。圧縮を Mercury に移行したことで、遅延が 82% 削減され、約 150 秒から 27 秒になり、コストは 90% 削減され、品質は維持されました。ツール検索の要約は 1 秒未満で返されます。

同じ速度は、Web アプリケーションの開発にも適用されます。以下のデモで、Mercury 2.5 が数回のプロンプトから動作する音楽発見ログ Web アプリを生成する様子をご覧ください。

［画像］

Mercury Voice と Mercury Router のプレビュー

Mercury 2.5 と同時に、Mercury Voice と Mercury Router のプレビューを発表します。

• Mercury Voice は、ファーストトークンまでの時間（TTFT）を 170 ミリ秒未満で提供し、最も厳しい遅延予算を持つ音声エージェントに最適化された dLLM です。

• Mercury Router は、受信したプロンプトを dLLM で理解し、品質、速度、コストの最適な組み合わせを提供する最適なモデル（オープンおよびクローズドモデル）にルーティングします。

始め方

Mercury モデルは、Inception API、Baseten、および OpenRouter を通じて利用可能です。エンタープライズデプロイメントは、専用容量、オートスケーリング、コンプライアンス制御、設定可能なデータ保持をサポートします。

チャット で Mercury 2.5 を試す
API を 1億無料トークンで試す · API ドキュメントを読む

• Baseten 顧客: 既存の Baseten セットアップを通じて Mercury 2.5 をデプロイしてください。

• Y Combinator 企業: デプロイメント特典 $500,000 を請求 してください。

• Mercury を音声用途で評価中ですか？ ワークロードの適合性をテストし、サービング制約下でのパフォーマンスを検証するために協力させていただきます。お問い合わせ ください。

次のステップ

私たちはすでに次のモデルのトレーニングを開始しています。これは私たちのこれまでの最大のモデルであり、数ヶ月以内のリリースを目指しています。次のモデルは、拡散モデルの速度とトークン効率を犠牲にすることなく、能力を飛躍的に向上させるでしょう。これには、モデルトレーニング、推論、評価、およびインフラストラクチャの進歩が必要です。もし、そのような問題に取り組みたいのであれば、ぜひご連絡ください。

近日中にさらに情報をお届けします。