Toast 1の紹介
Introducing Toast 1 (mixedbread.com)
要約
Mixedbreadは、新しい検索エージェント「Toast 1」を発表しました。これは、Claude Opus 5やGPT-5.6 Solといった最先端モデルと同等以上の検索品質を、最大10分の1のコストと12倍の速度で提供します。Toast 1は、複雑な文書コレクションから情報を検索し、クエリを分解して証拠を収集・キュレーションするエージェントとして機能します。これにより、大規模言語モデルは推論や最終的な回答生成といった、より高度なタスクに集中できるようになります。OfficeQA Pro V2やHarvey LABのベンチマークでは、Toast 1を統合したシステムが、コスト効率と回答精度において新たな状態を達成しています。
全文翻訳
Toast 1 のご紹介
本日、当社の最初の専門検索エージェントであるToast 1が利用可能になりました。これは、最先端の検索品質を提供し、Claude Opus 5やGPT-5.6 Solをしのぐ性能を持ちながら、コストは最大10分の1、速度は12倍です。Mixedbread Searchとの併用で最高のパフォーマンスを発揮しますが、他の検索バックエンドでも機能します。
今日、最先端モデルは実際の知識作業を実行できるようになりました。複雑な文書コレクション内で推論し、分析し、情報を発見することができます。しかし、それらはスタックの中で最も高価なモデルでもあります。インテリジェンスがますますメーター制になるにつれて、わずかなコストでそれらの能力に匹敵する専門エージェントの必要性はかつてないほど高まっています。
Toast 1は、スタンドアロンの専門検索エージェントとして、または最先端モデルがすでに依存する方法を知っている多くのサブエージェントの1つとして実行できます。これは検索ループを完全に引き継ぎます。初期クエリが与えられると、それをサブクエリに分解し、証拠を収集し、ソースを検査し、関連するコンテキストをキュレーションしてから返します。これにより、エージェントは、推論、実行、最終的な回答の生成といった、汎用的な最先端モデルを必要とするタスクにコンテキストとコンピューティングリソースを費やすことができます。
Toast 1エージェント検索のウォーターフォールトレース:雇用率比較クエリに5秒強で回答するために、3ラウンドで16回のツール呼び出しが行われました。トレースを展開し、ステップを選択すると、その時点でエージェントが生成したサブクエリ、grepパターン、またはプランが表示されます。
Pareto Optimal Search
エージェント労働のこの専門化は、大幅に安価な検索をもたらしますが、多くの現実的なタスクでエンドツーエンドの結果も向上します。Toast 1は、タスクあたりのコストとタスクあたりの速度の両方で、エージェントワークロード全体で新しいパレートフロンティアを確立することがわかりました。
Financial Analysis: OfficeQA Pro V2
DatabricksによってリリースされたOfficeQA Pro V2は、現実的で複雑なエンタープライズ金融状況における90の質問に対する回答の正確性を評価します。
Codex内でサブエージェントとして利用可能なGPT‑5.6 Solは、タスクあたり約1.15ドルで70%の回答正解率を達成します。これは、DatabricksがOfficeQA v2リリースで評価したシステムの中で最高のスコアであり、品質と効率の両方で新しい最先端パフォーマンスを確立しています。
OfficeQA Pro V2における回答正解率対ロールアウトあたりのコストの散布図(コストは対数スケール)。サブエージェントとしてToast 1を実行するCodex上のGPT-5.6 Solは、タスクあたり約1.20ドルで70%の正解率に達し、Databricksの評価における以前のパレートフロンティアを上回っています。そこでは、Databricks Genie上のClaude Fable 5は、約4ドルで60%に達しています。
OfficeQA Pro V2における回答正解率対ロールアウトあたりのコスト。
GenieとHarnessの数値はDatabricksが報告したもの。Codex + Toast 1の実行は当社によるものです。塗りつぶされた領域は、以前のパレートフロンティアの下にあります。
比較すると、以前の最高パフォーマーであるDatabricks Genie上のClaude Fable 5は、タスクあたり約4ドルで60%の正解率に達する一方、Toast 1なしのCodex内のGPT-5.6 Solはわずか33%の正解率しか達成しません。
この改善は、証拠収集の経済性を再構築することから生じます。Toast 1の専門化により、高品質でトークン効率の高い証拠パッケージを生成でき、推論プロセスが最終的な回答に到達するための十分なリソースが確保されます。
Legal Agentic Benchmark - Firm Knowledge
Harvey LABのLaw Firm Knowledgeベンチマークは、エージェントが大規模で現実的なスケールで制度的な法的知識を検索し、使用できるかどうかを評価することを目的としています。
法務業務は、その性質上、コンテキストが非常に重要です。より優れた、より関連性の高い判例や詳細にアクセスできる相手に勝つことはできません。しかし、それはノイズも多いです。多くの状況が似ていますが、単純な詳細で異なります。これにより、多数の偽陽性なしに高品質の証拠パッケージを収集することが困難になります。
ランダムに選択された33のタスクのサブセットで1、GPT-5.6 Solの回答品質は検索方法間で一定であることがわかりました。
Harvey LABのファームナレッジベンチマークで使用された合計トークン数の棒グラフ。バニラエージェントは、タスクあたり21.7ターンで8060万トークンを使用します。Mixedbread Searchを追加すると、タスクあたり14.6ターンで4700万トークンに42%削減されます。Toast 1をサブエージェントとして追加すると、さらに51%削減されて2300万トークンになり、タスクあたり11.2ターンになります。3つの構成すべてが同一のタスクスコア55を達成するため、最終結果は3.5倍少ないトークンで同じパフォーマンスになります。
トークンは33タスクベンチマークの合計です。ターンはタスクあたりのエージェントループの繰り返しです。3つの構成すべてが同一のタスクスコア55を達成します。
しかし、検索品質の向上はトークン効率を劇的に向上させました。バニラエージェントのファイルシステム検索をMixedbread Searchに置き換えることで、同一のタスクスコアでトークン使用量を8060万から4700万に削減しました。その後、専用検索サブエージェントとしてToast 1を追加することで、さらに2300万に削減し、バニラエージェントが必要とするターンの半分で完了させることができました。
Mixedbread Search搭載のToast 1の導入は、回答品質を維持しながら、3.5倍少ないトークンを消費し、60%以上のコスト削減につながりました。Toast 1は、最先端モデルのコンテキストウィンドウを解放し、トークンを正しい回答に到達させるために使用できるようにします。
Demo: Dig Deep Into Dwarkesh's Podcast
ベンチマークと数値だけでは物語の一部しか語れません。Toast 1がどのように機能するかを真に理解するには、実際に検索している様子を見るのが一番です。Mixedbreadでは、Dwarkeshのポッドキャストを非常に楽しんでおり、そのトランスクリプトを深く検索できると楽しいだろうと考えました。
[動画:Dwarkeshのポッドキャストのトランスクリプトを検索するToast 1のデモ]
こちらでご自身で試すことができます。
Frontier Class Retrieval
複雑なタスクのための有能なサブエージェントであると同時に、Toast 1は深い検索のために特別にトレーニングされた有能なスタンドアロンモデルでもあります。これは、当社の埋め込みモデルとSiloの背後にある共同設計アプローチの次のステップを表しています。モデル、エージェントハーネス、検索プリミティブは連携するように設計されています2。
BrowseComp Plus、OfficeQA Pro、LongSealにおける検索品質対クエリあたりのコストとレイテンシ。Toast 1は、各ベンチマークで最高の最先端モデルスイープと同等またはそれに近づくパフォーマンスを発揮しますが、クエリあたりのコストはわずかで、約7〜10秒で回答します。これは最先端モデルスイープよりもはるかに高速です。
プロンプトキャッシュを使用したリスト価格でのクエリあたりのコスト。レイテンシはクエリあたりのp50です。線は各モデルのパレート効率的な推論スイープを示しています。
さまざまな深い検索ベンチマークにおいて、それは最先端モデルのパフォーマンスに達し、GPT-5.6 Solと同じリーグに位置し、Kimi K3やGLM-5.2などのモデルを快適に上回っています。
そうしながらも軽量です。標準的なToast 1の実行コストは約0.016〜0.023ドル/クエリで、中央レイテンシは8秒です。当社の最高品質のフュージョン構成のコストは約0.05〜0.07ドル/クエリで、中央レイテンシは11秒です。実際には、当社の評価で同等のパフォーマンスを達成したシステムの中で、Toast 1は7〜11倍安価で、大幅に高速でした。最先端モデルの検索エージェントは、同じ評価で20秒から4分かかりました。
Availability and Pricing
Toast 1は、割引されたローンチ価格でMixedbread APIを通じてすぐに利用可能です。
- 入力トークン100万あたり0.30ドル
- キャッシュされた入力トークン100万あたり0.036ドル(キャッシュ書き込みは無料)
- 出力トークン100万あたり0.72ドル
Mixedbread SearchをToast 1が呼び出す場合、特別料金が適用されます。
With Your Existing Retrieval Stack
Toast 1はMixedbread Searchのプリミティブと共同設計されており、それとの併用で最高のパフォーマンスを発揮します。しかし、バックエンドに依存しないように特別な注意を払いました。既存の検索インデックス上で実行でき、既存のバックエンドを移行する必要はありません。提供されたインデックスに関係なく、Toast 1がコストとレイテンシのわずかな割合で最先端モデルと同様の条件下で競争力のあるパフォーマンスを維持することを保証するために徹底的なテストを実施しました。
当社のChat Completions APIでToast 1を使用し、数分で既存のエージェントワークフローに検索ツールとして追加できます。こちらがすぐに使用できるゴールデンハーネスです。
With Coding Agents
コーディングエージェントにnpx skills add mixedbread-ai/skillsとの統合を任せましょう。または、当社のOpenCode統合でToast 1をサブエージェントとして直接使用してください。
With Your Mixedbread Stores
APIキーを取得し、5ドルのクレジットが含まれているので試してみてください。