HN 日本語サマリー

← 一覧へ戻る
プログラミング

Show HN: Claude、Codex、Cursor でのスマートモデルルーティング

Show HN: Smart model routing directly in Claude, Codex and Cursor (github.com)

176 pointsby adchurch99 コメント

要約

Weaveが開発したモデルルーターは、コーディングエージェント(Claude Code、Codex、Cursorなど)に組み込まれ、リクエストを最適なモデルにインテリジェントに送信します。これにより、開発コストを40%削減しつつ、品質や速度の低下は見られませんでした。このルーターはElastic License 2.0の下でソースが公開されており、セルフホストも可能です。

全文翻訳

Claude Code、Codex、Cursorなどのコーディングエージェントに組み込み、リクエストを最適なモデルにインテリジェントに送信するモデルルーターを開発しました。ローカルで実行する簡単なデモはこちらです: https://www.youtube.com/watch?v=isKhAyivtfM。

Weaveでは、コードの大部分をAIで記述しており、そのコストは増加傾向にありました。特にOpus 4.7がリリースされ、トークナイザーの変更によりコストが急増したことが課題となりました。Opusが全てのタスクに必要ではないと認識しつつも、本当に必要な場面でのインテリジェンスを失いたくなかったため、このモデルルーターを開発することにしました。

Weaveルーターは、コーディングエージェント専用のAnthropic/OpenAIエンドポイントとして機能します。すべての推論リクエストを分析し、インテリジェントに(詳細は後述)どのモデルに送信するかを決定し、必要なすべての翻訳を処理します。これにより、可能な場合はDeepSeek v4、GLM 5.2、Kimi K2.6などのより高速/安価なモデルを、必要に応じてOpus 4.8やGPT 5.5(Fableが復帰したらそれも)などの最先端モデルを使用できます。

どのモデルにルーティングするかをどのように判断しているか?数万件(現時点まで!)のエージェントトレースでRLモデルをトレーニングしました。ルーティングモデルは、与えられたタスクを正常に完了するLLMを選択した場合に報酬を与えられます。

例を挙げると、ルーターに複雑な変更の計画を依頼した場合、そのリクエストは(おそらく)Opus 4.8にルーティングされます。コードベースを探索してコンテキストを収集するサブエージェントは、より適切なモデル(例: DeepSeek V4 Flash)にルーティングされます。そして、計画が実装の準備ができたとき、それは(最も可能性が高いのは)より高速なモデル(例: GLM 5.2)に引き渡されて実行されます。

私たちはこのルーターを過去1ヶ月ほど社内で使用しており、品質や速度に目立った違いなく、トークンあたりのコストを従来よりも40%削減することに成功しました。

このルーターはElastic License 2.0の下でソースアベイラブルとして提供されているため、セルフホストが可能です。または、ホスト版をご希望の場合は、weaverouter.comでもご利用いただけます。

ご質問があれば、喜んでお答えします!