Ramp、モデルルーターをローンチ
Ramp Launches a Model Router (router.com)
要約
Ramp Labsは、AIモデルの管理とデプロイを効率化する「Model Router」を発表しました。これは、複数のAIモデルを単一のエンドポイントで管理し、タスクに応じて最適なモデルを自動的にルーティングする機能を提供します。これにより、開発者は複雑なインフラストラクチャ管理から解放され、AIアプリケーションの開発に集中できるようになります。
全文翻訳
router.com は時間とお金を節約します
推論コストを数秒で削減
自動フォールバック、リクエストレベルのオブザーバビリティ、組み込みのプライバシーコントロール、および対象モデルでのZDRを備えた単一のエンドポイント。
18の毎日のサンプルにわたるコスト影響データ
| サンプル | 総コストインデックス | フレキシブルルーティングのシェア |
|---|---|---|
| 1 | 100 | 1 |
| 2 | 98 | 2 |
| 3 | 97 | 5 |
| 4 | 94 | 5 |
| 5 | 93 | 8 |
| 6 | 91 | 10 |
| 7 | 90 | 12 |
| 8 | 88 | 15 |
| 9 | 85 | 19 |
| 10 | 84 | 22 |
| 11 | 82 | 26 |
| 12 | 81 | 31 |
| 13 | 79 | 39 |
| 14 | 77 | 43 |
| 15 | 75 | 48 |
| 16 | 73 | 57 |
| 17 | 72 | 65 |
| 18 | 70 | 73 |
推論から請求まで、AI支出を管理
AIインフラはミリ秒単位で動きます。財務上の可視性は月末に届きます。Rampはこれらを同じ運用リズムに統合し、企業がイノベーションを遅らせることなく成長できるようにします。
チームがRouterについて語ること
コスト
モデル (26)
- Claude Fable 5
- Claude Opus 5
- Kimi K3
- Claude Opus 4.7
- GPT-5.5
- GPT-5.6 Sol
- GLM 5.2
- Grok 4.5
- Kimi K2.7 Code
- Claude Opus 4.6
- DeepSeek V4 Flash
- Claude Opus 4.8
- GPT-5.6 Terra
- Claude Sonnet 5
- GPT-5.4
- Gemini 3.1 Pro
- GPT-5.6 Luna
- Claude Sonnet 4.6
- Kimi K2.6
- GLM 5.1
- Qwen3.6 Plus
- DeepSeek V4 Pro
- Qwen3.7 Plus
- GPT-5.4 Mini
- Claude Haiku 4.5
- GPT-5.4 Nano
平均
実際の作業から構築されたベンチマーク
公開されているリーダーボードでは、私たちが抱えていた疑問に答えられなかったため、Rampは実際のプロダクションエンジニアリング作業からSWE-Benchを構築しました。これにより、各モデルが何を解決でき、そのコストはいくらかをより明確に把握できます。
Rampで活用
RampはRouterに実際のテスト環境を提供します。プロダクションで得た教訓は、直接製品にフィードバックされます。
プロダクションバリュー
2.75兆以上
トークンを月間ルーティング
[画像:RampのAIコスト削減に関するグラフ]
Rampが内部ワークロードでAIコストを30%削減した方法
Routerは、ライブのレイテンシーと失敗率に応答し、パフォーマンスを犠牲にすることなくRampのAIコストを30%削減します。
[画像:NVIDIA NeMo SwitchyardのStage Routerに関する動画サムネイル]
NVIDIA NeMo Switchyardのコーディングエージェント向けStage Router
Switchyardのインテリジェントなモデル選択は、パフォーマンスを犠牲にすることなく、コストを59%、実行時間を35%削減します。
「Rampでは、RouterがLLM全体のコストを30%削減し、同時に機能のスマート化と高速化を実現しました。」
[画像:RampのCTOであるRahul Sengottuvelu氏の写真]
Rahul Sengottuvelu
CTO, Ramp
Labからのその他の記事
2026年7月1日
PorTAL: LoRAのためのポータブルタスク適応
ベースに依存しない形式でタスク適応を一度学習し、新しい凍結モデルにポートします。ポートするには、薄いベースごとのアライメントのみを再調整します。これにより、同じファミリー内の未知のモデルで約98%、ファミリーをまたぐ場合は約94%のタスクごとのLoRAの利点を回復できます。
2026年5月27日
2026年5月7日
2026年4月21日
コーディングエージェントは自身の予算を無視する
エージェントは、自身のトークン予算を管理することを信頼できません。支出管理は、支出を行っているエージェントの外部にある、証拠に基づいた別のシステムに存在する必要があります。
2026年4月10日
2026年4月2日
2026年3月23日
2025年11月3日
2025年10月2日
2025年8月27日
Agent Fillを構築した方法
Agent Fillの裏話。これは、コンテキストを理解し、データを抽出し、複雑なワークフローをナビゲートすることでフォームを自動的に入力するAIエージェントです。
[画像:Agent Fillのデモ画面]