HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Ramp、モデルルーターをローンチ

Ramp Launches a Model Router (router.com)

89 pointsby zackfield53 コメント

要約

Ramp Labsは、AIモデルの管理とデプロイを効率化する「Model Router」を発表しました。これは、複数のAIモデルを単一のエンドポイントで管理し、タスクに応じて最適なモデルを自動的にルーティングする機能を提供します。これにより、開発者は複雑なインフラストラクチャ管理から解放され、AIアプリケーションの開発に集中できるようになります。

全文翻訳

router.com は時間とお金を節約します

推論コストを数秒で削減

自動フォールバック、リクエストレベルのオブザーバビリティ、組み込みのプライバシーコントロール、および対象モデルでのZDRを備えた単一のエンドポイント。

18の毎日のサンプルにわたるコスト影響データ

サンプル総コストインデックスフレキシブルルーティングのシェア
11001
2982
3975
4945
5938
69110
79012
88815
98519
108422
118226
128131
137939
147743
157548
167357
177265
187073

推論から請求まで、AI支出を管理

AIインフラはミリ秒単位で動きます。財務上の可視性は月末に届きます。Rampはこれらを同じ運用リズムに統合し、企業がイノベーションを遅らせることなく成長できるようにします。

開始する

チームがRouterについて語ること

コスト

モデル (26)

  • Claude Fable 5
  • Claude Opus 5
  • Kimi K3
  • Claude Opus 4.7
  • GPT-5.5
  • GPT-5.6 Sol
  • GLM 5.2
  • Grok 4.5
  • Kimi K2.7 Code
  • Claude Opus 4.6
  • DeepSeek V4 Flash
  • Claude Opus 4.8
  • GPT-5.6 Terra
  • Claude Sonnet 5
  • GPT-5.4
  • Gemini 3.1 Pro
  • GPT-5.6 Luna
  • Claude Sonnet 4.6
  • Kimi K2.6
  • GLM 5.1
  • Qwen3.6 Plus
  • DeepSeek V4 Pro
  • Qwen3.7 Plus
  • GPT-5.4 Mini
  • Claude Haiku 4.5
  • GPT-5.4 Nano

平均

実際の作業から構築されたベンチマーク

公開されているリーダーボードでは、私たちが抱えていた疑問に答えられなかったため、Rampは実際のプロダクションエンジニアリング作業からSWE-Benchを構築しました。これにより、各モデルが何を解決でき、そのコストはいくらかをより明確に把握できます。

Rampで活用

RampはRouterに実際のテスト環境を提供します。プロダクションで得た教訓は、直接製品にフィードバックされます。

プロダクションバリュー

2.75兆以上

トークンを月間ルーティング

[画像:RampのAIコスト削減に関するグラフ]

Rampが内部ワークロードでAIコストを30%削減した方法

Routerは、ライブのレイテンシーと失敗率に応答し、パフォーマンスを犠牲にすることなくRampのAIコストを30%削減します。

ブログ記事を読む

[画像:NVIDIA NeMo SwitchyardのStage Routerに関する動画サムネイル]

NVIDIA NeMo Switchyardのコーディングエージェント向けStage Router

Switchyardのインテリジェントなモデル選択は、パフォーマンスを犠牲にすることなく、コストを59%、実行時間を35%削減します。

動画を見る

「Rampでは、RouterがLLM全体のコストを30%削減し、同時に機能のスマート化と高速化を実現しました。」

[画像:RampのCTOであるRahul Sengottuvelu氏の写真]

Rahul Sengottuvelu

CTO, Ramp

Labからのその他の記事

2026年7月1日

PorTAL: LoRAのためのポータブルタスク適応

ベースに依存しない形式でタスク適応を一度学習し、新しい凍結モデルにポートします。ポートするには、薄いベースごとのアライメントのみを再調整します。これにより、同じファミリー内の未知のモデルで約98%、ファミリーをまたぐ場合は約94%のタスクごとのLoRAの利点を回復できます。

2026年5月27日

2026年5月7日

2026年4月21日

コーディングエージェントは自身の予算を無視する

エージェントは、自身のトークン予算を管理することを信頼できません。支出管理は、支出を行っているエージェントの外部にある、証拠に基づいた別のシステムに存在する必要があります。

2026年4月10日

2026年4月2日

2026年3月23日

2025年11月3日

2025年10月2日

2025年8月27日

Agent Fillを構築した方法

Agent Fillの裏話。これは、コンテキストを理解し、データを抽出し、複雑なワークフローをナビゲートすることでフォームを自動的に入力するAIエージェントです。

[画像:Agent Fillのデモ画面]