HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Ramp Router

Ramp Router (ramp.com)

6 pointsby handfuloflight5 コメント

要約

Ramp Routerは、LLM(大規模言語モデル)のコストを削減し、パフォーマンスを向上させるためのサービスです。最新のモデルを常にテストし、品質基準を満たす最も低コストのモデルにリクエストを自動的にルーティングします。これにより、ユーザーは数行のコードで複数のモデルを利用でき、キャッシュ、圧縮、プロバイダー更新などの最適化も自動的に行われます。また、Ramp Token Spend Managementにより、モデル、製品、チームごとの支出を詳細に追跡できます。

全文翻訳

router.com は時間とお金を節約します

推論コストを数秒で削減

自動フォールバック、リクエストレベルのオブザーバビリティ、組み込みのプライバシーコントロール、および対象モデルでのZDRを備えた単一のエンドポイント。

18日間のサンプルにおけるコスト影響データ

SampleTotal cost indexFlexible routing share
11001
2982
3975
4945
5938
69110
79012
88815
98519
108422
118226
128131
137939
147743
157548
167357
177265
187073

推論から請求までAI支出を管理

AIインフラはミリ秒単位で動きます。財務上の可視性は月末に届きます。Rampはこれらを同じ運用リズムに統合し、企業がイノベーションを遅らせることなく成長できるようにします。

利用を開始する

チームがRouterについて語ること

コスト

モデル (26)

  • Claude Fable 5
  • Claude Opus 5
  • Kimi K3
  • Claude Opus 4.7
  • GPT-5.5
  • GPT-5.6 Sol
  • GLM 5.2
  • Grok 4.5
  • Kimi K2.7 Code
  • Claude Opus 4.6
  • DeepSeek V4 Flash
  • Claude Opus 4.8
  • GPT-5.6 Terra
  • Claude Sonnet 5
  • GPT-5.4
  • Gemini 3.1 Pro
  • GPT-5.6 Luna
  • Claude Sonnet 4.6
  • Kimi K2.6
  • GLM 5.1
  • Qwen3.6 Plus
  • DeepSeek V4 Pro
  • Qwen3.7 Plus
  • GPT-5.4 Mini
  • Claude Haiku 4.5
  • GPT-5.4 Nano

平均

実際の作業から生まれたベンチマーク

公開されているリーダーボードでは、私たちが抱えていた疑問に答えられなかったため、Rampは実際のプロダクションエンジニアリング作業からSWE-Benchを構築しました。これにより、各モデルが何を解決でき、どのくらいのコストがかかるのかをより明確に把握できます。

Rampで活用

RampはRouterに実世界の検証の場を提供します。プロダクションで得た教訓は、直接製品にフィードバックされます。

プロダクションでの価値

2.75兆件以上

月間ルーティングされたトークン数

[画像: Ramp Routerのダッシュボードのスクリーンショット]

Rampが内部ワークロードでAIコストを30%削減した方法

Routerはライブのレイテンシと失敗率に応答し、パフォーマンスを犠牲にすることなくRampのAIコストを30%削減します。

ブログ記事を読む

[画像: Ramp Routerのコスト削減効果を示すグラフ]

NVIDIA NeMo Switchyardのコーディングエージェント向けStage Router

Switchyardのインテリジェントなモデル選択は、パフォーマンスを犠牲にすることなくコストを59%、実行時間を35%削減します。

動画を見る

「Rampでは、RouterがLLM全体のコストを30%削減し、同時に機能のスマート化と高速化を実現しました。」

[画像: RampのCTOであるRahul Sengottuvelu氏の写真]

Rahul Sengottuvelu

CTO, Ramp

Labからの最新情報

2026年7月1日

PorTAL: LoRAのためのポータブルタスク適応

ベースに依存しない形式でタスク適応を一度学習し、薄いベースごとのアライメントのみを再調整することで、新しい凍結モデルにポートできます。同一ファミリー内では、タスクごとのLoRAのパフォーマンスの約98%を、ファミリーをまたぐ場合は約94%を、未知のモデルで回復します。

2026年5月27日

2026年5月7日

2026年4月21日

コーディングエージェントは自身の予算を無視する

エージェントは、自身のトークン予算を管理することを信頼できません。支出管理は、支出を行うエージェントの外部にある、証拠に基づいた別のシステムに存在する必要があります。

2026年4月10日

2026年4月2日

2025年3月23日

2025年10月2日

2025年8月27日

Agent Fillの構築方法

Agent Fillの裏話。これは、コンテキストを理解し、データを抽出し、複雑なワークフローをナビゲートすることでフォームを自動的に入力するAIエージェントです。

[画像: Agent Fillのデモ画面]