HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Show HN: Ratel、コンテキストの肥大化なしにエージェントに無制限のツールとスキルを与える

Show HN: Ratel, give agents unlimited tools and skills without context bloat (github.com)

14 pointsby jack168913 コメント

要約

Ratelは、エージェントが持つツールとスキルの全カタログを維持しつつ、各ターンで実際に重要なものだけを段階的に開示するライブラリです。これにより、エージェントの機能を拡張する際のコンテキストの肥大化、ハルシネーション、高額なトークンコストといった問題を解決します。キーワードおよびセマンティック検索をサポートし、追加インフラなしでインプロセスで動作します。

全文翻訳

Hi HN! 私たちはGiacomoとRobertoです。Ratel (https://github.com/ratel-ai/ratel) の著者です。

以前はSaaS企業が自社製品上でエージェントを構築するのを支援していました。より多くのツールや指示を追加してエージェントの複雑性/スコープを拡張しようとするたびに、常に同じ問題に直面しました。それはコンテキストの肥大化で、頻繁なハルシネーションと法外なトークン費用が発生するというものでした。そのため、私たちはエージェントのエンジニアリングを継続的に行い、ツールを動的にロードし、サブエージェントに分割し、スキルをサポートするための独自の方式を考案しました。

そして、まさにその時にRatelを開発し始めました。Ratelは、エージェントがツールとスキルの全カタログを保持しつつ、各ターンで実際に重要なものだけを段階的に開示できるようにするライブラリです。これにより、エージェントを壊したり、ローンを組んだりすることなく、その能力を成長させることができます。

人々は既に本番環境でRatelを利用しており、あるユーザーは精度を損なうことなく、最初の1ヶ月でトークン費用を最大81%削減しました。

キーワード検索とセマンティック検索の両方をサポートしており、すべてインプロセスで追加のインフラは不要です。オープンソースで、フレームワークに依存せず、OpenTelemetryメトリクスを公開し、TypescriptとPythonで利用可能です。

ベンチマーク: https://benchmark.ratel.sh

これを使って行ったクールなことのいくつか:

• あるチームのエージェントは、300以上のツールがコンテキストに動的にロードされていました。Ratelは最初の月でトークン費用を81%削減しました。
• 別のチームは、タスクごとに1つのエージェントというように、いくつかのサブエージェントに分割しました。それは機能しましたが、スウォーム(群れ)が遅く高価になるにつれて問題が発生しました。私たちはスキルの機能でこれを解決しました。

私たちは一日中ここにいます。特に本番環境でエージェントを実行しているAIまたはSWEの方は、ぜひ意見を聞かせてください。