AI・機械学習
Show HN: Ratel、コンテキストの肥大化なしにエージェントに無制限のツールとスキルを与える
Show HN: Ratel, give agents unlimited tools and skills without context bloat (github.com)
要約
Ratelは、エージェントが持つツールとスキルの全カタログを維持しつつ、各ターンで実際に重要なものだけを段階的に開示するライブラリです。これにより、エージェントの機能を拡張する際のコンテキストの肥大化、ハルシネーション、高額なトークンコストといった問題を解決します。キーワードおよびセマンティック検索をサポートし、追加インフラなしでインプロセスで動作します。
全文翻訳
HNの皆さん、こんにちは!GiacomoとRobertoです。Ratel (<a href="https://github.com/ratel-ai/ratel" rel="nofollow">https://github.com/ratel-ai/ratel</a>) の著者です。
以前はSaaS企業が製品の上にエージェントを構築するのを支援していました。エージェントの複雑さ/スコープを、より多くのツールや指示を追加することで拡張しようとするたびに、常に同じ問題に直面しました。コンテキストの肥大化、頻繁なハルシネーション、そして空高く舞い上がるトークン請求です。そのため、エージェントを継続的にエンジニアリングし、ツールを動的にロードし、サブエージェントに分割し、スキルをサポートするための独自の方式を発明し続けました。
そして、まさにその時にRatelの構築を開始しました。エージェントがツールとスキルの全カタログを維持できるようにするライブラリですが、各ターンで実際に重要なものだけを段階的に開示します。これで、エージェントの機能を壊したり、ローンを組んだりすることなく拡張できます。
すでに本番環境で使用されており、あるユーザーは最初の月に精度を損なうことなくトークンコストを最大81%削減しました。
キーワード検索とセマンティック検索の両方をサポートし、すべてインプロセスで追加のインフラなしで動作します。オープンソース、フレームワークに依存せず、OpenTelemetryメトリクスを公開し、TypescriptとPythonで利用可能です。
ベンチマーク: <a href="https://benchmark.ratel.sh" rel="nofollow">https://benchmark.ratel.sh</a>
これを使って行ったクールなことのいくつか:
• あるチームのエージェントは、300以上のツールがコンテキストに動的にロードされていました。Ratelは最初の月にトークンコストを81%削減しました。
• 別のチームは代わりにいくつかのサブエージェントに分割しました。タスクごとに1つのエージェントです。それは機能しましたが、群れが遅く高価になるまでです。スキルでこれを修正しました。
私たちは一日中ここにいます。特に本番環境でエージェントを実行しているAIまたはSWEであれば、徹底的にレビューしてください。