HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ローカルLLMでClaude 5のトークン吐き出しをクリーンアップする

Clean up Claude 5's token vomit with a separate LLM (github.com)

274 pointsby Bluestein269 コメント

要約

Vomitは、Claude 5の生成する冗長なトークン出力を、ローカルで動作する別のLLMを使用して、より理解しやすい英語に変換するツールです。このツールは完全にローカルで動作し、外部依存関係はありません。ただし、ローカルLLMはClaudeの意図したメッセージのみを解釈できるため、ある程度の幻覚(ハルシネーション)が発生する可能性があり、処理速度も遅いです。Macでのみテストされており、Claudeのメッセージを完全に誤解する可能性も指摘されています。インストール方法や、Claudeの出力をフックして変換する手順、非侵襲的なモードでの使用方法などが説明されています。

全文翻訳

Vomit Vomit は、Claude のトークン吐き出しをローカル LLM を介してパイプ処理することで英語に変換します。完全にローカル (テレメトリなし) で、外部依存関係はありません。 免責事項: ローカル LLM は Claude が伝えようとしていることしか見ることができません (アクションやファイルへのアクセスはありません)。 そのため、ある程度幻覚を見ます。 かなり遅いです。 これは完全にバイブスコードされており、Mac でのみテストされています。 Claude のメッセージを完全に誤解する可能性があります。 Vomit は実行中に何も触れない (技術的には TMPDIR にファイルを書き込む以外は) ため、元のメッセージを取得するには AgentsView のようなものを使用できます。 インストール # バイナリを GOPATH にインストールする go install github.com/zachahn/vomit@latest # LLM への接続詳細を設定する vomit init # フックを介して Claude の出力を置き換える方法の説明 vomit scrub -claude 使用法 さらに、サイドで Vomit を実行したい場合のために、非侵襲的なモードがあります。 vomit list. Claude セッション識別子を一覧表示します。 vomit tail [<session_identifier>]. 指定されたセッションの Claude のトークンを翻訳するか、最新のものをフォローします。 vomit help. コマンドを表示します。 これは以下で動作するはずです: Llama.app Ollama OpenAI API を使用するもの? まだローカル LLM をセットアップしていない場合は、Llama.app を使用し、それを通じて GPT-OSS 20B をダウンロードすることをお勧めします。セットアップ後に init サブコマンドを実行してください。 ライセンス GNU GPLv3