AI・機械学習
ローカルLLMでClaude 5のトークン吐き出しをクリーンアップする
Clean up Claude 5's token vomit with a separate LLM (github.com)
要約
Vomitは、Claude 5の生成する冗長なトークン出力を、ローカルで動作する別のLLMを使用して、より理解しやすい英語に変換するツールです。このツールは完全にローカルで動作し、外部依存関係はありません。ただし、ローカルLLMはClaudeの意図したメッセージのみを解釈できるため、ある程度の幻覚(ハルシネーション)が発生する可能性があり、処理速度も遅いです。Macでのみテストされており、Claudeのメッセージを完全に誤解する可能性も指摘されています。インストール方法や、Claudeの出力をフックして変換する手順、非侵襲的なモードでの使用方法などが説明されています。
全文翻訳
Vomit Vomit は、Claude のトークン吐き出しをローカル LLM を介してパイプ処理することで英語に変換します。完全にローカル (テレメトリなし) で、外部依存関係はありません。
免責事項: ローカル LLM は Claude が伝えようとしていることしか見ることができません (アクションやファイルへのアクセスはありません)。
そのため、ある程度幻覚を見ます。
かなり遅いです。
これは完全にバイブスコードされており、Mac でのみテストされています。
Claude のメッセージを完全に誤解する可能性があります。
Vomit は実行中に何も触れない (技術的には TMPDIR にファイルを書き込む以外は) ため、元のメッセージを取得するには AgentsView のようなものを使用できます。
インストール
# バイナリを GOPATH にインストールする
go install github.com/zachahn/vomit@latest
# LLM への接続詳細を設定する
vomit init
# フックを介して Claude の出力を置き換える方法の説明
vomit scrub -claude
使用法
さらに、サイドで Vomit を実行したい場合のために、非侵襲的なモードがあります。
vomit list. Claude セッション識別子を一覧表示します。
vomit tail [<session_identifier>]. 指定されたセッションの Claude のトークンを翻訳するか、最新のものをフォローします。
vomit help. コマンドを表示します。
これは以下で動作するはずです:
Llama.app
Ollama
OpenAI API を使用するもの?
まだローカル LLM をセットアップしていない場合は、Llama.app を使用し、それを通じて GPT-OSS 20B をダウンロードすることをお勧めします。セットアップ後に init サブコマンドを実行してください。
ライセンス
GNU GPLv3