AI・機械学習
ローカルLLMでClaude 5のトークン吐き出しをクリーンアップする
Clean up Claude 5's token vomit with a separate LLM (github.com)
要約
Vomitは、Claude 5の生成する冗長なトークン出力を、ローカルで動作する別のLLMを使用して、より理解しやすい英語に変換するツールです。このツールは完全にローカルで動作し、外部依存関係はありません。ただし、ローカルLLMはClaudeの意図したメッセージのみを解釈できるため、ある程度の幻覚(ハルシネーション)が発生する可能性があり、処理速度も遅いです。Macでのみテストされており、Claudeのメッセージを完全に誤解する可能性も指摘されています。インストール方法や、Claudeの出力をフックして変換する手順、非侵襲的なモードでの使用方法などが説明されています。
全文翻訳
Vomit
Vomitは、ClaudeのトークンバーミットをローカルLLMを通してパイプ処理することで、英語に変換します。完全にローカル(テレメトリなし)で動作し、外部依存性はありません。
VomitはClaude Codeにフックし、Claude CodeのターミナルUI内で全ての出力を書き換えます。
免責事項:
- ローカルLLMはClaudeが通信しようとしていることのみを認識でき(いかなるアクションやファイルにもアクセスできない)、そのため多少の幻覚を見る可能性があります。
- これは完全に感覚的なコードであり、Macでのみテストされています。
- かなり遅いです。
インストール
# バイナリをGOPATHにインストールします
go install github.com/zachahn/vomit@latest
# LLMへの接続詳細を設定します
vomit init
# フックを介してClaudeの出力を置き換える方法の説明
vomit scrub -claude
使用方法
さらに、サイドでVomitを実行したい場合は、非侵襲的なモードもあります。(これは非推奨です。)
vomit list。Claudeセッション識別子を一覧表示します。vomit tail [<session_identifier>]。指定されたセッションのClaudeトークンを翻訳するか、最新のセッションをフォローします。vomit help。その他のコマンドを表示します。
これは以下で動作するはずです:
まだローカルLLMをセットアップしていない場合は、Llama.appを使用し、そこからGPT-OSS 20Bをダウンロードすることをお勧めします。セットアップ後、initサブコマンドを実行してください。
ヒント
- Claude Code内で
ctrl-oを押すと、Claudeの元の出力を取得できます。
ライセンス
GNU GPLv3