HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ローカルLLMでClaude 5のトークン吐き出しをクリーンアップする

Clean up Claude 5's token vomit with a separate LLM (github.com)

274 pointsby Bluestein269 コメント

要約

Vomitは、Claude 5の生成する冗長なトークン出力を、ローカルで動作する別のLLMを使用して、より理解しやすい英語に変換するツールです。このツールは完全にローカルで動作し、外部依存関係はありません。ただし、ローカルLLMはClaudeの意図したメッセージのみを解釈できるため、ある程度の幻覚(ハルシネーション)が発生する可能性があり、処理速度も遅いです。Macでのみテストされており、Claudeのメッセージを完全に誤解する可能性も指摘されています。インストール方法や、Claudeの出力をフックして変換する手順、非侵襲的なモードでの使用方法などが説明されています。

全文翻訳

Vomit

Vomitは、ClaudeのトークンバーミットをローカルLLMを通してパイプ処理することで、英語に変換します。完全にローカル(テレメトリなし)で動作し、外部依存性はありません。

VomitはClaude Codeにフックし、Claude CodeのターミナルUI内で全ての出力を書き換えます。

免責事項:

  • ローカルLLMはClaudeが通信しようとしていることのみを認識でき(いかなるアクションやファイルにもアクセスできない)、そのため多少の幻覚を見る可能性があります。
  • これは完全に感覚的なコードであり、Macでのみテストされています。
  • かなり遅いです。

インストール

# バイナリをGOPATHにインストールします
go install github.com/zachahn/vomit@latest

# LLMへの接続詳細を設定します
vomit init

# フックを介してClaudeの出力を置き換える方法の説明
vomit scrub -claude

使用方法

さらに、サイドでVomitを実行したい場合は、非侵襲的なモードもあります。(これは非推奨です。)

  • vomit list。Claudeセッション識別子を一覧表示します。
  • vomit tail [<session_identifier>]。指定されたセッションのClaudeトークンを翻訳するか、最新のセッションをフォローします。
  • vomit help。その他のコマンドを表示します。

これは以下で動作するはずです:

  • Llama.app
  • Ollama
  • Apfel (MacOS 26+をお持ちの場合は非常に便利ですが、あまり良くはありません。)
  • OpenAI APIを使用するものは何でも?

まだローカルLLMをセットアップしていない場合は、Llama.appを使用し、そこからGPT-OSS 20Bをダウンロードすることをお勧めします。セットアップ後、initサブコマンドを実行してください。

ヒント

  • Claude Code内で ctrl-o を押すと、Claudeの元の出力を取得できます。

ライセンス

GNU GPLv3