Show HN: AIが回答する前にその思考プロセスを可視化・編集できるWebツールを開発しました

私は小規模なAIラボとプレイグラウンドを運営しており、Anthropicの論文「Verbalizable Representations Form a Global Workspace in Language Models」（https://transformer-circuits.pub/2026/workspace/index.html）に非常に興奮しました。 この論文では、彼らがジャコビアンレンズ（Jacobian Lens）と呼ぶツールを使って、LLMが単語（トークン）を決定する前の、動作中のミドルレイヤー内部をどのように見ることができるかが論じられています。 私はこれをオープンモデルで実行できるバージョンを入手できるか試したところ、驚くべきことに動作しました！いくつかの実験を行い、誰でも自分のプロンプトで使える無料の公開ツールを構築しました。 モデルに「三本の水の曲線」というシンボルを説明するように求めると、「オーシャン」、「シー」、「サーフ」といった言葉が数レイヤー深くで光り、最終的に「ウェーブス」に落ち着く様子を見ることができます。 内部状態を編集することも可能です。オーシャンプロンプトのミドルレイヤーに「ファイア」を挿入すると、回答は熱に関するものに変化します。 楽しみや好奇心のために、モデルが自身の内部ワークスペースを読み取り、概念を抑制または増幅するかどうかを決定し、プロンプトを再度実行できる方法も開発しました。 モデル全体で実行した興味深い発見があります。J-lensは一部のアーキテクチャでは通常のロジットレンズ（logit lens）よりも優れており、他のアーキテクチャでは何も効果がありません。これはモデルのサイズとは関係ありません。0.5BのQwenは2.8BのPythiaよりも良く読み取れます。私が試したすべてのPythiaモデルは基本的に何も改善しませんでしたが、LlamaとQwenモデルは大幅に改善しました。https://lucid.earthpilot.ai/research これは48時間前に始まったプロジェクトで、最新の研究に基づいており、小規模なモデル、少数のプローブセット、レンタルGPUで構築されましたが、私はこれが本当にエキサイティングだと感じました。コードはオープンソースです。 また、何を見ているか理解するのに役立つチャットAIエージェント「Docent」のページコンテキストも含まれています。 皆さんに触ってもらって、壊してもらって構いません。 モデルが自己反省したり、内部状態を編集したりすることを可能にするアプリケーションは、アライメント、信頼性、バイアス検出などに役立つと想像しており、このツールを使えばその初期段階を体験できます。