大規模言語モデルにおける創発的な内省的認識
Emergent Introspective Awareness in Large Language Models (arxiv.org)
要約
本研究では、大規模言語モデル(LLM)が自身の内部状態を内省できるかを調査しています。モデルの活性化に既知の概念を表す情報を注入し、その影響を測定することで、モデルが自身の内部状態を認識し、外部入力と区別できる能力があることを発見しました。特に、Claude Opus 4および4.1が最も高い内省的認識を示しましたが、その能力は文脈依存的で信頼性が低いことも指摘されています。
全文翻訳
コンピュータサイエンス > 計算と言語
arXiv:2601.01828 (cs)
[2026年1月5日提出]
タイトル: 大規模言語モデルにおける創発的な内省的認識
著者: Jack Lindsey
Jack Lindseyによる論文「Emergent Introspective Awareness in Large Language Models」のPDFを表示
要旨: 我々は、大規模言語モデルが自身の内部状態を内省できるかどうかを調査します。真の内省とこじつけを区別することは困難なため、会話だけではこの問いに答えることは難しいです。ここでは、既知の概念の表現をモデルの活性化に注入し、これらの操作がモデルの自己報告状態に与える影響を測定することで、この課題に対処します。我々は、モデルが特定のシナリオにおいて、注入された概念の存在に気づき、それを正確に識別できることを見出しました。モデルは、過去の内部表現を思い出し、それを生のテキスト入力と区別する能力を示します。驚くべきことに、一部のモデルは、過去の意図を思い出す能力を使用して、人工的な事前生成(prefill)と自身の出力を区別できることがわかりました。これらの実験すべてにおいて、我々がテストした中で最も有能なモデルであるClaude Opus 4および4.1は、一般的に最も高い内省的認識を示しました。しかし、モデル間の傾向は複雑で、訓練後の戦略に敏感です。最後に、モデルが明示的に内部表現を制御できるかどうかを検討し、モデルが概念について「考える」ように指示されたり、奨励されたりすると、活性化を調整できることを見出しました。全体として、我々の結果は、現在の言語モデルが自身の内部状態に対してある程度の機能的な内省的認識を持っていることを示しています。今日のモデルでは、この能力は非常に信頼性が低く、文脈依存的であることを強調しますが、モデル能力のさらなる改善とともに発展する可能性があります。
| 科目: | 計算と言語 (cs.CL); 人工知能 (cs.AI) |
| 引用: | arXiv:2601.01828 [cs.CL] |
| (またはこのバージョンについては arXiv:2601.01828v1 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2601.01828 arXiv発行DOI (DataCite経由) |
提出履歴
投稿者: Jack Lindsey
メールを表示
[v1] 月曜日, 2026年1月5日 06:47:41 UTC (33,806 KB)
全文リンク:
論文にアクセス
Jack Lindseyによる論文「Emergent Introspective Awareness in Large Language Models」のPDFを表示
追加機能
現在の閲覧コンテキスト:
cs.CL
次のように閲覧を変更:
参考文献と引用
読み込み中...
BibTeX形式の引用
読み込み中...
提供元:
ブックマーク
書誌ツール
書誌および引用ツール
書誌エクスプローラー トグル
書誌エクスプローラー (エクスプローラーとは?)
コネクテッドペーパー トグル
コネクテッドペーパー (コネクテッドペーパーとは?)
リットマップス トグル
リットマップス (リットマップスとは?)
scite.ai トグル
sciteスマート引用 (スマート引用とは?)
コード、データ、メディア
この論文に関連するコード、データ、メディア
アルファarXiv トグル
アルファarXiv (アルファarXivとは?)
コードへのリンク トグル
CatalyzeXコードファインダー (CatalyzeXとは?)
DagsHub トグル
DagsHub (DagsHubとは?)
GotitPub トグル
Gotit.pub (GotitPubとは?)
Huggingface トグル
Hugging Face (Huggingfaceとは?)
サイエンスキャスト トグル
サイエンスキャスト (サイエンスキャストとは?)
デモ
デモ
レプリケート トグル
レプリケート (レプリケートとは?)
スペース トグル
Hugging Face Spaces (Spacesとは?)
スペース トグル
TXYZ.AI (TXYZ.AIとは?)
関連記事
レコメンダーと検索ツール
インフルエンスフラワーへのリンク
インフルエンスフラワー (インフルエンスフラワーとは?)
コアレコメンダー トグル
COREレコメンダー (COREとは?)
- 著者
- 会場
- 機関
- トピック
arXivLabsについて
arXivLabs: コミュニティ協力者との実験プロジェクト
arXivLabsは、協力者がarXivのウェブサイト上で直接新しいarXiv機能を開発・共有できるフレームワークです。
arXivLabsで働く個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという我々の価値観を受け入れ、遵守しています。arXivはこの価値観にコミットしており、それに準拠したパートナーのみと協力します。
arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか? arXivLabsについてもっと知る。
この論文の著者は誰が推薦者ですか? | MathJaxを無効にする (MathJaxとは?)