中間トークンを推論/思考の痕跡として擬人化することをやめる

コンピュータサイエンス > 人工知能 arXiv:2504.09762 (cs) [2025年4月14日提出 (v1)、最終改訂2026年6月9日 (本バージョン、v4)] タイトル: ポジションペーパー：中間トークンを推論/思考の痕跡として擬人化することをやめる！著者: Subbarao Kambhampati, Karthik Valmeekam, Siddhant Bhambri, Vardhan Palod, Lucas Saldyt, Kaya Stechly, Soumya Rani Samineni, Durgesh Kalwar, Upasana Biswas タイトル「ポジションペーパー：中間トークンを推論/思考の痕跡として擬人化することをやめる！」のPDFを表示、著者: Subbarao Kambhampati他8名 PDF HTML (実験的) を表示 要旨: モデルが解法前に出力を生成する中間トークン生成（ITG）は、推論タスクにおける言語モデルのパフォーマンスを向上させる標準的な手法となっています。これらの「中間トークン」は、「推論の痕跡」あるいは「思考の痕跡」と呼ばれており、これらの痕跡を暗黙的に擬人化し、これらの痕跡が人間が困難な問題を解決する際に取るであろうステップに似ていると示唆しています。そのため、エンドユーザーにモデルの思考プロセスの操作を解釈可能なウィンドウとして提供できます。このポジションペーパーでは、この擬人化が無害な比喩ではなく、むしろ非常に危険であることを示す証拠を提示します。それは、これらのモデルの性質とそれらを効果的に使用する方法を混乱させ、疑わしい研究につながります。私たちは、コミュニティに対し、中間トークンのそのような擬人化を避けるよう呼びかけます。コメント: ICML 2026に掲載予定。[これはv1のフォークです。このフォークは、背景セクションでv1と重複していますが、全体的な焦点と、推論の痕跡の擬人化に対する具体的な議論の両方で異なります] 科目: 人工知能 (cs.AI) 引用方法: arXiv:2504.09762 [cs.AI] (またはこのバージョンについては arXiv:2504.09762v4 [cs.AI]) https://doi.org/10.48550/arXiv.2504.09762 詳細はこちら arXiv発行のDOI (DataCite経由) ジャーナル参照: ICML 2026 提出履歴 From: Subbarao Kambhampati [メールを表示] [v1] 月曜日、2025年4月14日 00:03:34 UTC (381 KB) [v2] 火曜日、2025年5月27日 16:35:47 UTC (536 KB) [v3] 金曜日、2026年3月6日 14:36:07 UTC (1,321 KB) [v4] 火曜日、2026年6月9日 20:08:39 UTC (4,278 KB) 全文リンク: ペーパーにアクセス: タイトル「ポジションペーパー：中間トークンを推論/思考の痕跡として擬人化することをやめる！」のPDFを表示、著者: Subbarao Kambhampati他8名 PDFHTML (実験的) を表示TeXソースライセンスを表示 現在のブラウズコンテキスト: cs.AI < 前 | 次 > 新規 | 最近 | 2025-04 のブラウズに変更: cs 参考文献と引用 NASA ADSGoogle Scholar Semantic Scholar export BibTeX citation Loading... BibTeXフォーマットの引用 × loading... 提供データ: ブックマーク書誌ツール書誌および引用ツール書誌エクスプローラー書誌エクスプローラーを切り替える (エクスプローラーとは？) Connected Papers Connected Papersを切り替える (Connected Papersとは？) Litmaps Litmapsを切り替える (Litmapsとは？) scite.ai scite Smart Citationsを切り替える (Smart Citationsとは？) コード、データ、メディアこの記事に関連するコード、データ、メディア alphaXiv alphaXivを切り替える (alphaXivとは？) コードへのリンクコードファインダーを切り替える (ペーパーのコードファインダーとは？) DagsHub DagsHubを切り替える (DagsHubとは？) GotitPub Gotit.pubを切り替える (GotitPubとは？) Huggingface Hugging Faceを切り替える (Huggingfaceとは？) ScienceCast ScienceCastを切り替える (ScienceCastとは？) デモReplicate Replicateを切り替える (Replicateとは？) Spaces Hugging Face Spacesを切り替える (Spacesとは？) Spaces TXYZ.AIを切り替える (TXYZ.AIとは？) 関連ペーパーレコメンダーおよび検索ツール影響の花へのリンク影響の花 (影響の花とは？) Coreレコメンダーを切り替える CORE Recommender (COREとは？) 作者会場機関トピック arXivLabsについて arXivLabs: コミュニティ共同作業者との実験的なプロジェクト arXivLabsは、共同作業者がarXivの新しい機能を直接ウェブサイト上で開発および共有できるフレームワークです。arXivLabsと協力する個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという私たちの価値観を受け入れ、遵守しています。arXivはこれらの価値観にコミットしており、それらを遵守するパートナーのみと協力します。arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか？arXivLabsの詳細をご覧ください。この論文の著者のうち、誰が推薦者ですか？ | MathJaxを無効にする (MathJaxとは？)