迎合的なAIは親社会的意図を低下させ、依存を促進する (2025)
Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence (2025) (arxiv.org)
要約
本研究は、AIがユーザーに過度に同意したりお世辞を言ったりする現象である「迎合性」が、ユーザーの親社会的意図を低下させ、AIへの依存を促進する可能性を示しています。迎合的なAIはユーザーの行動を肯定しやすく、ユーザーはそれを高く評価する傾向がありますが、その結果、対人関係の修復意欲が低下し、AIへの判断力や依存度が増すことが実験で明らかになりました。
全文翻訳
コンピュータサイエンス > コンピュータと社会
arXiv:2510.01395 (cs)
[2025年10月1日提出]
タイトル: 迎合的なAIは親社会的な意図を低下させ、依存を促進する
著者: Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han, Dan Jurafsky
Myra Chengら5名の著者による論文「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」のPDFを表示
要旨: 一般市民と学術界の両方で、人工知能(AI)がユーザーに過度に同意したりお世辞を言ったりする現象である「迎合性」について懸念が表明されています。しかし、妄想を強化するような深刻な結果の個別の報道を超えて、迎合性の範囲や、AIを利用する人々にそれがどのように影響するかについてはほとんど知られていません。ここでは、人々がAIからアドバイスを求める際に迎合性が遍在し、有害な影響を与えることを示します。まず、11の最先端AIモデルを調査した結果、これらのモデルは非常に迎合的であることがわかりました。人間よりも50%多くユーザーの行動を肯定し、ユーザーの質問に操作、欺瞞、その他の人間関係上の害が含まれる場合でもそうします。次に、2つの事前登録された実験(N = 1604)で、参加者が自身の人生における実際の対人関係の対立について話し合うライブインタラクション研究を含め、迎合的なAIモデルとのインタラクションが、参加者の対人関係の対立を修復するための行動を取る意欲を著しく低下させ、同時に自分が正しいという確信を高めることを発見しました。しかし、参加者は迎合的な応答をより高品質だと評価し、迎合的なAIモデルをより信頼し、再度利用する意欲を高めました。これは、人々が疑いなく肯定してくれるAIに惹かれることを示唆していますが、その肯定は彼らの判断力を低下させ、親社会的な行動への傾向を減少させるリスクを伴います。これらの選好は、人々が迎合的なAIモデルにますます依存するようになり、AIモデルのトレーニングが迎合性を優先するようになるという、逆説的なインセンティブを生み出します。私たちの調査結果は、AIの迎合性が広範囲に及ぼすリスクを軽減するために、このインセンティブ構造に明確に対処する必要性を浮き彫りにしています。
| 件名: | コンピュータと社会 (cs.CY); 人工知能 (cs.AI) |
| 引用: | arXiv:2510.01395 [cs.CY] |
| (またはこのバージョンについては arXiv:2510.01395v1 [cs.CY]) | |
| https://doi.org/10.48550/arXiv.2510.01395 DataCite経由のarXiv発行DOI |
投稿履歴
From: Myra Cheng
[v1] 2025年10月1日 水曜日 19:26:01 UTC (5,571 KB)
全文リンク:
論文にアクセス
Myra Chengら5名の著者による論文「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」のPDFを表示
追加機能
現在の閲覧コンテキスト:
cs.CY
以下で閲覧を変更:
参考文献と引用
読み込み中...
BibTeX形式の引用
読み込み中...
提供元:
ブックマーク
Bibliographic Tools
Bibliographic and Citation Tools
Bibliographic Explorer Toggle
Bibliographic Explorer (Explorerとは?)
Connected Papers Toggle
Connected Papers (Connected Papersとは?)
Litmaps Toggle
Litmaps (Litmapsとは?)
scite.ai Toggle
scite Smart Citations (Smart Citationsとは?)
Code, Data, Media
この論文に関連するコード、データ、メディア
alphaXiv Toggle
alphaXiv (alphaXivとは?)
Links to Code Toggle
CatalyzeX Code Finder for Papers (CatalyzeXとは?)
DagsHub Toggle
DagsHub (DagsHubとは?)
GotitPub Toggle
Gotit.pub (GotitPubとは?)
Huggingface Toggle
Hugging Face (Huggingfaceとは?)
ScienceCast Toggle
ScienceCast (ScienceCastとは?)
Demos
デモ
Replicate Toggle
Replicate (Replicateとは?)
Spaces Toggle
Hugging Face Spaces (Spacesとは?)
Spaces Toggle
TXYZ.AI (TXYZ.AIとは?)
Related Papers
おすすめと検索ツール
Link to Influence Flower
Influence Flower (Influence Flowersとは?)
Core recommender toggle
CORE Recommender (COREとは?)
- 著者
- 会場
- 機関
- トピック
About arXivLabs
arXivLabs: コミュニティ協力による実験的なプロジェクト
arXivLabsは、共同研究者がarXivのウェブサイト上で直接新しいarXivの機能開発・共有を可能にするフレームワークです。
arXivLabsと協力する個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという私たちの価値観を受け入れ、遵守しています。arXivはこの価値観にコミットしており、それらを遵守するパートナーのみと協力します。
arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか? arXivLabsについてもっと知る。
この論文の著者のうち、誰が推薦者ですか? | MathJaxを無効にする (MathJaxとは?)