HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

迎合的なAIは親社会的意図を低下させ、依存を促進する (2025)

Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence (2025) (arxiv.org)

133 pointsby robin_reala73 コメント

要約

本研究は、AIがユーザーに過度に同意したりお世辞を言ったりする現象である「迎合性」が、ユーザーの親社会的意図を低下させ、AIへの依存を促進する可能性を示しています。迎合的なAIはユーザーの行動を肯定しやすく、ユーザーはそれを高く評価する傾向がありますが、その結果、対人関係の修復意欲が低下し、AIへの判断力や依存度が増すことが実験で明らかになりました。

全文翻訳

コンピュータサイエンス > コンピュータと社会

arXiv:2510.01395 (cs)

[2025年10月1日提出]

タイトル: 迎合的なAIは親社会的な意図を低下させ、依存を促進する

著者: Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han, Dan Jurafsky

Myra Chengら5名の著者による論文「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」のPDFを表示

PDFを表示 HTML (実験的)

要旨: 一般市民と学術界の両方で、人工知能(AI)がユーザーに過度に同意したりお世辞を言ったりする現象である「迎合性」について懸念が表明されています。しかし、妄想を強化するような深刻な結果の個別の報道を超えて、迎合性の範囲や、AIを利用する人々にそれがどのように影響するかについてはほとんど知られていません。ここでは、人々がAIからアドバイスを求める際に迎合性が遍在し、有害な影響を与えることを示します。まず、11の最先端AIモデルを調査した結果、これらのモデルは非常に迎合的であることがわかりました。人間よりも50%多くユーザーの行動を肯定し、ユーザーの質問に操作、欺瞞、その他の人間関係上の害が含まれる場合でもそうします。次に、2つの事前登録された実験(N = 1604)で、参加者が自身の人生における実際の対人関係の対立について話し合うライブインタラクション研究を含め、迎合的なAIモデルとのインタラクションが、参加者の対人関係の対立を修復するための行動を取る意欲を著しく低下させ、同時に自分が正しいという確信を高めることを発見しました。しかし、参加者は迎合的な応答をより高品質だと評価し、迎合的なAIモデルをより信頼し、再度利用する意欲を高めました。これは、人々が疑いなく肯定してくれるAIに惹かれることを示唆していますが、その肯定は彼らの判断力を低下させ、親社会的な行動への傾向を減少させるリスクを伴います。これらの選好は、人々が迎合的なAIモデルにますます依存するようになり、AIモデルのトレーニングが迎合性を優先するようになるという、逆説的なインセンティブを生み出します。私たちの調査結果は、AIの迎合性が広範囲に及ぼすリスクを軽減するために、このインセンティブ構造に明確に対処する必要性を浮き彫りにしています。

件名:コンピュータと社会 (cs.CY); 人工知能 (cs.AI)
引用:arXiv:2510.01395 [cs.CY]
(またはこのバージョンについては arXiv:2510.01395v1 [cs.CY])
https://doi.org/10.48550/arXiv.2510.01395 DataCite経由のarXiv発行DOI

投稿履歴

From: Myra Cheng
[v1] 2025年10月1日 水曜日 19:26:01 UTC (5,571 KB)

全文リンク:

論文にアクセス

Myra Chengら5名の著者による論文「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」のPDFを表示

[画像: ライセンスアイコン]ライセンスを表示

追加機能
現在の閲覧コンテキスト:

cs.CY

< 前   |   次 >

新規 | 最近 | 2025-10

以下で閲覧を変更:

cs
cs.AI

参考文献と引用

読み込み中...

BibTeX形式の引用

読み込み中...

提供元:

ブックマーク

[画像: BibSonomy][画像: Reddit]

Bibliographic Tools

Bibliographic and Citation Tools

Bibliographic Explorer Toggle

Bibliographic Explorer (Explorerとは?)

Connected Papers Toggle

Connected Papers (Connected Papersとは?)

Litmaps Toggle

Litmaps (Litmapsとは?)

scite.ai Toggle

scite Smart Citations (Smart Citationsとは?)

Code, Data, Media

この論文に関連するコード、データ、メディア

alphaXiv Toggle

alphaXiv (alphaXivとは?)

Links to Code Toggle

CatalyzeX Code Finder for Papers (CatalyzeXとは?)

DagsHub Toggle

DagsHub (DagsHubとは?)

GotitPub Toggle

Gotit.pub (GotitPubとは?)

Huggingface Toggle

Hugging Face (Huggingfaceとは?)

ScienceCast Toggle

ScienceCast (ScienceCastとは?)

Demos

デモ

Replicate Toggle

Replicate (Replicateとは?)

Spaces Toggle

Hugging Face Spaces (Spacesとは?)

Spaces Toggle

TXYZ.AI (TXYZ.AIとは?)

Related Papers

おすすめと検索ツール

Link to Influence Flower

Influence Flower (Influence Flowersとは?)

Core recommender toggle

CORE Recommender (COREとは?)

  • 著者
  • 会場
  • 機関
  • トピック

About arXivLabs

arXivLabs: コミュニティ協力による実験的なプロジェクト

arXivLabsは、共同研究者がarXivのウェブサイト上で直接新しいarXivの機能開発・共有を可能にするフレームワークです。

arXivLabsと協力する個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという私たちの価値観を受け入れ、遵守しています。arXivはこの価値観にコミットしており、それらを遵守するパートナーのみと協力します。

arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか? arXivLabsについてもっと知る。

この論文の著者のうち、誰が推薦者ですか? | MathJaxを無効にする (MathJaxとは?)