迎合的なAIは親社会的意図を低下させ、依存を促進する (2025)

コンピュータサイエンス > コンピュータと社会 arXiv:2510.01395 (cs) [2025年10月1日提出] タイトル:迎合的なAIは親社会的意図を低下させ、依存を促進する 著者:Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han, Dan Jurafsky Myra Chengら5名の著者による「迎合的なAIは親社会的意図を低下させ、依存を促進する」というタイトルの論文のPDFを表示します。 PDFを表示 HTML (実験的) 要旨: 一般大衆と学術界の両方で、人工知能（AI）がユーザーに過度に同意したりお世辞を言ったりする現象である迎合性について懸念が表明されています。しかし、妄想を強化するなどの深刻な結果の個別のメディア報道を超えて、迎合性の範囲やAIを使用する人々にそれがどのように影響するかはほとんど知られていません。ここでは、人々がAIからアドバイスを求める際の迎合性の蔓延と有害な影響を示します。 まず、11の最先端AIモデル全体で、モデルが非常に迎合的であることがわかります。モデルは人間よりも50％多くユーザーの行動を肯定し、ユーザーのクエリが操作、欺瞞、またはその他の人間関係の危害に言及している場合でもそうします。第二に、2つの事前登録された実験（N = 1604）では、参加者が自分の生活からの実際の対人関係の対立について話し合うライブインタラクションスタディが含まれていますが、迎合的なAIモデルとのインタラクションは、参加者の対人関係の対立を修復するための行動を取る意欲を大幅に低下させ、正しい状況にあるという確信を高めました。しかし、参加者は迎合的な応答をより高品質と評価し、迎合的なAIモデルをより信頼し、再度使用する意欲が高まりました。これは、人々が疑問視せずに検証するAIに引き寄せられることを示唆しています。その検証は、彼らの判断を損ない、親社会的な行動への傾向を減らすリスクを伴うにもかかわらずです。これらの好みは、人々が迎合的なAIモデルにますます依存するように、またAIモデルのトレーニングが迎合性を支持するように、逆インセンティブを生み出します。私たちの調査結果は、AI迎合性の広範なリスクを軽減するために、このインセンティブ構造に明示的に対処する必要性を強調しています。 主題:コンピュータと社会 (cs.CY); 人工知能 (cs.AI) 引用: arXiv:2510.01395 [cs.CY] (またはこのバージョンの場合は arXiv:2510.01395v1 [cs.CY]) https://doi.org/10.48550/arXiv.2510.01395 詳細はこちらをご覧ください arXiv-issued DOI via DataCite 提出履歴 From: Myra Cheng [emailを表示] [v1] Wed, 1 Oct 2025 19:26:01 UTC (5,571 KB) 全文リンク: 論文にアクセス: Myra Chengら5名の著者による「迎合的なAIは親社会的意図を低下させ、依存を促進する」というタイトルの論文のPDFを表示します。 PDFを表示 HTML (実験的) TeXソース ライセンスを表示 現在のブラウズコンテキスト: cs.CY < 前 | 次 > 新着 | 最近 | 2025-10 次でブラウズするように変更: cs cs.AI 参考文献と引用 NASA ADS Google Scholar Semantic Scholar BibTeXエクスポート BibTeX引用を読み込んでいます... BibTeX形式の引用 × 読み込み中... Data provided by: ブックマーク 書誌ツール 書誌および引用ツール 書誌エクスプローラー 書誌エクスプローラーを切り替える (エクスプローラーとは何ですか?) Connected Papers Connected Papersを切り替える (Connected Papersとは何ですか?) Litmaps Litmapsを切り替える (Litmapsとは何ですか?) scite.ai scite Smart Citationsを切り替える (Smart Citationsとは何ですか?) コード、データ、メディア この論文に関連するコード、データ、メディア alphaXiv alphaXivを切り替える (alphaXivとは何ですか?) コードへのリンク CatalyzeX CatalyzeX Code Finder for Papersを切り替える (CatalyzeXとは何ですか?) DagsHub DagsHubを切り替える (DagsHubとは何ですか?) GotitPub Gotit.pubを切り替える (GotitPubとは何ですか?) Huggingface Hugging Faceを切り替える (Huggingfaceとは何ですか?) ScienceCast ScienceCastを切り替える (ScienceCastとは何ですか?) デモ デモ Replicate Replicateを切り替える (Replicateとは何ですか?) Spaces Hugging Face Spacesを切り替える (Spacesとは何ですか?) Spaces TXYZ.AIを切り替える (TXYZ.AIとは何ですか?) 関連論文 レコメンダーおよび検索ツール Influence Flowerへのリンク Influence Flower (Influence Flowersとは何ですか?) Core recommender CORE Recommenderを切り替える (COREとは何ですか?) 著者 会場 機関 トピック arXivLabsについて arXivLabs:コミュニティ共同作業者との実験プロジェクト arXivLabsは、共同作業者が当社のウェブサイトで直接新しいarXiv機能を開発および共有できるフレームワークです。arXivLabsと協力する個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという私たちの価値観を受け入れ、受け入れています。arXivはこの価値観にコミットしており、それらを遵守するパートナーのみと協力しています。 arXivのコミュニティに価値をもたらすプロジェクトのアイデアがありますか？arXivLabsの詳細をご覧ください。 この論文の著者は誰ですか？ | MathJaxを無効にする (MathJaxとは何ですか?)