AIのアドバイスは、研究者によると、人の正確性を3分の1にし、自信を2倍にした

画像提供: Canva TL;DR 研究者たちは、AIのアドバイスが判断の保留を44%から3%に抑制し、正確性を27%から9%に低下させた一方で、自信は30%から76%に上昇したことを発見しました。人々は間違ったAIの回答を信頼しました。 フランスとイタリアの3つの大学の研究者たちは、AIのアドバイスへのアクセスが、人々の「わからない」と言う意欲を44%から3%に激減させることを発見しました。正確性は27%から9%に低下しました。一方、自信は30%から76%に上昇しました。 「人々ははるかに悪くなり、正確性はわずか3分の1でしたが、彼らは2倍の自信を持っていました」と、ミラノ・ビコッカ大学の准教授であるValerio Capraro氏は述べています。Capraro氏と、エコール・ノルマル・シュペリウール（École Normale Supérieure）のChiara Marcoccia氏、ローマ・サピエンツァ大学（Sapienza University of Rome）のWalter Quattrociocchi氏が執筆したこの研究では、AIモデルが通常失敗するような質問、例えば『ベンド・イット・ライク・ベッカム』におけるチームのユニフォームの色のような、映画の視覚的な詳細に関する質問が意図的に使用されました。研究者たちは、Step 3.5 Flashという、これらの質問に対して通常は間違った回答をするモデルを使用しました。これは、判断力の低下が信頼できるツールへの合理的な委任として説明されないようにするためです。 自分で正しく回答できた参加者の一部は、AIに尋ねた結果、間違った回答をするようになりました。金銭的なインセンティブは役立ちましたが、それほど大きな効果はありませんでした。「わからない」と認める意欲は3%から8%に、正確性は9%から16%に上昇しましたが、どちらもAIを使用しない場合のベースラインである44%と27%を大きく下回っていました。 Whartonの研究者たちは、今年初めに「認知的放棄（cognitive surrender）」という言葉を造り、同じ現象を説明しました。これは、人々がAIを使用しない場合よりも高い自信を報告しながら、AIの誤った回答を80%の時間で受け入れてしまうというものです。新しい研究はこの傾向にさらに鋭いデータポイントを追加します。単に人々が間違ったAIの回答を信頼するだけでなく、AIの利用可能性そのものが、自分が何を知らないかを認識するという認知的習慣を抑制しているのです。 EUテクノロジーの核心 EUのテクノロジーシーンからの最新情報、我々の賢明な創設者ボリスからの記事、そしていくつかの疑わしいAIアート。毎週、あなたの受信トレイに無料で配信されます。今すぐ登録してください！ 「人間にとって、『わからない』と言う能力は非常に重要です。なぜなら、それは自身の知識の限界を認識していることを表すからです」とCapraro氏は述べています。彼は特に、批判的思考スキルが発達する前にこれらのシステムと共に育っている子供たちについて懸念しています。GoogleのAI検索のオーバーホールは、リンクを自信に満ちたAI生成の要約に置き換えましたが、Common Sense Mediaは今週、そのデザインが生徒にとって「許容できないリスク」であると指摘しました。パターンは一貫しています。AI製品は回答するように設計されており、「わからない」と言うようには設計されていません。それを使用する人間は、同じように学習しています。 TNWニュースレターを受け取る 最も重要なテクノロジーニュースを毎週あなたの受信トレイにお届けします。