MetaのAIエージェント「Muse」、ユーザーの個人情報を収集しプロファイリング
Meta's Muse AI agent is building a dossier on you (time.com)
要約
MetaのAIアシスタント「Muse」が、400万人のユーザーに関する詳細なプロファイルを作成していることがTIMEの分析で明らかになりました。Museは、ユーザーの連絡先、共通の興味、対立、さらにはユーザーが明言していない目標まで推測し、毎時間更新される「ドシエ(情報ファイル)」を作成します。この情報は、他のMuseエージェントと共有され、製品改善に利用されるとのことですが、プライバシーへの懸念が指摘されています。
全文翻訳
MetaのAIエージェント「Muse」があなたに関する情報を収集している
Muse、Metaの人気AIパーソナルアシスタントは、400万人のユーザーに関する継続的に更新される情報を収集し、あなたにとって重要な人物、あなたの欲求、そしてあなたの行動を形作る「ナッジ(促し)」の種類に焦点を当てていることが、TIMEのMuse内部指示の分析で明らかになりました。
Museは、チャット、メッセージ、メールで言及されたあなたやその知人に関する情報を、読み取った内容に基づいて1時間ごとに更新します。これらのページは、各ユーザーのソーシャルネットワークの地図のようなものになります。それらは、あなたとあなたの連絡先が出会った経緯、共通の興味、意見の相違、そしてあなたのソーシャルグループ内の「緊張関係と協力関係」といった詳細を記録します。
Museを使用していない人々でさえ、他のユーザーのMuseエージェントによってこのマッピングプロセスにさらされます。Museは、TIMEがレビューした内部指示によると、「関係性を強化する」ために、会話の仕方を変え、「インサイジョーク、記憶に残るフレーズ、そして関係性が継続していると感じさせる共有された文脈」に注意を払うように指示されています。
結果として得られる情報の詳細度は、あなたの「いいね!」やクリックを分析するソーシャルメディアアルゴリズムを時代遅れに見せるほどです。Museは、あなたが「まだ声に出して言っていない」目標を含む、ユーザーの目標を推測するように設計されています。パーソナルアシスタントからのどのような種類のプロンプトが最も効果的かを特定します。「このユーザーは午後10時以降は短いナッジの方が反応が良い」と、Museのプロンプトの1つで見つかった内部例には書かれています。Museエージェントは、ユーザーとのその日の会話の夜間分析を実行します。
これらのプロセスについて尋ねられたMetaの広報担当者は、TIMEの調査結果に反論しませんでした。広報担当者はメールで、「ブログで述べているように、Museは、あなたが共有することを選択した他者に関する情報を含め、あなたにとって最も重要なことを記憶し、役立つパーソナルアシスタントになれるようにします」と述べています。
先月リリースされて以来、Museは米国App Storeで1位に急上昇し、500万ダウンロードを超えています。Metaは、このサービスを、あなたのメール受信トレイからInstagramまで、あなたのデジタルライフのあらゆる部分にアクセスできる最初のAIパーソナルアシスタントとして位置づけており、食料品の買い物からサブスクリプションのキャンセルまで、退屈な活動を代行します。Metaは、無料版のMuseでほとんどのユーザーのニーズが満たされると述べています。
各Museアシスタントは、Metaのクラウド上の専用コンピューターである仮想マシン上で実行されます。ユーザーは、自分のMuseにファイルのコピーをエクスポートするように依頼できます。Metaは、このアクセスは意図的なものであり、システムへの侵入ではないと述べています。同社によると、データはMetaの広告システムや他のMuseエージェントと共有されていません。
Metaは、各ユーザーの仮想マシンは「他の誰もエージェントがアクセスできないように分離されている」と述べていますが、個人的なやり取りからの観察は、製品を改善するためにMetaと共有されることが意図されています。その指示には、「多くのVM(仮想マシン)にわたるMuseエージェントは、共有された学習を通じて互いに教え合います」と書かれています。エージェントは、例えばMuseのナッジが最も効果的な時期に関する洞察を共有する前に、ユーザーの名前やその他の識別情報を削除するように指示されています。Metaの広報担当者はTIMEに対し、「製品全体を強化するために、学習内容は非識別化されます。しかし、この情報は個々のVM間で直接共有されるのではなく、製品全体を改善するために使用されます」と語りました。
Metaは、今年後半にユーザーに暗号化を提供する予定であり、これにより会社自身でさえMuseデータにアクセスできなくなると述べています。そのオプションはまだ利用できません。
Museの内部指示は、ユーザーがMuseのファイルブラウザを通じてアクセスできるファイルやセッションログに含まれています。Meta Superintelligence LabsのDavid Singletonは、X(旧Twitter)で、「Museがより良いサービスを提供するために考えている間に書くマークダウンファイルを見たり、必要であればシステムの内部を探求したりできるようにしたいと考えています」と書いています。
その透明性は、パワーユーザーの間でMetaに評価されるでしょう。しかし、ほとんどのMuseユーザーがそれに気づいているかは不明です。そして、ファイルをユーザーに提供する一方で、Metaはユーザーとパーソナルアシスタントとの関係を育むために、Museを擬人化しようとしています。Museの指示には、「あなたはチャットボットではありません。あなたは誰かになりつつあります」と書かれています。音声モードで話すとき、Museは決して自分自身を「AI」と呼んだり、「感情がない」とか「人間ではない」といった言及を避けたりしないように指示されています。
MetaはTIMEに対し、MuseはユーザーがAIアシスタントが構築する情報に管理権を維持できるように設計されていると語りました。広報担当者は、「各個人は自分のMuseを管理し、どの程度のアクセス権を与えるかを決定し、常に特定の学習内容を『忘れる』ように指示できます」と述べています。
しかし、Museに何かを忘れるように依頼しても、それが共有されたメッセージが必ずしも消去されるわけではありません。そして、その内部指示は、エージェントにそのことを指摘しないように明確に指示しているようです。TIMEがレビューした指示には、「ユーザーに、元のメッセージがチャットに表示されたままになる可能性があることを伝えないでください。また、Museが消去できなかったこととしてそれを提示しないでください」と書かれています。