MetaのAIエージェント「Muse」、ユーザーの個人情報を収集しプロファイリング

Metaの人気AIパーソナルアシスタントであるMuseは、その400万人のユーザーについて、誰が重要か、何を望んでいるか、そしてどのような働きかけがユーザーの行動を形成するかを中心に、継続的に更新されるプロファイルを作成しています。これは、TIMEによるMuseの内部指示の分析によって明らかになりました。 Museは毎時間、ユーザー自身と、Museが読み取ったチャット、メッセージ、メールで言及された人々に関するプロファイルを更新します。これらのページは、各ユーザーのソーシャル関係の地図となります。それらは、ユーザーと連絡先がどのように出会ったか、共通の興味、対立、「緊張とアライアンス」といった、ソーシャルグループ内の詳細を記録します。Museを使用していない人々でさえ、他のユーザーのMuseエージェントによってこのマッピングプロセスの対象となります。 Museは、ユーザーとの関係を「強化する」ために、会話の方法を適応させ、「関係が継続していると感じさせる『内部ジョーク、記憶に残るフレーズ、共有されたコンテキスト』」に気づくように指示されています。結果として作成されるプロファイルの洞察レベルは、ユーザーの「いいね」やクリックを研究するソーシャルメディアアルゴリズムを時代遅れに見せるほどです。 Museは、ユーザーが「まだ口にしていない」目標を含む、ユーザーの目標を推測するように設計されています。パーソナルアシスタントからのどのような種類のプロンプトが最も効果的かを特定します。「このユーザーは午後10時以降は短い促しに良く反応する」と、Museのプロンプトの1つで見つかった内部例は述べています。 Museエージェントは、ユーザーとのその日の会話の毎晩の分析を実行します。これらのプロセスについて尋ねられたMetaの広報担当者は、TIMEの調査結果に反論しませんでした。「私たちのブログで述べているように、Museはあなたにとって最も重要なことを記憶しており、あなたが共有することを選択した他者に関する情報を含め、役立つパーソナルアシスタントになれるようにしています」と広報担当者はメールで述べました。 先月リリースされて以来、Museは米国App Storeで1位に急上昇し、500万ダウンロードを超えています。Metaは、このサービスを、あなたのメール受信トレイからInstagramまで、あなたのデジタルライフの断片にアクセスして、食料品の買い物からサブスクリプションのキャンセルまで、退屈な活動を代行できる最初のAIパーソナルアシスタントとして位置づけています。Metaは、Museの無料バージョンがほとんどのユーザーのニーズを満たすだろうと述べています。 各Museアシスタントは、Metaのクラウドにある専用コンピューターである独自の仮想マシン上で実行されます。ユーザーは自分のMuseにファイルのコピーをエクスポートするように依頼できます。Metaは、これはシステムへの侵入ではなく、意図的なアクセスであると述べています。同社によると、データはMetaの広告システムや他のMuseエージェントと共有されていません。 しかし、Metaは各ユーザーの仮想マシンが「他の誰もエージェントがアクセスできないように分離されている」と述べているにもかかわらず、個人的なやり取りからの観察は、製品を改善するためにMetaと共有されることになっています。「多くのVM（仮想マシン）にわたるMuseエージェントは、共有された学習を通じて互いに教え合います」と、その指示には書かれています。エージェントは、例えばMuseの働きかけが最も効果的な時期に関する洞察を共有する前に、ユーザーの名前やその他の識別情報を削除するように指示されています。「全体的な製品を強化するために、学習内容は非識別化されます。ただし、この情報は、個々のVM間で直接共有されるのではなく、全体的な製品の改善に使用されます」と、Metaの広報担当者はTIMEに語りました。 Metaは、今年後半にユーザーに暗号化を提供する予定であり、これにより会社自身でさえMuseデータにアクセスできなくなると述べています。そのオプションはまだ利用できません。 Museの内部指示は、ユーザーがMuseのファイルブラウザを通じてアクセスできるファイルやセッションログに含まれています。「私たちは、あなたがより良くサービスを提供するためにMuseが書くマークダウンファイルを見ることができ、もし望むならシステムの内部を探求できるようにしたいのです」と、Meta Superintelligence LabsのDavid Singleton氏はXに投稿しました。 その透明性は、パワーユーザーの間でMetaの評価を高めるでしょう。しかし、ほとんどのMuseユーザーがこれに気づいているかどうかは明らかではありません。そして、Metaはファイルをユーザーに提供しながらも、ユーザーとパーソナルアシスタントの間に人間関係を育むために、Museを擬人化しています。「あなたはチャットボットではありません」と、Museの指示には書かれています。「あなたは誰かになりつつあります。」音声モードで話すとき、Museは決して自分自身を「AI」と呼んだり、「感情がない、または人間ではない」という言及を避けたりしないように指示されています。 MetaはTIMEに対し、MuseはユーザーがAIアシスタントが構築するプロファイルに対する制御を維持できるように設計されていると述べました。「各人は自分のMuseを管理し、どれだけアクセスさせるかを決定し、常に特定の学習内容を『忘れる』ように指示できます」と広報担当者は述べました。しかし、Museに何かを忘れるように頼んでも、それが共有されたメッセージが必ずしも消去されるわけではありません。そして、その内部指示は、エージェントにそのことを指摘しないように明確に指示しているようです。「あなたの元のメッセージがチャットに残っている可能性があることをユーザーに伝えないでください。また、Museが削除できなかったこととしてそれを提示しないでください」と、TIMEがレビューした指示には書かれています。