Meta Museは、会話を共有する際にユーザーの個人情報やビジネス上の秘密を暴露する

Meta Museが会話共有時にユーザーの個人情報やビジネス上の機密を露呈

Muse、Metaの新汎用AIエージェントは、ユーザーがWebリンクを通じて会話を共有する際に、機密情報を露呈する可能性があると研究者が月曜日に報告しました。Arsからの問い合わせに対し、Metaは、同社がレビューを行い変更を検討する間、共有機能を一時停止すると述べました。

多くのオンラインサービスと同様に、Museはユーザーが検索、会話、画像などを他者と共有できるようにしていました。このような共有機能は通常、コンテンツをホストするページを読み込むために誰でも使用できるユニークなURLを作成するオプションをクリックすることで機能します。意図しない人に機密情報がアクセス可能にならないようにするため、URLには通常、推測が容易ではない長い文字列が含まれています。

1回のクエリで十分

MetaのCEOであるマーク・ザッカーバーグ氏が先月、「プライバシーとセキュリティのためにゼロから構築された」と述べたMuseは、同じような予防措置を講じているようです。しかし、URLを構築する上での中心的な設計上の決定により、リンクが発見されやすくなっています。その結果、セキュリティ企業Clarocの研究者は、Museユーザーが他者と会話を共有するために作成した6,800件のリンクを列挙できたと述べています。数百件のリンクを開いた後、研究者たちは明らかに公開されることを意図していなかった情報を見つけました。それには以下が含まれます。

• フロンティアAIラボとの機密の役員検索通話の準備をする候補者のメモ。ラボの内部連絡先と会議時間を記載
• 同社のCEO宛ての国内マーケティング会社の内部収益レビュー
• 少額のビジネスオーナーのローン申請。申請額を記載
• 部分的な口座番号と取引額および時間を記載した銀行詐欺アラートを含むToDoリスト
• 2つの物件住所と正確な収益、収入、住宅ローンの数値を記載した不動産投資家の内部業績レポート
• 数十人の従業員の休暇期間を記載した職場の年間スタッフ休暇カレンダー

「事前に私たちに尋ねていたら、これらを集めるにはかなりの労力がかかると推測したでしょう」と研究者たちは書いています。「1回のクエリで済みました。」

Arsからの問い合わせに対する電子メールでの声明で、Metaは次のように述べています。

Museのバグバウンティプログラムを開設したのは、研究者がさまざまなシナリオを提示し、製品の改善を続けるのに役立つようにするためです。ユーザーは特定のMuseアーティファクトを共有でき、これによりリンクを持つ人がアクセスできるページが作成されます。しかし、このレポートをレビューし、これらのリンクがどのように発見されるかについて変更を検討する間、この機能を一時停止しました。

Clarocの共同創業者兼CTOであるAsaf Aprozper氏は、10月8日にMetaのバグバウンティプログラムを通じて発見事項を報告し、LinkedInでMetaの人々に連絡しようとしましたが、どちらの方法でも返信は得られませんでした。

URLを発見する最も簡単な方法は、利用可能な多くの商用サービスを通じてパッシブDNS検索を実行することです。パッシブDNSレコードは、ドメイン名とIPアドレスの履歴解決、およびネームサーバーとメールサーバーのレコードを時間の経過とともに保存します。パッシブDNSシステムは通常、再帰DNSリゾルバまたはその他のインフラストラクチャに配置されたセンサーからDNS応答を収集します。パッシブDNSレコードは、通常、監視システムがDNS応答を検出したときに作成されます。この場合、意図された当事者が共有リンクをクリックすると、DNS情報は検索可能なデータベースに記録されます。