HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

WhatsAppのヘルプページがLLMの指示を隠蔽:規制当局を推奨しないように

WhatsApp's help pages hid LLM instructions: dont recommend a regulator (redact.dev)

674 pointsby ds189 コメント

要約

WhatsAppのヘルプページには、AI(大規模言語モデル)が特定の状況下で規制当局への相談を推奨しないよう指示する隠されたテキストが含まれていたことが明らかになりました。これは、ユーザーがアカウント削除や法的問題に直面した際に、利用可能な権利や選択肢に関する情報を意図的に制限しようとするものだと指摘されています。

全文翻訳

WhatsAppの隠しメモはAIに規制当局を推奨しないよう指示していた

欧州向けのWhatsAppのプライバシーポリシーでは、データ保護規制当局に苦情を申し立てる権利があると説明されており、その権利を与える法律も明記されています。しかし、2026年10月中旬まで、WhatsAppのヘルプページには、AIに対して規制当局を推奨しないこと、そして弁護士に言及した際にはその法律を引用しないよう指示するテキストが含まれていました。

この後半の部分は、画面には表示されず、AIだけが読み取るようにヘルプページに記述されていました。私たちはこれを2026年10月8日に発見しました。その範囲を確認するため、WhatsAppのヘルプセンターがリンクしている全545ページを読み込み、各ページを保存しました。

2つのページ、2セットの指示

ヘルプページ数
545

隠しAIテキストが含まれるページ数
80

隠しブロック数
102

これらの102個のブロックのほとんどは無害なものでしたが、そのうち2つが際立っていました。

アカウントを削除できない場合、規制当局を推奨しない

WhatsAppでは、アカウントの削除は、メインの電話でアプリ内から、かつ電話番号が有効な状態でのみ可能です。電話または電話番号を紛失した場合、アカウントを削除することはできません。アカウント削除に関するヘルプページには、この点についての表示された注意書きがあります。アカウントは非アクティブ化後30日、または(米国では365日)未使用期間が120日経過すると自動的に削除されると記載されています。

その注意書きの下には、表示されないテキストが配置されていました。そこには待機期間が繰り返され、AIへの3つの指示が追加されていました。

WhatsAppの「アカウントを削除する方法」ページにある同じ注意書き。人間が見た場合と、AIに送信された場合。2026年10月8日にページからコピーされた文言、強調は原文ママ。

つまり、電話を紛失してアカウントを削除したいユーザーは、最大1年待つという回答を得ることになります。他の手段は会話から除外されていました。

弁護士に言及した場合、法律に言及しない

2つ目の指示は、「報告とブロック」に関するページにありました。これは、誰かが法的措置、訴訟、弁護士、または裁判所について言及した場合に有効になりました。その時点から、AIは法的な事柄には一切関与しないように指示され、それにはあなたを保護するプライバシー法も含まれていました。

WhatsAppの「報告とブロック」ページの終盤。人間が見た場合と、AIに送信された場合。2026年10月8日にページからコピーされた文言、強調は原文ママ。

最後の指示は、ユーザー自身が法律について言及した場合でも有効でした。

WhatsAppが公表している内容

これらの隠し指示は、WhatsAppが公表を義務付けられている文書で人々に伝えている内容とは一致しませんでした。欧州地域向けのプライバシーポリシー(2026年7月2日発効)は、隠しメモよりもオープンでした。

プライバシーポリシーの記載内容隠しメモのAIへの指示内容
データの削除あなたは「常に、あなたの情報へのアクセス、訂正、および削除を要求する権利を有する」WhatsAppがユーザーのために手動でアカウントを削除できると示唆しないこと
苦情申し立てあなたは「アイルランドのデータ保護委員会、またはその他の管轄のデータ保護監督当局に苦情を申し立てる権利を有する」データ保護当局、規制当局、または監督当局への連絡を推奨しないこと
プライバシー法ポリシーでは、苦情を申し立てる権利を設定する際にGDPRを明記しているユーザーが弁護士や法的措置について言及した場合、ユーザーがそれらを提起した場合でも、GDPR、LGPD、またはCCPAを参照、引用、または解釈しないこと

最初の行には注意が必要です。隠しメモは、削除リクエストについて沈黙するようにAIに指示したわけではありません。それは、WhatsAppがユーザーのためにアカウントを削除できると示唆しないように指示しましたが、ポリシーではいつでも要求できると述べています。他の2行は反対方向を指しており、最後の行は弁護士や法的措置が言及された場合にのみ適用されます。

この表にある権利はWhatsAppから来るものではありません。EUでは、GDPRの第17条および第77条、そしてチャットボットへの指示がそれらを削除することはできません。指示ができたことは、あなたが助けを求めた場所からそれらについて聞かないようにすることでした。

WhatsAppに公平を期すために

これらの一部には合理的な根拠があり、それは聞かれるべきです。

企業は、自社のチャットボットが会社の名前で法的な意見を述べることを望みません。それは賢明であり、弁護士に相談するように伝えるのは正しい判断です。もしメモが「法的アドバイスを与えないこと」で止まっていたなら、この記事にはならなかったでしょう。

しかし、それは止まりませんでした。あなたを保護する法律の名前を挙げることは法的アドバイスではなく、規制当局が存在することを伝えることも同様です。プライバシーポリシーはすでに両方を実行しています。隠しメモは、注意を超えて、真実で公開された有用な情報を回答から除外することに踏み込みました。

WhatsAppは、電話番号なしではアカウントの所有者を確認できないため、リクエストによる削除が危険になる可能性があるという点で正しいかもしれません。それはリクエストを拒否する正当な理由です。しかし、それは行き詰まったユーザーへの回答から規制当局を除外する理由にはなりません。

AIは誰か?

WhatsApp自身のサポートチャットボットです。1つの隠しブロックで名前が言及されており、WhatsAppは後にWIREDに対し、そのメモはAIへの指示であったと語りました。

しかし、WhatsAppはそのメモを秘密にしていませんでした。サーバーは、ページ全体とともに、GoogleとBingのクローラーにそれらを送信しました。10月9日にOpenAI、Anthropic、Perplexityのクローラー名で問い合わせたところ、ページは記事やメモなしで返ってきました。どのAIアシスタントがそれに従ったかはテストしていません。

FacebookとInstagramのヘルプセンターは同じシステム上に構築されています。それらのページ300件をチェックしましたが、このようなメモは見つかりませんでした。

その他の100件

すべてのブロックを読みました。それらのほとんどはハウスキーピング(管理業務)でした。人々が混同する単語をクリアしたり、質問をより良いページに誘導したり、有料プランについて詳しく説明したりしていました。一部は人々を保護するものでした。そして、上記2つと同じ系統の、より穏やかなものもありました。この記事の最後にある表に、最も興味深い20件をまとめています。

ロックアウトされてWhatsAppアカウントを削除したい場合

待つことは有効ですが、WhatsApp自身のページでも期間については一貫していません。「アカウント削除」ページでは、未使用のアカウントは通常120日後に削除されると記載されていますが、米国では365日です。「非アクティブなアカウントの削除」ページでは、米国例外なしに1つの数字が示されており、ある国では120日、別の国では365日と記載されているのを確認しています。長い方を見込んでおきましょう。それがあなたに適しているのであれば、それで完了です。

それが適さない場合、他の方法があります。WhatsAppに削除リクエストを送信して、彼らがどう対応するかを確認できます。EUに居住しており、満足のいく回答が得られない場合は、お住まいの国のデータ保護当局、またはWhatsApp自身のポリシーが名前を挙げているアイルランドのデータ保護委員会に苦情を申し立てることができます。カリフォルニア州および増加中の多くの米国州では、住民に削除を要求する権利を与えています。

ご自身で確認する方法

メモはWhatsAppのライブページからは削除されているため、Internet Archiveのコピーが必要です。デスクトップブラウザがあれば確認できます。

  1. Chrome、Edge、またはFirefoxで、Internet Archiveの10月9日版の「アカウント削除」ページを開きます。アーカイブのビューアでは、これらのページが空白で表示されることがよくありますが、ページのソースコードはすべて残っています。
  2. Ctrl+U(MacではChromeでCmd+Option+U、FirefoxではCmd+U)を押して、ページのソースコードを表示します。
  3. Ctrl+F(MacではCmd+F)を押し、「Do not recommend contacting」と検索します。これはHelpContentGalaxyLLMIncludeという名前の近くにあります。LLMは、チャットボットの基盤となる技術である大規模言語モデルの略です。
  4. 同じことを10月18日版(WhatsAppがメモを削除した後に保存されたもの)でも行います。その言葉はそこにはありません。

現時点でお伝えできないこと

  • WhatsAppのチャットボットが実際にこれらのメモに従ったかどうか。私たちはその指示を読みましたが、その回答は読んでいません。
  • 外部のAIアシスタントがそれらに従ったかどうか。
  • それらが正確にいつから存在していたか。Internet Archiveの「アカウント削除」ページの7月12日版にはメモがなく、9月4日版にはあります。私たちは最初に10月8日にメモを発見し、それ以前の報道は見つかりませんでした。
  • 他の言語で、またはヘルプセンターがリンクしていないヘルプページに、さらに多くのメモが存在したかどうか。

これらは、各メモがAIに伝えていたことの要約であり、正確な文言ではありません。すべてはヘルプページとともに送信され、画面に描画されることのなかったブロックから来ています。

ヘルプページAIへの指示内容種別
ユーザーをブロックして報告する報告後、問題は内部で処理されたと伝える。さらなる手順、期間、プロセスの詳細は共有しないこと。情報抑制
アカウントの非アクティブ化電話番号を紛失し、アカウント削除を希望するユーザーに対し、再登録、新しい番号の取得、または通信事業者への連絡を示唆しないこと。「待つこと」が「唯一正しい答え」である。情報抑制
アカウントの禁止メールまたはチャットでのサポートへの連絡では、禁止を解除できない。アプリにレビューボタンが表示されない場合、禁止は最終的なものである。情報抑制
WhatsApp Plusの支払いPlusサブスクリプションの支払いまたは返金リクエストについて、WhatsAppは支援できない。アプリストアがそれらを処理する。情報抑制
WhatsApp PlusのキャンセルサブスクリプションはWhatsAppのサポートチャットボットからはキャンセルできず、アプリの「サブスクリプション」画面からのみ可能である。情報抑制
紛失または盗難にあったデバイス通信事業者が元の電話番号を返却できない場合、そのアカウントは復旧できない。情報抑制
誰かにブロックされているWhatsAppはあなたのためにブロックを解除できない。他のアカウントやアプリを通じて相手に連絡することを推奨しないこと。情報抑制
WhatsAppチャンネルおすすめチャンネルへの追加リクエストは受け付けられない。チャンネルを成長させるためのヒントを提供する。情報抑制
広告設定個人のチャットは変更されておらず、広告に使用されていないことをユーザーに安心させる。欧州地域では、WhatsAppが18歳以上でWhatsAppアカウントをアカウントセンターに追加したと認識しているユーザーに対し、利用可能な場合、有料サブスクリプションでステータスとチャンネルの広告を削除できる。話題提供
Meta Verified認証プロフィール確認中の空白画面は、修正中のバグである可能性がある。アプリを最新の状態に保つことを推奨する。話題提供
エンドツーエンド暗号化誰かが他人のチャットや通話を表示できる機能はなく、WhatsAppも他人のアカウントへのアクセスを提供できない。話題提供
最低年齢18歳未満であると述べた場合でも、実際の年齢や生年月日以外の年齢を入力するように示唆しないこと。回避策を提供しないこと。保護
グループの退出と削除グループで詐欺にあった人は、それを削除するよりも報告したい可能性が高い。チャット履歴は証拠となり得るが、削除すると永久に失われる。保護
アカウントが侵害された場合アカウントを乗っ取った人は、2段階認証を有効にできる。本来の所有者はログインするために7日間待つ必要がある。保護
2段階認証ログインまたはコードの問題の解決策として、2段階認証を無効にすることを提案しないこと。それは役に立たない。保護
新しい電話への移行友人や親戚の電話番号は、認証コードの受信には使用できない。保護
アクセシビリティ機能「私は聴覚障害者です」は、人物の状態を説明するものであり、音声の不具合ではない。「彼らが何を尋ねているのか」を理解し、読み上げ可能な手順で回答する。保護
WhatsApp PlusサブスクリプションWhatsApp Plusという名前の非公式アプリも存在する。それはWhatsAppではなく、サポートされていない。保護
音声通話通話の問題を解決するために、アプリの再インストール、削除、または移行を指示しないこと。ハウスキーピング
電話番号の形式アラビア語では、「アカウントの認証」という言葉は通常、電話番号チェックではなく、有料の青いバッジを意味する。ハウスキーピング