HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

MetaはAI生成の児童性的虐待画像を広告として掲載していた

Meta Ran Ads That Contained AI-Generated Child Sexual Abuse Imagery (wired.com)

135 pointsby malshe77 コメント

要約

Meta(旧Facebook)は過去9ヶ月間にわたり、AIによって生成された児童性的虐待資料(CSAM)や性的な示唆を含む未成年者の画像を含む有料広告を多数掲載していました。これらの広告は、米国、英国、および欧州の十数カ国にターゲットを絞って配信されていました。Tech Transparency Project(TTP)の調査により発見されたこれらの広告は、Metaの広告ライブラリに数ヶ月間検出されずに存在し、一部は「nudify」や「undressing」アプリにリンクしていました。Metaはこれらの広告をポリシー違反として削除しましたが、AI検出システムの改善にもかかわらず、新たな違反広告が発見されるなど、問題の根深さが示唆されています。

全文翻訳

Meta、AI生成の児童性的虐待画像を含む広告を配信

2026年8月5日 午後12時26分

Metaの広告ライブラリのデータによると、Facebook、Instagram、Messenger、またはThreads全体で50件以上の不適切な画像および動画広告が公開されていました。一部は今週まで配信されていました。

[画像: 複数の若い少女のシルエットが四角いフレーム内に表示され、肌がピクセル化され、Facebook...]

PHOTO-ILLUSTRATION: WIRED STAFF; GETTY IMAGES

編集者注: 本記事には、児童性的虐待を描写する画像の記述が含まれます。読者の判断には十分ご注意ください。

マーク・ザッカーバーグ率いるMetaは、過去9ヶ月間にわたり、AIによって生成された児童性的虐待(CSAM)の素材や、性的な示唆を含む未成年者の画像を含む有料広告を数十件配信していたことが、WIREDが共有を受けた広告の詳細から明らかになりました。一部の広告は数千アカウントに到達し、米国、英国、および12カ国以上の欧州諸国に居住する人々を対象としていました。

Tech Transparency Project(TTP)の研究者たちは、Metaの広告ライブラリで、不適切なコンテンツを含む50件以上の画像および動画広告を発見しました。これらの広告の一部は、いわゆるnudifyまたはundressingアプリにリンクしていました。Metaの広告ライブラリは、同社のプラットフォームに表示される広告をカタログ化する透明性ツールであり、Facebook、Instagram、Messenger、および/またはThreads全体で広告が配信されていたことを示しています。この発見は、最近数週間でMetaのプラットフォーム上で児童性的虐待素材に関連する有料広告が発見された2度目となります。

独立系監視団体であるTTPのディレクター、ケイティ・ポール氏はWIREDに対し、「これらの広告は、画像を隠したり、宣伝しているものを隠したりする努力を一切していませんでした。重要なのは、これはサードパーティがFacebookやInstagramに投稿したコンテンツではなく、Metaによって審査、承認され、配信が許可された広告であり、同社が広告収益を得ている間、一切の干渉を受けなかったという点です」と述べています。

研究者たちによって発見された広告(現在はMetaによって児童性的虐待および搾取、成人向け性的な勧誘およびヌードに関するポリシーに違反したため削除されています)は、昨年11月から8月初旬にかけて公開されていました。Metaの広告透明性ライブラリのデータによると、これらの広告は数日間にわたって配信されることが多く、一部は男性のみを対象としていました。

TTPの研究者によると、ある動画広告では、床に座っている子供のサムネイル画像が使用され、その上に「Generation AI [原文ママ] でディープファンタジーを実現。見えているもの以上のものがあります、想像力を働かせてください」というテキストが表示されていました。研究者によると、広告をクリックすると、大人が性行為に関与するビデオクリップが再生され、その後サムネイルの子供の顔が性行為に追加されました。

研究者によると、繰り返し投稿されていた別の広告では、若い少女が足を広げて性的なポーズをとっている画像が表示され、その上に「もっと見せられます」というテキストが表示されていました。

発見された広告のほとんどは、研究者が発見した時点ではユーザーに積極的に表示されていませんでしたが、数ヶ月間Metaの広告ライブラリに、検出されずに残っていました。Metaのデータによると、多くの広告はわずかなアカウントにしか「リーチ」していませんでしたが、少なくとも1件はフランス、ドイツ、アイルランド、イタリア、オランダ、スペイン、スウェーデン、英国を含む欧州の2,563アカウントにリーチしていました。Metaの広告ライブラリデータベースには、米国またはすべての国での広告パフォーマンスに関する詳細は含まれていないため、全体的なリーチはさらに高い可能性があります。

ポール氏は、TTPが先週、中国の広告パートナーがこれらの広告を掲載していることに関するレポートを公開した後、nudifyアプリ広告に関する調査を継続中にこれらの広告を発見したと述べています。ポール氏によると、同組織は直ちに発見事項を、オンラインの児童性的虐待素材の報告を可能にするNational Center for Missing and Exploited Children’s CyberTiplineに報告しました。NCMECの広報担当者は、受け取った報告についてはコメントしないと述べています。

WIREDがMetaに連絡した後、同社は広告を広告ライブラリから削除しました。Metaの広報担当者は、「性的搾取は恐ろしいことであり、私たちはプラットフォームからそれを排除するために積極的に取り組んでいます。これらの広告の大部分はリーチが少なく、WIREDが共有する前に多くが無効化されていました。また、これらの広告の多くは、アップロード時に違反広告をより良く検出・ブロックするために最近導入した新しいAI技術よりも前に公開されたものであり、私たちはこれらのシステムを常に改善しています。昨年3,600万件以上の児童性的搾取コンテンツを削除したことから、nudifyアプリ開発者に対する法的措置まで、私たちはこの虐待と執拗に戦い続けます」と述べています。

同社が示唆するように、一部の不適切な広告はMetaの新しいAI技術をすり抜けていました。当初、TTPの研究者は約2ダースの広告で不適切なコンテンツを発見しました。しかし、公開数時間前、研究者はさらに約30件を発見しました。これらの広告の多くは、WIREDがMetaにコンテンツについて問い合わせた後に公開されており、研究者が発見した時点で複数の広告がライブでアカウントに表示されていました。

ポール氏によると、このトランチには研究者たちが見た中で最悪の事例がいくつか含まれていました。研究者によると、動画広告の1つは、少女がリップグロスを塗っているように見えるサムネイル画像を使用しており、再生が始まると、動画は子供が性行為を行っている様子に変化しました。

Metaのポリシーによると、すべての広告は公開前に審査されます。システムは「主に自動ツール」を使用してポリシーに照らしてチェックします。同社の広告基準では、児童性的および搾取的な素材は許可されないと規定されており、同社がそれを認識した場合、NCMECに報告すると述べています。これに加えて、Metaの広告ポリシーでは、「ヌード、性行為、露骨または性的な示唆のあるポーズでの人物の描写、または性的な示唆のある活動を描写する画像」を含む広告は許可されないとしています。

Metaの広告ライブラリには現在、TTPの研究者によって発見された広告が、同社のポリシー違反として削除されたことが表示されており、「児童性的搾取、虐待、ヌード」および「成人向けヌードおよび性行為」に関する規則に違反したというメッセージが表示されています。

7月初旬、BBCの調査により、Instagramがインドで児童性的虐待素材の販売を宣伝する広告を配信していたことが判明しました。報道によると、広告は「レイプビデオ」などの用語を使用し、Telegramのチャンネルにリンクして違法コンテンツを購入できるようにしていました。これに対し、Metaは児童性的搾取に対して「ゼロトレランス」のアプローチをとるとの長文声明を発表しました。

TTPのポール氏は、同組織の研究者が確認した広告のキャッシュの中に、Metaが以前ポリシー違反で削除したと思われる同一の広告がいくつかあったと述べています。「これは、Metaが有料広告における児童搾取をどれほど真剣に受け止めているかについて、重大な疑問を投げかけます。なぜなら、同社のシステムが同一の広告を識別できるにもかかわらず、CSAM素材に関する同一の広告を削除しないからです」とポール氏は述べ、広告ライブラリ自体には、広告がもはや実行されていない場合にMetaのポリシーに違反する可能性のあるコンテンツを報告する方法がないと付け加えています。

これらの広告は、フォロワーがゼロまたはごくわずかのMetaアカウントによって主に投稿されていたようです。支払いを行った広告主が開示された場合、それらは中国企業にリンクされていました。ポール氏によると、ある事例(少女が横たわっている広告)では、TTPの研究者によると、Metaのデータは広告主がMeet Socialという中国企業であったことを示しています。同社はかつてMetaの広告リセラーの一つであり、Metaのソーシャルメディアプラットフォームがブロックされている中国で広告を扱っていました。2019年のニューヨーク・タイムズのプロフィールによると、同社はFacebook上で1日あたり数千件の広告を掲載し、10億ドル以上の売上を見込んでいました。

Meet SocialはWIREDのコメント要請に応じませんでした。

TTPの研究者たちによって発見されたMetaの広告のいくつかは、AppleのApp Storeに表示されていたMaskAIというアプリにリンクしていました。このアプリは中国のソフトウェア開発者にリンクされていましたが、WIREDによるアプリのレビューによると、ダウンロードされるまでヌードは表示されませんでした。しかし、一度開くと、AI生成のポルノのみが含まれており、ユーザーが画像をアップロードして顔を性的な状況にスワップできる機能が含まれていました。

WIREDが連絡した後、Appleの広報担当者は、MaskAIがヌディフィケーションアプリに違反したためApp Storeから削除されたと述べ、同社は「ポルノを生成、配布、または消費するために設計されたアプリを常に厳しく禁止している」と付け加えました。(MaskAIに関連するメールアドレスはコメント要請に応じませんでした)。他の広告は、異なるアプリやウェブサイトにリンクしていました。

約2020年頃から、機械学習およびそれに続く生成AI技術の進歩に伴い、危険なAIヌディフィケーションおよびアンデックスサービスがオンライン上に大量に出現し、その作成者には数百万ドルをもたらし、無数の女性に計り知れない被害を与えています。これらは、世界中の国々で違法であるAI生成の児童性的虐待素材の作成にも使用されています。

WIREDがTTPの発見についてMetaに最初に連絡した後、同社は2つのオンライン安全団体に、このストーリーのためにWIREDへのコメントを提供するよう依頼しました。オンライン虐待に取り組む企業と協力する団体、Tech Coalitionの退任CEOであるショーン・リットン氏は声明で、Metaが同団体のLanternサービスに「数千件の違反URL」を共有したと述べています。Lanternは、企業間で虐待コンテンツに関する情報を共有しています。英国のRevenge Porn Helpline(非同意の成人画像対策に取り組む団体)の広報担当者も、MetaとStopNCII.orgとのパートナーシップや、非同意の親密な画像対策への取り組みを称賛する声明を発表しました。「私たちは、nudifyアプリが、背後にいる人々だけでなく、単一の執行ポイントを中心にこのエコシステムがどれほど急速に適応するかという点で、真に敵対的な問題であることを明確にしてきました」とRevenge Porn Helplineは述べています。

デジタル詐欺出版物Indicatorの共同創設者であり、Googleでトラスト&セーフティ担当者であったアレクシオス・マンツァーリス氏は、近年MetaのプラットフォームでAI nudifierの広告を25,000件以上発見し、報告したと述べています。同社は以前、344,000件以上のnudifier広告を削除し、あるnudifierプラットフォームセットに関連する香港企業に対して法的措置を講じたと述べています。(WIREDは以前、Indicatorと協力して、nudify技術が世界中の学校の子供たちに対してどのように使用されているかについての報道を行いました)。

「相手側の関係者は明らかに、同じ詐欺ネットワークで使用されている技術を活用して、新しい広告アカウントと新しいドメインを作成するのに長けています」とマンツァーリス氏はWIREDに語っています。「残念ながら、この画像ベースの性的虐待の業界は、プラットフォーム側の緩慢な執行により、ノベルティから私たちのオンラインエコシステムの永続的な一部へと変化しました。」

おすすめ記事

  • The Big Interview: パティ・ハリソンはテックユートピアの夢を見ていた

  • あなたの受信トレイに: デジタルセキュリティの世界を Kernel Panic で深く掘り下げる

[画像]

マット・バージェスは、WIREDのシニアライターで、情報セキュリティ、プライバシー、欧州のデータ規制を担当しています。シェフィールド大学でジャーナリズムの学位を取得し、現在はロンドンに住んでいます。タレコミは[email protected]まで。 ... 続きを読む