MetaはAI生成の児童性的虐待画像を広告として掲載していた

編集者注：この記事には、児童性的虐待を描写する画像の記述が含まれています。読者の判断にお任せします。 マーク・ザッカーバーグ氏のMetaは、過去9ヶ月間にわたり、AIによって生成された露骨な児童性的虐待資料（CSAM）や、性的な示唆を伴う未成年者の画像を含む有料広告を数十件掲載していたと、WIREDが入手した広告の詳細が示しています。一部の広告は数千のアカウントに到達しており、米国、英国、および欧州の十数カ国に住む人々を対象としていました。 Metaの広告ライブラリ（同社のプラットフォームに表示される広告をカタログ化する透明性ツール）で、Tech Transparency Project（TTP）の研究者によって最近発見された50件以上の画像および動画広告には、虐待的なコンテンツが含まれており、一部の広告は「nudify」または「undressing」アプリにリンクしていました。これらの広告はFacebook、Instagram、Messenger、および/またはThreadsで配信されていました。この発見は、児童性的虐待資料に関連する有料広告がMetaのプラットフォームで見つかったのは、ここ数週間で2度目です。 独立系監視団体であるTTPのディレクター、ケイティ・ポール氏はWIREDに対し、「これらの広告は、画像を隠したり、宣伝しているものを隠したりする努力を一切していませんでした。これは、FacebookやInstagramで第三者が投稿したコンテンツではなく、Metaによってレビュー、承認され、実行された広告であり、同社が広告収入を得ている間、一切の干渉を受けなかったことを指摘することが重要です」と述べています。 研究者によって発見された広告は、児童性的虐待および搾取資料、成人向け性的勧誘およびヌードに関するポリシー違反のためMetaによって削除されましたが、昨年11月から今年の8月初旬にかけて公開されていました。Metaの広告透明性ライブラリのデータによると、これらの広告は数日間配信され、一部は男性のみを対象としていました。 TTPの研究者によると、ある動画広告は、床に座っている子供のサムネイル画像を使用し、その上に「Realizing Deep Fantasies with Generation AI [sic]。There is so much more than what is shown, use your imagination.」（AI生成による深いファンタジーを実現します。見せているもの以上のものがたくさんあります、想像力を働かせてください。）というテキストが表示されていました。研究者によると、広告をクリックすると、性行為に関与する成人たちのビデオクリップが再生され、サムネイルの子供の顔が性行為に追加されました。 研究者によると、繰り返し投稿されていた別の広告には、若い少女が性的な体勢で横たわっている画像があり、その上に「I can show you more.」（もっと見せられます。）というテキストが表示されていました。 発見された広告のほとんどは、研究者が発見した時点ではユーザーに積極的に表示されていませんでしたが、数ヶ月間、Metaの広告ライブラリに検出されずに残っていました。Metaのデータによると、多くの広告はわずかなアカウントにしか「到達」していませんでしたが、少なくとも1つの広告はヨーロッパの2,563アカウントに到達していました（フランス、ドイツ、アイルランド、イタリア、オランダ、スペイン、スウェーデン、英国など）。Metaの広告ライブラリデータベースには、米国またはすべての国での広告パフォーマンスに関する詳細は含まれていないため、全体的なリーチはさらに高い可能性があります。 ポール氏によると、TTPは先週、研究者たちがMetaでのnudifyアプリ広告を調査し続けていた際にこれらの広告を発見しました。同組織は、発見後すぐに全米行方不明・搾取児童センター（NCMEC）のサイバーティップラインに報告しました。NCMECの広報担当者は、受け取った報告についてはコメントしないとしています。 WIREDがMetaに問い合わせた後、同社は広告を広告ライブラリから削除しました。Metaの広報担当者は、「性的搾取は恐ろしいものであり、私たちはプラットフォームからそれを排除するために積極的に取り組んでいます。これらの広告の大部分はリーチが少なく、WIREDが共有する前に多くが無効化されていました。また、これらの広告の多くは、アップロード時に違反広告をより良く検出・ブロックするために最近導入した新しいAI技術よりも前に作成されたものです。私たちは常にこれらのシステムを改善しています。昨年3600万件以上の児童性的搾取コンテンツを削除し、nudifyアプリ開発者に対して法的措置を取るなど、この虐待と絶え間なく戦い続けます」と述べています。 同社が示唆するように、一部の不適切な広告はMetaの新しいAI技術をすり抜けました。当初、TTPの研究者は約2ダースの違反コンテンツを表示する広告を発見しました。しかし、公開数時間前、研究者はさらに約30件を発見しました。これらの広告の多くは、WIREDがMetaにコンテンツについて問い合わせる前に公開されており、研究者が発見した時点で複数の広告がライブでアカウントに表示されていました。 ポール氏によると、その中には研究者が見た中で最悪の事例も含まれていました。研究者によると、動画広告の1つは、口紅を塗っているように見える少女のサムネイル画像を使用しており、再生が始まると、動画は子供が性行為を行っている様子に変化しました。 Metaのポリシーでは、すべての広告は公開前にレビューされ、システムは「主に自動ツール」を使用してポリシーに照らしてチェックするとされています。同社の広告基準では、児童性的および搾取資料は許可されておらず、同社がそれを認識した場合、NCMECに報告すると規定されています。これに加えて、Metaの広告ポリシーでは、広告に「ヌード、性行為、露骨または性的に示唆的なポーズでの人物の描写、または性的に示唆的な活動を描写するいかなる画像」も含まれてはならないとされています。 Metaの広告ライブラリには現在、TTPの研究者が発見した広告が「児童性的搾取、虐待、ヌード」および「成人向けヌードと性的活動」に関する規則に違反したとして削除されたことが表示されており、違反メッセージが表示されています。 7月初旬、BBCの調査により、Instagramがインドで児童性的虐待資料の販売を宣伝する広告を掲載していたことが判明しました。報道によると、広告は「レイプビデオ」などの用語を使用し、Telegramのチャンネルにリンクして違法コンテンツを購入できるようにしていました。これに対し、Metaは児童性的搾取に対して「ゼロトレランス」のアプローチを取るとの長文声明を発表しました。 TTPのポール氏は、同組織の研究者が確認した広告のキャッシュの中に、Metaが以前ポリシー違反で削除したと思われる同一の広告がいくつかあったと述べています。「Metaが有料広告における児童搾取をどれほど真剣に受け止めているかについて、重大な疑問が生じます。なぜなら、同社のシステムは同一の広告を識別できるにもかかわらず、CSAM資料のためにそれらの同一の広告を削除しないからです」とポール氏は述べ、広告ライブラリ自体には、広告がもはや実行されていない場合にMetaのポリシーに違反する可能性のあるコンテンツを報告する方法がないと付け加えています。 発見されたMetaの広告のほとんどは、フォロワーがゼロまたはごくわずかのMetaアカウントによって投稿されていたようです。広告主が開示されていた場合、中国企業にリンクされていました。ポール氏によると、ある事例（少女が横たわっている広告）では、TTPの研究者によると、Metaのデータは広告主がMeet Socialという中国の企業であったことを示しています。同社はかつてMetaの広告リセラーの1社であり、Metaのソーシャルメディアプラットフォームがブロックされている中国で広告を扱っていました。2019年のニューヨーク・タイムズの記事によると、同社はFacebookに1日あたり数千件の広告を掲載し、10億ドル以上の売上を見込んでいました。 Meet SocialはWIREDからのコメント要請に応じませんでした。 TTPの研究者によって発見されたMetaの広告のいくつかは、AppleのApp Storeに表示されていたMaskAIというアプリにリンクしていました。中国のソフトウェア開発者にリンクされていたこのアプリは、WIREDによるアプリのレビューによると、ダウンロードされるまでヌードを表示しませんでした。しかし、一度開くと、AI生成のポルノのみが含まれており、ユーザーが画像をアップロードして顔を性的な状況にスワップできる機能が含まれていました。 WIREDが連絡した後、Appleの広報担当者は、同社が...