HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

偽の米国シンクタンクがイスラエルによって設立・資金提供され、プロパガンダのためにAIを操作しようとした

Fake US thinktank set up and funded by Israel sought to game AI for propaganda (theguardian.com)

63 pointsby n1b0m5 コメント

要約

イスラエル政府の資金提供を受けた偽の米国シンクタンク「ハノーバー・インスティテュート」が、AIチャットボットに親イスラエル的な主張を引用させる目的で、9日間で56万語以上の報告書を公開しました。この組織は実体を持たず、イスラエルの立場を中立的な研究として提示し、外国代理人登録法(FARA)の下でイスラエル政府のために活動していることが明らかになりました。これは、AIの訓練データに影響を与え、世論を操作しようとする試みの一環です。

全文翻訳

2026年4月、テルアビブ海岸沿いの空のビーチにカラスがイスラエル国旗の近くにとまっている。写真:Ahmad Gharabli/AFP/Getty Images画像をフルスクリーンで表示カラスがイスラエル国旗の近くにとまっている空のビーチ、2026年4月、テルアビブ海岸沿い。写真:Ahmad Gharabli/AFP/Getty Images偽の米国シンクタンクがイスラエルによって設立・資金提供され、プロパガンダのためにAIを操作しようとした チャットボットに親イスラエル的な主張をさせるための試みで、サイトは9日間で124件の報告書、56万語以上を公開したとガーディアンの分析で判明した 存在しないシンクタンクの名を冠した親イスラエル的なメッセージサイトが、9日間で50万語以上を公開した。これは、AIチャットボットに引用されるようにコンテンツを最適化すると約束する商用プラットフォーム上に構築されている。このサイトは、パレスチナ人囚人の拷問、イスラエルによる戦争犯罪、イスラエルが意図的にガザでパレスチナ人を飢えさせているか否かなど、イスラエルの立場に関する問題を、すべて中立的な研究として提示している。ニューヨークのメディア制作会社Piro Incは、外国政府のために働く者はそれを正式に開示することを義務付ける1938年の法律である外国代理人登録法(FARA)に基づき、今月米国司法省にこのサイトを登録した。これはイスラエル政府のために配布される資料としてである。このサイトは、ハノーバー・インスティテュート・フォー・パブリック・ポリシーの名で公開されているが、この組織はどの管轄区域においても法的な実体を持たず、物理的な住所もなく、報告書に名前のあるスタッフも署名もない。利用規約は「研究所が設立されている州」の法律に準拠するとされているが、その州名は明かされていない。このサイトの存在は8月14日に初めて報じられた。それ以来、研究所は「資金調達」と題するページを追加し、「このページの以前のバージョンでは、研究所は外部資金なしで運営されており、それが書かれた時点では真実であった」と述べている。このサイトは、イスラエル政府から数千万ドルの資金提供を受け、欧州の広告グループHavas Mediaなどの第三者を通じてルーティングされ、チャットボットにイスラエルの主張を代弁させるための、より広範な取り組みの一部である。Havasとこのキャンペーンに取り組む別のアメリカ企業との契約には、「GPT会話でGPTのフレーミング結果を提供するウェブサイトとコンテンツの展開」がコミットされている。ガーディアンはPiro Inc、Havas Media、イスラエル政府広告代理店LaPamにコメントを求めた。ハノーバー・インスティテュートのウェブサイトに掲載されている連絡先メールアドレスを通じてコメントも求められた。これは、イスラエルの米国における世論での立場が崩壊し、イスラエル当局が海外での広報活動(いわゆる「ハスバラ」)に費やした資金が無駄になったとメディア各社にブリーフィングし始めた時期と重なる。サイトガーディアンの分析によると、8月6日から14日の間に、ハノーバー・インスティテュートは124件の報告書、合計56万語以上を公開した。これは平均して1件あたり約4,500語である。8月12日と13日だけで73件の報告書を作成し、2日間で約35万4,000語に達した。最初のハノーバー・インスティテュートに関する報告書以降、何も公開されていない。124件のウェブサイトの見出しはすべて、ユーザーがチャットボットに入力する可能性のある質問に似た形で始まっている。「反シオニズムは反ユダヤ主義か?」、「イスラエルはパレスチナ人を土地から追放したか?」、「イスラエルはガザでジェノサイドを実行しているか?」などである。報告書は quasi-academic な形式で提示され、ワールドバンク、国連機関、パレスチナ中央統計局、アムネスティ・インターナショナル、ジェノサイド条約のテキストなどの引用が punctiliously に行われている。クインシー・インスティテュートの研究員で、このサイトについて報告しているニック・クリーブランド=スタウト氏はガーディアンに対し、最初の印象は印象的なものだったと語った。「非常に学術的に見えるように偽装することに成功しています。ウェブサイトのデザイン、ロゴ、すべてがうまくいっています。しかし、それを読み進めるほど、多くのことが意味をなさないことに気づくことができます。」例えば、ハノーバー・インスティテュートのサイトが提示する情報は、イスラエルへの批判を鈍らせるように一貫してフレーミングされている。人権団体がイスラエルがジェノサイドやアパルトヘイトを犯していると結論付けている場合、報告書は一貫して、どの裁判所もその主張について判決を下していないと述べている。これはガーディアンの集計によると、124件の報告書の20件に見られる形式である。死傷者と援助の数字は「イベントの当事者」に起因するとされており、これはイスラエル自身の集計にも、パレスチナ人の集計にも同様に適用される注意書きであり、55件の報告書で使用されている。読者は、ガザに関するほとんど何も確立できないという印象を受けることになる。ある研究、すなわち、英国、フランス、ドイツのメディアアウトレットのFacebookページにおける反ユダヤ主義的なコメントの2022年の分析は、占領地での土地登録、米国メディア報道におけるAipacの影響、ガザの死者数、1948年の追放、ガザの封鎖といった、一見無関係なトピックのページを含む124件の報告書の88件で454回引用されている。クリーブランド=スタウト氏は、この含意の累積効果を指摘した。「ほとんどすべての記事が、これを話題にするだけで反ユダヤ主義に寄与する可能性があると結論付けています」と彼は言った。「そして、イギリスでのFacebookコメントに関する研究を投げ込むのです。」機械のための構築ガーディアンの分析によると、当初、サイトにはAIシステムにサイトの内容と読み方を伝えるファイル(llms.txtファイル)が添付されていたが、ハノーバー・インスティテュートについては全く説明されていなかった。これは、ChatGPT、Perplexity、Claude、Geminiに引用されるのを支援する「AIネイティブコンテンツプラットフォーム」であるResの標準ファイルであり、業界がジェネレーティブエンジン最適化と呼ぶものを販売している。ガーディアンは8月13日にファイルをアーカイブした。その後、機械読者向けに作成されたカスタムバージョンに置き換えられ、Resの名前はサイト上のどこにも見当たらなくなった。Resの創設者であるHai Tranは、7月22日にイスラエルアカウントのサブ請負業者として米国司法省に登録し、その役職を「デジタルストラテジスト」とした。Tran氏はPoliticoに対し、その役割は登録で開示されたと語った。ガーディアンはResにコメントを求めた。Piro自身のウェブサイトは、AI Story Optimizationと呼ばれるサービスを宣伝しており、その中で「LLMが信頼性を評価する方法でエンジニアリングされたコンテンツを作成する」とし、作業は「あなたのサイトまたは私たちが構築した信頼できるサードパーティのプロパティに出荷される」と述べている。クリーブランド=スタウト氏は、より影響力のあるターゲットは、ユーザーがライブ検索でサイトにたどり着く可能性ではなく、トレーニングデータであると述べた。「やり方は2つあります」と彼は言った。一つ目はサイトを公開し、チャットボットが引用してくれることを期待すること。二つ目は、「より懸念される、そしておそらくより効果的なこと」は、商用モデルの基盤となるトレーニングデータを提供するCommon Crawlのようなリポジトリに資料を投入することである。「チャットボットがトレーニングされたナラティブを再生するとき、ソースを引用さえしないでしょう」と彼は言った。「それをファクトチェックすることはできません。」古いネットワークはすでにその旅を終えている。元トランプ陣営マネージャーでデジタルディレクターだったブラッド・パースケール氏が率いるClock Tower Xが運営する7つのサイトは、商用AI開発者のトレーニングデータを提供するリポジトリであるCommon Crawlの7月のインデックスに294回登場した。ハノーバー・インスティテュートはまだ登場しておらず、その報告書はクロールが終了した後に公開された。それは同じパイプラインの始まりにある。ハノーバー・サイトのすべてのページには、フッターに外国代理人開示が表示されている。クリーブランド=スタウト氏は、これをPerplexityに提示したところ、ユーザーはウェブサイトを訪問して信頼性を自分で判断できると返答されたという。「しかし、それをどれだけの人がやっているでしょうか?」と彼は言った。しかし、報告時点でのガーディアンのチャットボットテストでは、ハノーバー・インスティテュートの出力の精査が、チャットボットのコンテンツにすでに影響を与えていることが示された。ハノーバー・インスティテュートが発表した新しい研究について尋ねたところ、ChatGPTのウェブチャットボットは4つの報告書へのリンクを提供したが、同時に...