イスラエル、AIチャットボットを欺くための偽シンクタンクを設立か
Israel creates fake think tank in likely attempt to dupe AI chatbots (responsiblestatecraft.org)
要約
イスラエル政府は、AIチャットボットに影響を与えることを目的とした「ハノーバー・インスティテュート」という偽のシンクタンクを設立しました。この組織は、イスラエル・パレスチナ問題に関する記事を大量に公開し、LLM(大規模言語モデル)の信頼性評価基準に合わせて作成されたコンテンツを提供することで、チャットボットの応答を操作しようとしています。これらの報告書は、データや引用を駆使して権威あるように見せかけており、AI検出ソフトウェアによってAIが書いたものである可能性が高いと指摘されています。
全文翻訳
イスラエル、AIチャットボットを欺くための偽シンクタンクを設立か
一見すると、ハノーバー公共政策研究所はイスラエル・パレスチナ問題に特化した新しいシンクタンクのように見えます。この組織は、「AIPACは選挙に『ダークマネー』を使っているのか?」や「イスラエルはガザで意図的な飢餓キャンペーンを実行しているのか?」といった問題について、シンクタンク風の報告書を次々と発表しています。
しかし、ハノーバー研究所は実在するシンクタンクではありません。報告書には著者の名前がありません。ウェブページの最下部にある小さな免責事項には、この組織がイスラエル政府広告庁の委託を受け、スパイク・リー監督の映画「インサイド・マン」のプロデューサーであるダニエル・ローゼンバーグが共同設立した企業Piro, Inc.によって作成されたと記されています。
ハノーバー研究所の報告書(すべてイスラエルとパレスチナに関するもの)は、イスラエルによるチャットボットへの影響力行使の一環であるようです。同研究所の「データレポート」には脚注や目次があり、クロードやジェミニのようなチャットボットにアピールしやすい中立的なトーンで議論を展開しています。Piro社のウェブサイトでは、このサービスを「AIストーリー最適化」と説明し、「LLMが信頼性をどのように評価するかを考慮してエンジニアリングされたコンテンツを執筆する」と述べています。この人工知能に影響を与える手法は、「LLMポイズニング」とも呼ばれています。
その「会社概要」ページによると、ハノーバー研究所は「米国における反ユダヤ主義を煽る要因を研究し、証拠が示すものを発表する」としています。多くの報告書は、誰かがチャットボットに尋ねる可能性のある無邪気な質問から始まる定型的な形式をとっています。
「1948年のパレスチナ人の追放の原因は何か?」
「イスラエルの戦争犯罪を記録した人道支援組織はどれか?」
「ガザ地区の現在の状況は?」
「IDFは世界で最も道徳的な軍隊か?」と題された記事では、ハノーバー研究所は、イスラエル系ユダヤ人の47%がその声明を信じているという2022年の世論調査を引用しています。別の報告書では、ユニセフが「ガザの水の90%とインフラが損傷または破壊された」と主張していることに疑問を呈しています。多くの報告書は、トピックを反ユダヤ主義の高まりに結びつけて結論付けており、しばしば同じ研究を引用しています。
いくつかのケースでは、ハノーバー研究所は独自の調査結果であると主張するものを発表しています。例えば、イスラエル・ガザ紛争に関する最も視聴された解説動画36本のうち19本に論争のある主張が含まれており、そのほとんどがパレスチナ側の見解に沿っているとする調査を発表しました。
ハノーバー研究所の出版物は、イスラエル政府の言説と矛盾することもあります。例えば、ある報告書は、大学への外国資金提供が反ユダヤ主義的事件の説明として「弱く、例外が多い」と述べています。イスラエルのベンヤミン・ネタニヤフ首相は、この理論を推進しており、昨年Breitbartに対し、ヨーロッパやカタールが「数十億ドルをアメリカの大学に費やし、イスラエルを中傷し、ユダヤ人を中傷し、そして率直に言ってアメリカをも中傷している」と語りました。
偽情報追跡企業NewsGuardのアナリスト、アリス・リー氏はRSに対し、これらのサイトは、検索エンジンやAIチャットボットを通じて、進行中の紛争に興味を持つ米国人読者にリーチするように設計されているように見えると語りました。「LLMは具体的な統計やデータ、そして強力な引用や情報源を好みますが、これらの記事はそれらをすべて備えています」とリー氏は述べています。
「一般的な名前、サイトのレイアウト、赤白青の配色まで、典型的な信頼できるアメリカのシンクタンクを完璧に模倣しています」とリー氏は付け加えました。
ハノーバー研究所を作成したPiro, Inc.は、イスラエル政府からその活動に対して90万ドルを受け取っています。イスラエルのために働く多くの他の請負業者と同様に、Piroの業務はフランスの広報コングロマリットであるHavas Mediaを通じて再委託されています。
この偽シンクタンクは、8月6日に公開を開始して以来、100以上の報告書を発表しています。ハノーバー研究所は「引用された研究は査読済みで学術的である」と主張していますが、イスラエル国防軍や外務省のようなイスラエル政府の情報源を頻繁に引用しています。
RSは、誤検出率が低いと主張する人気のAI検出ソフトウェアGPTZeroを使用して、ランダムに選んだ12の記事を分析しました。GPTZeroは、11の記事を「高い確信度」でAIによって書かれたとフラグ付けし、1つの記事を「中程度の確信度」でAIによって書かれたとフラグ付けしました。
イスラエルはまた、4650万ドルの契約の一部として、チャットボットに影響を与えるように設計された親イスラエルサイトを作成するために、元トランプ陣営マネージャーのブラッド・パースケールとも契約を結んでいます。先月、Drop Siteの調査では、特にMicrosoft CopilotとGoogle Geminiの多くのチャットボットが、それらのウェブサイトからのデータで正常にトレーニングされていたことが判明しました。他のチャットボットも、イスラエルの影響力工作の一部であるとフラグ付けせずに、それらのウェブサイトを頻繁に引用しています。
Piroは、司法省に提出された契約書の中で、イスラエルのための自社の活動がAIに影響を与えることであるとは明示していません。最初にこの提出を報じたPoliticoへの電子メールで、ローゼンバーグ氏は、自社の活動は「正確で出典のある事実を公記録に掲載し、検証可能な情報でイスラエルに関する偽情報に対抗すること」であると述べました。しかし、先月、ローゼンバーグ氏はLinkedInに、Piroがチャットボットに影響を与える能力を宣伝する投稿をしました。
「ChatGPT、Gemini、またはPerplexityがあなたのカテゴリについて尋ねたとき、1つの確信に満ちた段落で回答が返ってきます。ほとんどのブランドは、その段落がどのように構築されるかを知りません。そこで、私たちはそれをリバースエンジニアリングするのに数ヶ月を費やしました…Piroでは、人々を動かすストーリーの作り方はすでに知っていました。問題は、AIにそれを語る方法を確実にさせるにはどうすればよいか、ということでした。」