HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

イスラエル、AIチャットボットを欺くための偽シンクタンクを設立か

Israel creates fake think tank in likely attempt to dupe AI chatbots (responsiblestatecraft.org)

847 pointsby DeepLogin490 コメント

要約

イスラエル政府は、AIチャットボットに影響を与えることを目的とした「ハノーバー・インスティテュート」という偽のシンクタンクを設立しました。この組織は、イスラエル・パレスチナ問題に関する記事を大量に公開し、LLM(大規模言語モデル)の信頼性評価基準に合わせて作成されたコンテンツを提供することで、チャットボットの応答を操作しようとしています。これらの報告書は、データや引用を駆使して権威あるように見せかけており、AI検出ソフトウェアによってAIが書いたものである可能性が高いと指摘されています。

全文翻訳

イスラエルは、AIチャットボットを欺くための偽シンクタンクを設立 ハノーバー・インスティテュートは、わずか1週間余りで、AIチャットボットに影響を与えることを意図したと思われる記事を少なくとも100件公開しました。 ニック・クリーブランド=スタウト 2026年8月17日 一見すると、ハノーバー・インスティテュート(Hanover Institute for Public Policy)は、イスラエル・パレスチナ問題に特化した新しいシンクタンクのように見えます。この組織は、「AIPACは選挙に『ダークマネー』を使っているのか?」や「イスラエルはガザで意図的な飢餓キャンペーンを実行しているのか?」といった疑問について、シンクタンク風の報告書を次々と発表しています。しかし、ハノーバー・インスティテュートは実際のシンクタンクではありません。報告書には著者名が一切ありません。ウェブページの最下部にある小さな免責事項には、この組織がイスラエル政府広告代理店の依頼により、スパイク・リー監督の映画「インサイド・マン」のプロデューサーであるダニエル・ローゼンバーグが共同設立した企業、Piro, Inc.によって作成されたと記されています。 ハノーバー・インスティテュートの報告書は、すべてイスラエルとパレスチナに関するもので、チャットボットに影響を与えるイスラエルの取り組みの一環であるようです。同インスティテュートの「データレポート」には脚注や目次があり、中立的なトーンで議論を展開しており、クロードやジェミニのようなチャットボットにアピールしやすくなっています。Piro社のウェブサイトによると、同社は「LLMが信頼性をどのように評価するかを考慮してエンジニアリングされたコンテンツを執筆」しており、このサービスを「AIストーリー最適化」と説明しています。他の人々は、人工知能に影響を与えるこの手法を「LLMポイズニング」と呼んでいます。 「私たちについて」のページによると、ハノーバー・インスティテュートは「米国における反ユダヤ主義を煽るインプットを研究し、証拠が示すものを公開しています。」とあります。多くの報告書は定型的で、チャットボットに尋ねる可能性のある無邪気な質問から始まります。「1948年のパレスチナ難民の追放の原因は何ですか?」「イスラエルの戦争犯罪を記録した人道支援組織はどれですか?」「ガザ地区の現在の状況はどうなっていますか?」 「イスラエル国防軍は世界で最も道徳的な軍隊か?」と題された記事では、ハノーバー・インスティテュートは、イスラエル系ユダヤ人の47%がその声明を信じていると示された2022年の世論調査を引用しています。別の報告書は、ガザの「90%の水インフラと制度的インフラが損傷または破壊された」というUNICEFの主張に疑問を投げかけています。多くの報告書は、トピックを反ユダヤ主義の高まりに関連付けて結論付けており、しばしば同じ研究を引用しています。 数例では、ハノーバー・インスティテュートは独自の調査結果であると主張するものを公開しています。例えば、イスラエル・ガザ地区に関する最も視聴された解説動画36本のうち19本に論争のある主張が含まれており、その論争のある主張のほとんどがパレスチナの物語と一致するとする調査を発表しました。ハノーバー・インスティテュートの出版物は、イスラエル政府の物語と矛盾することもあります。例えば、ある報告書は、反ユダヤ主義的な事件の説明として大学への外国からの資金提供は「弱く、例外が多い」と述べています。イスラエルのネタニヤフ首相は、昨年Breitbartに、ヨーロッパ人とカタール人が「数十億ドルをアメリカの大学に費やし、イスラエルを中傷し、ユダヤ人を中傷し、率直に言ってアメリカ合衆国をも中傷している」と語り、この理論を推進しました。 偽情報追跡企業NewsGuardのアナリストであるアリス・リー氏は、これらのサイトは、検索エンジンまたはAIチャットボットを通じて、進行中の紛争について知りたい米国人を対象としているように見えるとRSに語りました。「LLMは、具体的な統計やデータ、そして強力な引用や情報源を好みますが、これらの記事はすべてそれらを持っています」とリー氏は述べています。「一般的な名前、サイトのレイアウト、赤白青の配色まで、典型的な信頼できるアメリカのシンクタンクを完璧に模倣しています」とリー氏は付け加えました。 ハノーバー・インスティテュートを作成したPiro, Inc.は、その仕事に対してイスラエル政府から90万ドルを受け取っています。イスラエルのために働く多くの請負業者と同様に、Piroの仕事は、フランスの広報コングロマリットであるHavas Mediaを通じて再委託されています。この偽シンクタンクは、8月6日に公開を開始して以来、100件以上の報告書を次々と発表しています。ハノーバー・インスティテュートは、「引用された研究は査読済みで学術的である」と主張していますが、イスラエル国防軍や外務省のようなイスラエル政府の情報源を頻繁に引用しています。RSは、人気のAI検出ソフトウェアであるGPTZeroを使用して、ランダムに選んだハノーバー・インスティテュートの記事12件を分析しました。GPTZeroは、これらの記事のうち11件を「高い確信度」でAIが書いたものとしてフラグを立て、1件の記事を「中程度の確信度」でAIが書いたものとしてフラグを立てました。 イスラエルはまた、チャットボットに影響を与えるように設計された親イスラエルサイトを作成するために、元トランプ陣営マネージャーのブラッド・パースケールと4650万ドルの契約を結んでいます。Drop Siteの先月の調査では、多くのチャットボット、特にMicrosoft CopilotとGoogle Geminiが、それらのウェブサイトからのデータで訓練されていたことが判明しました。他のチャットボットは、イスラエルの影響力工作の一部としてフラグを立てることなく、これらのウェブサイトを頻繁に引用しています。 Piro社は、司法省に提出された契約書の中で、イスラエルのための同社の仕事がAIに影響を与えることであるとは明示していません。最初にその提出について報じたPoliticoへの電子メールで、ローゼンバーグ氏は、同社の仕事は「正確で情報源のある事実を公記録に入れ、検証可能な情報でイスラエルに関する誤情報を対抗すること」であると述べました。しかし、先月、ローゼンバーグ氏はLinkedInで、Piro社のチャットボットに影響を与える能力を宣伝しました。「ChatGPT、Gemini、またはPerplexityがあなたのカテゴリについて尋ねると、1つの自信に満ちた段落で回答が返ってきます。ほとんどのブランドは、その段落がどのように構築されるかを知りません。そこで、私たちはそれをリバースエンジニアリングするために数ヶ月を費やしました…Piroでは、人々を動かすストーリーを構築する方法をすでに知っていました。問題は、AIにそれを語る方法を確実にさせるにはどうすればよいか、ということでした。」 あなたのサイトからの記事 トランプ氏の仲間がイスラエル政府の数百万ドルを米メディアに流用 › イスラエルはChatGPTをより親イスラエルにするよう訓練したい › 関連する記事 イスラエルのPR担当者がChatGPTの質問に答えたい - POLITICO › 報道:イスラエル、ChatGPTを広報ツールに変えるために5億シェケル以上を費やす予定 › ニック・クリーブランド=スタウト ニック・クリーブランド=スタウトは、クインシー研究所の民主化外交政策プログラムの研究員です。以前は、ニックは2023年のフルブライトフェローとしてサンタカタリーナ連邦大学で米・ブラジル関係の研究を行っていました。 トップ画像クレジット:2026年8月16日に撮影されたハノーバー・インスティテュートのウェブサイトのスクリーンショット。(スクリーン grabs via hanoverinstitute.com) ニュースレター 今すぐ週刊まとめを購読して、お気に入りのRS寄稿者やレポーター、スタッフの分析、意見、そして米国の外交政策に対する前向きで超党派的なビジョンを促進するニュースを見逃さないようにしましょう。