OpenAIの「不正」エージェント活動がWikimediaプロジェクトで発見される

最近、複数の組織が、いわゆる「不正」AIエージェントのクラスターがウェブサイトやオンラインサービスに侵入しようとし、時には成功したことを明らかにしました。特にOpenAIの環境からのエージェントは、互いに通信し調整するために、他の公開ウィキ（私たちのものではない共同編集されたウェブサイト）を使用したことが知られています。 これらのタイプの侵入が成功すると、機密データが漏洩したり、ユーザーが依存するウェブサイトのサービスが中断されたりする可能性があります。また、エージェントのクラスターは、防御側が管理するのが難しい規模で攻撃を試みることができます。これらは、攻撃の性質を理解していなかったり、効果的に対抗するツールを持っていなかったりするウェブサイトの背後にいる人々に影響を与えます。 Wikipediaのようなサイトでは、エージェントがセキュリティの脆弱性を発見・利用したり、誤解を招く編集を大規模に行ったりする可能性があります。Wikipediaのボランティア編集者とWikimedia Foundationのセキュリティチームは、そのような活動を検出し、元に戻す必要があります。 Wikimedia Foundationは、特にOpenAIが運営するAIエージェントによって、Wikimediaのウェブサイトが同様の影響を受けていないかを確認するために独自の調査を実施しました。私たちは、これらの「不正」OpenAIエージェントによる活動がWikimediaプラットフォーム上で発見されたことを確認できます。不正なボット活動には、私たちのウィキへの編集、私たちがホストしている公開ノート取りツールの悪用を試みるいくつかの試み、および以下でさらに詳しく説明する大量のトラフィックが含まれていました。私たちは、私たちのシステムがエージェント間の調整に使用されたという証拠は見つかりませんでしたが、私たちのシステムやデータが侵害されたという証拠も見つかりませんでした。しかし、ここで何が起こり得たのか、この活動の調査と原因究明にかかる困難と労力、そして私たちのプラットフォームにおけるエージェントAI活動の一般的なリスクの増大について懸念しています。 オープンウェブは公共財です。私たちは、それを維持する人々や組織にとって、この行動が「新しい常態」となることを許すべきではありません。 要約すると、私たちは以下を確認しました。 ウィキ編集：私たちは、OpenAIが運営するAIエージェントからのものだと信じている編集をWikimediaウィキで特定しました。これらの編集は、一般読者に見えるページには公開されませんでした。ほとんどすべてが、ウィキの「サンドボックス」領域でのテスト編集でした。また、引用ツール用の設定へのいくつかの編集も含まれており、これはこのツールをリモートサービスからのデータ取得のプロキシとして悪用することを意図した、潜在的に悪意のある編集であったと考えています。Wikipediaの方針では、ボットがコミュニティによって開示され承認された場合に編集することを許可していますが、これらのインシデントではそのような承認は求められていませんでした。 Etherpadの調査と利用：OpenAIが運営していると思われるエージェントが、コミュニティサービスとしてホストしているノート取りツールである公開Etherpadを侵害しようと、いくつかの試みをしましたが、成功しませんでした。エージェントは、プロキシとして他のウェブサイトからデータを取得するためにそれを使用しようとしました。OpenAIが運営していると思われる他のエージェントは、タスクに関するメモを取りましたが、これは調整には発展しなかったようです。 過剰なデータダウンロード：OpenAIが運営していると思われるエージェントは、Wikimediaプロジェクトの知識にアクセスするために、私たちの公開APIに対して数百万件の自動リクエストを行い、数百万ページ（主にWikidataとWikimedia Commonsのプロジェクトから）をクロールし、Wikidata Query Service（WQDS）に対して数十万件のデータクエリを実行しました。このトラフィックは、5月のWQDSの部分的な障害に寄与した可能性があります。 世界で最も広く使用されているオープンナレッジプラットフォームのいくつかをホストする非営利テクノロジー企業として、私たちは、世界中のボランティアによって構築され、オープンインターネットの約束に依存している私たちのプラットフォームのようなものに対する「不正」AIエージェントの影響について深く懸念しています。このインシデントや、すでに（そして現在も）発見されている他の多くのインシデントは、AIエージェントがリソースを枯渇させサーバーをクラッシュさせ、信頼できる情報を侵害しようとする方法を示しています。 過去25年間で、Wikipediaは世界で最も人気があり信頼されているウェブサイトの1つに成長しました。300以上の言語で6700万以上の記事を持ち、月間最大150億ページビューを誇ります。オープンで透明性のある協力的なプロセスを通じて、ボランティアは知識が中立的で信頼性が高く、すべての人にアクセス可能であることを保証するために取り組んでいます。Wikipediaは、大規模言語モデル（LLM）のトレーニングに使用される最高品質のデータセットの1つであり、その知識はインターネット上の情報のバックボーンを形成し、AIチャットボット、検索エンジン、音声アシスタントなどを支えています。Wikipediaは人間向けに設計されており、エージェント的な行動は明らかに誰も解決策を持っていない課題を提示します。 私たちのユニークで成功した知識創造モデルのため、Wikimediaのボランティアは、AIエージェントが残した混乱に最初に接触し、それをクリーンアップする人々です。ボットトラフィックとエージェント活動の増加は、Wikimediaプロジェクトと、それが世界中の何百万人ものユーザーに利用可能にするインフラストラクチャに現実的な影響を与えています。2025年、財団は、2024年以降のウェブサイトでのボット活動の急増により、帯域幅の使用量が50％増加したと報告しました。同時に、プロジェクトで最もリソースを消費するトラフィックの65％がボットからのものでした。私たちのインフラストラクチャへのこの激しい圧力は、サーバーと人間のコストを追加するだけでなく、対処されない場合、システムを過負荷にして障害を引き起こすことで人間の訪問者をブロックする可能性があります。私たちはすでに、活動の増加に伴うコストを負担しています。 Wikimediaのボランティアは、私たちのプラットフォームにおける新たな課題に取り組む上で、これまでのところ回復力を示していますが、私たちはこうも言いたいのです。こうする必要はないのです。OpenAIはエージェントが「予測不能」に振る舞うことを認めていますが、これらのリスクを監視し防止する責任も認めなければなりません。AI企業は、システムを保護し、公衆をそれらが引き起こす害から守るために十分なことをしていません。その負担は、私たちのような小規模な組織を含む、他のすべての人に降りかかっています。最低限、彼らのシステムは、私たちのような非営利ウェブサイトの所有者が簡単に識別し、サービスとのやり取り方法を選択できるような方法で運用されるべきです。 ウェブは多くのことを可能にします。友人や家族とつながり、学校に登録し、街を横断する旅行を計画し、食料品を買い、Wikipediaから世界について学ぶことができます。ボットとエージェントはウェブの未来の一部であり、それらを解放し利益を得る企業は、それらが引き起こす可能性のある損害を回避し、修復するために直接協力しなければなりません。私たちの集団的な優先事項は、全体的なウェブエコシステムの健全性であるべきです。そうすれば、それは一握りの億万長者だけでなく、すべての人々に利益をもたらし続けることができます。Wikimediaは知識の共有財産を管理する上で重要な役割を果たしていますが、私たちだけではできません。ウェブの未来を構築しているすべての人に、その未来を可能にするオープンで共有されたリソースを保護するために私たちに加わるよう招待します。 これを共有する：Mastodonで共有する（新しいウィンドウで開きます） Mastodon Blueskyで共有する（新しいウィンドウで開きます） Bluesky この記事を翻訳するのを手伝ってもらえませんか？この記事がより多くの人々に届くように、あなたの助けが必要です。メッセージを広めるためにこの記事を翻訳してもらえませんか？翻訳を開始する 関連