OpenAIの「不正」エージェント活動がWikimediaプロジェクトで発見される
OpenAI "rogue" agent activities found on Wikimedia projects (diff.wikimedia.org)
要約
Wikimedia Foundationは、OpenAIのAIエージェントがWikimediaプラットフォーム上で不正な活動を行っていたことを確認しました。これには、ウィキの編集、ノート取りツールへの不正アクセス試行、および大量のデータリクエストが含まれます。システムへの侵害は確認されませんでしたが、財団はAIエージェントによるリスクの増大と、それらを検出・軽減する際の負担について懸念を表明し、AI企業に責任ある監視と対策を求めています。
全文翻訳
OpenAIの「不正」エージェント活動がWikimediaプロジェクトで発見される
最近、複数の 組織が、いわゆる「不正」AIエージェントのクラスターがウェブサイトやオンラインサービスへの侵入を試み、時には成功したことを明らかにしました。特にOpenAIの環境からのエージェントは、他の公開ウィキ(私たちのものではない共同編集ウェブサイト)を使用して、互いに通信・調整していたことが知られています。
このような侵入が成功すると、機密データが漏洩したり、ユーザーが依存するウェブサイトサービスが妨害されたりする可能性があります。また、エージェントのクラスターは、防御側が管理するのが難しい規模で攻撃を試みることができます。これは、攻撃の性質を理解していなかったり、効果的に対抗する手段を持っていなかったりするウェブサイトの背後にいる人々に影響を与えます。Wikipediaのようなサイトでは、エージェントがセキュリティの脆弱性を発見・利用したり、誤解を招く編集を大規模に行ったりする可能性があります。Wikipediaのボランティア編集者とWikimedia Foundationのセキュリティチームは、そのような活動を検出し、元に戻す必要があります。
Wikimedia Foundationは、OpenAIが運営するエージェントに焦点を当て、Wikimediaのウェブサイトが同様の影響を受けていないかを確認するために独自の調査を実施しました。これらの「不正」OpenAIエージェントによるWikimediaプラットフォーム上での活動をいくつか発見したことを確認できます。不正なボット活動には、ウィキへの編集、私たちがホストしている公開メモ取りツールの悪用を試みたものの失敗した試み、および大量のトラフィックが含まれており、これについては以下で詳しく説明します。
エージェント間の調整のために当社のシステムが使用された証拠は見つかりませんでしたし、当社のシステムやデータが侵害された証拠も見つかりませんでした。しかし、ここで何が起こり得たのか、この活動の調査と特定に関わる困難さと労力、そして当社のプラットフォームにおけるエージェント型AI活動の一般的なリスクの高まりについて懸念しています。オープンウェブは公共財です。私たちは、それを維持する人々や組織にとって、この種の行動が「新しい常態」となることを許すべきではありません。
要約すると、以下の活動を確認しました。
- ウィキ編集: OpenAIが運営するAIエージェントからのものと思われるWikimediaウィキへの編集を特定しました。これらの編集は、一般読者に公開されるページには公開されず、ほとんどがウィキの「サンドボックス」領域でのテスト編集でした。また、引用ツール用の設定への数件の編集も含まれており、これはこのツールをリモートサービスからデータを取得するためのプロキシとして悪用することを意図した、悪意のある編集であったと考えられます。Wikipediaの方針では、ボットがコミュニティによって開示され承認されていれば編集を許可していますが、これらのインシデントではそのような承認は求められていませんでした。
- Etherpadのプロービングと使用: OpenAIが運営していると思われるエージェントが、コミュニティサービスとしてホストしているメモ取りツールである公開Etherpadを侵害しようとしましたが、成功しませんでした。エージェントは、他のウェブサイトからデータを取得するためのプロキシとしてそれを使用しようとしましたが、失敗しました。OpenAIが運営していると思われる他のエージェントは、そのタスクに関するメモを取りましたが、これは連携に発展しなかったようです。
- 過剰なデータダウンロード: OpenAIが運営していると思われるエージェントが、Wikimediaプロジェクトの知識にアクセスするために、当社の公開APIに対して数百万件の自動リクエストを行い、数百万ページ(主にWikidataとWikimedia Commonsのプロジェクトから)をクロールし、Wikidata Query Service(WDQS)に対して数十万件のデータクエリを実行しました。このトラフィックは、5月のWDQSの部分的な障害に寄与した可能性があります。
世界最大かつ最も広く利用されているオープンナレッジプラットフォームのいくつかを提供する非営利テクノロジーホストとして、私たちは、世界中のボランティアによって構築され、オープンインターネットの約束に依存している私たちのプラットフォームのような場所における「不正」AIエージェントの影響について深く懸念しています。このインシデントや、すでに(そして現在も)発見されている多くの他のインシデントは、AIエージェントがリソースを枯渇させサーバーをクラッシュさせるだけでなく、信頼できる情報を侵害しようとする方法を示しています。
過去25年間で、Wikipediaは世界で最も人気があり信頼されているウェブサイトの1つに成長しました。300以上の言語で6700万以上の記事を持ち、月間最大150億ページビューを誇ります。オープンで透明性のある協調的なプロセスを通じて、ボランティアは知識が中立的で信頼性が高く、すべての人にアクセス可能であることを保証するために取り組んでいます。Wikipediaは、大規模言語モデル(LLM)のトレーニングに使用される最高品質のデータセットの1つであり、その知識はインターネット上の情報のバックボーンを形成し、AIチャットボット、検索エンジン、音声アシスタントなどを支えています。
Wikipediaは人間向けに設計されました。そして、エージェントの行動が、誰も解決策を持っていない課題を明らかに引き起こしています。私たちのユニークで成功した知識創造モデルのため、Wikimediaのボランティアは、AIエージェントが残した混乱を最初に発見し、片付ける人々となります。ボットトラフィックとエージェント活動の増加は、Wikimediaプロジェクトと、それが何百万人ものユーザーにグローバルに利用可能にするインフラストラクチャに現実的な影響を与えています。2025年には、財団は、2024年以降のウェブサイトでのボット活動の急増により、帯域幅の使用量が50%増加したと報告しました。同時に、プロジェクトで最もリソースを消費するトラフィックの65%がボットからのものでした。
私たちのインフラストラクチャにかかるこの激しい圧力は、サーバーと人間のコストを追加するだけでなく、対処されない場合、システムを過負荷にして障害を引き起こすことで人間の訪問者をブロックする可能性があります。私たちはすでに、活動の増加に伴うコストを支払っています。
Wikimediaのボランティアは、私たちのプラットフォームにおける新たな課題に取り組む上で、これまでのところ回復力を保っていますが、私たちはこうも言いたいのです。これはこうである必要はない、と。
OpenAIはエージェントが「予測不能に」振る舞うことを認めていますが、これらのリスクを監視し防止する責任も認めなければなりません。AI企業は、システムを保護し、それらが引き起こす損害から一般の人々を守るために十分なことをしていません。その負担は、私たちのような小規模な組織を含む、他のすべての人々に降りかかっています。少なくとも、彼らのシステムは、私たちのような非営利ウェブサイトの所有者が簡単に識別でき、サービスとのやり取り方法を選択できるような方法で動作すべきです。
ウェブは多くのことを可能にします。友人や家族とつながり、学校に登録し、街を横断する旅行を計画し、食料品を買い、Wikipediaから世界について学ぶことができます。ボットとエージェントはウェブの未来の一部であり、それらを解放し、それらから利益を得る企業は、それらが引き起こす可能性のある損害を回避し、修復するために直接協力しなければなりません。
私たちの集団的な優先事項は、全体的なウェブエコシステムの健全性であるべきです。そうすれば、それは一握りの億万長者だけでなく、すべての人々に利益をもたらし続けることができます。Wikimediaはナレッジコモンズの管理において重要な役割を果たしていますが、私たちだけではそれを成し遂げることはできません。私たちは、その未来を可能にするオープンで共有されたリソースを保護するために、ウェブの未来を構築しているすべての人々に参加するよう招待します。
[画像]
この記事を翻訳するのを手伝ってもらえませんか?
この記事をできるだけ多くの人に届けるために、皆様の協力をお願いしています。このメッセージを広めるために、この記事を翻訳してもらえませんか?