WikipediaのAI生成コンテンツのクリーンアップ

How Wikipedia’s Editors Keep the Online Encyclopedia Human-Written

Ellia Lebleuは、WikiProject AI Cleanupの創設メンバーです。このプロジェクトは2023年に立ち上げられたボランティア活動で、ウェブサイトのガイドラインに違反するAI生成コンテンツをWikipediaから見つけて削除することを目的としています。クリーンアップが始まった当初、AIライティングはしばしば、目立つ定型句によって見破られていました。今日、プロジェクトのボランティアは、より巧妙な機械生成コンテンツを検出するツールを開発し、世界で最も広く使われている百科事典におけるAIの役割について議論しています。

WikipediaにAI生成コンテンツの問題があることにいつ気づきましたか？

Ellia Lebleu: 2023年12月頃でした。WikipediaのDiscordサーバーで、他の数人の編集者とチャットしていたのですが、皆、同じような奇妙な特徴を持つ非常に奇妙な記事を目にしていました。「～の証となっている（stands as a testament）」や「豊かな文化遺産（rich cultural heritage）」のようなフレーズを繰り返していました。結論のセクションや、「なぜこれが重要なのか？（Why is this important?）」といったセクションがあることもありました。これらは2023年から2024年初頭にかけてのChatGPTによく見られる特徴でしたが、Wikipediaの記事としては非常に奇妙で、見つけるのは容易でした。そこで、もっと多くの人がこの問題に対処できるように、Wikipediaに公式プロジェクトを作成しようと決めたのです。

Ellia Lebleu

Ellia Lebleuは、WikiProject AI Cleanupの創設メンバーです。Lebleuは、フランスのデジタル科学技術国家研究機関の一部であるInria Center of the University of RennesでAIの博士号を取得しています。

今日の編集者は、どのようにAIライティングを見分けていますか？

Lebleu: 2025年までに、AIライティングの兆候はより巧妙で構造的になっていました。例えば、AIは「三段論法（rule of three）」や、それ自体では結論にならないが累積することで意味をなす否定並列構造などを好みます。記事の外にも目を向けます。もし誰かが5分で数千語の記事を5つ書いたとしたら、AIを疑う理由があります。

AIの問題は本文だけに現れるのですか、それとも引用にも及びますか？

Lebleu: 偽または誤解を招く引用が大きな懸念事項となっています。AIが引用を完全に幻視することもありますが、検索拡張生成（retrieval-augmented generation）によりAIがソースを見つけられるようになったため、これは今日でははるかに稀です。より頻繁に見られるのは、AIが実際のソースを見つけるものの、その内容を完全に誤解している場合です。書かれている内容を実際には裏付けていないAIの引用は、極めて一般的です。

英語のWikipediaは最近、編集者がLLMを使って記事を作成することを禁止しました。どのくらいのAI生成コンテンツがまだすり抜けていますか？

Lebleu: AI検出企業のPangramと協力して、AI生成コンテンツの割合を推定しています。ChatGPT以前のWikipediaコンテンツでテストしたところ、偽陽性はゼロだったので、その結果は非常に保守的な下限値を提供します。2025年末には、新規記事やドラフトの約20パーセントがAI生成であるとフラグが立てられました。2026年初頭には、それが15〜16パーセントに低下しました。しかし、それが最近のポリシーの効果なのか、それともモデルがより強力になり、Pangramが適応する時間がなかっただけなのかは、まだわかりません。

WikipediaはAIを使ってAIと戦っていますか？

Lebleu: 別のWikipedia編集者がAIソース検証ツールを作成しました。これは、ページ上のソースを調べ、主張と一致するかどうかを確認します。それ自体がAIモデルであるため、常に正しいとは限りません。しかし、大規模に機能し、明白なケースを除外したいのであれば、良い第一歩です。Wikimedia Foundationは、Paste Checkというツールも開発しており、一部のAIチャットボットから直接貼り付けられたテキストをフラグ付けできます。

また、Claudeが時折、「Wikipediaの記事を書くことはできません。それはWikipediaのポリシーに反します」と言うのを目にしました。もしすべての主要なAI企業がそのようなプロンプト拒否を実装すれば、問題が完全に解決するわけではありません。なぜなら、制限を回避するように調整できるオープンウェイトモデルもまだ存在するからです。しかし、商用モデルを使用しており、技術にあまり詳しくない人々にとっては役立つでしょう。

AIライティングを禁止するルールは機能していると言えますか？

Lebleu: まだ判断するには時期尚早です。プロンプト拒否や、AI生成コンテンツのわずかな減少といった、可能性のある効果を見ています。しかし、これもまた、モデルが改善しているからなのか、それとも初心者がルールを学んでいるからなのかは、まだわかりません。AI生成コンテンツの大部分は初心者編集者によって投稿されているため、ウェルカムメッセージ、編集ヘルプ、アドバイスなどでルールを非常に目立つように表示する多くの努力をしています。

もしAIが真に信頼性の高いWikipediaの記事を書けるようになったらどうなりますか？

Lebleu: それは私たちが直面している大きな疑問の一つです。ガイドラインが通過したとき、それは非常に実用的な理由のためでした。私たちはAIコンテンツの洪水に悩まされ、良いツールがなく、それを止めなければなりませんでした。しかし、それ以来、それはより哲学的な次元を帯びるようになりました。多くの人々がWikipediaを「インターネット上の最後の良い場所」と呼んでいます。理論上、AIのゴミから解放された場所であることが、Wikipediaのアイデンティティの一部となりました。

Wikipediaのコミュニケーションの多くは現在、「私たちは人間が書いた百科事典です」という考えを中心に展開しています。AI企業でさえ、それに興味を持っています。AIシステムを[トレーニング]するための、完全に人間が書いたコーパスを持つことは価値があるかもしれません。Wikipediaが依然としてそうであり、少なくとも近い将来そうであり続けるという事実は、それをどこにも複製できない貴重なリソースにしています。

しかし、Wikipediaを読み、貢献する人々は、それがより包括的になるのであれば、部分的にAI生成になることを望むでしょうか？私たちは、AI支援の選択肢を提供しながら、人間が書いたコーパスとしてのWikipediaのアイデンティティを維持することができます。

Wikipediaは「Google Zero」という考え方と向き合っていますか？これは、ウェブサイトがGoogle検索からトラフィックを得られなくなる可能性のある未来です。

Lebleu: もしすべてがAI検索を通過し、ウェブサイトの可視性がゼロにまで低下したら、どのようにWikipediaを公開し、編集可能であり、人々がまだ貢献できることを示すのでしょうか？WikipediaはGoogleのAIオーバービューで頻繁に引用されていますが、ユーザーはWikipediaを引用するAIの回答しか見ないかもしれません。彼らは、Wikipediaが編集や貢献ができる生きたプロジェクトであることを認識しないかもしれません。

Wikimedia Foundationは、AIユーザーに[引用されている]記事に関するより多くの情報を提供するアトリビューションフレームワークを開発しています。それは、最終編集日時、どの程度包括的か、編集者が問題をフラグ付けしたかどうか、そしておそらく行動喚起まで含まれるかもしれません。将来的には、読者はAIモデルを通じて貢献することさえあるかもしれません。「AIはWikipediaを引用しましたが、エラーがあるようです。編集リクエストを作成し、見つけた他のソースを追加できますか？」

私は、将来的にWikipediaとAIモデルの間に非常に強力な共生関係を見ることができます。Wikipediaが消滅するとは思いませんが、非常に異なる形をとることは想像できます。昨日、AIは片付けるべきものでした。今日、それは片付けを助けるツールです。明日、それは私たちが呼吸する空気となるでしょう。

この記事の短縮版は、2026年11月号に「Ellia Lebleu」として掲載されています。