PhysicsForumsとデッドインターネット理論 (2025)

PhysicsForumsとデッドインターネット理論

インターネットは将来どうなるか

Googleピープルを覚えている人いる？

– qntm, 2019年8月21日

PhysicsForumsを覚えている人はいるだろうか？

インターネットの中心ではなかったが、2001年に設立された当時、インターネットは今日のように中心を持っていなかった。PhysicsForumsは数千のフォーラムの一つであり、熱心な10代の少年Greg Bernhardtによって設立され、Bad Astronomyのようなサイトと共に「ハードサイエンス」のニッチ分野に存在し、主に物理学の宿題に苦労している学生に、宿題を直接解くのではなくヒントを与えることに焦点を当てていた。2012年まで順調に成長を続けたが、StackExchangeのようなより中央集権的なサイトに取って代わられ、2010年代から2020年代にかけて衰退し、2025年までには少数のコミュニティしか残らなかった。しかし、初期の多くのフォーラムとは異なり、2003年から2025年までURLを変更したり、古い投稿を削除したり、完全にダウンしたりすることなく存続した。この一貫性のおかげで、PhysicsForumsはタイムカプセルとして非常に価値があり、20年前の人々がどのように考え、何を言っていたかを知る手がかりとなる。

例えば、2007年のこの投稿で、現在では廃止されたHP 50gグラフ電卓の機能について尋ねているのを見ることができる。そして、コメント投稿者ravenprpによる非常に役立つ返信を読むことができる：

［画像: ユーザーravenprpが2007年のフォーラム投稿で自身を大規模言語モデルであると主張している］

何かがひどく間違っている。

レイヴンはこう言った？

10年ぶりくらいにGoogleピープルのパスワードをリセットしてログインしたら、以下のことが判明した。

1. 私が書いた、アカウントに関する10年分のアップデート

– qntm, 2019年9月7日

一見すると、ravenprpは非常に印象的なユーザーであり、わずか7ヶ月（2006年9月から2007年4月まで）で2,891件の投稿を行い、1日平均13件以上の投稿をしている。そして、これらの投稿の多くは casual な1行の回答ではなかった。彼のプロフィールを読むと、彼は現代のルネサンス人、あるいはそれ以上の、真の万能科学者であることがわかる。彼は大学の教員であり、機械工学の学生であり、化学プラントの採用担当者（おそらくカナダの）でもある。彼は.VOBおよびオーディオファイルの扱いやファスナーの専門家でもある。構造エンジニア、生物学者、医療物理学者、化学者、そして航空宇宙エンジニアでもある。そして何よりも謙虚で、持っていない専門知識を主張しない。航空宇宙および航空エンジニアではあるが、空気力学の専門家ではないし、機械エンジニアでもなく、電気モデルの専門家でもない。

驚くべきことに、これらの投稿はアカウントが作成される3年前から、アカウントが最後にログインされた1年後まで spanning している。そして、おまけに、ravenprpはOpenAIによって開発された言語モデルであると7年前にジョークを言えるほど先見の明があった。明らかに彼はPsychicsForumsに参加すべきだった。

［画像: Ravenprpの多くの物語的なキャリアのスクリーンショット］

これらの投稿を読むと、合理的な疑問が生じる。アカウントの作成日と最終ログイン日はどうなっているのか？もし完全に偽造されたアカウントなら、なぜアカウント作成日を最初の投稿よりも前に設定し、最終ログイン日を最後の投稿よりも後に設定しなかったのだろうか？Wayback Machineが答えを与えてくれる。現在アカウントは2,891件の投稿をリストしているが、2019年のアーカイブでは74件をリストしている。2019年以降、これらの投稿はプロファイルを一切更新せずに、データベースに直接挿入された。

そして、元のWayback Machineリストにあったこの74件の投稿だけを見ると、非常に異なるravenprpが見えてくる。彼はMATLAB書籍に関する簡単なアドバイスを求めていた電気工学の学生であり、集積回路の問題に取り組んでおり、他の投稿者にベルヌーイの定理に関する有用なリンクを提供し、コンピュータプロフェッショナルであるravenprpのような知識豊富な専門家から情報を求めていた。

［画像: ユーザーRavenprpが自身にアドバイスを求めている］

したがって、これはかつては本物のアカウントであり、ravenprpは本物の人間で、本物の投稿、意見、質問、回答を持っていたように思われる。しかし、彼が持っていたかもしれない74件のオリジナル投稿における元の考えや文章は、後から追加され、過去の日付に設定され、彼に帰属させられた2,817件の追加投稿によって、ほとんどかき消されている。

それでも、これらの投稿を見つけるのは困難かもしれないが、少なくともスレッド自体は intact である。例えば、彼はkyle8921に助けられたスレッドがある：

［画像: ユーザーravenprpが宿題の質問で助けを求めている］

そして、その答えは、2つの小さな問題がなければ、一見すると非常に合理的だろう：

• Kyle8921は、奇妙なことに、自身の回答を始める前に、ravenprpの投稿の不完全なLaTeX式を完成させることを選択した。
• ravenprpと同様に、Kyle8921は最終ログインから1年以上後に投稿し、その後3年以上投稿を続けた。

［画像: Kyle8921の最終ログイン日と、そのずっと後の投稿］

これは一体どこまで続いているのだろうか？

インターネットは永遠

デッドインターネット仮説に関して、今日あなたが楽しんでいるコンテンツは、明日もそこにあります。

LoveMortuus, 2024年7月24日

創設者のGreg BernhardtはPhysicsForumsをシンプルなGHB掲示板として開始し、各スレッドと投稿にユニークな数値IDを付与した。多くの現代的なサイトとは異なり、このIDはシーケンシャルであり、最初の投稿にはID 1、2番目の投稿には2、というように割り当てられた。これらの投稿の中には、何らかの理由で削除されたものもある（最初の2年間の議論を含む。そのため、投稿#1は2001年ではなく2003年になっている）。したがって、投稿の線が連続的で途切れていないとは期待しないだろう…しかし、過去の日付で投稿が追加されていない限り、線は単調増加すると期待できるはずだ。ランダムに取得した30,000件の投稿のサンプルをプロットすると、そのパターンがどのように保持されているかがわかる：

［画像: 異常な投稿日のグラフ、2003年から2025年まで完全にズームアウト］

PhysicsForumsのほぼ全期間において、そのルールは守られていた。投稿Aが投稿BよりもIDが大きい場合、投稿Aは投稿Bよりもタイムスタンプが後であった。そして、そのルールが当てはまらない場所では、データベースが改変され、より新しい投稿が過去の日付で与えられたと合理的に推測できる。

データベースの改変と過去の日付への変更は、必ずしも悪いことではない。最大の例は2022年で、PhysicsForumsはMathHelpBoardsと合併し、約150,000件の投稿アーカイブを組み込み、各投稿には元の日付が付けられた。PhysicsForumsの歴史の中には、スレッドが分割された（オフオントピックだがそれでも有用な議論のため）、投稿が削除されたが新しいIDで復元された、データベースの不具合で再割り当てが発生した、あるいはその他の完全に正当化できる小規模な編集など、より小さな例もある。しかし、2023年3月11日、少数の投稿がタイムライン全体にわたって追加され、その後5月に大きなグループ、10月にさらに大きなグループ、そして2024年1月と2月に最大のグループが追加された。

［画像: 異常な投稿が過去の日付に設定されていることを強調するグラフのズームインバージョン］

非常に異常な投稿IDを取得し、MathHelpBoardsのインポートを除外し、実際の投稿時刻に plausibly close なインスタンスを除外すると、LLMによって書かれ、人間に帰属させられた投稿が約115,000件と推定される。ウェブサイト全体をスクレイピングせずに、正確に何人のユーザーがプロファイルを復活させたかを言うのは難しいが、代表的なサンプルを取ると、最低でも110人のユーザーが影響を受けている。これらは、最も初期の投稿者の一部から、一度きりの投稿者、長年の読者、そして創設者兼サイト管理者であるGreg Bernhardtまで及ぶ。いずれの場合も、その人物が必ずしも支持しない見解に名前が付けられている。確かに平均的な科学愛好家は、0.999…が1に等しくないという考えを支持しないだろう、もしそれに気づいていれば。

しかし、問題は、彼らはそれに気づいていないということだ。これらの人々のほとんどが誰なのか、私たちは知らない。彼らに連絡を取ることはできない。多くの（おそらくほとんどの）ユーザー名は、PhysicsForums固有であるか、あるいは他の場所では一般的すぎて特定には役立たない。彼らはPhysicsForumsを離れ、生活を送っており、自分の名前の下で何が言われているのか、あるいはそうでないのかを知る術もなく、何も問題がないと疑う理由も全くない。そして、言われていることが正確かどうかわからないが、いずれにせよ、投稿が増えるごとに、インターネットのアーカイブは少しずつ平坦になり、彼ら自身の科学的貢献はさらに少しずつ希釈され、意図的に人間によって書かれたインターネットの割合はさらに少しずつ縮小していく。

デッドインターネット理論

インターネットは空虚で人々がいないように感じる…まるで中に何も入っていないホットエアバルーンのようだ。

Anonymage, 「デッドインターネット理論（その他多数）」, 2019年9月16日

「デッドインターネット理論」— インターネットの多くまたは大部分が人間によって作られていないものであるという理論 — は2019年にその名前を得て、以来ゆっくりと人気を集めている。当初述べられた理論は自己申告による「ごちゃ混ぜの混乱」であり、インターネットの「死」を2016年または2017年頃と見なし、興味深いことに、説得力のある長文を書くことができるほぼすべてのLLMよりも先行している。オリジナルのグリーンテキストの2日後に/r/AskRedditでGPT-2ボットを試したが、ボットは数時間以内に気づかれ、指摘された。そして2016年または2017年には、テキスト生成の最先端はマルコフ連鎖であり、ほとんどのオンラインボットはテキスト生成なしで同一のメッセージを投稿していた。

この理論と、インターネットの形状が変化したという一般的な感覚は、LLM以外にも多くの根源的なインスピレーションを持っていた。その感覚の一部は、インターネットがより広いグローバルオーディエンスに開かれたことで、小規模コミュニティの規範や標準が単にスケールアップしなかったためだろう。一部は、スマートフォンへのデバイス変更が、オーディエンスの受動的な役割を促進したためだろう。一部は、純粋な市場 forces から生じ、特定の誰かに起因するものではない、ラスベガスの豪華なカジノほど避けられない、ますます多くのコンテンツエンゲージメントへのアルゴリズム的なインセンティブのためだろう。

しかし、6年後の今、その一部は間違いなくLLMである。

［画像: PhysicsForumsの投稿のスクリーンショットで、非人間生成コンテンツの膨大な量を示している］

問題は、これらの非人間的な追加が価値や使いやすさを追加しているわけではないということだ。最初に始めたオリジナルのravenprpスレッドでは。要約を追加することが役立つと主張できるかもしれない…しかし、それは要約が正確である場合に限られる。そして、私たちが知っているように、AI生成の要約は、事実を正確かどうか不明確なもので豊かにする傾向がある。

一部のリンクなどの追加を潜在的な強化として受け入れることができる。それらの侵入的な性質は他の広告と同様に破壊的であるが、ウェブサイトを運営し続けるために必要な一部として、時には破壊を受け入れることもある。しかし、スレッドの残りの部分は、正確な事実を1つしか含まないLLM生成の投稿である（「HP 50g Connectivity Kit」の存在）、それ以外は、HP 50gマニュアルや電卓に関する本物の情報が見つかる他の場所で実際に反映されているものは何も含まれていない。

最後に、FAQがある。このFAQは、スレッド全体で「HP 50g Spreadsheet」の「GET」と「PUT」関数を参照している唯一の場所であり、要約がそれらを取得している可能性のある唯一の場所である。さらに言えば、このFAQはインターネット全体でそれらの関数を参照している唯一の場所である。マニュアルにはそれらについて言及されておらず、「HP 50g Spreadsheet」についても言及されていない…そして、執筆時点で「HP 50g Spreadsheet」を検索すると、このスレッドが表示されるだけで、他には何も表示されない。

したがって、ravenprpの投稿には正確さのヒントがあるが、FAQはタイトルからのみ引用しており完全に間違っており、要約も主にFAQから引用しており、完全に間違っている。しかし、これらの回答が不正確であるという事実だけが問題ではない。代わりに、これらの回答を読むのではなく、このスレッドの各セクションが占めるスペースを簡単に集計してみることができる：

LLMが書いた部分はこのスレッドの単語数の92%を占める。もしこれがインターネットの代表的なサンプルであれば、インターネットを「死んでいる」と表現するのは合理的だろう。

［画像: PhysicsForumsでのLLM vs 人間の単語数を示すグラフ］

幸いなことに、インターネット全体での状況はまだそれほど壊滅的ではない。過去の日付に設定されたLLM投稿は平均よりも長い傾向があるが、それでも全投稿の1.6%と全単語数の3%しか占めていない。実際の詐欺は、それでもなお、総数のごく一部に過ぎない。しかし、LLM生成のFAQや要約（見てきたように、必ずしも正確ではない）を含めると、デッドインターネット理論は正当化されているように見え、サイト上の単語の66%しか人間によって書かれていないことになる。

2年前、人間が書いたテキストはサイトのほぼ100%に近かった。では、2年後…誰が知るだろうか？

古いアーカイブはあまり頻繁に読まれないのは事実なので、これは大きな損失ではないと主張することもできる。2024年中にTwitterで共有されたアーカイブされたPhysicsForumsの投稿は3件しかなかった…そしてその3件のうち、1件は人間がボットが書いた投稿を共有していたもので、もう1件はボットが人間が書いた投稿を共有していたものである。だから本当に、誰かが気にするだろうか？

人間 vs 機械

「…AIを使用することで、ごくわずかな労力で大量のナンセンスを生成し、私たちを簡単に圧倒することができます。」今のところそれは起こっていません。

PeterDonis, 2024年11月12日

確かにPhysicsForumsのコミュニティメンバーは気にかけている。2024年11月、投稿者のRenormalizeがAzntoonの奇妙な行動に気づいた。特にAzntoonが2012年に最後にログインしたにもかかわらず2022年のスレッドに投稿していたことに気づいた。しかし、そのスレッドはすぐにデータベースの不具合のようなもので、それ以上のことは何も起こらなかった。興味深いことに、Azntoonの最終ログイン日はその後2022年12月に変更され、彼が過去の日付設定が始まって以来（明らかに）再びログインした唯一のLLM影響ユーザーの2人のうちの1人となった。

ユーザーは2022年までにはそれに警戒していた。フォーラムの常連たちはChatGPT生成応答に関するポリシーについて議論していた。Vanadium 50は、ChatGPTによって生成された「かろうじて理解できる投稿」が多くの作業を生み出し、DoS攻撃と見なされる可能性があると不満を述べていた。スレッドの一般的なコンセンサスは、PhysicsForums管理者Greg Bernhardtによって要約された：

Stack Overflowがそれを禁止しようとしていると確信している。ここではそれを奨励しないべきだと思うが、「禁止」する方法はわからない。少なくともChatGPTからのコンテンツは引用されるべきだ。

数ヶ月後、サイトは2023年のエイプリルフールに、表示名を一時的にすべてChatGPTに変更した。LLMの過去の日付設定挿入がすでに始まっていた数週間後だが、これは4月1日だったので、誰も投稿が実際にChatGPTによって書かれているとは考えなかった。Alexander R. Klotz、PhysicsForumsのInsightsブログの元寄稿者は、Twitterで彼の2016年の記事が彼の知らないうちに編集されたと指摘したが、編集は、中間に不器用に配置されたLLM生成の要約と、2018年からの手動挿入された著者注に限定されているようだった。10万件以上の投稿の追加と全体的な変更の範囲は、現時点ではどこにも議論が見られないものである。

しかし、過去の日付に設定されたユーザーはすべて検索のオートコンプリートから隠され、プロファイルへのリンクは投稿からすべて削除された。これは、プロファイルをクリックして何か問題があることに気づくのをより困難にするためだろう。

このような変更は徐々に起こる傾向がある。時間の経過とともにわずかなずれが生じ、サイトを維持するために妥協がなされる。コミュニティがそれに気づいたとき、すべてが説明され、緩和され、耐えられるものになる。コミュニティの反発が大きすぎると、後退して説明し、より小さなバージョンの変更を残すのは簡単だ。最終的に、これらの変更を行うためのインセンティブは消えないだろう。それらがどのように機能するかを決定するのは、変更を行う人々の判断と、コミュニティがそれにどのように応答するかである。

更新：FAQ

この記事の執筆中に、FAQも発見され、議論スレッドが作成された。ログインユーザーには表示されなかったようで、フォーラムの常連が古い投稿を読み返すのに興味を持ってログインしたまま行うことが多いことを説明している。FAQは現在削除されているが、クローズされたスレッドの先頭にあるLLMが書いた要約はまだ残っている。

インターネットは人々である

デッドインターネット理論が現実になりつつある。

Greg Bernhardt, 2025年1月3日

私たちはGreg BernhardtにPhysicsForumsでのLLM使用についてコメントを求めたところ、彼は次のように返信した：

コミュニティに価値を追加するための多くのAIテストを計画中です。数週間前にメンバーに2024年のフィードバックフォームを送ったところ、多くのメンバーはAI機能を望んでいません。メンバーと協力して大幅に改善するか、削除することになります。昨年、テストアカウントからのAI回答を実験しましたが、品質基準を満たしていませんでした。もし見落としたテストアカウントがあれば、お知らせください。私のドキュメントは最高ではありませんでした。

そして、コミュニティフィードバックに関するフォローアップの質問に対して、彼は次のように返信した：

Mathwonkが最初に品質の問題を提起しました。彼と協力して新しいモデルを使って改善しましたが、まだ十分ではありません。

過去の日付の回答は内部テストでした。1年以上返信のないスレッドに質の高い回答を提供するボットを考案しました。それも失敗しました。代わりに、返信のないスレッドはフォーラムを散らかすので、すべて削除することを検討しています。

110人の既存ユーザーが、1年近くにわたる4回の波にわたる115,000件の投稿のために、テストアカウントとして使用されることに同意したとは想像しにくい。これらが失敗したテストアカウントである、あるいは誤ってラベル付けされたボットであるという考えは、事実に合致しないように思われる。

また、これは明示されていないが非常に現実的な期待にもつながる。オンラインコミュニティにおける私のアイデンティティは私のものだ。私はいくつかの友情よりも古いフォーラムのアカウントを持っている。私は様々なアイデンティティの下で数万語を書いてきた。それらが比較的匿名であるというだけで、それらは私にとってそれほど現実的ではなく、それらのアイデンティティの下で行われた仕事に費やした努力と時間を減じるものではない。アカウントを乗っ取り、元の所有者が書かなかったコンテンツで埋め尽くす？それは彼らの努力を希釈し、彼らのアイデンティティを混乱させる。コンテンツは、私が所有するアイデンティティと不可分に結びついた、ある種の私のものだという考えで作られた。

社会契約もある。オンラインコミュニティにアカウントを作成するとき、私たちは、私たちが交流する人々が主に人間であるという期待を持ってそれを行う。もちろん、詐欺師やボット、広告主もいるだろうが、ユーザーとコミュニティプロバイダーとの間の合意は、彼らが私たちを守ろうとし、その見返りに私たちはエンゲージメントとコンテンツを提供するということだ。だからこそ、MetaのAI生成ユーザーに関する最近の実験は、ばかげていて吐き気を催すものなのだ。人間になりすましたものとやり取りしている可能性があり、せいぜい、ぬるいゴミを提供している場合、インターネットを介した人間の相互作用の価値は失われる。

さらに、既存のアカウントにLLM生成コンテンツを投入するという考えは破壊的だ。ジェネリックなストリップモールを作るために樹木園を舗装するようなものだ。インターネット考古学はすでに困難で複雑な事業だ。失われたコンテンツ、ダウンしたサーバー、消えてしまったウェブサイトを見つけるのは非常に難しい…そして今、AI生成されたバックデートされたデータがたくさんあるようだ。これはウェブサイトが進化し、最新の状態を保つべきではないということではないが、これは違う、これは歴史の書き換えであり、明確な利益なしに歴史を書き換えている。

私たちがお互いに関係のないコミュニティの整合性のために何千語も戦って書いているのを見るのは奇妙に感じるかもしれない。インターネットのごく一部で、生き残るために必死に努力している、異なる時代の隠れ家が、あらゆるコストをかけてしがみつこうとしている。しかし、私たちは共感している。ウェブサイト、特にフォーラムを運営することは高価だ。サーバーコストは上昇する。データベースが故障し、専門家を雇うか、何時間もの無給の時間を使って作業する必要がある。ボットが氾濫する。DDOS攻撃が発生する。別の波の仮想通貨詐欺が現れる。インターネットで生き残るにはコストがかかり、お金はユーザーと広告から来る。砂漠の人間が水を必要とするように、クリックが必要であり、毎週競争は激しくなる。

生き残るためには変容しなければならない。その公理はインターネットの真実だ。そうしなければ、Google検索結果の8ページ目に埋もれ、ユーザーもサーバーを維持するためのお金もなくなるだろう。しかし、コミュニティが生き残るために道徳とアイデンティティの核を妥協し、ユーザーへのコミットメント、そしてある程度はインターネットというより広い考え方へのコミットメントの基盤そのものを破壊した場合、私たちは自問しなければならない…それはそれだけの価値があったのだろうか？