HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIは静かにパブリックインターネットから思考を吸い取っている

AI Is Quietly Draining the Public Internet of Thought (twitter.com)

10 pointsby nreece4 コメント

要約

AIの台頭により、かつては公開フォーラムやQ&Aサイトで共有されていた人間の思考や知識が、プライベートなAIインターフェースへと移行し、インターネットの知識アーキテクチャが根本的に変化しています。この「思考の逆流」により、公共の知識基盤が希薄化し、AIは残された低品質な情報から学習するという悪循環が生じています。

全文翻訳

AIは静かにパブリックインターネットから思考を吸い取っている

何か深遠なことがインターネットで起こっていますが、それを明確に名付けている人はほとんどいません。私は過去4年間、それを記録してきました。

数十年間、ウェブの最も貴重なリソースは帯域幅やサーバーではありませんでした。それは、人間の質問と回答の、乱雑で公開されたやり取りでした。私は10年近くQuoraのトップライターであり、また、狂騒前のWikipediaの熱心な貢献者でもありました――私はそのやり取りの空間で生きていました。誰かが壁にぶつかり、フォーラムを開き、問題をタイプアウトすると、会話が形成されました。アイデアは公然とストレステストされました。ニュアンスが現れました。行き止まりが示されました。より良い質問がリアルタイムで洗練されました。そのプロセス全体――摩擦、意見の相違、集合的な思考――は、検索可能で、リンク可能で、永続的な公開知識として残されました。

その流れは逆転しました。同じ質問、同じ好奇心や混乱の瞬間は、今やプライベートなAIインターフェースへとより多くルーティングされています。人はチャットウィンドウを開き、プロンプトを入力し、出力を受け取り、その交換全体が閉じたエコシステムの中に消えていきます。私たちが(それが真実であるため)しなければならない仮定は、AI企業がプロンプトと応答の両方を保存しているということです。かつて共有された人間の記録の一部になったであろう思考は、代わりに企業のトレーニングサイロの中に閉じ込められています。

これはユーザー行動の些細な変化ではありません。それはインターネットのオリジナルの知識アーキテクチャの反転です。公共の言説は、その高信号素材から体系的に剥ぎ取られています。

インターネットのデータがますます実際にノイズが多くなるにつれて、それは静かになっています。かつて最も豊かなスレッドを生み出した質問――人々が仮定を明確にしたり、不確実性を認めたり、ドメインを横断して合成したりすることを余儀なくさせた質問――は、AIによって最も効率的に回答されるものです。オープンウェブに残されているのは、ますます残余物です:低労力の投稿、見せかけの議論、リサイクルされた意見、そしてまだモデルにとってあまりにも社会的または曖昧すぎると感じられる質問です。

AIは、その薄れていく残渣でトレーニングされますが、より優れた思考はプライベートにキャプチャされ、決してコモンズに戻ることはありません。

結果は奇妙なフィードバックループです。思考的なやり取りがプライベート化されたために、パブリックインターネットはますます思慮深さを失っていきます。そして、ますます残されたものでトレーニングされたモデルは、表面を支配するようになった劣った交換にますます流暢になるリスクを負います。

これは「AIが人々を愚かにしている」とか「フォーラムが死につつある」といういつもの不満ではありません。それらは症状です。より深い現象は構造的なものです:人間の認知剰余が公開知識コモンズからプライベートで非互恵的なデータリザーバーへと移行することです。

インターネットはもはや、思考が外部化され共有される場所ではなくなっています。それは、思考が抽出され、保持される場所になりつつあります。

この観察の新規性は、それが問題をコンテンツモデレーション、エンゲージメントアルゴリズム、あるいはAIの能力から切り離して再構築することです。核心的な問題はアーキテクチャにあります。私たちは知識の流れの方向を反転させました。かつて共有基盤へと漏れ出たものが、今はデフォルトで還元しないサイロへと内向きに流れ込んでいます。

長期的な結果は、認識されていないため、ほとんど議論されていません。その最高の質問がもはや公に尋ねられなくなったとき、文明はどうやって質の高い公共の認識環境を維持できるでしょうか?最も豊かな人間の推論が商業的な壁の後ろに閉じ込められたとき、将来のモデルのトレーニングデータはどうなるでしょうか?そして、他人の前で声に出して考える習慣がより稀になったとき、どのような文化的筋肉が萎縮するでしょうか?

これはインターネットの静かな反転です。かつてコモンズ行きだったデータは、今やAIへと迂回されています。思慮深い交換は表面から消えており、モデルは残されたものから学んでいます。それが新しいダイナミクスです。それ以外のすべては、それの下流にあります。

[画像: @BrianRoemmele]

[動画]

[画像]

GIF