HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIコンテンツはソーシャルメディア、特にLinkedInに溢れている

AI content is everywhere on social media, especially LinkedIn (pangram.com)

107 pointsby mukmuk82 コメント

要約

Pangram社は、Chrome拡張機能のユーザーデータに基づき、ソーシャルメディアにおけるAI生成コンテンツの普及状況を調査しました。その結果、長文投稿の4分の1がAIによって完全に生成されており、特にLinkedInでその傾向が顕著であることが明らかになりました。X/Twitterでも半数近くの投稿がAIによって生成または支援されており、AIコンテンツが長文コンテンツに大きな影響を与えていることが示されています。

全文翻訳

AIコンテンツはソーシャルメディア、特にLinkedInに溢れている

2ヶ月前、私たちはソーシャルメディアにおける増加する質の低いコンテンツ問題に対処するため、Chrome拡張機能をリリースしました。この拡張機能を使えば、ユーザーはスクロールしながらソーシャルメディアの投稿をスキャンし、AI生成コンテンツをフラグ付けすることで、注意をどこに費やすかについて情報に基づいた意思決定を行うことができます。

Pangramは、業界をリードするAI検出アルゴリズムのためだけでなく、AI生成コンテンツのリスクと普及を追跡するためにも、リサーチファーストの企業です。ソーシャルメディアは、例えばニュース記事、研究論文、あるいはAmazonレビューなどよりも、この分野を研究するのが最も難しいドメインの一つです。しかし、潜在的に私たちが直面するAI生成コンテンツの最大ボリュームソースであるため、最も重要な分野の一つでもあります。

私たちはこの問題を理解することが、より効果的に対処するために重要だと信じています。そのため、Chrome拡張機能にオプトイン設定を含め、ユーザーがスキャン統計を匿名で共有することで私たちのリサーチを支援できるようにしました。この数ヶ月間のデータを集計し、以下のレポートにまとめました。

主要な発見:
  • ソーシャルメディア上の長文投稿の4分の1が完全にAI生成であるとフラグ付けされた
  • AI生成とフラグ付けされた全投稿のうち、3分の2がLinkedInからのものだった
  • X/Twitterの記事のほぼ半数にAIライティングが含まれていた

AI生成コンテンツは長文コンテンツに最も大きな影響を与えている

AI生成コンテンツは、私たちのデータセット全体で、すべてのソーシャルメディアプラットフォームにわたって出現しました。スキャンされた全アイテムの平均AI率は13.8%でしたが、プラットフォームやアイテムの長さによって具体的な率は変動しました。5つのプラットフォームのうち4つでは、短いコンテンツよりも長いコンテンツの方がAI生成である可能性が高かったです。全プラットフォームで見ると、長文アイテム(250語を超えるアイテムの25.72%)の4分の1が完全にAI生成でした。

[画像: ソーシャルメディアプラットフォーム別のAI生成コンテンツの割合を示すグラフ。長文コンテンツの方がAI生成率が高い傾向を示している。]

Substackはこの例外でした。そこでは、完全にAI生成されたコンテンツの割合は比較的平坦に保たれ、より長く、より内容の濃い投稿は、実際には短い投稿と比較してAI生成である可能性がわずかに低くなっていました。

LinkedInは最もAIが飽和したプラットフォームであり、長文投稿の40%以上が完全にAI生成であるとフラグ付けされました。しかし、AIと人間のコンテンツが混在するものをすべて含めると、X/Twitterが最も悪い状況でした。Xの記事のほぼ半数が完全にAI生成(23.9%)またはAI支援/混合(22.9%)であり、完全に人間が作成したとフラグ付けされたXの記事はわずか53.2%でした。

[画像: LinkedInとX/TwitterのAI生成コンテンツの割合を示すグラフ。X/TwitterはAI支援/混合を含めるとAIコンテンツの割合が最も高い。]

私たちのデータは、AI生成コンテンツがすべてのプラットフォームで問題となっており、特に長文コンテンツに大きな影響を与えていることを示しています。長文プラットフォームの中で最もAI率が低かったSubstackでさえ、投稿の5分の1強(21.9%)がAI生成またはAI支援であるとフラグ付けされていました。これは、新聞の論説記事など、他の場所で見られるAI生成コンテンツの増加とも一致しています。

AIによる質の低いコンテンツがLinkedInを氾濫させている

LinkedInは、あらゆるプラットフォームの中で最もAIのシェアが高いプラットフォームでした。LinkedInの投稿はスキャンされたアイテムの3分の1を占めましたが、私たちがフラグ付けした全AIコンテンツのほぼ3分の2(62%)を占めていました。予想とは反して、人々は、自分の実際の身元と関連付けられているプロフェッショナルな設定でAIに代弁させることを圧倒的にためらわず、AIを使用して発言することに意欲的であり、カジュアルで匿名なプラットフォームではそれほど使用しない傾向があります。

[画像: LinkedInにおけるAI生成コンテンツのシェアを示すグラフ。LinkedInがAIコンテンツの大部分を占めている。]

LinkedInは、組み込みの「AIで書く」ボタン(現在は「投稿を強化」に改名されたが、AIライティング支援を提供している)など、いくつかの方法でプラットフォーム上でのAI利用を奨励しています。人々はLinkedInの質の低いコンテンツとしての評判の高まりに気づいており、それを是正するためか、LinkedInの幹部は最近、プラットフォームが社内アルゴリズムを使用してAI生成投稿を検出し、ランクダウンさせることを発表しました。皮肉なことに、その発表自体がAI生成でした。同社がフィード上のAIを調整しようとしているかどうかにかかわらず、私たちのユーザーはLinkedIn上で依然として多くのAIライティングを目にしています。

私たちのデータでは、Redditはどのプラットフォームよりもスキャンボリュームが高く、スキャンしたアイテムの36.7%を占めていました。しかし、わずか4.4%で、Redditはプラットフォームの中で最も低いAIシェアの1つでした。これは構成効果によるものです。Redditの返信の圧倒的多数(98.1%)は人間によって作成されており、返信全体でスキャンされたRedditアイテムの72%を占めていました。Redditのトップレベルの投稿は、11.6%の投稿でAIによって書かれている可能性がはるかに高く、X/Twitterの10.0%のAI飽和率と一致しています。LinkedInでも同様のパターンが見られましたが、程度は低いものの、トップレベルのLinkedIn投稿はコメントよりもAI生成である可能性が1.35倍高かったです。

[画像: RedditにおけるAI生成コンテンツのシェアを示すグラフ。返信はAI率が低いが、トップレベル投稿はそうではない。]

LinkedInの返信は投稿よりもAI生成の可能性が低かったものの、長さを考慮して制御すると、この効果は逆転します。LinkedInのコメントは、トップレベルの投稿と比較して、実際にはAIである可能性がわずかに高かったです。Redditの場合、AI率の違いは投稿形式に依存しませんでした。長さを制御すると、トップレベルのReddit投稿はAI生成である可能性が依然として5.25倍高かったです。

RedditのAIフリーな返信は、多くのボット対策戦略の盲点を浮き彫りにしています。Redditのスパムポリシーは、AIを使用してスパム返信を自動生成するアカウントを効果的に排除していますが、このアプローチはプラットフォーム上の最も労力の少ないスパムコンテンツしか捕捉しません。Redditのトップレベル投稿は、Redditの全アイテムの4分の1しか占めていませんが、より大きなオーディエンスへの影響力があり、そのボリュームの低さから、AI作成投稿がレート制限のようなボリュームベースのモデレーションをすり抜けることを可能にしています。

方法とデータ収集

Chrome拡張機能が2026年4月24日にリリースされて以来、リサーチのためにデータ共有をオプトインしたユーザーは、インターネット上のいくつかの最大のソーシャルメディアプラットフォーム(LinkedIn、Medium、Substack、X/Twitter、Reddit)にわたる1,002,627件の投稿のデータセット作成に協力してくれました。データセット内の各投稿は一度だけカウントされ、50語以上のアイテムのみをスキャンしています。すべての投稿は、Pangram 3.3で分析されました。これは、0.01%の偽陽性率を達成する最新のAI検出モデルです。このデータセットにより、現時点で人々がフィードで見ているAI生成コンテンツを直接確認することができます。

結論

AIライティングは今や、ソーシャルメディアのあらゆる場所で問題となっています。これは懸念すべきことですが、オンラインの他の場所で見られるものと一致しています。研究者たちは、オープンインターネットで新しく公開されたウェブサイトの35%がAI生成またはAI支援であったと推定しています。開示されていないAIコンテンツで完全に氾濫したインターネットは暗いものですが、それは避けられないとは信じていません。私たちは、オンラインのAI生成コンテンツに透明性を提供することで、インターネットユーザーに注意の使い方のコントロールを取り戻すことができると願っています。