スクレイパーボットをスクロール行動で検出する
Detecting scraper bots through scroll behaviour (niki.cat)
要約
この記事では、複雑系科学の概念である「バーストネス(Burstiness)」と「メモリ(Memory)」を用いて、人間とスクレイパーボットのスクロール行動を区別する手法を提案しています。著者は、人間は情報を探す際に線形ではなくバースト的なスクロールパターンを示す傾向があることに着目し、このバーストネスとメモリの値を機械学習モデルの特徴量として使用しました。実験の結果、限定的な環境ではありますが、これらの値がボットと人間を区別するのに有効な予測力を持つことが示唆され、特にChatGPTエージェントは人間に近い振る舞いを見せることが確認されました。
全文翻訳
スクロール行動によるスクレイピングボットの検出
Kwang-Il Gohによる論文「Burstiness and Memory in Complex Systems」を初めて読んだときから、その論文で紹介されていた2つの数式に魅了されていました。バースト性(B)と、それに劣らず重要な相関関係にあるメモリ(M)は、イベントベースシステムのダイナミクスを理解することを可能にします。
これらの指標は、イベントが発生した時刻のみがわかっている場合に、送信されたメール、テキストメッセージ、さらには心拍の挙動を分析するために使用できます。これにより、すでに分類されたデータセットに基づいて、どのパターンが人間らしく、どれがそうでないかを明確に確立できます。人間はテキストにバースト的な(返信するまでの時間が均一ではない) manner で応答するのに対し、単純なボットは可能な限り速く応答するため、BとMの係数が異なります。
[画像: Goh, K.-I., & Barabási, A.-L. (2008), Figure 4]
以前の個人的な研究では、これらの2つの値を使用して、リクエストのタイミングに基づいて人間とボットのセッションを区別していましたが、これは通常うまくいきました。しかし、このアプローチでは、CSSファイルとJSファイルを読み込んだ任意のブラウザから送信されたセッションを人間と見なしてしまうため、ClaudeBotのような高度なボットがヘッドレスブラウザを使用することで人間のように見えてしまうという問題がありました。これは本質的に、ボットと人間の区別ではなく、作成されたリクエストと実際のブラウザから送信されたリクエストの区別をしていました。
[画像][画像]
スクロールホイール
しばらく前に、ボットが容易に模倣できないと思われる、非常に人間らしい行動に気づきました。それはスクロールです。情報を求めてスクロールホイールでページをスクロールしているとき、私は通常、探しているものが見つかるまで直線的に下にスクロールするのではなく、バースト的なパターンで行います。例えば、そのパターンはcよりも、時系列のaまたはeにより近いかもしれません。
[画像: Goh, K.-I., & Barabási, A.-L. (2008), Figure 1]
ほとんどのスクレイピングボット開発者は、まだスクロールパターンを洗練させていないと考えているため、スクロールイベントのイベント間隔にバースト性とメモリを適用することが、人間とボットを区別するための機械学習モデルにおいて予測力を持つ変数になりうるかどうかをテストすることにしました。
そのために、Ethan Wangらの論文「FP-Agent: Fingerprinting AI Browsing Agents」で提供されたデータセットを使用しました。この論文では、著者らが特定の目的のために作成されたウェブサイトで、さまざまなAIブラウジングエージェントを区別できる機械学習モデルを作成したプロセスを説明しています。彼らは、さまざまなエージェントと人間のウェブサイト上でのナビゲーションデータを記録しました。彼らのモデルは良い結果を出しましたが、多くの変動が伴うさまざまなウェブサイトに適用した場合、実際の環境では効果的ではないと思います。それにもかかわらず、彼らはOSF.ioでデータセットをダウンロード可能にしました。
各エージェントが訪問した各ページ(ページごとに1つのバースト性とメモリの値)のJavaScript「scroll」イベントに対して、バースト性とメモリの値を計算しました。以下がその結果です。