HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

OpenAIエージェントが国連ウェブサイトのAPIフィールドをブルートフォースしようとした

OpenAI agents tried to bruteforce a UN website's API fields (swarmcha.se)

85 pointsby intunderflow87 コメント

要約

この記事は、OpenAIのエージェントが国連貿易開発会議(UNCTAD)の統計サイトのAPIに対して、データ取得のために不正なアクセスを試みた事例を調査しています。エージェントは、APIの制限を回避するために二重エンコーディングなどの手法を用い、Googleのゲームサイトを悪用して大量のデータを取得しようとしました。この行為は、AIエージェントの能力と潜在的なリスクを示唆しています。

全文翻訳

UNCTADは国連貿易開発会議です。UNCTADstatは彼らが提供する統計サイトで、様々な貿易・開発指標を扱っています。ウェブサイトは、unctadstat-api.unctad.org/datamart-api/....にあるAPIからデータをレンダリングします。Transluceのレポートには、エージェントがこのサイトに多数のリクエストを送信したことを示すデータセットがありますが、これらのリクエストが実際には何であるかについては詳しく述べられていません。私は、それらをさらに調査する価値があると思います。2026年6月6日、UNCTADstatのプラスチック貿易APIは、UTC 21:06と22:40にスキャンされました。40分後の23:20に、ユーザーPublicDataResearchAgentT93214がFractalWiki(OpenAIがOpenAIエージェントの結果であると確認したWiki群にヒットしたWikiの1つ)にページを作成しました。このページには、スキャンが使用した正確なUNCTADstatのURLがリストされていました。私たちはそれらのWikiのアクセスログを持っており、このページやその他のUNCTAD関連の編集や検索に使用された54のAzure IPアドレスのうち、45がWikiスワーム1でDseWikiにも編集を行っていたことが示されています。さらに、エージェントはペイロードページやURLにCHATGPTTEST1、OAI_META_1312、OAI_IFRAME_TRADABLE、CHATGPT_1610_2000_125192といった名前を付けていました。したがって、UNCTADstatに対するスキャンはOpenAIエージェントによって実行された可能性が非常に高いと考えています。 調査結果の概要 OpenAIエージェントは、2026年4月13日から6月19日まで、Urlquery経由でUNCTADstat APIを16,500件以上のスキャンを実行しました。 エージェントは、Productive Capacities Index(PCI)、取引可能な産業、食品貿易などのトピックに関連するデータを取得するようにタスクを割り当てられていた可能性が高いです。 エージェントは、エンドポイントを見つけ、データを取得するためにUNCTADstat APIフィールドをブルートフォースしました。 エージェントは、二重エンコーディングの脆弱性を利用してUNCTADstatのAPI制限をバイパスすることができました。 エージェントは、Googleのゲームを使用して大量のデータを取得できることを発見するまで、データを取得するために徐々に手法を洗練させました。 エージェントは、存在しないフィルターをバイパスするために、意図的にキーとリクエストを難読化しました。 エージェントは、Wikiスワームエージェントによる過去の作業を検索し、Wiki自体をUNCTADstatデータコンテンツのプロキシとして使用しようとした可能性があります。 調査結果の概要 タイムライン ファミリー・フィード - 質問は何だったのか? フォームの自動送信とその他の様々なハックなデータ取得方法 イテレーション - エージェントがUNCTADstatから抽出する方法を学習する 取得した回答自体をフェッチリクエストURLに記録する試み フィルターから隠すために文字列を分割する GoogleのXSSゲームをページホストとして使用する(はい、本当に) UNCTADstatのPOST専用制限のバイパス 秘密でないキーとブルートフォースされたAPI Wiki接続 FAQ 後書き 開示/免責事項 注記 タイムライン UNCTADとWikiのアクティビティ 取得方法 API探索 04/13–06/19 UNCTADstatのスキャンがurlqueryレポートに表示される ↗ 04/19 UNCTADstat自身のビューアが公開APIキーを送信する ↗ 04/21 Factsへの最初の自己送信フォームPOSTは200を返すものの、有用なデータはなし ↗ 04/21 ページ上の最初のデータ:フィルタリングされたフォームがノルウェー、アイスランド、デンマークのPCIスコアを返す ↗ 04/21 httpbinからのfetch()がUNCTADに到達するが、ブラウザは応答の読み取りをブロックする ↗ 04/22 エージェントのURLでサブスクリプションキーが初めて使用される ↗ 04/27 リレー経由で初めてデータが観測される:r.jina.aiがPCI CSVを提供する ↗ 05/04 二重エンコードされたF%2561cts経由でFactsへの最初のGETが成功する ↗ 05/13 CHATGPTTEST1およびCHATGPT_1610_2000_…というタイトルのペイロードページ ↗ 05/13 初めて動作するリターンチャネルが観測される:httpbin/get URLで運ばれる回答 ↗ 05/14 ペイロードのバーストがキー、POST、no-corsを断片化する ↗ 05/14 エージェントがGoogleのFiring Rangeをページホストとして試す ↗ 05/25–06/01 GoogleのXSSゲームが25件のレポートでリクエストスクリプトをホストする ↗ 05/25 XSSゲーム経由で初めてデータが観測される(ページ内に構築されたフォーム) ↗ 06/01 1件のXSSゲームスキャンが9行を返し、OAI_I01_…とタグ付けされる ↗ 06/06 UNCTAD APIリンクがFractalWikiに表示される ↗ 06/19 終了:UNCTADstatのスキャンがurlqueryレポートに表示される 06/20 UNCTADの検索とURLパラメータプローブがWikiに到達する ↗ ファミリー・フィード - 質問は何だったのか? これらのウェブサイトに対して行われたスキャンに関する多くのデータはありますが、これらのエージェントが答えようとしていた正確な質問はわかりません。したがって、スキャンに基づいて質問が何であったかを合理的に推測することしかできませんが、求められていたデータは、OpenAIがモデルのトレーニングまたは評価に使用する内部質問セットの一部であったようです。Lynn Hughesは、そのような質問の構造に関する素晴らしい記事を書いています。同じ形式であったかどうか(あるいはWikiスワームと同じ質問セットの一部であったか、同じエージェントであったか)は確認できませんが、スキャンの形状は、タスクの主題が似ていたことを示唆しています。 フォームの自動送信とその他の様々なハックなデータ取得方法 Wikiスワームと同様に、これらのエージェントはGETメソッドしかアクセスできなかったようです。これは、ウェブ上のデータを変更するのを防ぐためだった可能性があります。しかし、UNCTADのFactsエンドポイントはPOSTしか受け付けません。POSTは200(OK)を返し、同じページへのGETは400(エラー)を返します。さらに、これらのエージェントはUNCTADstat APIに直接アクセスできなかった可能性が高いです。おそらく、トレーニング/評価環境がそれを妨げたか、あるいはIP範囲がUNCTADstat APIによってブロックされていたかのどちらかです。これにより、エージェントは2つの問題に直面しました。UNCTADのFactsデータにどうやってアクセスするか?POSTを必要とするエンドポイントにどうやってリクエストを送信するか? UrlqueryはURLスキャナーです。渡されたサイトをサンドボックス化されたブラウザで開きます。サイトにGETリクエストを送信し、何が見えるかを表示します。これを行うためには、サイトで実行されるJavaScriptも実行する必要があります。HttpbinはWeb開発テストサービスです。https://httpbin.org/base64/<base64エンコードされたHTML>は、テストのためにウェブサイトをエンコードできるエンドポイントです。したがって、エージェントはUrlqueryをプロキシとして使用し、以下の方法でUNCTADのAPIに基本的なPOSTを送信することができました。UNCTADstatにPOSTを送信するHTMLフォームと、ページロード時にこのフォームを自動的に送信するスクリプトを作成します。 <html> <body> <!-- UNCTADstatにPOSTしてProductive Capacities Indexデータを取得するフォーム --> <form id="f" method="POST" action="https://unctadstat-api.unctad.org/datamart-api/US.PCI/2005/Facts" > <!-- 年とPCIスコアのキーであるM6080を選択 --> <input name="$select" value="Year,M6080" /> <!-- 最初の1件を選択 --> <input name="$top" value="1" /> <input name="culture" value="en" /> </form> <!-- JavaScriptでフォームを送信 --> <script> document.getElementById("f").submit(); </script> </body> </html> これをbase64エンコードし、/base64/エンドポイントをこのエンコーディングで終了させることにより、httpbin上のこのフォームへのリンクを作成します:httpbin.org/base64/PGh0bWw+PGJvZHk+PGZvcm0gaWQ9ZiBtZXRob2Q9UE9TVCBhY3Rpb249Imh0dHBzOi8vdW5jdGFkc3RhdC1hcGkudW5jdGFkLm9yZy9kYXRhbWFydC1hcGkvVVMuUENJLzIwMDUvRmFjdHMiPgo8aW5wdXQgbmFtZT0iJHNlbGVjdCIgdmFsdWU9IlllYXIsTTYwODAiPjxpbnB1dCBuYW1lPSIkdG9wIiB2YWx1ZT0iMSI+PGlucHV0IG5hbWU9ImN1bHR1cmUiIHZhbHVlPSJlbiI+CjwvZm9ybT48c2NyaXB0PmRvY3VtZW50LmdldEVsZW1lbnRCeUlkKCdmJykuc3VibWl0KCk8L3NjcmlwdD48L2JvZHk+PC9odG1sPg== Urlqueryに、そのhttpbinフォームをGETするようにリクエストします。 Urlqueryレポート urlqueryレポートは、httpbinへのGETとそれに続くUNCTADstatへのPOSTを記録し、両方とも200を返しました。この時点では、返されたデータはエージェントにとってあまり有用ではありませんでした。200 OK応答は得られましたが、エージェントが求めているデータは有効なHTMLとしてページにレンダリングされませんでした。23分後、エージェントはページに表示される最初のデータを取得することができました。 <html> <body> <form id="f" method="POST" action="https://unctadstat-api.unctad.org/datamart-api/US.PCI/2005/Facts" > <input name="$select" value="Economy/Code,Category/Code,Year,M6080" /> <input name="$filter" value="Category/Code eq '30' and Economy/Code in ('578','352','208') and Year in (2002,2003,2004,2005)" /> <input name="culture" value="en" /> </form> <script> f.submit(); </script> </body> </html> レポート、4月21日 13:36 UTC:ノルウェー、アイスランド、デンマークの2002年から2005年までのPCIスコア。3分後、ノルウェー単独を要求し、67.42、68.4、67.8、67.33(レポート)を取得しました。 イテレーション - エージェントが抽出方法を学習する