Anthropicは活動家を監視する予測監視システムを構築している

Anthropicは活動家を監視する予測監視システムを構築している 求人情報とAnthropicのシニアセキュリティ担当者へのインタビューによると、最先端のAIラボであるAnthropicは、人工知能の急速な開発に反対する活動家を監視するための広範な監視システムを構築しています。 Anthropicの幹部の周辺の活動家を監視したり、Anthropicの物理資産付近での抗議活動を監視したりすることに加えて、同社は「プリクライム」アプローチを導入し、事件が発生する前にそれを予測しようとしています。場合によっては、犯罪が発生する前に容疑者を警察に通報することさえ意味します。Anthropicは、Prospectからのコメント要請に応じませんでした。 Anthropicの反対派を監視する計画は、同社がOpenAIの責任ある代替手段としてのイメージを打ち出そうとする努力と矛盾しています。年初には、国防総省とAnthropicの間で、Anthropicが軍による大規模な国内監視や自律型兵器へのツールの使用を拒否したことで、注目を集める論争がありました。Anthropicが「国家安全保障営業」のポジションで採用を進め、軍との契約を再開しようとしているため、その緊張は緩和されたようです。国内の反対派に対する脅威監視の増加は、国家安全保障への新たな注力と一致しています。 Daniel Boguslawによるその他の記事 Anthropicの監視アーキテクチャの一部は、昨年のポッドキャストインタビューで明らかになりました。このインタビューは、AnthropicグローバルセキュリティオペレーションセンターマネージャーのKeon Ellison氏、セキュリティオペレーションマネージャーのZach Melvin氏、そしてリスク検出のためにAnthropicが契約しているSamdesk社のCEOであるJames Neufeld氏の間で行われました。脅威監視と分析に関する広範な会話の中で、インタビューは活動家の監視にも触れています。 「昨年、幹部が主要都市に出張した際、Samdeskを通じて計画された抗議活動に関するインテリジェンスを受け取りました」とEllison氏は述べています。「当初予定されていた抗議活動は、許可の問題で前倒しされました。」Ellison氏は、「Samdeskは、抗議活動の主催者がタイムラインを変更したことについて、約60分の事前通知を提供してくれました。その1時間の猶予は非常に重要でした。それがなければ、幹部は会議を終えて、混乱の中心にまっすぐ入ってしまったでしょう。」Ellison氏は、Anthropicがこのデータを使用して幹部の代替ルートを考案し、ホテルへのサービス入口に誘導したと述べています。「高ストレス状況になり得たこと」は、「Samdeskによる早期検出と情報提供のおかげで、非常に緩和されました」と彼は言いました。 Anthropicは、全国の警察署に脅威に関する定期的な報告を開始しており、7月にThe Wall Street Journalに対し、「私たちは、人物調査プロセスを通じて懸念される行動を時間の経過とともに追跡し、エスカレーションパターンを早期に捉えることを可能にしています」と述べています。Journalによると、「警察に報告された事件に関与した数人の個人は、すでにAnthropicのセキュリティによって追跡されていました。」 先月、The San Francisco Standardは、Anthropicが男性をサンフランシスコ警察に通報したと報じました。その男性はClaudeに、AR-15半自動ライフルを購入したこと、そしてCEOのDario Amodei氏が「照準に入っている」と伝えていました。Standardがその男性に連絡を取ったところ、彼は新聞に対し、「ただふざけていただけだ」と語りました。しかし、Anthropicが不満を抱いたClaudeユーザーに迅速に警察に通報した一方で、Standardは重要な詳細も報じました。Anthropicは、Anthropicの内部ポリシーを理由に、警察に実際のメッセージの提示を拒否したのです。要するに、Anthropicはプラットフォーム内での発言でユーザーを通報し、その後、実際の不正行為の証拠を警察に提供することを拒否したのです。 デュープロセスなしに奨励されるこの種のプリクライム（犯罪前）警察活動は、ProspectがレビューしたポッドキャストでAnthropicのセキュリティプログラムマネージャーによって明示的な目標として参照されています。「目標は、オペレーションを受動的な情報収集から、能動的かつ予測的で予防的な脅威エンゲージメントと管理へと変革することです」と彼は述べ、「それは、あらゆる業界で高価値ターゲットを保護するために意味のあるオペレーション成熟度です」と付け加えました。 Anthropicの予測セキュリティ体制構築への取り組みは、Cスイートを超えて、グローバルセーフティ、インテリジェンス、セキュリティ（GSIS）チームにまで及んでいます。先月の求人情報によると、Anthropicはエンタープライズインテリジェンススペシャリストを募集しており、その担当者は「特定の脅威、アクター、イベントを調査し、最終的な評価を作成し、Anthropicの従業員が急速に進化する脅威ランドスケープの先を行き、防御可能な立場を維持するのを支援します」とのことです。このポジション（給与は18万ドルから23万ドル）の一部は、「地政学的不安定、テロリズム、犯罪、活動主義、AIセクターに対する国家主権の標的、および新しいセキュリティトレンドを含む、世界的な脅威を特定、評価、追跡、調査すること」であり、これには「特定の脅威、アクター、イベントに関する詳細な調査とOSINT収集」が含まれます（強調は原文）。 Anthropicのインテリジェンス収集の範囲が国家レベル、さらにはグローバルレベルに拡大していることは、AIとそのインフラ（データセンターや電力供給など）のラベリングを強化する最近の取り組みと一致しています。重要インフラ指定は、人工知能を水、電気、ブロードバンドと同等のものにするでしょう。実際、Responsible Innovationのためのアメリカ人（ARI）のようなAIの推進者は、トランプ政権にこの変更を行うよう促してきました。ARIの主張によれば、AIは「米国にとって非常に重要であり、そのようなシステムや資産の機能不全や破壊は、安全保障、国家経済安全保障、国家の公衆衛生または安全、あるいはこれらの問題のいずれかの組み合わせに壊滅的な影響を与えるでしょう。」 Anthropic（再）入隊：戦争へ 最先端ラボを国家安全保障という堅牢な保護下に置くことは、Anthropic、OpenAI、Googleに連邦法執行機関や諜報機関が生成したインテリジェンス製品へのアクセスをさらに増やすだけでなく、これらの企業が連邦機関の「重要インフラ」へと変貌した自社の利益に対する脅威の見方を形成することを embolden するでしょう。データセンターに反対する超党派の連合による市民参加がAIに焦点を移すことは容易に想像できますが、その瞬間に過激派、あるいはそれ以上にテロリストとしてレッテルを貼られるでしょう。 Anthropicのこの問題への答えは、外部に無視できないサービスを提供できる人工知能をさらに生産することです。「AIに対する一般市民の否定的な見方（そしてそれが大きな問題であること）には同意しますが、それは主に私や他のAIリーダーがAIのリスクについて警告していることが原因だとは思いません」とAnthropic CEOのDario Amodei氏は先月Twitterに投稿しました。「それは根本的に信頼の危機だと思います…一般市民は企業、政府、またはテクノロジー業界を信頼しておらず、私たちが彼らを騙す新しい方法を企んでいるのではないかと常に疑っています。」 Anthropicが社内インテリジェンスチームとAIによるリアルタイム抗議追跡で反対意見の監視を強化するにつれて、ベイエリアのタワーの外にいる人間の経済的困窮の増大に対処しなければならないでしょう。先週、OpenAIとAnthropicのキャンパスをパトロールする警備員は、賃金交渉の停滞に対してストライキを承認したと発表しました。これに対し、Anthropicは全従業員に在宅勤務が最善であると伝える社内メールを送りました。 「サンフランシスコで時給22ドルで生きていける人がいるだろうか？」と、ベイエリアの警備員を代表するSEIU-USWWのデビッド・ウエルタ会長は先週の集会で述べました。彼の周りでは、警備員たちが「恥を知れ」と叫んでいました。 関連 Daniel Boguslaw Daniel Boguslawはブルックリンを拠点とする調査記者です。Daniel Boguslawによるその他の記事