Anthropicは活動家を監視する予測監視システムを構築している

Anthropic、活動家を監視する予測監視システムを構築中

求人情報やAnthropicのシニアセキュリティ担当者へのインタビューから、最先端AIラボであるAnthropicが、人工知能の急速な開発に反対する活動家を監視するための広範なシステムを構築していることが明らかになりました。

Anthropicの幹員の周辺での活動家監視や、Anthropicの物理的資産の近くでの抗議活動の監視に加えて、同社はインシデント発生前にそれを予測しようとする「プリコグ（pre-crime）」アプローチも導入しています。場合によっては、犯罪が発生する前に容疑者を警察に通報することさえ含まれます。Anthropicは、本誌のコメント要請に応じませんでした。

Anthropicの反対意見監視計画は、同社がOpenAIの責任ある代替企業として自身を位置づけようとする努力とは相反するものです。今年初め、国防総省とAnthropicは、Anthropicが軍による大規模な国内監視や自律型兵器へのツールの使用を拒否したことを巡って、注目を集める論争を繰り広げました。しかし、Anthropicが「国家安全保障セールス」のポジションを募集し、軍事契約の再開を目指すにつれて、その緊張は緩和されたようです。国内の反対者に対する脅威監視の増加は、国家安全保障への新たな焦点と一致しています。

Daniel Boguslawによるその他の記事

Anthropicの監視アーキテクチャの一部は、昨年、AnthropicのグローバルセキュリティオペレーションセンターマネージャーであるKeon Ellison氏、セキュリティオペレーションマネージャーのZach Melvin氏、そしてリスク検出のためにAnthropicが契約している企業SamdeskのCEOであるJames Neufeld氏とのポッドキャストインタビューで明らかになりました。

脅威監視と分析に関する広範な会話の中で、インタビューでは活動家の監視についても触れられています。「昨年、幹部が主要都市に出張した際、Samdeskを通じて計画された抗議活動に関するインテリジェンスを受け取りました」とEllison氏は述べています。当初予定されていた抗議活動は、許可の問題で前倒しされました。「Samdeskは、抗議活動の主催者がタイムラインを変更したという約60分の事前通知を提供してくれました」とEllison氏は説明しました。「その1時間の猶予は非常に重要でした。それがなければ、幹部は会議を終えて、混乱の中心にそのまま突入してしまったでしょう。」

Ellison氏によると、Anthropicはこのデータを使用して幹部の代替ルートを考案し、ホテルへのサービスエントランスに誘導しました。「非常にストレスの高い状況になり得たことが、Samdeskによる早期検出と情報提供によって、効果的に緩和されました」と彼は述べています。

Anthropicは、脅威に関して全米の警察署に定期的な報告を開始しており、7月にThe Wall Street Journalに対し、「私たちは、人物特定プロセスを通じて懸念される行動を時間の経過とともに追跡し、エスカレーションパターンを早期に捉えることを可能にしています」と述べています。Journalによると、「警察に報告された事件に関与した数人の個人は、すでにAnthropicのセキュリティによって追跡されていました。」

先月、The San Francisco Standardは、Anthropicが男性をサンフランシスコ警察に通報したと報じました。その男性はClaudeに対し、AR-15半自動ライフルを購入したこと、そしてCEOのDario Amodei氏を「照準に入れている」と伝えていました。Standardがその男性に接触した際、彼は新聞に対し「ただふざけていただけだ」と語りました。

しかし、Anthropicは不満を抱いたClaudeユーザーについて迅速に警察に通報した一方で、Standardは重要な詳細も報じています。Anthropicは、Anthropicの内部ポリシーを理由に、警察に実際のメッセージの提示を拒否したのです。つまり、Anthropicはプラットフォーム内での発言を理由にユーザーを警察に通報し、その後、実際の不正行為の証拠を警察に提供することを拒否したのです。

デュープロセスなしに奨励されるこの種のプリコグ（pre-crime）警察活動は、ProspectがレビューしたポッドキャストでAnthropicのセキュリティプログラムマネージャーによって明示的な目標として言及されています。「目標は、オペレーションを、受動的な情報収集から、能動的かつ予測的で予防的な脅威エンゲージメントと管理へと変革することです」と彼は述べ、「それは、あらゆる業界で高価値ターゲットを保護するために理にかなった運用成熟度です」と付け加えました。

Anthropicの予測セキュリティ体制構築への取り組みは、Cスイートを超えて、グローバルセーフティ・インテリジェンス・セキュリティ（GSIS）チームにまで及んでいます。先月の求人情報によると、Anthropicはエンタープライズインテリジェンススペシャリストを募集しており、その担当者は「特定の脅威、アクター、イベントを調査し、最終的な評価を作成し、Anthropicの従業員が急速に進化する脅威ランドスケープの先を行き、防御可能な立場を維持するのを支援する」ことになります。

この役割の一部（報酬は18万ドルから23万ドル）には、「地政学的不安定、テロリズム、犯罪、活動主義、AIセクターに対する国家主権の標的化、および新しいセキュリティトレンドを含むグローバルな脅威を特定、評価、追跡、調査すること。これには、特定の脅威、アクター、イベントに関する詳細な調査とOSINT（Open Source Intelligence）収集が含まれます」（強調は原文ママ）が含まれます。

Anthropicのインテリジェンス収集能力の国家レベル、さらにはグローバルレベルへの拡大は、AIとそのインフラ（データセンターや電力供給を含む）のラベリングを強化する最近の取り組みと一致しています。重要インフラ指定は、人工知能を水、電気、ブロードバンドと同じレベルに置くことになります。実際、Responsible Innovation（ARI）のようなAIの推進者は、トランプ政権に対し、この変更を行うよう促しています。ARIの主張によれば、AIは「米国にとって非常に重要であり、そのようなシステムや資産の機能不全または破壊は、安全保障、国家経済安全保障、国家公衆衛生または安全、あるいはこれらの問題のいずれかの組み合わせに壊滅的な影響を与える」ということです。

最先端ラボを国家安全保障という強固な保護下に置くことは、Anthropic、OpenAI、Googleに連邦法執行機関や諜報機関が生成したインテリジェンス製品へのアクセスをさらに増やすだけでなく、これらの企業が連邦機関に「重要インフラ」へと変貌した自社の利益に対する脅威をどのように見せるかを形成することを embolden することになります。

データセンターに反対する超党派連合による市民参加がAIに焦点を移し、その瞬間に過激派、あるいはそれ以上にテロリストとしてレッテルを貼られるようになることは、想像に難くありません。この問題に対するAnthropicの答えは、公衆によって却下されることのないサービスを提供できる人工知能の製造に、さらに懸命に取り組むことでした。

「公衆がAIに対して否定的な見方をしている（そしてそれが大きな問題である）ことには同意しますが、それは主に私やAIのリスクを警告する他のAIリーダーによって引き起こされているとは思いません」とAnthropicのCEOであるDario Amodei氏は先月Twitterに書き込みました。「私は、それが根本的に信頼の危機であると考えています…一般の人々は企業や政府、テクノロジー業界を信頼しておらず、私たちが彼らを騙す新しい方法を常に企んでいるのではないかと疑っています。」

Anthropicが社内インテリジェンスチームとAIによるリアルタイム抗議追跡による反対意見監視の取り組みを強化するにつれて、ベイエリアのタワーの外にいる人間を苦しめる経済的困窮の増大に対処しなければならなくなるでしょう。先週、OpenAIとAnthropicのキャンパスを警備する警備員は、賃金交渉の停滞に対してストライキを承認したと発表しました。これに対し、Anthropicは全社的なメールを送信し、従業員には自宅で仕事をするのが最善だと伝えました。

「サンフランシスコで時給22ドルで誰が生き残れるでしょうか？」と、ベイエリアの警備員を代表するユニオンSEIU-USWWの会長であるDavid Huerta氏は、先週の集会で述べました。彼の周りでは、警備員たちが「恥を知れ」と叫んでいました。

関連記事