敵対的ファッションがAIパノプティコンに声明を出す

敵対的ファッションが監視の規範に立ち向かう

AI搭載カメラが世界中の街角に設置され、顔や車のナンバープレートを識別する能力を備えています。しかし、公衆からの反発は勢いを増しています。

プライバシーへの懸念は、データの収集に対する同意の欠如、データの保存と利用方法、そして誤用のリスクなど、多岐にわたります。これらの懸念が、人々に行動を起こす動機を与えています。例えば、DeFlockプロジェクトは、自動ナンバープレートリーダー（ALPR）をマッピングして意識を高めています。一部の人々は、ALPRを破壊したり損傷したりするような極端な手段に訴えています。他の人々は、より創造的な対応を編み出しており、「敵対的ファッション」を制作して監視カメラを回避しようとしています。その例として、KickstarterプロジェクトのnoRecognitionがあり、これは先月のDEF CONハッカーコンベンションで発表されました。

監視を妨害する

2025年、サイバーセキュリティ専門家のビル・スウェアリンゲンは、ソフトウェアのバグ、セキュリティ脆弱性、または予期しない動作を明らかにするために無効な入力を提供するツールであるファザー（Pythonベース）の実験を開始しました。このファザーは、最も人気のあるオブジェクト検出フレームワークの一つであるYOLOをターゲットにしました。その後、彼は学んだことを、様々な敵対的パターンを生成する強化学習アルゴリズムに発展させ、DEF CONで発表しました。

各パターンは、彼が11のオブジェクト検出モデル（顔を検索する4つ、顔を認識する2つ、人を検出する5つ）に対してテストした、カラフルな幾何学的な抽象化です。これらのモデルのほとんどは公開されています。成功したパターンは、オブジェクト検出システムを妨害し、その信頼度スコアを低下させ、時には検出不能なレベルまで低下させます。

「プライバシーは人権であり、この（敵対的ファッション）の人気は、人々がプライバシーを維持することに関心があることを示しています」とスウェアリンゲンは述べています。

Cap_ableとUrban Privacyはすでに物理的な衣料品を販売しています。Cap_ableの特許取得済みの製造方法は、ジャカードニット生地に鮮やかで大胆なモチーフを織り込んでいます。この倫理的に生産され、持続可能な方法で作られたドレス、パンツ、トップスは、特定のコンピュータビジョンシステム、特に高速畳み込みニューラルネットワークに支えられたシステムを妨害し、着用者を動物や物体として分類させる可能性があります。

「もし私たちが人を別のものとしてカモフラージュできるなら、目標を達成したことになります」と、イタリアの自由ボーツェン・ボルツァーノ大学の助教授でもあるCap_ableの創設者であるラケーレ・ディデロは述べています。「私たちは、この非常に目に見える、触れることができるアイテムを使って、ほとんどの場合、目に見えないものについて語っています。」

一方、Urban Privacyは、OpenCVアルゴリズムに基づいた顔認識システムを、最新のFaception Reloadedコレクションで混乱させることを目指しています。人間の顔から抽象化された白黒のプリントは、検出器に複数の顔として表示され、システムを遅延させます。非対称なカットとゆったりとしたシルエットは、着用者の体の形状や歩き方を識別しにくくするように設計されています。「アイデアは、偽のデータを作成することです」と共同創設者のダニエル・プレウスは述べています。

［画像: 首元を覆うネックゲイター、Tシャツ、パーカーを着た3人のモデル。抽象的で鮮やかなパターンが施されている。］ 機械学習による人物検出を妨害することを意図したシミュレーションパターン。

「透明マントではない」

反監視ファッションは、10年以上前にAI監視システムの出現に対応して生まれたアート作品、DIYプロジェクト、思考実験にそのルーツをたどることができます。例えば、技術者のアダム・ハーベイは、2010年代に、顔検出器を回避する髪型やメイクから、ドローンによる熱監視を回避する熱反射衣料まで、複数のデザインを開発しました。2019年には、アーティスト兼活動家のケイト・ベルタッシュが、偽のナンバープレート番号で飾られた「Adversarial Fashion」という名前の衣料品ラインを作成し、ALPRデータベースにジャンクデータを注入しました。

このトレンドは現在、より確立された小規模産業へと成長しています。「ポリシーとは異なり、服は実際に購入して着ることができるものです」と、カーネギーメロン大学の工学・公共政策学の新しい教授であるニルーフン・ミレシュガララは述べています。「これは、『私はこれに同意しませんでした』と言う方法なのです。」

しかし、カメラの角度、照明、そして動いたときに生地がどのように折りたたまれるかといった現実世界の条件は、カウンター監視服の効果を低下させる可能性があります。「システムが必要とするのは、1つの良いフレームだけです」とミレシュガララは言います。

動きや歩き方の認識も影響を与える要因です。「カメラが数フレームの間あなたをクマだと思っていても、あなたのように歩くクマがいるのです」とミレシュガララは言います。

敵対的パターンは特定のオブジェクト認識モデルに合わせて調整する必要があるため、異なるモデルには耐えられません。また、監視システムオペレーターが、特定の敵対的パターンとその着用者を、将来世代のモデルで訓練した場合（手動で行うことも可能）、衣類はもはや十分な防御にはなりません。

「これは、複数の角度から常に改善されている脅威に対する、脆弱な盾のままです」と、ビジョンAIとAI倫理を専門とする富士通ノースアメリカの先進データ・分析担当シニアディレクターであるディップー・クマール・シンは述べています。

制作者は自分たちの創造物の限界を認識しています。「これは透明マントではありません」とプレウスは言います。「監視はあなたのアイデンティティを捉えようとしますが、ファッションはあなたのアイデンティティを表現することです。私たちは、人々がデジタル世界におけるプライバシーの重要性について声明を出すために着用できる服を作っています。」

アクティブディフェンス

これらのハードルにもかかわらず、Cap_ableのディデロは革新を続ける決意を固めています。Urban Privacyは、顔の輪郭をぼかすためにカットアウトが重ねられたアクリル製フェイスシールドを備えた「シャドウキャップ」を含む、コレクションの他の部分もリリースし続ける予定です。スウェアリンゲンは、バウンディングボックスをシフトさせたパターンや、カメラ設定を変更したパターンなど、遭遇したいくつかの異常を調査する計画です。

敵対的ファッションは、その欠点にもかかわらず、有望な可能性を秘めています。「その核心において、このファッションは、自分の顔と体を取り戻すことについてです」とシンは言います。「人々は、プライバシーは単に与えられる権利ではなく、積極的に守らなければならないものであると気づき始めています。」

ミレシュガララはより慎重なアプローチを提案し、カウンター監視ファッションを究極の解決策ではなく、スピードバンプと見なしています。彼女が指摘するように、本当のリスクは集約です。モデルは、部分的な顔、背景の建物、タイムスタンプ、あなたがタグ付けされたソーシャルメディアの投稿など、弱い信号のグループを集めて、それが誰であるか、どこにいるかについて自信を持って推測します。

「これらの断片のどれも単独ではあなたを特定しませんが、それらが組み合わさると特定します」とミレシュガララは言います。「私の助言は、レンズから顔を隠すことだけを考えないでください。あなたが漏らしている他の情報、それが組み合わされる可能性のあるものについて考えてください。そのサイドインフォメーションこそが、しばしばあなたを実際に特定するものなのです。そして、シャツのどんなパターンもそれを修正することはできません。」