敵対的ファッションがAIパノプティコンに声明を出す

AIによる監視システム、特に顔認識や物体検出技術に対抗するため、「敵対的ファッション」と呼ばれる衣服が登場しています。これらの衣服は、AIが人間を動物や物体として誤認識させたり、顔認識システムを混乱させたりすることで、プライバシーを守り、監視への意思表示を行うことを目的としています。しかし、カメラの角度や照明、モデルの進化など、実用上の課題も多く、完全な防御策というよりは、プライバシー保護の重要性を訴えるための「スピードバンプ」や「声明」として機能しています。 AI搭載カメラは世界中の街角に設置され、顔や車のナンバープレートを識別する能力を持っています。しかし、それに対する世論の反発も高まっています。 データ収集の同意がないこと、データの保存・利用方法、悪用のリスクなど、プライバシーへの懸念が広がる中、人々は抵抗する方法を模索しています。例えば、自動ナンバープレートリーダー（ALPR）をマッピングして意識を高めるDeFlockプロジェクトや、監視カメラを回避するために「敵対的ファッション」を制作するKickstarterプロジェクト「noRecognition」などが挙げられます。 監視のスクランブル 2025年、サイバーセキュリティ専門家のビル・スウェアリンゲン氏は、ソフトウェアのバグやセキュリティ上の脆弱性、予期せぬ動作を明らかにするために無効な入力を提供するツールである「ファザー」をPythonで実験しました。このファザーは、最も人気のある物体検出フレームワークの一つであるYOLOを標的としました。彼はその後、この学習結果を強化学習アルゴリズムに発展させ、様々な敵対的パターンを生成し、DEF CONで発表しました。 各パターンはカラフルな幾何学的な抽象模様で、彼はこれを11の物体検出モデル（顔を検索する4つ、顔を認識する2つ、人を検出する5つ）に対してテストしました。これらのモデルのほとんどは公開されています。成功したパターンは、物体検出システムの信頼度スコアを低下させ、時には検出不能なレベルにまで低下させます。 「プライバシーは人権であり、このファッションの人気は、人々がプライバシーを守ることに興味があることを示しています」とスウェアリンゲン氏は述べています。 Cap_ableとUrban Privacyはすでに物理的な衣服を販売しています。Cap_ableの特許取得済みの製造方法は、ジャカードニット生地に明るく大胆なモチーフを織り込んでいます。倫理的かつ持続可能な方法で作られたドレス、パンツ、トップスは、特定のコンピュータービジョンシステム、特に高速畳み込みニューラルネットワークを搭載したシステムに干渉し、着用者を動物や物体として分類させる可能性があります。 「もし私たちが人を何か別のものとしてカモフラージュできるなら、目標を達成したことになります」と、イタリアのブゼーナ・ボルツァーノ自由大学のアシスタントプロフェッサーでもあるCap_ableの創設者ラケーレ・ディデロ氏は述べています。「私たちは、この非常に目に見える、触れることができるアイテムを使って、ほとんどの場合目に見えないものについて語っています。」 一方、Urban Privacyは、OpenCVアルゴリズムに基づく一部の顔認識システムを、最新のFaception Reloadedコレクションで混乱させることを目指しています。人間の顔から抽象化された白黒のプリントは、検出器に余分な顔として表示され、システムを遅延させます。非対称なカットとゆったりとしたシルエットは、体の形や歩き方を識別しにくくするように意図されています。「アイデアは、偽のデータを作成することです」と共同創設者のダニエル・プレウス氏は述べています。機械視覚の人検出器を妨害することを意図したシミュレートされたパターンの例。 noRecognition 「透明マントではない」 反監視ファッションは、10年以上前にAI監視システムの登場に応答して生まれたアート作品、DIYプロジェクト、思考実験にそのルーツをたどることができます。例えば、テクノロジストのアダム・ハーベイは2010年代に、顔検出器を欺くヘアスタイルやメイクアップから、ドローンによる熱監視を回避する熱反射衣類まで、複数のデザインを開発しました。2019年には、アーティストで活動家のケイト・バータッシュが、ALPRデータベースにジャンクデータを注入するために偽のナンバープレート番号で飾られた「Adversarial Fashion」という名の衣料品ラインを作成しました。 このトレンドは、より確立された小規模産業へと成長しています。「政策とは異なり、服は実際に購入して着ることができるものです」と、カーネギーメロン大学の工学・公共政策学の新任教授であるニルーファール・ミレシュギャラ氏は述べています。「これは『私はこれに同意しませんでした』と言う方法なのです。」 しかし、実際の状況では、カメラの角度、照明、動きに合わせて生地がどのように折りたたまれるかなど、カウンター監視服の効果が低下する可能性があります。「システムが必要とするのは、1つの良いフレームだけです」とミレシュギャラ氏は言います。 動きや歩行認識も影響を与える要因です。「カメラが数フレームの間あなたをクマだと思っていても、あなたのように歩くクマがいるのです」とミレシュギャラ氏は言います。 敵対的パターンは特定の物体認識モデルに合わせて調整する必要があるため、異なるモデルには耐えられません。また、監視システムオペレーターが、与えられた敵対的パターンとそれを着ている人物を、手動で行うことも可能な将来世代のモデルをトレーニングした場合、衣服は十分な防御策ではなくなります。 「これは、複数の角度から常に改善されている脅威に対する、脆弱な盾であり続けます」と、ビジョンAIとAI倫理を専門とする富士通ノースアメリカの先進データ・分析担当シニアディレクター、ディップ・クマール・シン氏は述べています。 メーカーは自分たちの創造物の限界を認識しています。「これは透明マントではありません」とプレウス氏は言います。「監視はあなたのアイデンティティを捉えようとしますが、ファッションはあなたのアイデンティティを表現することです。私たちは、デジタル世界におけるプライバシーの重要性について声明を出すために、人々が着ることができる服を作っています。」 能動的防御 これらのハードルにもかかわらず、Cap_ableのディデロ氏は革新を続ける決意を固めています。Urban Privacyは、顔の輪郭をぼかすためにカットアウトが重ねられたアクリル製フェイスシールドを備えた「シャドウキャップ」など、コレクションの他のアイテムをリリースし続ける予定です。スウェアリンゲン氏は、バウンディングボックスをシフトさせたパターンや、カメラ設定を変更したパターンなど、遭遇したいくつかの異常を調査する計画です。 敵対的ファッションは、その欠点にもかかわらず、有望です。「根本的に、このファッションはあなたの顔と体を取り戻すことについてのものです」とシン氏は言います。「人々は、プライバシーは単に与えられる権利ではなく、積極的に守らなければならないものであることに気づき始めています。」 ミレシュギャラ氏は、カウンター監視ファッションを究極の解決策ではなく、スピードバンプと見なす、より慎重なアプローチを提案しています。彼女が指摘する本当のリスクは、集約です。モデルは、部分的な顔、背景の建物、タイムスタンプ、あなたがタグ付けされたソーシャルメディアの投稿など、弱い信号のグループを収集し、それらを組み合わせて、あなたが誰でどこにいたかについて自信を持って推測します。 「これらの断片のどれも単独ではあなたを特定しませんが、それらが組み合わさると特定します」とミレシュギャラ氏は言います。「私の助言は、レンズから顔を隠すことだけを考えないでください。他に何が漏れているかを考え、それが顔と組み合わされる可能性があります。そのサイド情報は、しばしばあなたを実際に特定するものなのです。そして、シャツのどんなパターンもそれを修正することはできません。」