AIがドリトスの袋を銃と誤認したため、黒人の高校生たちが訴訟を起こす
Black high school students sue after AI mistakes Doritos bag for gun (lawyerscommittee.org)
要約
AI武器検知システムがドリトスの袋を銃と誤認したことにより、黒人の高校生たちが不当な拘束と捜索を受けた事件について、弁護士委員会が学校、AI企業、警察を相手取り訴訟を起こしました。この訴訟は、AIシステムの技術的・人的な過失と、子供たちの安全を守るべき大人の対応の不備に焦点を当てています。
全文翻訳
弁護士委員会、AIアラートによる銃の誤認で黒人学生が拘束・捜索された件で訴訟を提起
訴訟はAIシステムとその学生への影響を巡る過失に焦点を当てる
メリーランド州ボルチモア郡 – 本日、公民権のための弁護士委員会は、AI武器検知監視システムに関わる技術的および人的な誤りにより、4人の黒人の現役および元学生の代理として、Omnilert, LLC、ボルチモア郡公立学校(BCPS)およびその職員、ボルチモア郡警察署、および個々の警察官に対し、不法な拘束および捜索の訴訟を提起しました。Allen, et al. v. Omnilert, et al.において、弁護士委員会は、Taki Allen、Yui-Osa Ogbeide、Devon Thompson Jr.、Keith Winfield IIIの4人のティーンエイジャーを代理しています。弁護士委員会には、プロボノ弁護士としてWillkie Farr & Gallagher LLP、およびEngel Law Group, P.C.が参加しています。
この訴訟は、2025年10月にボルチモア郡公立学校全体で使用されていたAI銃器検知システム「Omnilert Gun Detect」が、ボルチモア郡ケンウッド高校でティーンエイジャーのドリトスの袋を銃と誤認した出来事に端を発しています。この誤ったアラートは、最終的に武装した地元警察がキャンパス内で、学校の入り口からわずか数歩のところで、ティーンエイジャーたちを取り囲む事態を招きました。彼らは何も悪いことをしていなかったにもかかわらず、地面にひざまずかされ、手錠をかけられ、捜索されました。
AI監視システムの誤りは誤報を引き起こし、Omnilert自身のスタッフ、校長、ボルチモア郡警察署に至るまで、銃がないという明白な証拠を見落としたり無視したりした一連の人的な失敗を引き起こしました。学校関係者が定期的に誤報を出すことを知っていたこのシステムは、学校に銃器がキャンパス内にある確率が90%であると誤って警告し、学校関係者と地元警察が画像をレビューして間違いだと判断した後も、そのアラートは継続されました。学校および警察関係者はアラートをキャンセルしましたが、学校および警察関係者がキャンセルされたアラートが武装警察の出動を引き起こすのを防ぐための十分なプロトコルを整備していなかったため、武装警察はそれでも出動しました。
「これらの学生は、誤報を起こしやすいテクノロジーだけでなく、学校に送り出す際に子供たちを守るべき大人たちによっても裏切られました。この保護の代わりに、彼らは銃器に直面し、トラウマを負いました。そして、さらに悪いことになった可能性もありました」と、公民権のための弁護士委員会の会長兼エグゼクティブディレクターであるDamon Hewitt氏は述べています。「人工知能技術への過度の依存と、主要な関係者間の不十分なコミュニケーションと連携の組み合わせは、有害な混合です。AIがどのように使用されているか、特に公共の安全と子供たちに関して、私たちは再評価する必要があります。私たちはこの事件で正義を勝ち取るために戦っていますが、それはまた、全国の教育者や警察関係者にとって、子供たちの運命をAIの手に委ねる前に二度考えるべき教訓となります。」
「規制されていないAIは、特に若者が関わる場合、深刻な結果をもたらします。このテクノロジーがより広く普及するにつれて、明確な規制、ガードレール、そしてそれと対話する大人への期待を犠牲にしてはなりません」と、公民権のための弁護士委員会のデジタル正義イニシアチブのディレクターであるLeah Frazier氏は述べています。「これは決して警察にエスカレートされるべきではありませんでした。単に起こるべきではなかったのです。そして、私たちはこの訴訟を起こし、これが二度と起こらないようにします。」
「警察は私の息子に、これは現実の問題になり得たと言いました。ボルチモア郡のどの子供も、母親の迎えを待っている間、自分の学校の外でこのような危険に直面すべきではありません」と、息子Keithと学生たちが地面にひざまずかされ、手錠をかけられ、捜索された際に、迎えに来ていたFreida Winfieldさんは述べています。
弁護士委員会は、訴訟を通じて、警察と学校の手順を改革し、これらの公的機関がAI脅威検知プラットフォームからの報告を検証し、学校でのAI技術の使用が適切かどうかを評価し、誤報が武装警察の出動を引き起こさないように十分なポリシーを開発することを求めています。
弁護士委員会は、警察と学校には、誤りと結果に関するより多くのトレーニング、監督、透明性、そしてこの技術がどのように利用されるかについてのコミュニティの意見が必要であると主張しています。
この不正義はまた、公共の安全におけるAI搭載技術の使用と信頼性に関するより広範な懸念を引き起こします。そこでは、正確さが生死を分ける状況において不可欠です。公民権のための弁護士委員会は、この理由から、特にAIによる損害や不正確さが黒人コミュニティや他の有色人種に不均衡に影響を与える場合、これらの重要な分野におけるAI技術の使用を評価および規制することについて、声高に主張してきました。これは、特に刑事司法に関して言えることです。
弁護士委員会は、メリーランド州ボルチモア郡巡回裁判所に訴訟を提起しました。訴状では、ティーンエイジャーたちの連邦および州の憲法上の権利の侵害、過失および重過失、その他、Omnilert、ボルチモア郡学校関係者、およびボルチモア郡警察署の警察官を含む被告による他の違反が申し立てられています。
訴状はこちらで見ることができます。
公民権のための弁護士委員会について: 公民権のための弁護士委員会は、1963年にジョン・F・ケネディ大統領の要請により結成された非党派の非営利団体であり、国の主要な弁護士たちを公民権運動における変革の担い手として動員しました。今日、弁護士委員会は、法律扶助を通じて人種的正義を実現し、裁判の内外で戦い、黒人や他の有色人種が私たちの民主主義の約束を現実のものとするための声、機会、そして力を確実に得るように努めています。弁護士委員会は、弁護士による訴訟、公共政策、擁護活動、その他の奉仕活動のプロボノ資源を結集することにより、その使命と目標を実行しています。