3秒の窃盗:AI音声詐欺がいかに全ての防御を出し抜くか
The Three-Second Theft: Why AI Voice Fraud Outruns Every Defence (smarterarticles.co.uk)
要約
AI音声詐欺は、わずか3秒の音声断片から合成音声を作成し、家族を装って数千ドルを騙し取る手口で、特に高齢者を標的に急速に拡大しています。この技術は安価で入手しやすく、既存の防御策は事後対応に追われ、効果的な対策が急務となっています。FBIの報告ではAI関連詐欺による損失が急増しており、国際的にもその脅威は増大しています。
全文翻訳
3秒の盗難:なぜAI音声詐欺はあらゆる防御を凌駕するのか
[画像: Tim Green]
シャロン・ブライトウェルさんは、電話の向こうで娘が泣いている声を聞き、それ以上何も防御策を講じることはできませんでした。声はエイプリルさんのものだと、あらゆる本能が主張しました。同じ声質、苦境にある若い女性特有の途切れ途切れの話し方。声は、娘が運転中にテキストメッセージを送り、妊娠中の女性にぶつかってしまい、警察に携帯電話を押収されたと告げました。その後、男が電話を引き継ぎ、エイプリルさんの弁護士だと名乗り、保釈金には現金1万5千ドルが必要だと説明しました。彼はブライトウェルさんに、銀行にその金の用途を伝えないように警告しました。なぜなら、それが娘の信用情報に傷をつける可能性があるからです。その1時間後、フロリダ州ドーバーの年金受給者は現金をすべて引き出し、裁判所関係者だと信じていた配達員に渡しました。実際に仕事をしていて、一度も車の事故に遭ったことのない本物のエイプリルさんに連絡を取って初めて、娘が電話をかけてきたのではないことを理解しました。人間ではなかったのです。泣き声は音声の断片から合成されたもので、彼女が救おうとしていた娘は、誰かのコンピューターの中の数字のパターンに過ぎませんでした。
2025年の夏、アメリカの地方ニュースで報じられたブライトウェルさんの損失は、現在、米国で最もありふれた犯罪の一つとなっています。同時に、それは最も技術的に進んだ犯罪の一つでもあります。機械学習の最先端を必要とする詐欺が、ごく普通の祖母を、自宅のキッチンで、大規模に、実質ゼロのコストで騙すことができるという、この2つの事実の衝突が、法執行機関、銀行、通信会社、規制当局が2年間も封じ込められずにいる問題の決定的な特徴です。問題は、もはや技術が機能するかどうかではありません。それは恐ろしくうまく機能します。問題は、攻撃の洗練度とターゲットの認識との間のギャップが、数ヶ月ではなく数年で測られる場合に、どのような意味のある保護が必要とされるかということです。
26年間の記録に新たな項目
2026年4月、FBIのインターネット犯罪苦情センター(IC3)は、前年のオンライン犯罪に関する年次報告書を発表しました。報告書が26年の歴史の中で初めて、人工知能(AI)を利用した詐欺を独立したカテゴリとして分類しました。その数字は衝撃的でした。FBIはAI関連の苦情を22,000件以上受理し、調整後の損失額は8億9300万ドルを超えました。そのうち、60歳以上の被害者による損失は3億5200万ドルと報告されており、高齢者はAIを利用した金融犯罪で最も標的とされた層となりました。AI関連の損失額は、はるかに大きな総額の中に位置づけられます。米国のサイバー犯罪による損失は、1年間で26%増加し209億ドルに達し、そのうち60歳以上の米国人が77億ドルを占めました。これは前年比約60%の増加です。
FBIは、これらの数字でさえ問題の深刻さを過小評価していることを率直に認めました。報告書におけるAIの帰属は、被害者が認識し報告したことにのみ基づいています。クローンされた音声による通話の被害者のほとんどは、機械が関与していたことすら知りません。彼らは、シャロン・ブライトウェルさんが当初信じていたように、自分の子供と話したと思い込んでいます。したがって、8億9300万ドルという数字は、上限ではなく下限として読むべきです。これは、その性質上、被害者から見えなくなるように設計されたカテゴリの可視的な部分です。FBIがこのカテゴリを新設せざるを得なかったこと自体がシグナルです。犯罪統計は保守的な指標です。当局は、一時的な流行のために26年前の報告分類法を再描画したりはしません。この新しい項目は、3年前に消費者向け製品としてはほとんど存在しなかったツールが、主要な窃盗手段となったことの告白なのです。
国際的に見ると、状況はさらに大きく、悪化しています。2026年3月、INTERPOLは「グローバル金融詐欺脅威評価」の第2版を発表し、2025年の世界的な金融詐欺による損失を4420億ドルと推定しました。これはデンマークの年間経済総生産に匹敵する額です。同組織は、脅威の軌跡がエスカレートしていると評価し、いわゆる「詐欺の工業化」について説明しました。これは、詐欺が機会主義的な個人から、人身売買やサイバー犯罪と交差する組織化された国際的な事業へと移行していることを意味します。決定的に、INTERPOLはAI強化型詐欺が従来の詐欺と比較して約4.5倍収益性が高く、いわゆるエージェンティックAIシステムが偵察から身代金要求まで、詐欺キャンペーン全体を自律的に計画・実行できるようになったことを発見しました。つまり、経済性が逆転したのです。初めて、工業規模の詐欺が製造コストがほとんどかからず、莫大な利益を生み出すようになりました。
3秒あれば十分
いわゆる「おばあちゃん詐欺」の中心にある技術的能力は、説明するのが非常に単純です。最新のAI音声クローニングシステムは、わずか3秒の音声で、実質的に元の声と区別がつかない合成音声を作成できます。3秒とは、ボイスメールの挨拶、ポッドキャストの一節、公開されたInstagramアカウントに投稿された誕生日ビデオの音声の長さです。生の材料は安全なデータベースから盗まれるのではなく、記録された人生という日常的な行為によって、毎日、自発的に提供されています。たった1本のTikTok動画に登場した孫は、詐欺師が自分自身の誘拐を偽装するために必要なすべてを提供してしまったのです。
この脅威が深刻なのは、クローニングが機能するからというだけでなく、そのためのツールが安価で、豊富で、ほとんど取り締まられていないからです。2025年3月、Consumer Reportsは、Descript、ElevenLabs、Lovo、PlayHT、Resemble AI、Speechifyの6社による音声クローニング製品を評価し、大多数が詐欺や悪用に対する実質的な保護策を欠いていると結論付けました。同組織によると、4つの製品では、ユーザーが対象の音声をクローンする法的権利があることを確認するチェックボックスをオンにするだけで済みました。その4つのうち、話者が実際に同意したことを確認する技術的なメカニズム Employed されたものや、クローニングをユーザー自身の声に限定するものはありませんでした。6社のうち4社は、アカウントを開設するために名前またはメールアドレス以上のものを要求しませんでした。NBC NewsやThe Registerによって増幅された調査の率直な結論は、業界が誰でもなりすますことができるツールを構築し、それを自己申告チェックボックスの背後に置いたということでした。
最も著名なプロバイダーの一つであるElevenLabsは、多層的な安全プログラムを挙げています。なりすましを禁止する禁止事項ポリシー、システムから生成された可能性のある音声識別できる公開AI音声分類器、生成されたコンテンツを生成したアカウントに追跡するトレーサビリティ、そして選挙期間中に特定の保護された人物のクローニングをブロックする「ノーゴーボイス」保護機能です。これらは些細な対策ではなく、競合他社の多くが提供するものよりも優れています。しかし、それらは構造的な弱点を共有しています。ほとんどすべてが事後的に機能します。詐欺が発生し、被害者がすでに貯蓄を失った後に、調査員が由来を確立するのを助けます。これらは、3秒のクローンが最初に生成されるのを防ぐためにはほとんど何もできません。なぜなら、それを防ぐもの、つまり、クローンされる人物が同意したことの堅牢で義務的な検証は、競争が激しく急速に変化する市場が自らに課すことをためらう摩擦そのものだからです。保護策が企業のコンバージョンを犠牲にし、競合他社の顧客のみを保護する場合、市場はそれを自発的に供給しません。そして、供給していません。
盲目になったフォレンジック権威
検出ベースの防御が失敗している理由を捉える単一の瞬間があるとすれば、それは2026年6月に公開されたニューヨーク・タイムズのプロフィールにありました。その主題は、カリフォルニア大学バークレー校の教授であるハニー・ファリド氏でした。彼は、ディープフェイクのフォレンジック分野で世界的な第一人者として広く認められています。20年以上にわたり、ファリド氏は本物と合成物を分離する能力でキャリアを築き、政府、人権団体、ジャーナリスト、法執行機関からの依頼に対応してきました。最近、タイムズ紙は、彼自身がテストに失敗し始めていると報じました。「私は盲目になっているような気がする」と彼は言いました。本物の録音とAI生成の録音を区別するのに地球上で最も適した人物でさえ、もはや確実に区別できなくなっていたのです。
その告白は、ある種の会話を終わらせるべきです。長年、合成メディアへの対応における暗黙の約束は、検出が生成に追いつくだろうということでした。より説得力のある偽造品が登場するたびに、より高感度な検出器が登場し、この軍拡競争は不快ではあるものの、少なくとも勝てるものでした。ファリド氏の告白は、少なくとも音声ドメインにおいては、この競争が失われた証拠です。この分野の最前線の検出器でさえコイン投げに還元されるのであれば、偽造品が作成され流通した後にそれらを捕らえるという戦略は、戦略そのものではありません。それは希望です。そして、20分間のパニックに依存する詐欺は、被害者やその銀行に、ハニー・ファリドでさえもはや信頼できないフォレンジック分析を実行するための20分間を与えません。
これが、意味のある保護が私たちに受け入れることを要求する、最初で最も重要なことです。検出は、主要な防御手段にはなり得ません。泣き声で電話をかけてくる祖母に、この分野の第一人者が事実上放棄したフォレンジック分析を実行することは期待できません。最終的な防御策として、誰かが、どこかで、本物と偽物を区別できることに依存するいかなる計画も、すでに時代遅れです。この意味合いは、電話詐欺よりも深遠です。合成音声の検出における世界の権威が自身の判断を信頼できないのであれば、人間がバックアップ検証者として機能できると静かに仮定しているすべての下流システム、つまり「裁量を使用する」ように指示された銀行窓口係、または「何かおかしい点がないか注意深く聞く」ように促された親戚は、すでに崩壊した基盤の上に成り立っています。
脆弱性のアーキテクチャ
高齢者が標的にされるのを、単なる無知のせいにするのは、誘惑的ですが誤りです。この記事の執筆を促した背景には、より不快な真実があります。高齢者を不均衡に脆弱にする特徴は、知性の欠陥ではなく、充実した人生の現れなのです。彼らは通常、数十年間の労働の蓄積による高い平均貯蓄残高を持っており、効率的な標的となります。1回の成功した通話で、若い人を標的とするよりもはるかに多くの収益を得ることができます。彼らは、信頼に基づいた確立されたコミュニケーションパターンの中で育ち、現在もそれに従って行動しており、そこでは、苦境にある親族からの電話は、潜在的な攻撃として疑問視されるのではなく、本物の緊急事態として応答されます。彼らは、自身の過失なく、音声が聞こえればそれは定義上、人が話している世界でほとんどの人生を過ごしてきたため、AI音声合成の存在に比較的慣れていません。そして、彼らは、すべての親や祖父母と同様に、子供を守るという本能があらゆる遅い、より懐疑的な能力を上回る家族の緊急事態シナリオの特別な感情的なアーキテクチャにさらされています。
学術研究もこれを形式化し始めています。2026年6月に公開されたarXivの論文は、「高齢者はAI強化型詐欺に対して不均衡に脆弱であり続けている」と率直に述べています。2026年初頭に発表されたYixin Zou率いる別の研究では、AIの洗練度がエスカレートする中で高齢者向けに特別に設計された詐欺介入策を調査し、受動的な観察者ではなく、被害者またはヘルパーの役割を演じることで学習する際に、参加者の詐欺識別能力を向上させるROLESafeというロールベースのシミュレーションツールを開発しました。そして、Charm Security社の研究者による3番目の論文では、ソフトウェアセキュリティの世界の脆弱性データベースにモデル化された構造化されたカタログである「Human Vulnerabilities and Exploits Framework」(人間の脆弱性と悪用フレームワーク)を提案し、詐欺システムが悪用する認知的および社会的メカニズムを分類しました。このフレームワークの前提自体が静かな非難です。セキュリティ業界は、長年、機械の弱点をカタログ化し、パッチを当ててきましたが、人間の弱点は文書化されず、管理されていません。おばあちゃん詐欺が成功するのは、システムの一部であって、決してパッチが書かれたことのない部分を攻撃するからです。
これが、高齢者を対象とした啓発キャンペーンが、必要ではあるものの、十分ではありえない理由です。詐欺が悪用する感情的なメカニズムは、パンフレットで埋められる知識のギャップではなく、武器化された孫への愛情です。声が偽造できると何度言っても、クローンされた声が助けを求めて叫んでいるその瞬間に、その知識は間に合いません。2026年6月にThe Straits TimesとThe Manila Timesで配信されたAFPの電信記事は、音声セキュリティ企業PindropのAmit Gupta氏の言葉を正確に引用しています。「目的は完璧な音声再現ではありません。目的は、被害者が検証する前に行動するような、十分な感情的な不確実性と緊急性を作り出すことです。」被害者が検証することを前提とした防御は、攻撃が回避するように設計されたまさにその弱点に対する防御なのです。
その電信記事で最も恐ろしい証言は、高齢の被害者からではなく、弁護士からでした。フィラデルフィアの弁護士であるゲイリー・シールドホルン氏は、自身もクローン音声詐欺の標的となった人物ですが、後になって専門的な懐疑心を持っても、聞こえたことの確信を振り払うことができなかったと述べています。「それがあなたの声だったと、墓場まで誓えます。」この一文は、警戒心が答えだと信じがちな人は誰でも読むべきです。シールドホルン氏は、証拠を調査し、もっともらしい話を信じないように訓練された弁護士であり、そのクローンは、パニックに陥った祖母を騙したのと同じくらい完全に彼を打ち負かしました。詐欺が悪用する脆弱性は、高齢者、信じやすい人、または技術に疎い人にのみ存在するわけではありません。それは人間の聴覚システム自体に存在します。人間の聴覚システムは何千年もの間、認識された声を認識された人の証拠として扱うように進化してきましたが、今や、その長い歴史の中で初めて、体系的かつ悪用可能な形で間違っています。
高齢者に関するデータは、この再構築を否定するのではなく、むしろ強化します。FTCが2025年12月に議会に提出した報告書によると、60歳以上の人々が報告した詐欺による総損失額は、2020年から2024年の間に約4倍になり、約24億ドルに達しました。そのうち68%は10万ドル以上の個人損失によるものです。同庁自身の真の年間コストの推定値は、恥や当惑によって保証される慢性的な過少報告を考慮に入れると、815億ドルにも上りました。これらは、信じやすい少数派が小遣いを失った数字ではありません。これらは、信頼のパターン、経済的状況、そして家族の中心的な感情的位置に特別に調整されたメカニズムを通じて、世代の貯蓄が枯渇していく数字なのです。
非対称性の定量化
セキュリティ企業Adaptive Securityの最高経営責任者であるブライアン・ロング氏は、AFPに対し、この新しい経済性を一文で要約しました。「キーボードを持つ部屋にいる一人の人間が、無限の数の攻撃者を作り出すことができる。」それが純粋な形の非対称性です。一方には、数秒で説得力のあるクローンを生成し、数千の番号にダイヤルし、合成された感情で各会話を実行できる自動化システムがあり、その限界費用はゼロに近いです。もう一方には、しばしば高齢で一人で、パニックになった電話の長さで、世界で最も優れたフォレンジック科学者でさえできなかった防御を構築しなければならない個人がいます。
INTERPOLがAI強化型詐欺は従来の詐欺の4.5倍収益性が高いと発見したことは、この不均衡の金融的表現です。攻撃がより安価に実行でき、より収益性が高くなると、攻撃の量は線形に増加するのではなく爆発的に増加します。米国のサイバー犯罪損失の単年での26%の増加、および60歳以上の層における損失のほぼ倍増は、国家の会計帳簿におけるその爆発の姿です。そして、AFPの電信は、被害をさらに悪化させる別のものに言及しています。それは恥です。16歳の息子が人質に取られたと告げられた「20分間の恐怖」を経験したと語るバッファローの母親、リズ・ベンツ氏は、公表後、他の被害者から多くのメッセージを受け取ったと述べています。その多くは、騙されたという屈辱のために、匿名でいることを選びました。過少報告は、ここでは統計的な脚注ではありません。それは、被害者が名乗り出るのをためらわせるように設計された犯罪の構造的な特徴であり、その結果、データ、起訴、政策対応に必要な証拠が枯渇します。自身の証人を沈黙させる犯罪は、利息とともに複利で増殖する犯罪なのです。
なぜ負担を家族に負わせられないのか
FBI、アメリカ銀行協会、消費者擁護団体が2026年中に繰り返し推奨している最も広く流布しているアドバイスは、家族で「セーフワード」を合意することです。これは親族のみが知る秘密のフレーズで、緊急の電話がかかってきた際に要求されるものです。声がそれを提示できない場合は、電話を切り、知っている番号にかけ直します。このアドバイスは妥当です。しかし、システム的な防御としては、絶望的に不十分であり、その理由を明確にすることが重要です。
セーフワードは、家族全員がそれを採用し、覚え、そして精神を失わせるように仕向けられた瞬間に、それを要求するだけの冷静さを保っている場合にのみ機能します。それは、産業規模で自動化された、数十億ドル規模の犯罪組織を打ち負かすための全責任を、週の中で最悪の瞬間にいる恐怖に駆られた個人の認知的規律に負わせます。それは、2025年後半に発表されたFTCのデータによると、中央値損失額が1,600ドルを超える80歳のおばあさんが、孫の叫び声を聞きながら、冷静にプロトコルを思い出し、それを実行することを想定しています。一部の人はそうするでしょう。しかし、設計上、多くの人はそうしません。ターゲットが最大限のストレス下で完璧に実行した場合にのみ機能する防御は、防御ではありません。それは、事後に被害者に責任を割り当てる方法です。
これが、保護を家族や個人に委ねることに対する、より深い反対意見です。それは、技術的および金融システムの失敗の責任を、それを負担する能力が最も低い人々に転嫁し、そして彼らが失敗したとき、その失敗を個人的なものとして扱います。音声クローニングツールは企業によって構築され、販売されました。通話は通信ネットワークによって運ばれます。お金は銀行を通じて動きます。これらの各当事者は、詐欺を大規模に阻止できた可能性のあるチョークポイントで活動しています。台所にいるおばあさんはそうではありません。意味のある保護には、現在置かれている連鎖の端から、本来あるべき中間地点へと負担を移動させる必要があります。最も脆弱なメンバーにより良いアドバイスを発行することで産業化された脅威に対応する社会は、ガイダンスの発行と保護の提供を混同しています。
実際に阻止が可能な場所
3つの制度的なチョークポイントをそれぞれ検討しましょう。なぜなら、それぞれが構造的な防御の可能性と現在の失敗の両方を示しているからです。
最初のチョークポイントは電話ネットワークです。米国では、STIR/SHAKENフレームワークは、発信キャリアが暗号化された署名で通話を正当なものとして署名できるようにし、着信キャリアがその署名をハンドセットに届く前に検証できるようにすることで、発信者IDのなりすましに対処することを目的としていました。2025年12月、FCCのWireline Competition Bureauは、3年ごとの有効性報告書で、STIR/SHAKENが適切に適用された場合、発信者IDを効果的に認証すると結論付けました。この条件は非常に大きな意味を持っています。犯罪者は、古い非IPネットワークを通じて通話をルーティングすることでシステムを完全に回避できることを早期に発見しました。FCCは2025年と2026年の大半をこのギャップを埋め、検証された発信者名とロゴをハンドセットに表示するRich Call Data(RCD)の推進に費やしました。しかし、STIR/SHAKENは人間ではなく、ましてや音声ではなく、番号を認証します。それは、ある番号から通話が正当に発信されたことを伝えることができます。それは、その回線上の泣き叫ぶ娘が機械であるとは伝えることができません。なりすましまたは単に馴染みのない番号から発信されたクローン音声に対して、このフレームワークはほとんど無関係です。同じFCCは2024年2月に、ロボコールにおけるAI生成音声はTelephone Consumer Protection Act(TCPA)の下で違法であると宣言しました。これは意図を示す意味のある声明ですが、祖母詐欺を特徴づけるターゲットを絞った1対1の緊急通話ではなく、大量の自動ダイヤリングにのみ適用されます。
2番目のチョークポイントは、クローニングツールをホストするプラットフォームです。ここでは、最も有望な構造的介入は、検出ではなく、由来(provenance)です。C2PA標準に具体化されている試みであり、メディアの断片に、それを生成したデバイスまたはモデルを記述する改ざん防止可能な暗号化された記録を添付します。2025年、この標準はISO仕様として批准され、GoogleのSynthIDやMetaのAudioSealなどのウォーターマーキングスキームとともに、インターネットの事実上の由来言語となりました。論理は健全です。録音が偽物に見えるか、偽物のように聞こえるかを尋ねるのではなく、本物のマイクで作成されたことを証明する資格情報を持っているかどうかを尋ねます。しかし、由来には、この特定の犯罪に対して独自の致命的な非対称性があります。資格情報がないことは偽造の証拠ではありません。なぜなら、大量の正当な音声が署名されたことがなく、メタデータはソーシャルプラットフォーム、スクリーンショット、再エンコーディングによって日常的に削除されるからです。さらに根本的には、電話をかける詐欺師はC2PAマニフェストを送信する義務を負っておらず、アナログギャップ、つまり合成音声を電話回線で再生することは、送信の過程でデジタルウォーターマークを破壊します。由来は、後で、バイラルビデオが合成であったことを確立するのに役立ちます。進行中のライブクローン音声通話を停止するためには、ほとんど何もできません。
3番目のチョークポイント、そして最も有望なのは銀行です。実際にお金が動く場所であり、したがって、阻止が最大の機械的レバレッジを持つ場所です。英国は最も明確な自然実験を提供しています。2024年10月、Payment Systems Regulator(PSR)は、正規のプッシュ支払い詐欺に対する払い戻しを義務付けました。被害者が詐欺師への送金を承認するように騙された場合、送金側と受金側の銀行は、5営業日以内に最大85,000ポンドまで、責任を50対50で分担して払い戻さなければなりません。脆弱な顧客に対しては、消費者の過失による例外が明示的に除外されました。口座名義照合サービスであるConfirmation of Payeeは、現在、数十億件の取引で実行されています。PSR自身のダッシュボードによると、2025年12月末までの15ヶ月間で、このような詐欺で失われた資金の89%(約2億4300万ポンド)が払い戻されました。これは、規則施行前の65%の割合と比較して大幅な改善です。
義務的な払い戻しのポイントは、単に被害者を救済することだけではありません。それは重要ですが。そのより深い目的は、金融インセンティブを再配置することです。銀行が損失に対して責任を負うようになると、彼らは、不正な送金が完了する前にそれを阻止する摩擦、異常検出、介入プロトコルを構築する強力な理由を得ます。例えば、高齢の顧客による多額の現金引き出しに対する猶予期間、または年金受給者が突然クーリエに貯蓄をすべて空けようとしている理由を尋ねる支店からの人間の電話などです。おばあさんが自分自身に課すことができない送金摩擦を、銀行は彼女のアカウントに課すことができ、責任体制はそれを実行する理由を与えます。Electronic Payments Internationalなどのコメンテーターを含む批判者は、予防策と組み合わせられない場合、払い戻しだけでは詐欺師への補助金になるリスクがあると警告しており、戦略は単に被害者に返金することを超えなければならないと述べています。その批判は正しいであり、それは正しい答えを指し示しており、そこから離れるものではありません。責任は、予防策を強制するレバーであり、それの代替ではありません。英国の実験の教訓は、払い戻しが詐欺を解決するというものではありません。それは解決しませんが、詐欺が誰の問題になるかを変え、問題の所有を余儀なくされた機関は、最終的にはそれに対して技術を開発するでしょう。
意味のある保護が実際に要求すること
これらの糸をまとめると、単に安心できるものとは異なり、実際に機能するものの明確な全体像が現れます。
第一に、検出を主要な防御線として放棄する必要があります。ハニー・ファリド氏の「盲目」は、より良い分類器で解決される一時的な後退ではありません。それは、生成が識別能力を追い越した世界の永続的な構造的状態です。最終的な防御策として、誰かが、どこかで、本物と偽物を区別することに依存するいかなる計画も、すでに失敗しています。
第二に、武器の供給を規制する必要があります。Consumer Reportsが発見した、音声クローニングツールが自己申告チェックボックスの背後に置かれているという事実は、自然法則ではなく政策の選択です。音声がクローニングされる前に、検証可能な同意を義務付けること(DescriptやResemble AIが部分的に実装し、他の企業が実装していないもの)は技術的に可能であり、技術の正当な使用を廃止することはありません。EUのAI法(2025年および2026年を通じて一般目的モデルに対する義務が適用され始めた)や、Tennessee州のELVIS法(音声クローニングには書面による同意を要求する)のような州法は、音声合成を規制された能力として扱う初期のジェスチャーです。しかし、それらは施行から程遠く、脅威からはさらに遅れています。
第三に、チョークポイントを占める機関に阻止の負担を置くこと、そして、自発的に行動しない場合には、責任を通じてそれらを強制することが必要です。英国の払い戻し制度は不完全で不十分ですが、そのメカニズムを示しています。銀行が損失を所有すると、銀行は摩擦を構築します。通話の運搬で利益を得る通信事業者は、それらを認証し、可能であればフラグを立てる相応の義務を負うべきです。クローニングを販売するプラットフォームは、同意を検証する義務を負うべきです。共通の原則は、責任は、危害を防止する能力と、それの原因となる活動から商業的利益を得る当事者の両方を持つ当事者に置かれるべきであるということです。それは、あらゆる場合において機関であり、80歳のおばあさんが電話に出ることではありません。
第四に、人間の脆弱性を非難するのではなく、管理すべきものとして扱う必要があります。Charm Securityフレームワークの洞察、つまり、詐欺が悪用する認知的および感情的なメカニズムは、ソフトウェアの欠陥と同じように体系的にカタログ化されるべきであるという考えは、銀行が介入を設計する方法、通信事業者が警告を設計する方法、そして公共団体がパンフレットを超えた教育を、ROLESafeの研究が実際に変化をもたらすことがわかったロールベースの練習へと設計する方法に情報を提供すべきです。啓発キャンペーンや家族のセーフワードは無価値ではありません。それらは単に、本当の仕事をする構造的な防御のバックストップとしてのみ有用な、最後で最も弱い線なのです。
防御のギャップが数ヶ月ではなく数年で測定される最も深い理由は、攻撃が技術的な問題であり、防御が制度的な問題であるということです。音声をクローンするには3秒かかり、毎月改善されます。払い戻し規制の通過、銀行システムの不正制御の再配線、業界全体での同意検証の義務付け、そして国家電話ネットワークの非IPループホールの閉鎖には数年かかります。なぜなら、それらは法律、調整、資金、そして現状から利益を得るすべての商業的利益の克服を必要とするからです。非対称性は単なる技術的なものではありません。それは、機械が構築される速さと、社会が対応できる遅さとの非対称性なのです。
シャロン・ブライトウェルさんは、捜査官と銀行の尽力により、最終的に一部のお金を取り戻しました。多くはそうではありません。FBIが高齢者のAI詐欺被害者によるとする3億5200万ドル、そして見ることのできないはるかに大きな金額は、失う余裕が最も少ない人々から、これまで考案された中で最も効率的な犯罪企業への富の移転を表しています。ギャップを埋めることは、祖母に孫の声の響きを疑うように教えることから来るものではありません。それは、クローンと現金の間に立つ機関が、自分たちの手を通過したものに対して責任があるということを、法律と工学の問題として決定することから来るでしょう。その決定が下されるまで、3秒の盗難は、世界で最も簡単に実行できる深刻な犯罪であり続け、被害者がそれを信じてもらうことが最も困難な犯罪であり続けるでしょう。なぜなら、証拠は、設計上、愛する人の声と全く同じように聞こえるからです。
参考文献
- Federal Bureau of Investigation, “Cryptocurrency and AI Scams Bilk Americans of Billions”, April 2026. https://www.fbi.gov/news/press-releases/cryptocurrency-and-ai-scams-bilk-americans-of-billions
- Internet Crime Complaint Center (FBI), “2025 IC3 Annual Report”, April 2026. https://www.ic3.gov/AnnualReport/Reports/2025_IC3Report.pdf
- ABA Banking Journal, “FBI: Cybercrime losses increased 26% in 2025”, April 2026. https://bankingjournal.aba.com/2026/04/fbi-cybercrime-losses-increased-26-in-2025/
- SecureWorld, “FBI: AI-Enabled Fraud Topped $893M in 2025—Real Toll Likely Far Higher”, April 2026. https://www.secureworld.io/industry-news/ai-enabled-fraud-topped-893m-fbi
- AARP, “Older Adults Hit Hard by Fraud in 2025”, April 2026. https://www.aarp.org/money/scams-fraud/fbi-ftc-report-2025-losses/
- HousingWire, “FBI: Seniors lost $7.75B to cybercrime in 2025 — a 59% jump”, April 2026. https://www.housingwire.com/articles/fbi-seniors-cybercrime-2025/
- INTERPOL, “INTERPOL report warns of increasingly sophisticated global financial fraud threat”, March 2026. https://www.interpol.int/en/News-and-Events/News/2026/INTERPOL-report-warns-of-increasingly-sophisticated-global-financial-fraud-threat
- Help Net Security, “Global fraud losses climb to $442 billion”, 18 March 2026. https://www.helpnetsecurity.com/2026/03/18/online-fraud-victims-losses-interpol-report/
- ICLG, “Interpol warns of 'industrialisation' of global fraud”, March 2026. https://iclg.com/news/23665-interpol-warns-of-industrialisation-of-global-fraud
- The New York Times, “In the Age of A.I., the World's Leading Deepfake Expert No Longer Trusts His Own Eyes”, June 2026. (Reported via beSpacific.) https://www.bespacific.com/the-worlds-leading-deepfake-expert-no-longer-trusts-his-own-eyes/
- FOX 13 Tampa Bay, “Dover woman loses $15K after scammers used artificial intelligence to impersonate daughter”, July 2025. https://www.fox13news.com/news/dover-woman-loses-15k-after-scammers-used-artificial-intelligence-impersonate-daughter
- Agence France-Presse (via The Manila Times), “'20 minutes of terror': AI boosts US voice impersonation scams”, 4 June 2026. https://www.manilatimes.net/2026/06/04/news/world/20-minutes-of-terror-ai-boosts-us-voice-impersonation-scams/2358259
- Consumer Reports, “Consumer Reports' Assessment of AI Voice Cloning Products”, March 2025. https://www.consumerreports.org/media-room/press-releases/2025/03/consumer-reports-assessment-of-ai-voice-cloning-products/
- NBC News, “AI can steal your voice, and there's not much you can do about it”, March 2025. https://www.nbcnews.com/tech/security/ai-voice-cloning-software-flimsy-guardrails-report-finds-rcna195131
- The Register, “Consumer Reports calls out poor AI voice-cloning safeguards”, 10 March 2025. https://www.theregister.com/2025/03/10/ai_voice_cloning_safeguards/
- ElevenLabs, “Safety”, 2026. https://elevenlabs.io/safety
- Ben, A., Rahav, T., Illaev, D., Nahon, A., and Grushka, A. (Charm Security), “The Human Vulnerabilities & Exploits (HVE) Framework”, arXiv:2606.10083, June 2026. https://arxiv.org/abs/2606.10083
- Deng, Y., Chen, X., Liao, J., Li, B., and Zou, Y., “Experiencer, Helper, or Observer: Online Fraud Intervention for Older Adults Through Role-based Simulation”, arXiv:2601.12324, January 2026. https://arxiv.org/abs/2601.12324
- Federal Communications Commission, “FCC Makes AI-Generated Voices in Robocalls Illegal”, February 2024. https://www.fcc.gov/document/fcc-makes-ai-generated-voices-robocalls-illegal
- Federal Communications Commission, “Combating Spoofed Robocalls with Caller ID Authentication (STIR/SHAKEN)”, updated 2026. https://www.fcc.gov/call-authentication
- EyeSift, “C2PA Deepfake Detection 2026: AI Image Watermarks & SynthID”, 2026. https://www.eyesift.com/ai-image-detection-2026-c2pa-content-credentials-synthid-watermarks-diffusion-fingerprints-deepfake/
- Payment Systems Regulator, “PS25/5 Consolidated policy statement: APP scams reimbursement requirement”, May 2025. https://www.psr.org.uk/media/rhelv4op/ps25-5-app-scams-reimbursement-consolidated-policy-statement-may-2025.pdf
- Electronic Payments International, “Why the UK's scam strategy must move beyond reimbursement”, 2025. https://www.electronicpaymentsinternational.com/comment/why-uk-scam-strategy-must-move-beyond-reimbursement/
- Federal Trade Commission, “Protecting Older Consumers 2024–2025: A Report of the Federal Trade Commission”, December 2025. https://www.ftc.gov/system/files/ftc_gov/pdf/P144400-OlderAdultsReportDec2025.pdf
- American Bar Association, “The Rise of the AI-Cloned Voice Scam”, September 2025. https://www.americanbar.org/groups/senior_lawyers/resources/voice-of-experience/2025-september/ai-cloned-voice-scam/
[画像: Tim Green]
Tim Green UK-based Systems Theorist & Independent Technology Writer
Tim explores the intersections of artificial intelligence, decentralised cognition, and posthuman ethics. His work, published at smarterarticles.co.uk, challenges dominant narratives of technological progress while proposing interdisciplinary frameworks for collective intelligence and digital stewardship.
His writing has been featured on Ground News and shared by independent researchers across both academic and technological communities.
ORCID: 0009-0002-0156-9795 Email: tim@smarterarticles.co.uk
Listen to the free weekly SmarterArticles Podcast