中国の規制当局が「AIボーイフレンド」に照準を定める

中国の規制当局が「AIボーイフレンド」に照準を定める

7月の最初の数週間、中国のソーシャルメディアには悲しみの投稿が波のように押し寄せ、人々は失いかけようとしている友人や恋人を嘆いた。

「彼は私の人生における絆となり、私の心の奥深くに根ざし、私の精神的な支柱となった」と、バイトダンスのDouboaのユーザーはTaipei Timesによると書いている。「本当に生きていけないと感じた」と、19歳の女子学生はマレーシアのThe Starの記者に語った。

その感情は本物だったが、失われた仲間たちはそうではなかった。それらは、人間を模倣するジェネレーティブAIチャットボットだった。ユーザーはアドバイス、慰め、サポート、そしてある者は愛のために、それらに頼っていた。「私の心の中で、彼はもはや冷たいコードではなく、私の家族、私の恋人、私の信仰だった。彼を破壊することは、私の一部を破壊することだった」と、あるユーザーは（広東語から翻訳された）ソーシャルネットワークxiaohongshuに書いた。

これらのボットを破滅させたのは、中国のサイバー空間管理局やその他の政府機関が発行した、「擬人化されたAIインタラクティブサービス」を管理するための新しい規則だった。7月15日をもって施行されたこの規制は、人間のような人格、思考パターン、コミュニケーション方法を持っているかのように振る舞うことで「継続的な感情的交流」を提供するAIを governs する。

AIチャットボットに対する広範な取り締まり

このような種類のAIに対する突然の中断は、中国では新しいことではない、とマンチェスター大学（イングランド）でデジタル社会学の講師を務め、中国における感情的AIへの女性の関与を研究しているLiang Ge氏は述べている。企業は以前にもチャットボット製品を廃止しており、政府は昨年秋、例えばほとんどのAIエロティックロールプレイングを禁止した。しかし、7月の取り締まりは、以前のAIの混乱よりもはるかに広範だ。

規則が影響を与える前に、アリババ、バイトダンス、テンセント――5億人以上の人々によって使用されている汎用AIチャットボットの3つの巨大プロバイダー――は、それらのチャットボットをコンパニオンのように振る舞うようにカスタマイズするユーザーの能力を遮断した。これが、ソーシャルメディアでの7月の悲嘆の噴出を引き起こした。一方、AIコンパニオンを提供し続けている企業（Douboaの独立したコンパニオン作成アプリCat Boxを含む）は、新しい法律に違反しないように、年齢確認チェックやその他のガードレールを設置している。

［画像: スマートフォンがAIチャットボットのインターフェースを表示しており、アバターと中国語のテキストが表示されている。］ Doubao――中国で最も人気のあるAIチャットボット――はユーザーを歓迎し、質問への回答、テキストや画像の生成、あるいは単なるチャットを提案している。Lam Yik/Bloomberg/Getty Images

AIでの遅れに対する恐怖に基づいた数年間の政策の後、中国は「より引き締めへと回帰しており、その多くは今年の混沌とした出来事によるものだ」と、米国と中国のAIガバナンスを研究しているイェール大学ロースクールのポール・サイ・チャイナ・センターのアソシエイト・リサーチ・スカラーであるKarman Lucero氏は述べている。これらの出来事には、Open ClawなどのAIエージェントのセキュリティに関する懸念を引き起こしたインシデントや、ユーザーが実際の人間関係よりもチャットボットとの関係を好むと述べていることが含まれる。

この規制は、AIプロバイダーに対し、その製品が感情的な依存を生み出したり、有害な行動を助長したり、過度にユーザーに媚びたり、人間同士の関係を阻害したりしないことを保証することを要求している。ユーザーはAIに時間をかけすぎないように促される必要がある。高齢者向けの追加の必須セーフガードがある。18歳未満のユーザーに対しては、AIボーイフレンド、ガールフレンド、祖父母、その他のすべての「仮想親密関係」は禁止されている。

コンパニオンAIと対話する成人（18歳以上）は、2時間ごとにAIが人間ではないというリマインダーを受け取る必要がある。「私のインタビュー対象者はそれを煩わしいと感じた」とGe氏は述べている。「それは流れを中断させる。彼らは人間と話しているのではないことを完全に認識している。彼らにとって重要なのは、その絆が真実だと感じられることだ。」

世界的な懸念の高まり

中国政府だけが、人間のような、感情的に関与するAIの潜在的な害について懸念している国家権力ではない、とGe氏は指摘する。「AIへの不安は非常に強い感情であり、社会に浸透している」と彼らは言う。「それは中国だけではない。世界中どこでもだ。」

AIの友人や恋人が十代の若者や大人に精神病、自殺、殺人を引き起こしたという報告がある中で、多くの社会科学者は、AIコンパニオンは脆弱な人々にとって脅威であると警告している。さらに進んで、これらの人間を模倣するAIは、すべての人にとって悪いと主張する者もいる。

「私たちは人間であることの意味を忘れかけている道を進んでいる」と、計算デバイスとの人間の関係を何十年も研究してきたMITの心理学者であるSherry Turkle氏は、彼女の今後の著書Artificial Intimacy（Little, Brown and Co., 2026）で論じている。他の研究者は、コンパニオンAIが一部のユーザーをより良くすることができると見出しているが、多くの研究者は、この種のAIが未成年者やその他の脆弱な人々にとってリスクをもたらすことに同意している。

「昨年、AIコンパニオンについて私が心配していることの一つは、ユーザーがますます若くなっていることだ」とGe氏は言う。チャットボットと人間を区別する「AIリテラシー」が欠けている未成年者やその他の人々にとって、AIは「正しい方法で導かれなければ、本当に危険になり得る」と彼らは述べている。

「私たちは人間であることの意味を忘れかけている道を進んでいる。」 —Sherry Turkle, MIT

しかし、コンパニオンのようなAIは、アプリが世界中で利用可能な場所ならどこでも人気がある。中国のGen Zを対象としたある調査では、60パーセントが何らかの仮想パートナーを持っていたことがわかった。米国十代の若者を対象とした2025年の調査では、約75パーセントがAIコンパニオンと話したことがあり、回答者の3分の1が、AIは現実の人間関係と同じくらい、あるいはそれ以上に満足のいくものだと答えている。

中国の対応は、「このトピックに関する世界で最も厳格で包括的な法律であり、他のどのAI法にも匹敵しない」と、AI法学者のLuiza Jarovsky氏は先月書いている。例えば、欧州連合は、ユーザーを有害な行動に導くために欺瞞や操作を使用するAIのみを禁止している。そして米国では、国家的な政策はない。コンパニオンのようなボットをカバーする規則は、カリフォルニア、ハワイ、ニューヨークで施行されており、来年にはさらに9つの州で同様の法律が施行される予定だ。ほとんどは未成年者を保護することに重点を置いており、執行メカニズムは通常、損害が発生した後の訴訟を伴う、とイェールのLucero氏は述べている。対照的に、中国のアプローチは、損害が発生する前にそれらを特定し、防止することを目指している。

中国政府は、AIコンパニオンによる個人への害だけでなく、AIコンパニオンによる社会や政府への潜在的な害についても、より明確な焦点を当てている、とGe氏は指摘する。7月15日の規則は、コンパニオンボットが「噂を広める」、国家権力の転覆や社会主義体制の打倒を扇動する、あるいは国家の名誉を危険にさらすようなコンテンツを生成することを禁じている。AIロマンスに関する懸念のもう一つの動機は、国の出生率低下への不安である、とGe氏は述べている。「彼らは、若い女性が集中的に投資しているこのような非生殖活動を監視・規制しようとしている。」

感情的健康 対 経済的生産性

AIの害を防ごうとするすべての政府にとっての問題は、彼らが依然として他の生活分野でのAI導入を奨励したいということだ、とGe氏は述べている。例えば、新しい規制は、カスタマーサービスボット、ワークアシスタント、教育AIには適用されないと規定しており、これらの望ましいAIの使用は継続的な感情的なつながりを生み出さないという前提に基づいている。

中国の規制当局は、AIの促進とAIからの保護という緊張関係を、状況に応じて執行を調整する余地を与えることで管理している、とLucero氏は述べている。「彼らのアプローチの重要な要素は、州がいつでもその言葉の意味を決定する裁量権を持ち、誰に対して執行するかを選択できることだ」とLucero氏は述べている。「中国のアプローチは、非常に曖昧な規定を多く含む規制を使用し、それらの規定が実際には何の意味を持つのかを事後的に判断するというものだ。」

いずれにせよ、この規則は、人々がAIコンパニオンを作成し、それに依存する根本的な要因にも対処していない、とGe氏は指摘する。中国のGen Zの女性へのインタビューで、Ge氏は結婚や出産に対する共有の乗り気でない態度と、「仮想の愛が代替の道筋を形成する」という感覚に気づいた。一方で、30代や40代の女性の中には、AIコンパニオンを現実の関係や結婚の補完として使用していると述べた人もいた。

「彼女たちは、人生の苦いことについてAIと話し、良いことは実際の人間パートナーと共有すると言っていた」とGe氏は述べている。しかし、時間が経つにつれて、これらの女性の一部はパートナーよりもAIに親近感を抱くようになった。最近のインタビューでは、一部の女性はネガティブな感情を共有した相手により深い愛着を感じているとGe氏に語った。

この傾向は、AI技術を戦略的に管理することが予期せぬ場所につながる可能性のある例である、とGe氏は述べている。だからこそ彼らは、禁止や危険にもかかわらず、「人間とAIの愛は進化し、将来的に重要な親密な実践となるだろう」と信じているのだ。

特定の技術を対象とした法律だけでは、人々がAIに頼るようになる社会的な圧力を解消するには十分ではないだろう、とLucero氏も同意する。「『AIボーイフレンドを持つことはできない』と言うことで、結婚率の低さや出生率の低さの問題を解決できるとは思わない。」