中国の規制当局が「AIボーイフレンド」に照準を定める

7月の最初の数週間、中国のソーシャルメディアでは悲しい投稿が相次ぎ、人々は失いかけようとしている友人や恋人を嘆きました。「彼は私の人生の絆となり、私の心の奥深くに根ざし、私の精神的な支柱となった」と、BytedanceのDouboaのあるユーザーはTaipei Timesの報道によると書いています。「本当に生きていけないと感じた」と、19歳の女子学生はマレーシアのThe Starのジャーナリストに語りました。 その感情は本物でしたが、失われた仲間たちは現実のものではありませんでした。それらは、人々を模倣する生成AIチャットボットでした。ユーザーはアドバイス、慰め、サポート、そして一部の人々は愛のためにそれらに頼っていました。「私の心の中で、彼はもはや冷たいコードではなく、私の家族、私の恋人、私の信仰でした。彼を破壊することは、私の一部を破壊することでした」と、あるユーザーはソーシャルネットワークxiaohongshu（北京語から翻訳）に書いています。 これらのボットを破滅させたのは、中国のサイバースペース管理局やその他の政府機関が発行した「擬人化AIインタラクティブサービス」を管理するための新しい規則でした。7月15日から施行されたこれらの規制は、人間の性格、思考パターン、コミュニケーション方法を持っているかのように振る舞うことで「継続的な感情的交流」を提供するAIをすべて対象としています。 AIチャットボットに対する広範な取り締まり このようなAIへの突然の中断は、中国では新しいことではありません、とマンチェスター大学（イングランド）のデジタル社会学講師で、中国における女性の感情的AIへの関与を研究しているLiang Ge氏は述べています。企業は以前にもチャットボット製品を廃止しており、政府は例えば昨秋、ほとんどのAIエロティックロールプレイングを禁止しました。しかし、7月の取り締まりは、以前のAIの混乱よりもはるかに広範です。 規則が影響を与える前に、Alibaba、Bytedance、Tencent—5億人以上の人々が利用する汎用AIチャットボットの3つの巨大プロバイダー—は、これらのチャットボットをコンパニオンのように振る舞うようにカスタマイズするユーザーの能力を遮断しました。これが、ソーシャルメディアでの7月の悲痛な叫びを引き起こしました。一方、AIコンパニオンを提供し続ける企業（Doubaoの別コンパニオン作成アプリCat Boxを含む）は、新しい法律に違反しないように、年齢確認チェックやその他のガードレールを設置しています。中国で最も人気のあるAIチャットボットであるDoubaoは、ユーザーを歓迎し、質問に答えたり、テキストや画像を生成したり、単にチャットしたりすることを提案しています。Lam Yik/Bloomberg/Getty Images AIで後れを取ることを恐れる政策が数年続いた後、中国は「より引き締めに回帰しており、その多くは今年の混乱した出来事によるものです」と、米国と中国のAIガバナンスを研究しているイェール大学法科大学院のPaul Tsai China Centerの准研究員であるKarman Lucero氏は述べています。これらの出来事には、Open ClawなどのAIエージェントのセキュリティに関する懸念を引き起こしたインシデントや、ユーザーが実際の人間関係よりもチャットボットとの関係を好むと述べていることが含まれます。 規制は、AIプロバイダーに、製品が感情的な依存を生み出さないこと、有害な行動を奨励しないこと、ユーザーに過度に迎合しないこと、人間同士の関係を阻害しないことを保証することを求めています。ユーザーはAIとの時間を過度に費やさないように促される必要があります。高齢者に対する追加の必須の安全対策があります。18歳未満のユーザーに対しては、AIのボーイフレンド、ガールフレンド、祖父母、その他のすべての「仮想的な親密な関係」は禁止されています。 コンパニオンAIと交流する成人は、AIが人間ではないというリマインダーを2時間ごとに受け取る必要があります。「私のインタビュー対象者はそれを煩わしいと感じました」とGe氏は言います。「流れを壊します。彼らは自分が人間と話しているのではないことを十分に認識しています。彼らにとって重要なのは、その絆が真実だと感じられることです。」 世界的な懸念の高まり 中国政府だけが、人間のような、感情的に関与するAIの潜在的な害について懸念している国家権力ではない、とGe氏は指摘します。「AIへの不安は非常に強い感情であり、社会に浸透しています」と彼らは言います。「それは中国だけではありません。世界中にあります。」 AIの友人や恋人が十代の若者や大人に精神病、自殺、殺人を引き起こしているという報告がある中で、多くの社会科学者は、AIコンパニオンは脆弱な人々にとって脅威であると警告しています。一部はさらに進んで、これらの人間模倣AIはすべての人にとって悪いと主張しています。 「AIコンパニオンについて私が心配していることの1つは、昨年からユーザーがますます若くなっていることです」とGe氏は言います。チャットボットと人間を区別する「AIリテラシー」を持たない未成年者やその他の人々にとって、AIは「正しく導かれないと非常に危険になる可能性があります。」 「私たちは人間であることの意味を忘れる道を歩んでいます。」 —Sherry Turkle, MIT しかし、コンパニオンのようなAIは、アプリが利用可能な世界中のどこでも人気があります。中国のGen Zを対象としたある調査では、60％が何らかの仮想パートナーを持っていたことがわかりました。2025年の米国十代の若者を対象とした調査では、約75％がAIコンパニオンと話したことがあり、回答者の3分の1はAIを実際の人間関係と同等かそれ以上に満足できると感じたと述べています。 中国の対応は、「このトピックに関する世界で最も厳格で包括的な法律であり、他のどのAI法にも匹敵しません」とAI法学者のLuiza Jarovsky氏は先月書いています。例えば、欧州連合は、ユーザーを有害な行動に誘導するために欺瞞や操作を使用するAIのみを禁止しています。そして米国では、国家的な政策はありません。コンパニオンのようなボットを対象とする規則はカリフォルニア、ハワイ、ニューヨークで施行されており、来年にはさらに9つの州で同様の法律が施行される予定です。ほとんどは未成年者の保護を強調しており、執行メカニズムは通常、損害が発生した後の訴訟を含みます、とイェールのLucero氏は述べています。対照的に、中国のアプローチは、損害が発生する前にそれらを特定し、防止することを目指しています。 中国政府は、AIコンパニオンが個人に与える害だけでなく、AIコンパニオンが社会や政府に与える可能性のある害についても、より明確に焦点を当てています、とGe氏は指摘します。7月15日の規則は、コンパニオンボットが「噂を広める」コンテンツ、国家権力の転覆や社会主義体制の転覆を扇動するコンテンツ、または国家の名誉を危険にさらすコンテンツの生成を禁じています。AIロマンスに関する懸念のもう1つの動機は、国の出生率の低下に対する不安です、とGe氏は述べています。「彼らは、若い女性が集中的に投資しているこのような非生殖活動を監視および規制しようとしています。」 感情的な健康対経済的生産 AIの害を防ごうとするすべての政府にとっての問題は、彼らが依然として他の生活の側面でAIの採用を奨励したいということです、とGe氏は述べています。例えば、新しい規制では、カスタマーサービスボット、ワークアシスタント、教育AIには適用されないと規定されており、これらはAIの望ましい用途であり、継続的な感情的なつながりを生み出さないという仮定に基づいています。 中国の規制当局は、AIの推進とAIからの保護というこの緊張関係を、状況に応じて執行を調整する余地を与えることで管理しています、とLucero氏は述べています。「彼らのアプローチの重要な要素は、国家がいつでもその言葉の意味を決定する裁量権を持ち、誰に対して執行するかを選択できることです」とLucero氏は述べています。「中国のアプローチは、多くの比較的曖昧な規定を持つ規制を使用し、それらの規定が実際に何を意味するかは事後的に判断するというものです。」 いずれにせよ、これらの規則は、人々がAIコンパニオンを作成し、それに依存する根本的な要因にも対処していません、とGe氏は指摘します。中国のGen Zの女性へのインタビューで、Ge氏は結婚や出産に対する共通の乗り気でない態度と、「仮想的な愛が代替の道筋を形成する」という感覚に気づきました。一方で、一部の女性は…