アライナー（AIの安全性を調整する者）を誰が調整するのか？

アライナー（AI安全性調整者）を誰が調整するのか？ 来たるべき「AI安全性」闘争に関する簡単な法的考察

Dario Amodei氏、AnthropicのCEOは、エッセイ「We Must Pace The Frontier」を発表し、その中で次のように述べています。

私は過去12年間、AIが人間の生活の質を劇的に向上させうると信じてAIに取り組んできました。これらの信じられないほどの恩恵についてはしばしば書いてきました。AIは今後5〜10年でほとんどの主要な病気を治癒し、経済成長率を大幅に加速させ、豊かさとエンパワーメントの世界を創造し、民主主義と自由のルネサンスをもたらすと信じています。

しかし、そして常に「しかし」は存在しますが、

…他の多くの技術と同様に、AIはリスクをもたらし、それが非常に強力な技術であるため、これらのリスクは深刻です。

そのリスクには、一部の人々によれば、人類の完全な滅亡が含まれます。

例えば、Eliezer Yudkowsky氏が今日、もし私たちが即時の世界的テクノ・コミュニズムを導入しない限り、これまでいかなる西側社会でも見られなかった種類の言論と出版に対する厳格な政府管理を導入しない限り、私たちは皆死ぬだろうと自信を持って主張しています。

「AIによる死を避ける」ことが、民主党が二極化する問題ではなく、超党派のプロジェクトになること以上に重要なことは、現在ゼロです。もしあなたがこの問題に費やせる政治的資本を持っているなら、今すぐそれを使ってください、お願いします。生死がかかっています。

— Eliezer Yudkowsky ⏹️ (@ESYudkowsky) 2026年9月13日

これが発生するという証拠はありません。規制の推進者の中には、唯一の対応策は利用可能な最も極端な対応策、すなわち総体的国家管理であると私たちに告げる人もいます。この対応策が正しいという証拠もありません。仮説として、政府がAnthropicにその重みをオープンソース化するよう強制すべきだと主張することも同様に可能です。そうすれば、他のAIからのサイバーセキュリティリスクから身を守るための個人的な防御AIとして、誰もが最新モデルに自由かつ平等にアクセスできるようになります。これは、いわば「AIのための修正第2条」です。あるいは、もしあなたが本当にAIが絶滅レベルのリスクだと考えるなら、その立場に対する唯一の合理的な対応は、「政府に運営させる」ことではなく、条約によってすべての現代コンピューターを破壊し、永久に1970年代の技術に戻ることに同意することだと私には思えます。

無数の政策対応が存在します。私たちが何をするにしても、それらの対応には国民の同意と慎重な審議が必要です。一人の人間、一社、あるいは一つの運動が答えを知っているわけではなく、歴史は、新しい技術に関する終末論的な予測は、これまでのところすべて間違っていたという事実を除いて、何の指針にもなりません。

しかし、歴史は政府の権力の使用と誤用について多くの指針を提供しています。それは、国家が最も強力な出版およびデータ分析技術の、事実上最悪の管理者である可能性が高いことを私たちに教えています。[（参照：シュタージ）](https://en.wikipedia.org/wiki/Stasi)

それにもかかわらず、このリスクに対処するために、Amodei氏は次のように提案しています。

…その安全性を確保しつつ、その恩恵を達成し、重要な地政学的なジレンマに対処することを目指す、バランスの取れたペースでAIを構築すること。

すなわち、規制です。

私の定期的な読者はお気づきかもしれませんが、私は18ヶ月近くにわたり、クライアントのために、アメリカの企業がどのようなソフトウェアを書き、実行できるかをアメリカの企業に指示する権限、能力、権利があると考えるインターネット検閲者たちと、世界中で法的な戦いを繰り広げてきました。[（参照：Granite）](https://prestonbyrne.com/granite/)

この検閲装置は、今回はソーシャルメディアではなくAIのために、ゼロから再構築されようとしています。私もまた、適切な時期にそれに立ち向かうことを予期しています。今が予備的な考えを提供する適切な時期だと感じています。

Amodei氏の提案

David Sacks氏がXで正しく指摘したように、AnthropicはいつでもAIの研究開発努力を望むだけ遅らせることができます。Amodei氏が提案しているのは、それとは別のことです。すなわち、監督下で、全員が一緒に遅らせるということです。Amodei氏は当初、「ペースダウン」は自発的なものであるべきだと書いていますが、その計画は法的規制体制へと進むことになります。つまり、この提案は必然的に強制的な国家権力の行使を伴い、ソフトウェア開発者は義務的に従うことが期待されることになります。

ペースを調整する最も効果的な方法は、米国のすべてのフロンティアAI企業を対象とする規制を通じて行うことです。なぜなら、それは自発的に協力することを望まない企業さえもカバーするからです。（強調追加）

彼の計画には3つの要素があります。

埋め込み評価者（通称：圧力団体への配慮）

最初の要素は「埋め込み評価者」です。

…従業員のようなアクセス権を持つ埋め込み第三者評価者のチーム（METRなど）の役割は、安全慣行とコミットメントの遵守を検証し、インシデントを報告し、完成したAIモデルだけでなく、トレーニングパイプラインとプロセスのアライメントを評価することです。

Web 2.0にはすでに、第三者の「安全性」監視機関の活発な産業があります。これは、下院司法委員会が「検閲産業複合体」と呼んだものです。これらの実体の過去の記録は、この取り決めが実際にはどのように展開するかを私たちに示しています。

［画像］

「これを評価しろ。」

この分野でよく知られた民間主体の一つは、Responsible Mediaのグローバルアライアンス（GARM）でした。商業企業であるGARMは、「デジタル安全に取り組むために2019年に設立された自発的な業界横断イニシアチブ」と自らを説明していました。GARMは、とりわけ、さまざまなポリシーフレームワークとガイドラインを提供していました。その中には、「ブランドセーフティフロアと隣接基準フレームワーク」があり、これらはブランドオーナーが独自のカスタムメイドのブランド固有の安全フレームワークを開発するのを支援し、広告費がブランドを損なう違法または有害なコンテンツを意図せず支援しないようにしました。

GARMは2024年に解散しましたが、下院司法委員会によると、活動期間中、GARMはグローバル規制当局と協力して、Twitter（現X Corp.）のような企業に「かなりの集団的権力」を行使させ、モデレーション決定（「トランプ大統領の沈黙」を含む）に強制的に影響を与え、プラットフォームが従わない場合はプラットフォームのボイコットを調達しました。

おそらく、GARMのポリシーフレームワークとガイドラインに従ったプラットフォームは、その「スティック」で脅かされることはなかったでしょう。これは、GARMのポリシーフレームワークとガイドラインに従ったソーシャルメディア企業が広告主のボイコットの対象とならなかったのに対し、従わなかった企業（Xなど）は、そうだったと主張されている方法を想起させます。

彼は付け加えています。

これは、ペース調整のコミットメントの検証可能性のための鍵となるステップであり、銀行業界には前例があります。そこでは、従業員と一緒に規制当局の「監督者」が配置されることがあります。

偶然ですが、銀行の類推は、「誤情報/偽情報」（つまり、検閲推進）の学者が英国のオンライン安全法や同様の体制を正当化するために用いるまさにその議論です。例えば、ケンブリッジ大学のアラン・ジャゴリンザー氏は、金融会計の世界から来ており、スピーチ規制体制を2008年以降の財務報告規制に類推しています。

もちろん、問題は、金融会計詐欺は憲法上の権利ではありませんが、スピーチは権利であるということです。アメリカでは、犯罪の実行または幇助の意図なしに行われるソフトウェア開発は、一般的に保護された表現です。NGOの新しい集団を立ち上げ、Web 2.0の「オンライン安全」NGOと実質的に同じ機能を行い、同じ方法を使用すること、ただし今回はNGOのコミッサールが内部システムへの非常に機密性の高い従業員レベルのアクセス権を持つことになりますが、それがこれまでの結果とは異なる、あるいはより良い結果をもたらすとは私には思えません。

民主的調整（通称：政府規制）

2番目の要素は「民主的調整」であり、そこでは

民主主義国におけるフロンティアAI企業は、共通の安全基準およびチェックされていないAI進歩のペースに対する制限を確立するために連携します。ペース調整に影響を与えるいくつかの形態の連携は、法的に困難であり、政府の支援が必要となります。

これには2つの側面があります。(a) 競争法、(b) コンテンツ規制法です。

競争法の観点から見ると、Anthropicが抱える問題は単純です。AnthropicとOpenAIは、AI市場で群を抜いて最大のプレイヤーであり、そのポリシー、手順、「基準」を互いに調整することは、不法なカルテルと分類されるリスクがあります。例えば、両巨頭が価格設定や条件で連携した場合、例えば、グローバル市場で基準から逸脱したモデル（例：Kimi、Deepseek）を使用した誰もが、OpenAIまたはAnthropicのソフトウェアと相互作用できなくなるようにAPI条件を適合させた場合、これは特に当てはまるでしょう。

「法的に困難」な連携のための「政府支援」は、安全の名の下に競争者間のより大きな連携を許可するための独占禁止法の免除を求める丁寧な言い方です。これは、あらゆる種類の業界コンソーシアムが考慮する必要がある問題であり、例外ではありません。各企業のグローバルな規模を考えると、完全な「安全性」イニシアチブをグローバルに展開するために、米国、欧州連合とその加盟国、英国、日本など、多数の例外を取得する必要があるでしょう。

その規模の法改正は非常に困難でしょう。英国のように、「AI安全性」が国家のテクノロジーに対する適切な役割は積極的に規制することであるという既存の政治的思考に組み込まれており、減速のための議会での支持がすでに存在する場合、これは容易かもしれません。中国からのいかなる便宜も期待することは極めて考えにくいです。

コンテンツ規制の観点からは、「共通の安全基準およびチェックされていないAI進歩のペースに対する制限」という言葉は広範に適用されます。これは、Anthropicが、製造業からバイオテクノロジー、ニュース出版、コピーライティングまで、そのソフトウェアを使用する事実上すべての産業が、(a) 非表現行為に関する新規の「安全性」基準、および (b) AIソフトウェア自体の開発速度に対する制限を必要とすると想定していることを示唆しています。

英国やヨーロッパのような外国では、国家政府が権力に対する憲法上の保護策をあまり持っていないため、(a) と (b) の両方が法的に容易に立法化できると予想されます。オンライン安全法やデジタルサービス法のような規則が実施された容易さが指標となるなら、政治的にもそれほど困難はないはずです。

このAnthropicの提案の側面における主な法的問題は米国にあり、特に(b) – ソフトウェア自体の開発速度に対する制限です。ソフトウェア開発、ソフトウェア出版、Webホスティングは、本質的に表現活動です。例えば、Bernstein v. United States の一連の訴訟、および Smith v. California, Cubby v. CompuServe, Stratton Oakmont v. Prodigy の事実関係、そして47 U.S.C. § 230に関する関連立法履歴を参照してください。米国と同盟国とのWeb 2.0における違いは、建国以来のものであり、その後の判例法と成文法の両方において、アメリカはその活動を国家の干渉から保護することを選択しました。

Anthropicとその仲間たちが、この計画のこの側面を、アメリカ国民が(a) AIモデルを開発すること、または(b) 中国からのモデルや公開されているFOSSモデルの重みを使用することを制限することを意図している範囲では、修正第1条の問題が明白であり、政府規制に反対する判例の重みがありますが、AI技術の新規性から直接的な関連性のある判例は私の知る限りありません。

グローバル調整（通称：条約と域外検閲）

Amodei氏の計画の3番目の要素は「グローバル調整」であり、そこでは

米国およびその他の民主主義政府は、可能な範囲で権威主義政府と調整を試みるが、コンプライアンス検証の課題を真剣に受け止める。

権威主義政府だけがここでの問題ではありません。

私たちは、米国を除くほとんどの西側世界が、主に検索とソーシャルメディアという昨日のテクノロジーに焦点を当てた包括的な技術規制法を制定した時代に生きています。

出版および通信技術を規制する最後の大きな世界的取り組みは、(a) ブレグジットと (b) 2016年のアメリカ大統領選挙という二重の衝撃によって引き起こされた道徳的パニックに続いて始まりました。その結果、オーストラリア（オンライン安全法2019）、英国（オンライン安全法2023）、および欧州連合（デジタルサービス法）で包括的なインターネット検閲法が制定され、さらにブラジル（例：ブラジル最高裁判所によるMarco Civil da Internetの2025年改訂）、シンガポール、マレーシア、インドネシアなど、世界中で半ダースほどの模倣法が生まれました。これらはすべて、(a) アメリカのサーバー上で動作し、(b) アメリカでは、それらのサーバー上で、憲法修正第1条の下で保護されている言論と行動を管理しようとしています。

一般的に言って、西側の検閲体制は、それらをそのように説明することを選択しません。それが検閲スキームではないという意味ではありません。

英国を見てみましょう。その法律を「オンライン安全法」と呼び、法律は英国をインターネットの悪から守るために存在すると主張しています。その執行機関である「通信庁」（Ofcomとして一般に知られている）は、法執行機関ではなく、単独でコンテンツを削除したり逮捕したりする権限を持っていません。それは、誰かを何からでも守ることはできませんし、守っていません。

英国の政治家は、検閲を直接実行するほど人気がないため、曖昧で複雑な官僚的手続きを通じてアメリカ人にそれを委託しています。それは基本的に次のようなものです。「ウェブサイトを検閲しろ。さもなければ、我々（Ofcom）は、我々（Ofcom）の単独の裁量で、あなたのプラットフォームが十分に自己検閲しなかったと判断した場合、あなたの（アメリカの）会社に破滅的な罰金または禁固刑を科す。」

この検閲は、表向きはインターネットユーザーを、英国国家が公式に不承認とする考えや表現から「安全に」保つために行われています。ほとんどのユーザーにとって、この体制全体を回避し、望む限りの「安全でない」インターネット体験を得るために必要なのは、アメリカの出口IPを持つ無料のVPNだけです。何百万人もの英国人がそれを行っており、明らかにOfcomが提供する「安全性」を必要としていないと感じているため、英国は地球上でトップクラスのVPN使用国の一つとなっています。

大まかに言えば、英国の体制は、他の多くの体制と同様に、企業に (a) サービスにアクセスする前にユーザーの年齢確認（つまり、個人情報開示）を行うこと、および (b) 法律が禁止するコンテンツにユーザーがアクセスできないようにすることを要求しています。米国と英国の言論規制が合意している分野もいくつかありますが、合意していない分野の方がはるかに多くあります。そして、これらの分野の多くにおいて、法律が削除を要求する言論は、アメリカでは明確に憲法で保護されています。私はこのことについて他の場所で長文を書いています（また、両国のシステムを整合させるために必要な、非常に広範な立法手術を実際に起草しました）。ここでは繰り返しません。

AIのための「グローバル調整」フレームワークは、上記を構築したのと同じ政府によって、同じ規制当局によって運営され、同じNGOによって圧力をかけられることになります。グローバルな調和の試みが同じ点で衝突する可能性は十分にあり、あるいは可能性が高いです。それは、アメリカの企業がヨーロッパの規制に準拠し、同時にアメリカの憲法上の権利の広範な範囲を楽しむことが不可能になるということです。なぜなら、ルールセットは互換性のない形で起草されるからです。

さらに、Amodei氏が権威主義国家に関して言及している検証の問題は、グローバルな野心を持ついかなるスキーム（かつて英国のオンライン安全法がそうであったように）にとっても、実際には致命的な欠陥です。（脱走者戦略の認定享受者として、私は、管轄権の範囲外にいることが証明できる単一の脱走者がいれば、抑止力が弱まり始めることを確認できる非常に良い立場にいます。賭け金が高ければ高いほど、脱走が発生する可能性が高くなります。

多くの米国企業が、アメリカでの法改正（明確な検閲シールド法など）がない限り、恐怖から外国の検閲体制に準拠し続けるでしょうが、そのようなフレームワークが一貫して執行される唯一の当事者は、これらの法律を制定する可能性が最も高い国で、破産しない企業、つまり、現時点では多くのスタートアップは含まれませんが、AnthropicとOpenAIは間違いなく含まれるグローバル企業です。米国では、AI規制は早期かつ教義的に健全な憲法上の異議申し立ての対象となるでしょう。

Amodei氏は次のように書いています。

私たちは、特に短期的なグローバルなペース調整の決定を、米国とその同盟国のリードを守るような方法でアプローチすべきです。

私はこれを特に現実的とは考えていません。アメリカの地政学的な敵のうち、いくつかとはアメリカは（直接的または代理で）戦争状態にあり、脱走するあらゆるインセンティブを持っている国々では、効果的なコンプライアンスレベルはゼロに近づくでしょう。

初期見解：アライナー（AI安全性調整者）を誰が調整するのか？

ヨーロッパの検閲者との戦いから学んだことがあるとすれば、それは規制体制の善意にかかわらず、規制当局は政治的支配の対象となるということです。規制当局は、その政治的支配の対象として、政治的な行動をとるでしょう。

私のファイルからの最も明確な例は、英国に拠点がなく、人員も資産もない、非常に論争の的となっている小さなアメリカのウェブサイト、SaSuというメンタルヘルス掲示板に対するOfcomの追求です。このサイトはアメリカでは完全に合法的に運営されています。SaSuは2025年7月に英国全体を自発的に地理的ブロックしました。Ofcomは当初、その是正措置で問題を解決したと認めました。

10月の私のクライアントの地理的ブロックの承認とファイルの初期閉鎖から数日後、議会議員と活動家NGOによる連携した圧力キャンペーンの後、Ofcomは自身の確定した立場を覆し、事件を再開しました。その後、OfcomとそのNGOパートナーは、VPNを使用して地理的ブロックを回避し、その回避の背後からログイン資格情報を作成し、そのVPNベースのアクセスを、ブロックが不十分であった証拠として引用しました。[（参照：OfcomのVPNによる回避）](https://prestonbyrne.com/2026/05/12/thoughts-on-the-1000000-sasu-fine/)

2026年5月、Ofcomはそのサイトに95万ポンドの罰金を科すと主張し、連携した embargoed の報道発表を通じてその罰金を公表しました。数週間後、さらにエスカレートし、サイトに利用規約の書き換えと、規制当局自身の回避によって作成されたセッションを終了するために、地球上のすべてのユーザーにサイト全体の強制ログアウトを要求しました。私のクライアントは、念のためですが、自発的に英国をブロックしていたのですが、もう十分だと判断し、これらのさらなる要求を拒否しました。

2026年7月21日、ファイルが開設されてから480日後、Ofcomは何も回収せずにファイルを閉じました。

この一連の出来事のどの時点においても、規制当局の行動は、そのファイル内の証拠によって決定されたわけではありませんでした。ファイルによれば、その証拠は、規制当局自身が以前に承認した地理的ブロックを回避してウェブサイトにアクセスすることからしか得られませんでした。また、規制当局は、アメリカの憲法法の法的現実、そしてアメリカの権力の政治的現実によっても支配されていませんでした。それは、規制当局は、むしろ、自国の政治的気分によって支配されていました。SaSuは、オンライン安全法が必要である理由の一つでした。政治的圧力は、そのサイトを標的とする検閲法を生み出しました。検閲法が施行されたときに圧力が事件を開きました。圧力が承認された是正措置を覆しました。圧力が、関係者全員が収集不可能だと理解していた罰金を生み出しました。

顔を潰す出口がないことから生じる圧力は、9ヶ月間、赤信号で、しかしニュートラルで、規制当局の執行機械を稼働させ続けました。ターゲットが弁護士を雇い、アメリカの法的立場を正しく表明した後でもです。執行は、法的に資格のある観察者には規制当局の行動の無益さが明らかになったずっと後に終了しました。

SaSuに対する執行プロセス全体は、施行前のロビー活動からファイルの終了まで、単一の連続した政治的行為でした。これが、現代の西側民主主義国家における、いわゆる「独立した」専門規制当局が、政治的圧力の下で、簡単なケースであったはずの、迅速な和解とファイル終了においてどのように振る舞うかです。

これはまた、「埋め込み評価者」、調整された基準ボディ、またはグローバルなAIコンプライアンス体制が政治的圧力の下でどのように振る舞うかについても期待できることです。なぜなら、それらのボディは人間によって運営され、人間は (a) 誤りやすく、(b) インセンティブに応答するからです。

Amodei氏の提案は、すでに「オンライン安全」規制当局や、過去10年間で構築してきたWeb 2.0に対する検閲スキームの範囲と権限を拡大しようとしている世界中の関連学術エコシステムによって、喜んで取り込まれている可能性が高いです。そして、アメリカのクライアントの少数派が過去1年間必死に戦ってきたものです。彼らの検閲装置を更新して、アメリカのテクノロジーの別の分野を規制しようとするのに10年もかからないでしょうし、彼らが構築した広範な「オンライン安全」擁護機関がすべてを置き換え、米国および世界中の議会でAI安全の物語を推進し始めるのに10年もかからないでしょう。

私たちの社会はこれよりも良いことができます。OpenAIとAnthropicもそうできるでしょう。しかし、これらの企業の「オンライン安全」チームを率いている人々は、TwitterやFacebookのような企業でかつて働いていた「信頼と安全」の群衆の哲学的子孫、あるいは専門的な子孫であると推測されます。そして、後に西側の検閲機関を設立し、現在も運営しています。

英国の有権者がオンライン安全法が施行されているのを実際に見て、英国政府がそれを制定した際に重大な政策的誤りを犯したと認識するまでに、ほぼ10年かかりました。[（参照：英国世論の転換）](https://x.com/BigBrotherWatch/status/2097738859559747913)

もしOpenAIとAnthropicが、事前抑制の正式な承認を企業ポリシーとして採用することを選択するなら、AIのグローバル規制に反対する人々は迅速に行動しなければなりません。政府検閲に対する最近の反撃は、組織化に7年かかりました。AIの政府検閲に対する反撃には、時間の余裕はありません。

Like this: