永続的な周辺地域に注意せよ

ほとんどの国は、最先端のAIを持つことはないでしょう。彼らが懸念すべきなのです。 AIによる混乱への恐怖は、同心円状に広がります。研究所内部の熱狂は、サンフランシスコでの激しい動揺となり、東海岸では感知できるほどの不安へと変わります。そして、その感情が海を渡ると、反対側の岸辺に打ち寄せる頃には、わずかな不快感しか残っていません。 しかし、率直な状況評価は、逆の対応を示唆すべきです。すなわち、株式を豊富に持ち、かつてないほどダイナミックな労働市場に組み込まれている研究所の従業員こそ、最も不安を感じるべきではないのです。アメリカ政府の制度は、より差し迫った混乱に直面していますが、AI開発の周辺地域、すなわち、税金や規制の対象となる国内の最先端AI開発者を持たない世界の他の193カ国こそが、経済的福祉と物理的安全に対する最大の危険に直面しています。 サンフランシスコで開発されたAIが特に安全であるか、あるいは特に整合性が取れているとしても、これらのリスクは解決されません。実際、リスクは逆の方向を向くかもしれません。AIがその開発者とその国にとってより良いものになればなるほど、それ自体で最先端のAIを構築しない国々を混乱させる脅威は増大します。もし、労働市場から政府に至るまで、それらの制度が来るべき移行に備えていなければ、その国民は永続的な無関係さに追いやられる危険を冒すことになります。彼らは、新しい世界の永続的な周辺地域での生活に直面します。 他の193カ国 この雑誌を読んでいるあなたも、おそらく「永続的なアンダークラス」という亡霊に悩まされていることでしょう。サンフランシスコ・ベイエリアは、AIが階層化された経済秩序を不可逆的に固定化するという懸念で賑わっています。 その懸念は、かなり特定の前提に基づいています。すなわち、AIの進歩は止まることなく、むしろ加速する可能性があるということです。アメリカの最先端開発者が、それに伴う経済的利益の大部分を享受します。そして、この進歩の終着点は、AIが経済活動と戦略的な国家運営を支配し、最高のAIを最も効果的に展開できる者たちに権力が集まる、抜本的な変革となるでしょう。 この記事の残りの部分では、これらの前提を受け入れ、もしそれらが真実であれば、自国の最先端AIを持たないすべての国を危険にさらすと主張します。AIの強力な力と比較して、経済的・政治的な影響力はごくわずかしか持たないこれらの国々は、世界の金融・政治市場で競争する能力を永久に失う可能性があります。国家内の既存の経済グループが永続的なアンダークラスに押しやられるのではなく、国全体が周辺地域に押しやられる可能性があります。 AI開発の最も内側の円から見ると、たとえ情報通の研究者やオペレーターでさえ危険にさらされるように見える懸念に気を取られやすいです。しかし幸いなことに、上記の条件の下でも、現実世界はこれらの予測が想定するよりもかなり複雑である可能性があります。投機的なAGI後の経済が、現在の政治秩序の非常に現実的な制約から生まれるにつれて、永続的なアンダークラスの出現をより可能性の低いものにするいくつかのセーフティネットが存在するように思われます。 第一に、アンダークラスになりうる人々は、今日でもかなりの政治的権力を行使しています。米国政府は、AI開発の軌跡、さらには可能性に対して大きな力を持っています。それは、主要な研究機関に課税または収用したり、命令によって自動化を抑制したり、あるいは最も急進的な意見の指針に従って人工知能に対して「バトリアン・ジハード」を宣言し、すべてをシャットダウンしたりすることさえ可能です。この結果を防ぐために、テクノロジー企業と穏健な政策立案者は、政策介入を通じて懸念を和らげるために最善を尽くすでしょう。 第二のセーフティネットは、AIによる労働代替の経済学は、まだ確立された科学からほど遠いということです。一部の経済学者は広範な権限剥奪を予測していますが、労働市場の再編成に向かう証拠も同様に多く存在します。産業革命は、かつて人間が仕事と呼んでいたことの多くを実行できる機械を生み出しましたが、私たちはまだやるべき仕事を使い果たしていません。そして、AIが大規模な労働混乱を引き起こしたとしても、アメリカ人は依然として利益を得ることができるでしょう。これは、永続的なアメリカ人のアンダークラスが出現する可能性が低いことをさらに示しています。 これらの要因のいずれも単独では確実ではなく、両方とも反論の対象となります。よりニュアンスのある結論は次のとおりです。社会的分断やAIによる完全な権限剥奪を最も懸念している多くの人々は、それから最も保護されている人々の中にいるかもしれません。 世界舞台からの放棄 アメリカ人を保護するセーフティネットの多くは、明確に国内の範囲に限定されています。これらの決定に間接的な影響力を行使する有権者はアメリカ人です。AIの収益で税基盤が膨らみ、富の再分配を可能にするのはアメリカです。そして、労働混乱が穏やかになるという議論は、貿易や移民の障壁がほとんどない、十分に接続された国内経済の文脈で最も強力です。たとえキャリアが混乱したとしても、アメリカの労働者はAIシステムを自身の利益のために利用する最良の位置にいるでしょう。なぜなら、彼らの政府は最終的にアメリカの開発者がトークンをどこに割り当てるかを監督するからです。 最近まで、最先端のAIは、支払うことができる顧客にほとんど無制限に流れていました。しかし、米国開発者とそれを規制する政府は、市場を制限する十分なインセンティブを持っています。AIラボと政策立案者は、モデルの蒸留リスク、誤用の脅威、トークンの潜在的な不足という3つの圧力に同時に直面しています。これら3つの懸念すべてに対する答えは、ひいきをすることです。すなわち、信頼できる購入者にのみAPIアクセスを許可し、既知の安全な顧客にのみ最先端アクセスを与え、そしてアメリカの購入者にトークンを優先的に割り当てることです。 この4月、無制限アクセスへの脅威は、理論的なものから大きくかけ離れたものになりました。AnthropicがProject Glasswingを通じてClaude Mythos 5の限定リリースを発表したとき、最初のホワイトリストには米国外の企業や政府は含まれていませんでした。そしてAnthropicが米国政府にアクセスを拡大する意図を伝えたとき、ワシントンはコンピューティング能力の制約とセキュリティに関する懸念を理由に介入しました。Mythosの失態の直後、OpenAIは、最先端のサイバーセキュリティモデルであるDaybreakの限定リリースを通じて同様の対応を取りました。その直後、米国大統領令を巡る争いが勃発し、最終的には米国政府に一般公開の最大30日前まで最先端モデルへの排他的アクセスを提供する大統領令につながりました。そしてその後まもなく、トランプ政権は、Anthropicとのサイバーセキュリティ関連の紛争を解決するために輸出管理当局を使用し、事実上、業界をリードするClaude Fable 5へのグローバルアクセスを遮断しました。 5月下旬、少数の米国企業が公式に、最も高性能なAIモデルの使用において2カ月間の先行期間を得ました。将来のモデルも、少なくとも同じような遅延を伴う可能性があると仮定するのは合理的です。現在、米国の企業や機関は、AIを活用したサイバー攻撃の波に対する回復力を高めるためにその利点を利用していると報告されていますが、初期のメディア報道によると、NSAはすでにMythosを使用してサイバー攻撃を実行し始めている可能性があります。敵対者はまだアクセスできていません。最先端モデルの次のステップが、経済的に価値のあるアクション（効率向上、研究開発におけるローハングフルーツの収穫、企業スパイ、生産最適化など）をますます可能にするにつれて、永続的な2カ月の遅延の影響は急速に累積する可能性があります。 これらの懸念は、最先端のAIが、たとえ数カ月遅れていても他のシステムよりも明確な利点を維持するという前提に基づいています。それがどの程度真実であるかは、まだ見られていません。しかし、フロンティアが非常に重要であるという考えを真剣に検討すべき2つのトレンドがあると思います。 第一は、ファストフォロワービジネスモデルの不安定さです。高度なモデルを大規模にトレーニングおよび実行するために必要なコンピューティング能力の調達はますます高価になっており、ファストフォロワー企業の資本化とその結果としてのチップへのアクセスは、ますます低下しています。