AI 2040: プランA
要約
「AI 2040: プランA」は、AI企業が人間を超える知能(超知能)の開発競争に突き進む中、人類が破滅や権力の集中を回避するための提言です。このプランでは、超知能の開発を2040年まで遅延させ、全てのAI研究を公開し、世界中の多数の企業が追いつけるようにすることで、相互確証計算破壊(M.A.C.D.)体制に入ることを目指します。
全文翻訳
AI 2040
AI企業は、あらゆる面で人間よりも賢いAIを構築するために競い合っています。AI 2027では、これが絶滅か、権力の不可逆的な集中につながると予測しました。1
Plan Aは、代わりに起こるべきことに対する私たちの肯定的なビジョンです。
このシナリオでは、人類は超知能の開発を2040年まで遅延させ、全てのAI研究を公開し、世界中の数十の企業が最先端に追いつくことを可能にし、意図的に相互破壊的な計算能力の体制に入ります。
2027: 壁に書かれた文字
アメリカには今、2つの労働力があります。1つ目は人間、1億6500万人です。2つ目はAIエージェントです。毎時間数百万ものコピーが生成・シャットダウンされ、超人的な速度で24時間体制で働いています。
その仕事のほとんどは粗悪なものです。しかし、十分な質があるため、人々は、理論上少なくとも、従業員ができるコンピューター上のあらゆることを実行できるAIに毎月100億ドルを支払っています。
AI企業が他のどの仕事よりも自動化したいと考えている仕事が1つあります。それは自社の仕事です。まだ成功していません。これまでのところ再帰的自己改善は達成されていません。14 しかし、彼らは近づいているように見え、そして自分たちの後ろの梯子を引き上げています。最も強力なコーディングAIは、AI R&Dに関して競合他社を助けることを拒否しています。15 最も楽観的な従業員でさえ、物事が計画より少し長引いていることを認めている一方で、懐疑論者は、彼らのいつもの却下が空虚に響き始めていることに気づいています。なぜAIは決して私の仕事をできないのでしょうか?障壁は何でしたか?
議会はより注意を払い始めています。 彼らは長年AIについて聞いてきました。データセンターが水を使いすぎていること16、チャットボットが自殺を助長すること、Mythosハッキング NSAシステム—そしてもちろん、規制の兆候があればアメリカはすぐに中国との競争に負け、歴史の残りをCCP属国として過ごすだろうと警告するテック業界のロビイストたちです。17
今、彼らは一歩下がって問いかけます。私たちはこれをどこに向かわせているのか?5年、10年、15年後の世界はどうなるのか?まだ仕事はあるのか?もしなければどうなるのか?
1つの疑問が彼らの心に特に重くのしかかっています:これらのAIを誰が制御するのか?
議会はその答えの重要な部分を決定します:おそらく私たちではない。18
彼らは一連の緊迫したAIに関する公聴会を開催します。彼らは2016年のOpenAIのメールを読み、OpenAIがDemis Hassabisが独裁者になるのを防ぐために設立されたことを議論しています。しかし、SamやElonが独裁者になるのを誰が防いでいるのでしょうか?議会は既存の回答に満足していません。
この目覚めの結果として、AI透明性法2027が成立します。これは多くのことを行う包括的な法案で、良いことも悪いこともありますが、状況を根本的に変えるものではありません。20
段階的なAI政策ウィッシュリスト
私たちの主な推奨事項は、可能な限り早くPlan Aのようなものを交渉し始めることです。しかし、このシナリオでは、Plan Aは不完全で、ぎりぎりのタイミングで起こると描写します。そこで、まだ役立つ、それほど野心的ではないアイデアのリストを以下に示します。
2028: 選挙公約のAI
2028年の選挙サイクルは、いつものように熱を帯びています。AIが最大のトピックです。現在建設中のデータセンターは、米国全体の軍事予算の2倍の費用がかかっています。23
ほとんどのホワイトカラーの職業は、2026年のソフトウェアエンジニアリングが見たような混乱を経験しています。そのような仕事は現在、AIエージェントの管理を強く伴います。AI企業はトレーニングプロセスを工業化しました。幹部は「今年は[職業]に進出しましょう」と言い、その後、企業は専門家へのインタビュー、データの購入、トレーニング環境の作成などを行い、そのAIが注目を集めるまで続けます。その後、AIはより広く使用され、より多くの実世界のデータを蓄積するにつれて急速に改善されます。
他の国々は恐れと怒りを感じ始めています。少数の米国と中国の企業が、すべてのホワイトカラーの仕事を自動化する軌道に乗っているようです。権力は米国、特に大統領と少数のテックCEOに集中しています。
AI専門家は、知能爆発が近いと警告しています。AI研究を加速させることで、AIはさらに有能になり、研究をさらに速く加速させ、それらをさらに有能にし、そしてその逆も続きます。このプロセスの速度と終着点を支配するボトルネックとハードウェアの制限に関する複雑な力学がありますが、それは非常に速く進み、非常に遠い場所で終わる可能性があります。
デフォルトのパスでは、次の大統領任期中に、人間がループから数世代にわたって完全に外れた状態で、AIによって完全に作成された、人間レベルをはるかに超えたAIが登場するでしょう。それらのAIは従順で、整合性が取れているでしょうか?なぜ?もしそうなら、誰がそれらを制御するのでしょうか?これらすべてがどのようにうまく終わるはずなのでしょうか?
人類をこの道に乗せたAI企業は、それを許容できると考えています。しかし、ほとんどの人はそうではありません。彼の遺産を考えるのはやめましょう—大統領は、彼が退任し、世界が変容した後自分に何が起こるかを考え始めています。24 両大統領候補は、AIについてどうするのかと常に問われ、選挙運動中にますます劇的なアイデアを試しています。議論は、以下に示されたすべての選択肢や、それ以上のものを横断して行ったり来たりします。
最終的に、大統領とその後継者は1つの計画に収束します。対立候補は別の計画に収束します。そして選挙の日が来ます。