ユートピアがすぐそこにあるなら、引退の必要はない
No Need for Retirement When Utopia Is Around the Corner (blog.jim-nielsen.com)
要約
著者は、ダニエル・エルズバーグの著書『The Doomsday Machine』を読み、冷戦時代の核戦争計画者たちが世界を救うという「高揚感のある重荷」を抱え、終末が近いと信じていた様子に触発されています。これは、AI研究者が「AIが喫煙よりも先に癌を治す」と信じているという報告や、AI企業が退職給付を廃止する可能性を示唆する現代の状況と類似していると指摘しています。著者は、AIが普遍的な高所得をもたらすという信仰の表れとして、企業が退職給付を廃止することも考えられると述べています。
全文翻訳
ユートピアがすぐそこにあるなら、引退の必要はない
以前にも核兵器の歴史と開発への関心について言及しました。
現在、ダニエル・エルズバーグ (『ペンタゴン・ペーパーズ』で著名) の著書『The Doomsday Machine: Confessions of a Nuclear War Planner』を読んでいます。
最初の章で、エルズバーグは、米国が核能力でソ連に遅れをとっていると考えていたミサイル・ギャップ時代に、RANDコーポレーションで働いていた頃について語っています。
彼の多くの記述は、Anthropic のような企業から発せられる言説と驚くほど似ています。例えば、企業で働くことの宗教的なニュアンスに注目してください。
私はRANDを愛していました。結局10年間過ごすことになりました[...] 多くの、想像ですが、修道会のメンバーのように、私は同僚と兄弟愛を共有し、超越的な大義のために他の人々と共に生き、働きました。
彼らはインサイダーでした。他人が持たない知識の責任を負っていました。
特にRANDでの初期のミサイル・ギャップ時代、そしてワシントンでのコンサルタントとして、私たちは使命感を持っていました。私たちは、ペンタゴンの将軍やSAC、議会や一般市民、あるいは大統領よりも、前途にある危険とそれに対して何ができるかについて、より多くを知っているという重荷を負っていました。それは高揚感のある重荷でした。
そして、彼らの「高揚感のある重荷」とは何だったのでしょうか?世界を救うことでした。
[私の同僚たち]は、文字通りの意味で世界を救うために働いているという感覚を共有していました。
特に際立っていたのはこの部分で、エルズバーグは彼と彼の同僚が本当に終末が近いと信じていた様子を描写しています。
空軍の諜報機関の推計と、私の同僚が国家安全保障コミュニティ全体と共有していたソ連に対する暗い見通しに、私は核のホロコーストを世界が長く免れることはできないだろうと信じていました。アラン・エンソウェンと私は、その部署で最も若いメンバーでした。私たちはどちらも、RAND が提供する非常に手厚い退職金制度に加入しませんでした。どちらも、20代後半で、それを受け取れる見込みはないと考えていました。
これは、AI研究者が喫煙を始めたという報告を思い出させます。これは、AIが喫煙よりも先に癌を治すと信じていることのシグナルとして行われているようです。
この時点で、Anthropic のような研究所が、雇用主負担の退職給付をすべて廃止すると発表しても驚きません。それは従業員にとって、普遍的な高所得がすぐそこにあるという信仰を示すためのささやかな犠牲となるでしょう。(企業のコスト削減は、単なるボーナスになるでしょう。)