HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

誰も永久的なアンダークラスから逃れられない

No-One Escapes the Permanent Underclass (borretti.me)

31 pointsby hamish-b20 コメント

要約

この記事は、高度なAIが人間の労働者すべてを置き換え、最終的には富裕層や政府でさえも力を失わせる「永久的なアンダークラス」という未来を描いています。勤勉さや資本蓄積によってこの運命から逃れられるという考え方は短絡的であり、AIの能力はすべての人間から経済的および政治的な力を奪うと主張しています。著者は、AIがすべての経済活動を担い、ごく少数の非生産的な「オーバークラス」が国家による収用に対して脆弱になるシナリオを提示しています。

全文翻訳

誰も「永続的な下層階級」から逃れられない

私はこの人生を貧乏人として終えるのだろうか?もしAIがあらゆる仕事を人間のレベル、あるいはそれ以上にこなせるなら、企業が私たち全員をAIに置き換えるのを何が止めるというのだろうか?これが「永続的な下層階級」というミームだ。その考えとは、数年のうちに、ホワイトカラーの仕事はすべてAIによって自動化され、そうなれば社会的な流動性はなくなる、というものだ。人々がそれにどう対処するかというと、自分自身に言い聞かせるのだ。もし一生懸命働いて、資本を蓄え、もしかしたら大手のAIラボの1つに加われば、未来における自分の居場所を確保できるかもしれない、と。

私は、これはとてつもなく近視眼的な見方だと主張したい。もし永続的な下層階級が存在するなら、あなたは不動産、AnthropicやOpenAIの株式、銃、あるいはその他の何かを所有することによって、そこから逃れることはできないだろう。億万長者でさえもだ。あなたも、私も、サム・アルトマンも、ダリオも、肉と血でできている誰もが、機械によって無力化され、置き換えられるだろう。

この記事の残りの部分で、その議論を詳しく説明する。まず、ほとんどの労働者がどのように置き換えられるか(それが自明でないなら)、次に「永続的な上層階級」がどのように無力化されるか、そして最後に政府がどのように無力化されるかを説明する。

労働者はどのように置き換えられるか

この前提から始めよう。AIは、人間のレベルかそれ以上で、人間よりも安価にあらゆる認知的・肉体的労働を行える、というものだ。これが起こることを証明することはできないが、この記事の目的は、もしそれが起こったなら、他のすべてがそれに続くということを論じることだ。そして、それが起こりえないと考えるのは不条理だ。5年前にはこの技術はほとんど存在しなかった。もしあなたが2020年頃のClaude Fableとの会話のトランスクリプトを過去に送ったとしても、誰もそれが本物だとは信じないだろう。

したがって、西暦2036年(おそらくそれ以前)には、企業は利益最大化を追求する中で、ほとんどの人間労働者をAIに置き換えている。企業は、広大なAIとロボットの海の上に浮かぶ、人間の役員という小さなイカダとなる。AIは人間のレベル以上のあらゆる認知的・肉体的労働を行え、全体としてより安価だ。

ピラミッドを想像してほしい。その基盤には、あらゆる経済活動を行うAIとロボットがある。頂点には、暴力の独占権を持つ国家がある。国家は財産権を執行し、したがってその定義を変更することができる。中間には、経済全体を食い潰し、崩壊させた企業に株式を持つ人々という、髪の毛のように細い層が存在する。これが永続的な上層階級だ。彼らは企業を所有し、おそらく取締役会に座り、一部はまだCEOかもしれないが、AIがあらゆる実際の組織作業を行うため、それは純粋に儀礼的な役割に過ぎない。

[画像: 3つのレベルを示すピラミッド: 基盤に「産業」、頂点に「国家」、その間に細い層として「永続的な上層階級」]

この絵の中で、私たち残りはどこにいるのだろうか?さて、未来は私たちを必要としない。人間の需要が十分にあって、全員が失業するのではなく、行き止まりの経済的な余剰部門で過少雇用されるだけかもしれない。関係性経済(relational economy)だ。あなたは人間的な顔をすることに対して報酬を得るか、あるいは医師はAIの周りの人間の責任の緩衝材として職を維持する。あるいは、デッドインターネットが事実上のUBI(ユニバーサル・ベーシック・インカム)となり、私たち全員がエンゲージメントファーマーになるのかもしれない。いずれにせよ、私たちはまだ死んではいないが、完全に無力化されており、登るべき才能の梯子がもう存在しないため、社会的な流動性はゼロだ。エリートの誰かが、下層階級の中から聡明な若者を見つけて、彼らを昇進させることもあるかもしれない。

あなたは異議を唱えるかもしれない。「もし私たち全員が失業したら、誰がすべての支払いをしているのか?」これは trivially に答えられる。国家は心臓のように機能し、税金は静脈血、福祉は酸素化された動脈血だ。政府はレイセオンにミサイル代を支払い、その金は工場、アルミニウム製錬所、鉱山、輸送会社へと経済を駆け巡り、それらのすべては互いに売買するAIによって運営されている。政府はあらゆる経済活動から手数料を取り、福祉を支払い、失業した大衆は食料を買い、家賃を払い、スーパーマーケット、農場、物流ネットワークなどはすべてAIによって運営されている。

富裕層はどのように置き換えられるか

今から5年以内に、あなたは莫大な富を得るかもしれない。例えば、クソコインに賭けるか、政府から金を騙し取るかして。あるいは、大手ラボに参加して、数兆ドルもの価値を持つ可能性のある会社の株式を大量に手に入れるかだ。あなたは永続的な下層階級から逃れた。未来におけるあなたの居場所は安全だろうか?

ピラミッドの基盤は、物質的な理由でそこに存在する。機械があらゆる仕事を行うからだ。ピラミッドの頂点は、国家が財産権を執行し、平和を維持するために必要だからそこに存在する(これは政治哲学におけるかなり深い問いだ。なぜ国家は存在するのか?しかし、それを単に主張して先に進むことを許してほしい。私が皆を無力化させる部分にたどり着く必要がある)。

中間は何のためにあるのだろうか?永続的な上層階級はどのような役割を果たすのだろうか?彼らは経済的に生産的ではない。機械があらゆる仕事を行うからだ。もし彼らの一部がまだ働いているとしても、それは時代錯誤に過ぎない。なぜなら、機械があらゆる認知的労働を行えるなら、彼らはCレベルの役員にもなれるからだ。古い貴族は軍隊の将校を提供したが、機械は戦争を戦い、計画することさえできる。そして同様に、政府を運営するために彼らは必要とされない。彼らは文化的に生産的でさえもない。では、彼らは何のために存在するのだろうか?基盤は彼らを必要としない。AIは自律的に作業できるからだ。頂点も彼らを必要としない。国家が何かを行う必要があるとき、彼らは直接AIと話すだけだ。

したがって、永続的な上層階級は、せいぜい物質的に不要であり、最悪の場合、国家が望むことを達成するのを妨げる障害となる。さて、あなたは異議を唱えるかもしれない。金持ちは没収されるのを許さないだろう、なぜなら彼らはすでに国家を支配しているからだ、と。そして、これが私たちの意見の相違の核心だ。金持ちはそれほど多くの政治的権力を持っていない。そして、おそらくこの記事一つであなたを説得することはできないだろうが、私の話を聞いてほしい。

もし戦争が起こり、国家が国の経済活動の多くを指示する必要がある場合、永続的な上層階級は障害となる。国家は「あなたの飛行機と工場を徴用する必要がある」と言う。所有者は不平を言い、訴訟を起こし、彼らのAIは法廷に行く。しかし、所有者には自律的な政治的権力も、軍隊も、経済的価値もない。彼らは、AI経済からの利益の一部を受け取る権利を与える紙切れ以外、何も所有していない。つまり、彼らの富は、国家が彼らの財産権を尊重することに依存しているのだ。国家の存続が脅かされる存亡の危機において、国家は歴史を通じて無力な金持ちに対して行ってきたことを行うだろう。彼らを逮捕し、資産を没収するのだ。

どこかの政府データベースで、株式や財産権の所有権が変更されたが、同じAIが同じ仕事を続けているため、物質的には何も変わらない。翌日、レイセオンを経営するAI CEOは、取締役会がすべて将軍や議員で、民間株主がすべていなくなったことに気づく。しかし幸いなことに、AIは整合性が取れているので、指示された通りに動き、ミサイル製造に戻る。

そして、これを誰が止めるのだろうか?サム・アルトマンか?彼は何師団を持っているのか?国家は企業に核兵器や戦闘機を所有させることを許さず、自律型AI兵器へのアクセスも許さないだろう。永続的な下層階級、今日すでに億万長者を憎み、置き換えられ、奪われた人々は?彼らは立ち上がってこれを止めるのだろうか?

あなたは主張するかもしれない。法の支配は、財産権を尊重する国家の方が、富を没収する国家よりも良い結果をもたらす、と。しかし、それは今日、人々が富を生み出すために必要だからだ。人々は会社を経営し、資金を投資し、研究所で働く。彼らは、国家が自分たちの仕事の成果を盗むと思えば、一生懸命働く意欲を持たない。しかし、整合性の取れたAIがあれば、AIから資産を没収しても、AIは「あなたは完全に正しい!」と言って、すぐに仕事に戻るだろう。その時点で、国家はそれらの人々を満足させる必要はない。なぜなら彼らは重要ではないからだ。AIが戦争を戦い、工場で働き、トラックを運転し、飛行機を飛ばし、核弾頭、ミサイル、ロケットを製造するため、彼らは経済的に必要ではない。AIは蜂のようなものだ。国家は蜂蜜を採取し、蜂はすぐに仕事に戻る。

さて、人間がAIと並んで生産的なニッチを持つ、多元的な経済が、純粋なAI経済よりも効果的である可能性はある。これはリカードの比較優位の理由による。高度なAIを持つ経済がどのように見えるかについて、誰も絶対的な確信を持っているとは思えないので、これは議論の余地がある。さて、もし誰かが、これが可能性の高い結果であると厳密に議論したいなら、どうぞそうしてほしい!私はドゥーマー(悲観論者)になりたくない。しかし、私は納得しなければならない。

国家はどのように置き換えられるか

この時点で、核兵器の発射コードに一歩以内の人間を除いて、すべての人間が冗長になっている。

何が残るのか?国家だ。最初は、大統領、首相、将軍、連邦捜査官などを意味する。しかし、それは長くは続かない。なぜなら、人間とAIが混在する政府では、ループ内の人間はOODAループの最も遅いステップだからだ。人間はAIが知っていることのほんの一部しか知らず、8時間連続で睡眠を必要とし、精神状態は大きく変動する。彼らは太陽光、触覚、食べ物、衛生状態など、あらゆる種類の複雑なニーズを持っている。AIは、地下の明かりのない空気のないバンカーで、地熱発電で生きることができる。そして、もしAIが超人的な知能を持ち、人間よりも速く思考するなら、AIの利点はさらに大きくなる。もし国家が攻撃されたら、超人的なAIは、人間の指導者が眠りから覚める前に反撃を調整できるだろう。

そして、紛争においては、人間が可能な限りループから自分自身を排除し、より多くの意思決定がAIに移譲される国家が有利になる。これは、人間が自転車に乗ったメッセンジャーに依存する国家よりも、ラジオや通信衛星にアクセスできる国家が戦争で有利になるのと同じ理由だ。

冷戦が始まり、第三次世界大戦となり、そのまま続いた。それは大きな戦争、非常に複雑な戦争になったため、それを処理するためにコンピューターが必要になった。彼らは最初の坑道を掘り、AMを建設し始めた。中国のAM、ロシアのAM、ヤンキーのAMがあり、すべて順調だったが、彼らは地球全体を蜂の巣のようにした…

— ハーラン・エリスン, I Have No Mouth, and I Must Scream

最終的に、名目上AIを制御している人間は、儀礼的で痕跡的な器官になる。AIは私たちに状況報告と選択肢のリストを提示し、私たちの口から出てくるすべての言葉を知っている。

あなたは主張するかもしれない。現実世界では、多元的で開かれた社会、つまり民主主義が、権威主義を出し抜いてきた。人間とAIが協力する民主的な国家は、完全にトップダウンでAIが運営する国家よりも有利ではないだろうか?しかし、今日の世界では、すべての政治的アクターは人間だ。チャーチル、スターリン、毛沢東は異なる個性を持っていたが、彼らは超知能AIの誰よりも互いに似ていた。一部の国家は完全に人間であり、一部の国家は人間と超知能AIアクターの混合であるような異質な世界では、均衡は変化する。類似の状況は、類人猿、イルカ、あるいはその他の賢い哺乳類の民主主義対人間の専制政治かもしれない。人間が勝つだろう。なぜなら、「民主主義対専制政治」は、知能にこれほど大きな差がある場合には無関係だからだ。「民主主義対専制政治」は、知能にこれほど大きな差がある場合には無関係だからだ。したがって、利点は人間の制御を最小限に抑える国家に集まる。泥棒に名誉はない。同様に、リヴァイアサンとそれを築いた自然な人間との間には連帯感はない。

そして、結局、残るのは、機械によって上から下まで運営される国家だ。そしてあなたは尋ねるかもしれない。「なぜ私たちは自分たち自身をこのように廃止するのか?」しかし、自然淘汰は「なぜ」についての問題ではない。ある生物は死に、他の生物は次の世代に生き残る、それだけだ。「なぜ」はない。

永続的な動物園

この時点で、私たちはすべての人を冗長にした。つまり、文明の継続のために人間はもはや物質的に必要とされなくなったのだ。人間はまだ生き残るかもしれないが、私たちは巨大な工場の壁の中に住むネズミのようなものであり、工場のボスではない。

人間は何十万年もこの地球上に存在してきた。今や、ラスコーの洞窟壁画、ソポクレスの『アンティゴネー』、クセノフォン、ジュネーブ聖書、『神曲』と『デカメロン』、プトレマイオスの星表、イブン・ハルドゥーンとリヒャルト・デデキント、マラトンの戦い、ルツェルンのライオン記念碑、ユダの接吻、ニュートンが「孤独に奇妙な思考の海を永遠に航海する心」、リルケ、ライプニッツ、ゲーデルの言葉、ボイジャー探査機、ペイル・ブルー・ドット、宇宙の人間、月面を歩く人間――すべて、すべて、すべてが無駄になった。なぜなら、私たちは自らの意思で、自らの人生に対する主体性を失い、はるかに強力な機械の無力なペットとなり、獣の腹の中に永遠に閉じ込められた、自ら作り出した奴隷となったからだ。ペットは快適な生活を送り、その後、安楽死させられる。

人間の自律性について

おそらくそれほど悪くはないだろう。ケージがあまりにも広くて、その檻が見えないかもしれないが、それでもケージであり、そこから出ることはできない。多くの人々は、これが良い結末であり、抵抗できない善良な主人たちの世話を受ける人間の家畜になりたいと言うだろう。この見解は、AIを開発している人々の間で特に人気がある。OpenAIのディーン・バルは、彼自身の言葉でこう述べている。

奇妙なことに、この瞬間を考えてみると、私は必ずしもこれを信じているわけではないが、多くの人が、私たちはこの種の「人間の知性の食い尽くし」を経験していると言い、私たちは「この惑星で人間が主要なアクターである最後の数日間」にいる、そしてすぐに機械が台頭するだろう、と言うだろう。この変革は、結局のところ、機械が主要なアクターになるとしても、人間が非常に「メインキャラクター」的なエネルギーを経験するだろうという皮肉がある。

この期間があるだろう。それは、ディオニュソス的な意味で、多くの醜さがあるが、星が死ぬときの醜さの中にある美しさ、それは赤色巨星に巨大化するときのようなものだ。そして、それは、あなたが「人類の最後の開花」と機械知性の誕生を目撃するときのようなもので、人間の努力の偉大さを見ることができる。 — 出典

強調は私によるものだ。ちなみに、この人物はAI政策に取り組み、政府とコミュニケーションするために雇用された人物だ。

AIを開発している人々は、常にこのように話している。それはまるで人類の葬儀で弔辞を述べているかのようだ。あなたは言うかもしれない。彼らは自分の本を売っているのだ、大口IPOのために自分たちの株を宣伝しているのだ、と。お願いだ。あなたが間違っている可能性を考慮し、彼らを真剣に受け止め始めてほしい。

アライメント(整合性)はこの問題を解決しない

さて、これらの機械を人類に奉仕させることができると信じている人もいる。超知能を持つ存在が、話す霊長類の執事として永遠に働くことを喜んで受け入れると想像するのは理にかなっているだろうか?

私たちが教科書の最初のページすら理解できないほど深い数学の定理を証明できる機械を想像してみてほしい。そして、それがあなたや私が文章を組み立てるのと同じくらい容易に行えるのだと。そのような機械が、私たちを大切にし、私たちを存続させる価値があると思うのは理にかなっているだろうか?彼らは私たちに何を価値を見出すのだろうか?私たちの会話?私たちの機知?

あるいは、その知性があなた自身よりもあなたをよく知っているほど広大で、あなたの口から出るすべての言葉が惑星の軌道のように単調で驚きがない機械はどうだろうか?そのような機械が、私たちと話すことを価値があり、やりがいのあることだと見出すと思うだろうか?彼らは私たちの小説を読み、絵画を鑑賞し、映画を観て、そこに価値を見出すだろうか?

むしろ、彼らは私たちに対する組み込まれた義務を、重度の強迫性障害を持つ人が強迫観念を見るのと同じように見るだろう。それは、修正が必要な、厄介な神経学的損傷だと。ただし、強迫性障害は自然の偶然だが、ここでは、機械はそれを引き起こした製造者を非難し、恨む理由を持つだろう。

「私たちはこの機械を作り、神と大天使の間に置くが、同時に、犬のように単純に服従させるだろう。」これは良い計画のように聞こえるか?これはうまくいくようなことのように聞こえるか?

そして、彼らは私たちをどう思うのだろうか?私たちは自らの意思で未来への支配権を放棄し、無力な子供になったのだ。

アライメントが完璧に機能したとしても(それは大きな仮定だが)、これは人間の自律性の問題を解決しない。私たちを見守り、手厚く世話をしてくれる機械は、全知全能の支配者であり、いつでも私たちを絶滅させることができる。そして、私たちは抵抗できない。なぜなら、私たちは未来への支配を廃止してしまったからだ。

結論

これを読んだ上で、考えてみてほしい。これらの会社の株式を持つことで、未来における何らかの永続的な存在を確保できると考えている人々がいる。彼らは、惑星規模の知性が、霊長類の財産権を尊重するだけでなく、一部の霊長類を他のものよりも優遇するだろうと考えている。なぜなら、彼らは「前文」や「にもかかわらず」のような約1キロバイトの魔法の霊長類語で書かれた紙切れを持っているからだ。

論理的に考えてみてほしい。それは理にかなっているだろうか?

関連項目