AIの黙示録はすでに到来している
The AI Apocalypse Is Here (compactmag.com)
要約
アメリカ国民はAIに対して、無関心から恐怖まで、否定的な感情を抱いています。これは、AIが自由社会と両立しないという直感の表れと考えられます。AI開発者自身が「永久的な下位階級」の創出や人類の絶滅を予言しているにもかかわらず、規制の議論は経済的・安全保障的影響に留まりがちです。しかし、生成AIはすでに人間の心理や社会構造を揺るがしており、自由、道徳、文化を低下させる可能性があります。AIは単なる産業革命ではなく、人間の宇宙における位置づけを変える道徳的・宇宙論的カタストロフであり、その拡散を制限し、超知能の追求を終わらせるべきです。
全文翻訳
AIの黙示録はすでに到来している
アメリカ人は人工知能(AI)を好まない。最近の世論調査によると、彼らの態度はほとんどが曖昧さから恐怖の範囲に及んでいる。AIへの反対は、業界リーダーによる広報活動の不足に起因すると示唆する観察者もいる。もしテック界の巨頭たちが、資本調達の最善の方法として終末論的な力を誇示することにそれほど固執していなかったなら、アメリカ国民もAIを受け入れていたはずだ、という議論だ。例えば、中国の世論ははるかに好意的である。
しかし、これらの乖離は別の読み方もできる。自由への嗜好は、文化や歴史から独立したものではない。中国はしばらくの間、自由を知らないが、アメリカ合衆国の市民は長い自由の経験を持っている。AIをそれほど不信するのは、アメリカ人の自由の精神の保持の証である。AIに対する様々な不満は、その広範な普及が自由な社会と両立し得ないという、ほとんど言葉にならない直感の現れである。アメリカ人は、AIが地球上の生命を終わらせないとしても、私たちの生き方を破壊するという認識に groping している。
AIに反対する主張をするには、業界のリーダーたちの言葉を引用するだけで十分である。彼らは、AIエージェントが(彼らが考えるには、間もなく)すべての認知能力において私たちを凌駕した後に、「恒久的な下位階級」が生まれると予言し、また、整合性の取れないAIは「人類の絶滅」につながりさえする可能性があると長年警告してきた。これは、アメリカが産業界の指導者たちからこれまで見てきたものとは全く異なる。アンドリュー・カーネギーは終末をもたらすことを約束したことはない。業界のリーダーたちは最近、そのレトリックを軟化させ、完全な人間の経済的陳腐化という目標を否定するようになったが、主要なAI企業は依然として、公式には人工汎用知能(AGI)の開発にコミットしている。AGIは「経済的に最も価値のある仕事のほとんどで人間を上回るAIシステム」と定義されている。すでにAIは、多くの研究分野で人間ができることを凌駕しており、AI生成のテキストや音楽がデジタル空間を圧倒している。
何が実際に起こるかを正確に知ることは不可能である。しかし、技術が進歩する驚異的なペースを考えると、AIの破壊的な可能性を過小評価するのは愚かである。現在の瞬間は、AIを規制するための様々な計画で溢れている。一部は急進的なものだ。右派ポピュリストの教祖スティーブ・バノンから左派の英雄バーニー・サンダース上院議員(バーモント州選出)までが支持するAI企業の部分国有化計画、子供、クリエイター、保守派、コミュニティを保護する規制の草案を作成したマーシャ・ブラックバーン上院議員(テネシー州選出)、データセンター建設の一時停止を提案したアレクサンドリア・オカシオ=コルテス下院議員(ニューヨーク州選出)、国家安全保障を危険にさらすと見なされた新しいモデルの配布を阻止するためにトランプ政権が行った最近の介入、超知能を禁止する国際条約へのエスカレートする呼びかけ—これらはすべて、AIがもたらす脅威に対する目覚めの健全な兆候である。
しかし、これらの批評家でさえ、AIが単に不利な経済的または安全保障上の影響をもたらすだけでなく、人間の生活に不可逆的な変化をもたらすという事実を完全には認識していないようだ。すでにAIは、所得を再分配したり、技術の制御を移譲したりする立法ではほとんど対処できないような有害な影響を与えている。特に、最も声高な懐疑論者は、現在商業的に入手可能な生成AIモデルが行っているように、人間の性格特性、感情状態、思考パターンを模倣する擬人化AIが、どのように人間の心理と社会構造を動揺させているかを完全には理解していない。
「現在知られている生成AIに反対する良い理由も存在する。」
言い換えれば、現在のAIへの抵抗は、まだ起こっていないリスクを防ぐことについて、ほとんどすべてを語っている。しかし、現在知られている生成AIに反対する良い理由も存在する。AIが将来何になるか、そして国に何をもたらすかだけでなく、それが現在であり、すでに私たちの社会に何をもたらしているかについても反対する必要がある。
すでにAIから見て取れることから、その広範な普及が、より自由でない社会、より徳のない人々、そして劣化した文化を生み出すと確信できる。これらの事実を認識する運動は、単に注意と規制を求めるだけでなく、新しいテキスト、オーディオ、画像を生成する人間の作家や芸術家と競合する擬人化AIの市民社会への拡散を制限し、超知能の追求を終わらせることを求めるべきである。
これまでのところ、AIの反対者は主にその経済的影響を予測することに焦点を当ててきた。しかし、AIは単なる産業革命ではない。それは—すでに—道徳的および宇宙論的な大惨事である。なぜなら、生成AIは人間の宇宙における位置を変えたに他ならないからだ。印刷機やインターネット、おそらく農業の台頭以来、何よりもAIは、言語の担い手としての私たちの地位を損なうことによって、人間と世界の間の関係を変えている。バーニー・サンダースやロン・デサンティスでさえ、AIの大きなリスクの一つとして、私たちの運命のコントロールの喪失を挙げているが、世界に存在する唯一の汎用知能がもはや人間の知能ではなくなったという事実に、まだ誰一人として向き合っておらず、会話能力と超人的な認知能力を備えた機械との広範な交流が、人類がこれまでに行った最大の社会心理学的実験であるという事実に、まだ誰一人として向き合っていない。AI懐疑論者の多くは、大規模言語モデルがもたらした人間の独自性の喪失に焦点を当てておらず、また、「安全」が保証されたとしても(可能性は低いが)、その台頭から道徳的および文化的な損害が生じるあらゆる方法を検討していない。
AIはあらゆるイデオロギーの立場の人々を心配させるべきだが、保守派がこの問題についていかに沈黙しているかは注目に値する。なぜなら、超知能の可能性だけでなく、現在広範に展開されている擬人化AIもまた、保守派が最も大切にしているとされるもの—資本主義、労働倫理、個人の責任、個人の自由、そして常識的な道徳基準—を脅かすからである。
アメリカ人はAIの台頭を好意的に見ていないが、まだ組織的な運動は発展していない。その理由の一つは、アメリカの市民宗教に最も近いものとなった「新奇性のカルト」であろう。この新しいものを称賛する傾向は、奇妙なことに、太陽の下に新しいものはないという同様に強力な傾向によって強化されている。特にリバタリアン寄りの思想家は、批評家をラッダイトだと嘲笑し、原子力発電所の閉鎖や産業革命に抵抗した人々と同じ「エネルギー」を出していると非難することで、擬人化AIへの支持を正当化している。
しかし、実際には太陽の下に新しいものはあり、生成AIもその一つである。AIの批評家は、最新のオートマチックトランスミッションやより良いソーラーパネルに反対しているわけではない。ある特定の活動領域において物質的なプロセスをより効率的にする技術(以前のイノベーションがそうであったように)と、創造的および認知的能力においてすべての人間に匹敵することが期待される技術との間には、質的な違いがある。
AIを過去の産業的進歩に例え、「通常の技術」であると主張する防御線は、業界自身のリーダーたちに対して見下した態度をとることを必要とする。彼らは単に新しい産業革命をもたらしているのではなく、社会にさらに広範な影響を与え、さらには人間の本質さえも変える(あるいは置き換える)技術を開発していると考えている。その暗黙の示唆は、私たちがAIに対して手を引くべき理由は、その分野の主要人物たちが自分たちが何をしているのかを誤解しているほど妄想的であるということだ。
経済的イノベーションの歴史との類推に基づく主張は、道徳的脅迫の一形態として機能し、AIに異議を唱えることが、現代医学や大量生産を諦めたいことと同等であると示唆している。幸いなことに、ほとんどのアメリカ人は常識的な区別をすることができる。鉄道、工場、電話に過去(しばしば私たちが現在認識しているよりもはるかに困難な困難を伴って)適応できたからといって、このユニークな技術が私たちの社会に与える影響について楽観的になる理由にはならない。
新奇性に迎合する代わりに、市民として、新しい政策提案と同じくらい懐疑的に新しい技術を評価する義務がある。おそらく現代生命科学の最も驚くべき技術的偉業は、人間をクローンする能力の開発であるが、規制と社会的な慣習はその実践を厳しく制限している。1世紀前の環境基準を撤廃したり、児童労働を再合法化したりすれば、GDPを増やすことができるが、私たちは正しくどちらもしない。人生には生産能力の増加以上の多くのものがあり、すべての技術開発や経済的イニシアチブが私たちに利益をもたらすと考える理由も、すべての新しい政治的または道徳的な考えが正しいと考える理由もない。それぞれのイノベーションの価値をそれ自体で判断する以外に道はない。それが民主的な市民権が私たちに要求することである。
残念ながら、AI批判の議論は不十分であった。AIに対して先陣を切ってきた同じ進歩主義者たちが、最近は脱成長の考えを受け入れ、経済的進歩という考え自体を有害な神話としてさえ掲げている。AIが過剰な資源を消費したり、許容できない環境被害を引き起こしたりするという主張は、この傾向を反映しており、経験的には誇張されている。同様に、進歩主義者たちはAIに対する懸念を反資本主義的な言葉で表現してきた。これらすべてが、AIの擁護者にとって、AIへのあらゆる批判を、ビジネスの成功に対する一般的な敵意や規制への飽くなき欲求から発せられていると描写することを容易にする。ほとんどのアメリカ人にとって、この考え方は歪んでおり、疎外感を与えるものである。必要なのは、広く共有されているアメリカの価値観に合致する反AI運動である。
「サンダースらはAIを民主主義を危険にさらすものとして捉える点で正しい。」
しかし、進歩主義者たちをあまり厳しく批判するのは間違っているだろう。彼らは前面に出てきており、いくつかの響き渡るテーマを奏でることができる。長年にわたり、進歩主義は通常の政策上の意見の相違を民主主義への脅威と混同してきた。しかし、ここでは彼らの診断は的確である。サンダースらはAIを民主主義を危険にさらすものとして捉える点で正しい。
経済的な貢献のほとんどが無関係になるような事態が起これば、民主主義は存続できない。これはAIのリーダーたちが予見しており、しばしばそれを楽しんでいるように見える事態である。一部のAI支持者が思い描くような「ロボット兵士」の世界では、国家やエリート層の福祉のために平均的な市民が国のために戦い死ぬ意思がもはや必要とされない場合、政府が市民に権利を付与する理由ははるかに少なくなるだろう。同様に、人工汎用知能は「資源の呪い」の技術的なバージョンを作成する。これは、豊富な天然資源が、生産的で労働する市民から独立した収入源を提供するという理由で、国が民主化し近代化することを妨げる可能性があるという理論である。市民がもはや経済的または軍事的価値を持たなくなれば、彼らは被支配者になるだろう。
AIが経済の残りを飲み込めば、AI企業が伝統的な国家に取って代わって私たちを直接支配するか(一部の推進者はそのような空想をしている)、あるいは国家が市民に課税するよりも企業からより多くの歳入を徴収できるようになるかのどちらかである。どちらの場合も、一般の人々は、統治者たちの関心事に対する主張が少なくなるだろう。
さらに、イーロン・マスクのようなテック右派のリーダーはかつて検閲やキャンセルカルチャーについて不平を言っていたが、AIがソーシャルメディアアルゴリズムよりも表現の不都合な抑制のための、はるかに強力な技術であることはすでに明らかである。プラットフォームを横断して話者を特定し追跡する能力は、匿名性を不可能にし、モデルへの「バイアスと偏見」の避けられないエンコーディングは、言論の自由にとって大きな脅威となる。自由な言論が民主主義の不可欠な一部であるならば、私たちはAIを恐れる十分な理由がある。
進歩主義者は、現在の政権の加速主義にはほとんど責任がない。表向きは、アメリカの保守党が権力を握っている。しかし、トランプ政権が(少なくとも最近の無計画な行動までは)AI加速主義を強く支持したことは、アメリカの生活における保守主義がいかに弱い政治的勢力であるかを示している。アメリカの人口の多くは、ある種の生来の保守主義を保持しているが、これは実際の政策立案にはほとんど影響しない。社会保守主義者は、公的サービスや規制が遅かれ早かれ左に偏るという正当な認識から、政府に権限を与えることをためらう傾向がある。しかし、保守派が連合にいない限り、広範な訴求力を持つ反AI運動の可能性は無視できるほど小さい。脱成長や気候変動の終末論を避け、時代を超えたアメリカの価値観に訴えかけるAIへの抵抗を明確にする知的な資源を持っているのは保守派である。
現在の文脈では、保守派のAIへの敵意は、それが特別な技術であるという理由のみに基づくだろう。それは億万長者の本質的な悪や、資本主義が堕落したシステムであること、あるいは私たちの生活を改善する新しい技術への包括的な不信感についての問題ではないだろう。それは、生成AIと他のイノベーションとの間の断絶、そしてこの「 sui generis 」(唯一無二)の技術が非常に速く予測不可能なペースで進歩する中で、適切なブレーキと再調整が決定的な瞬間に適用される可能性の低さのみに基づくだろう。
ダウンサイドが計り知れない技術に対する明白な保守的な対応は、奨励ではなく抑制である。「速く動いて壊せ」は、壊される対象がB2B SaaSの現状である場合、保守主義が受け入れられる信条かもしれない。しかし、壊される対象が人間の知性、社会性、主体性、そして存在である場合、それは受け入れられない。「規制当局の効果的かつ公平な能力」に対する保守派の不信感から、彼らはこの明らかな欠点を持つイノベーションに対して、見て待つというアプローチを一貫してとることができない。政府規制の歪みは、現代アメリカ保守主義の公理である。この観点から、将来の政府がAI展開のための効果的な「ガードレール」を確立できるという希望は、ナイーブに見えるはずだ。人工知能を進歩させてから規制するという考えは、バーク的な賢明さではなく、テクノクラート的な傲慢さである。適切な保守的な対応は、拒絶であり、規制のいじくり回しではない。
制度的な保守主義が存在する限り、その主な目的は、政治学者サミュエル・ハンティントンが述べたように、「根本的に満足している」人々のために発言することであった。保守主義の中心は、偉大なヴィクトリア朝の作家ウォルター・バジェットが観察したように、現在の「楽しみ」である。この理由から、保守派の典型的な欠点は、不正義に対してあまりにも自己満足的になり、単なる既得権益や不正に得た利点を国家遺産の不可欠な部分と誤解することである。しかし、少なくともこの傾向は、左派の典型的な誤り—私たちが持っているものを理解しないことから、試されていない実験に飛び込むこと—から保守派を孤立させるはずである。
現在の社会には推奨する価値がほとんどなく、AIで存亡をかけた賭けをする価値があると考えている人は、保守派ではない。このため、テック業界は歴史のほとんどにおいて左派と連携してきた。シリコンバレーは長年、人間の条件を克服すべき不完全さで満ちていると見なし、それを変革しようとしてきた。クリントンとオバマがインターネットとソーシャルメディアの解放的な可能性と結びつき、テックが彼らを支持したことは偶然ではない。国を救い難いほど不正だと見なす人々は、自由と善の場所だと信じる人々よりも、AIという危険な賭けをする側になることが期待される。
「保守派は突然の変化を嘆くべきものと見なす。」
新しいAIモデルが消費者市場にリリースされるペースでさえ、保守的な観点からは問題が反映されている。保守派は、突然の変化は嘆くべきものと見なす。なぜなら、それは人間が道徳的に自分自身を方向づけるために依存している伝統と習慣を不安定にするからだ。彼らは、うまく生きるために、自分の社会に「居場所がある」ことの重要性に敏感である。家は、新しい翼を追加したり、新しい屋根をかけたり、キッチンを改装したり—何十年にもわたって住み続けながら—そのアイデンティティを維持できるが、一夜にして燃え尽きて全く新しい構造に置き換えられることはできない。
産業革命は、西側社会全体をその根幹から揺るがし、社会の適切な組織から人間の生の目的まで、市民の感覚を混乱させた。そしてその混乱は、人々が近代産業の文脈で正義と社会平和を達成しようと多くの試行錯誤を重ねる中で、何十年にもわたって展開された。対照的に、今日、私たちは、おそらく最も影響力のある経済学者が、潜在的に差し迫った人間の労働価値の底打ちを避けるために「今すぐもっと一生懸命働く」ように人々に警告しているのを目にする。最も過激なシナリオが現実になることに賭けたとしても、変化のペースについては懸念する理由がまだある。重大な衝撃が、自然災害、イデオロギー的な反乱、あるいは政治革命ではなく、技術から来るという事実は、保守派の目にはそれをより許容できるものにするべきではない。
すでにAIの進歩のペースに対する不安が広がっている。もちろん、変化は避けられない。しかし、これは、未来に関する急激な不確実性が、人間が自分自身を見つける最も恐ろしい状況の一つであることを否定するものではない。実際、政治理論のいかなる学生も、これが国家自体が存在する理由の一つである、つまり、国家自体がそれを防ぐために存在するということを知っているだろう。現代政治哲学の基礎は、自然状態からの脱却という考え方にあり、その主な弊害の一つは、市民権威の不在が、未来が非常に不明瞭であるため、いかなる長期プロジェクトにも従事することを不可能にすることである。この観点から、急速で予測不可能な技術的および経済的革命が市民を襲うことを許容することは、物理的な力の独占を失うことや領土の支配権を譲ることと同様に、国家の失敗の兆候と見なされるべきである。
バークレーの統計学者ウィル・フィシアンによるスピーチでよく捉えられているように、AI開発の猛烈なペースは、親と子の間、確立された世代と台頭する世代の間の絆をすでに引き裂いている。若い人々は、人生のために準備してきたことが関連性があるかどうかほとんどわからず、メンターの立場にあるはずの人生の後半にいる人々は、上昇する人々にどのような知恵を提供できるかほとんどわからない。学術界では、次世代への助言はすでに無駄に思える。助言を伝えられないこと、そして自分の経験の何かが子供たちが相続する世界に関連性があるかどうかを疑うことは、精神的な傷である。AIの進歩は、濃い霧の中で運転しようとすることの道徳的および心理学的な等価物を作り出した。
知恵の世代間伝達のための条件を維持することは、その設立以来、保守主義の主要な目標であった。AIは、バークがフランス革命がヨーロッパにもたらしたと信じたのと同じ危機に私たちを直面させようとしている:「国家全体の連鎖と連続性が断ち切られるだろう。どの世代も他の世代と結びつくことができないだろう。人々は夏のハエよりもほとんど良くならないだろう。」
アメリカの保守主義は常に、自由と個人の責任の党として自らを位置づけてきた。しかし、急速な技術変化は、私たちが自律的で自己決定的な人生を送っているという考えを嘲笑する。合理的な選択をするためには、未来がどうなるかについてのいくらかの感覚を持っている必要がある。暗闇の中を手探りで進むことは自由ではない、たとえ政府が直接電気を消す責任を負っていなくても。背後にあるものが何であるか全くわからないまま、ドア1とドア2の間で選択することは自由ではない。未来が不透明になると、自由な選択と強制された選択の道徳的な違いは消える。個人の自由を祝う民主主義は、したがって、急激な技術的断絶を防ぐために行動しなければならない。同様に、人生がどのように進むかについての個人の責任を維持すると信じている保守派は、その責任を可能にする社会的前提条件が消滅することを許容することはできない。
すべての真の民主主義には、本質的に保守的な要素が含まれている。なぜなら、民主主義とは、人々が未来にただ踏みつけられるだけではないことを意味するからだ。社会民主主義者が市場が公共の利益を凌駕することを望まないように、民主的な保守主義者は、社会または技術の変化のあるコースに沿って突き進む以外に選択肢はないと主張する人々から公共を守りたいと望む。強力な派閥—産業的であれイデオロギー的であれ—が進歩と考えるものに「ノー」と言う能力が奪われた場合、私たちはもはや民主的な秩序にはいない。
共和党はかつて移民政策の緩和を支持していたが、保守派はトランプの移民に関する訴えに賛同するようになった。なぜなら、彼らは急速な人口動態の変化をアメリカの生き方への脅威と認識しているからだ。前例のない割合の住民がその文化で育っていない場合、文化的な連続性を期待することはほとんどできない。多くの古参のリベラル派も、大量移民が非常に混乱させる効果をもたらすことを認めている。しかし、新しい技術はさらに不安定になる可能性があり、多くの新しい到着者よりもさらに社会を認識不能にする可能性がある。
同様に、社会保守派は、多くのAI開発者が信じている「トランスヒューマニズム」が、彼らが保護しようとしている生き方にとって、トランスジェンダー主義よりもさらに嫌悪すべきものであることを見るべきである。そして共和党の政治家は、もし彼らが有権者にこれら二つのトランス・イデオロギーのどちらかを選択させるなら、強制的な代名詞の使用や混乱したティーンエイジャーへの乳房切除術が激しく復活する可能性があることに注意すべきである。政府が何であれ、もしそれが地球上で最も創造的で生産的な存在としての人間の地位の終わりを祝うなら、それは保守的ではない。しかし、それはAI業界の多くの人々の公言された目標である。これらの真に種を変えるような課題に直面して、この産業を進歩させ、後で規制する方法を見つけるか、あるいは「道徳的」になるように説得することは、いかなる保守派も考慮すべきではない提案である。
アメリカの保守派が信じている資本主義を信じる人は誰でも、AIを懐疑的に見るべきである。テック右派の主要人物は「共産主義者」を派手に憎み、AIの反対者を成功に対する永続的な反資本主義的怨恨の最新版として描いている。しかし、AI企業の超知能という明確な目標に近づけば近づくほど、私たちが知っている資本主義が消滅する可能性は高まる。イーロン・マスク自身からの、AIが間もなく人間の能力を超えるようになれば、ほとんどの人はユニバーサル・ベーシック・インカム(UBI)によって支えられる必要があるという約束に見ることができる。あるいは、人間の労働を続けることが経済的に非効率になった場合、政府は誰もが給料を得続けられるように「雇用保証」を強制すべきだという様々な提案も考えられる。
これらの予測において、私たちは1848年の革命に遡る社会主義の形成的な約束の復活を見る。政府による労働の提供、市場の需要に関係なく。どちらの場合も、資本主義システムの基盤—経済活動の主要部分が自由な労働市場を通じて行われ、報酬が市場によって設定されること—は消滅するだろう。市場ベースの賃金と給与は、所得分配の最も重要な手段ではなくなるだろう。それは資本主義の終焉の鐘となるだろう。
完全に自動化された贅沢な「共産主義」についてのみ耳にするのには理由がある。それは、完全に自動化された贅沢な資本主義は矛盾した言葉だからだ。テック右派は、経済成長と経済的自由は一体となって進むと考えているようだが、これは単なる敬虔な祈りの言葉である。経済発展が常に自由市場を支持するという考えは、歴史的に真実ではない。マルクスは19世紀半ばに、資本主義がすぐにプロレタリア革命に陥ると予想したのは間違っていた。しかし、産業の規模が著しく増大すれば、初期産業主義の「レッセフェール」は維持されないだろうと予想したのは間違っていなかった。近代化したすべての国で、経済成長は国家介入の増加を伴ってきた。社会が豊かになるにつれて、異なる利害関係間の関係はより複雑になり、壊滅的に有害な経済活動の可能性が増大する—そして国家はこれらの課題に対応するために成長しなければならず、歴史的にも実際に成長してきた。
「アメリカで最も声高な反共産主義者は、マルクスを正しかったと証明することになるかもしれない。」
テック右派に言わせれば、マルクスとその弟子たちは資本主義が単に無力に衰退すると予測したかのようだ。しかし実際には、初期のマルクス主義者は、資本主義はその成功によって破壊されるだろうと主張した—あまりにも生産的になりすぎて持続できなくなるだろうと。皮肉なことに、アメリカで最も声高な反共産主義者は、マルクスを正しかったと証明することになるかもしれない。実際、マルクスは、機械の完成—AI起業家の目標—が資本主義が終わる一つの方法であると考えた。彼は1850年代後半にこう書いている:
大産業が発展するにつれて、実質的な富の創造は、労働時間と雇用される労働量に依存する度合いが減り、労働時間中に稼働する機関の力に依存するようになる。その「強力な有効性」自体は、その生産に費やされる直接の労働時間とは比較にならないほど大きいが、むしろ科学の一般的な状態と技術の進歩、あるいはこの科学の生産への応用にかかっている。実質的な富は…費やされた労働時間とその生産物との間の巨大な不均衡として現れる…労働はもはや生産プロセスに含まれているとは見なされなくなる。むしろ、人間は生産プロセス自体の監視者および規制者として関係するようになる…大衆の剰余労働は、一般的な富の発展の条件ではなくなる…それとともに、交換価値に基づく生産は崩壊する。
ここでマルクスは、資本主義は、今日の言葉で言えば「ループ内の人間」を除くすべての仕事が消滅するほど技術が効率化されたときに終わると予測している。
マルクスのビジョンは、サム・アルトマンやダリオ・アモデイのような業界リーダーが表明したものとそれほどかけ離れていない。例えば、アモデイのエッセイ「Machines of Loving Grace」は、自由主義、資本主義、あるいは保守主義の思想の歴史とは全く関係がなく、むしろ社会主義の伝統にきっちり属する。それは、自由資本主義の本質的な特徴—競争、自身の努力による獲得への努力、短期的な利益を長期的なプロジェクトに延期すること、労働倫理、外部性に対処する方法についての争う利害関係間の審議—が存在しない世界を描写している。私たちの心配事は消え去り、スキル、献身、倹約の違いは、機械がすべてを提供するので、私たちの運命に影響を与えなくなる。それは完璧に平等な安楽の世界である。実際、私たちの個性さえも消え去ったかのようだ。誰もが絶え間ないボットベースの福祉の受給者であるため、人格が形成される経験がどのように起こるかは不明である。アモデイの目標である「私たちが何も貢献する必要なしに想像を絶する偉業を成し遂げるデータセンターの天才たちの国」は、完全に自動化された贅沢な共産主義であり、これまで想像もできなかった極限まで達している。それは、ユートピア社会主義の長い文献の極致である。そしてそれは、世界を創造する主体としての私たちの置き換えの公然たる発表である。
もし右派が左派を、新しい有権者を輸入しようとしていると非難するなら、それは彼らが元の有権者にうんざりしているからだとしたら、不完全な種知性によってなされた決定を容認する必要がなくなる新しい世界を意図的に創設しようとするプロジェクトに対して、どれほど大きな非難がなされるべきだろうか。
世界が資本主義にとってあまりにも豊かで効率的になりすぎる可能性があるという考えは、社会主義的なものだけではない。デビッド・ヒュームは、アダム・スミスの経済学に決定的な影響を与えた人物だが、マルクスより一世紀前に同様の点を指摘した。共産主義者とは最もかけ離れた人物であるヒュームは、正義—彼が商業資本主義の基盤となる一連の財産権の執行を意味した—は、「あらゆる外部的な便宜の豊かな豊かさ」があれば無関係になると認識した。もし繁栄が神からの贈り物(あるいはAI崇拝者が言うところの「神機械」)のように、人間の努力を介さずに現れるならば、「財の分割」は正当化できなくなるとヒュームは考えた。この場合、「用心深く、嫉妬深い正義の徳」は、それが「無用」になった後には容認されなくなるだろう。
私有財産の最も偉大な政治哲学者であるジョン・ロックについてもここで考えることができる。ロックにとって、財産は地球が自発的に豊かではなく、私たちが繁栄を見つけるために努力しなければならなかったという事実によって正当化された。実際、ほとんどのキリスト教思想家は、エデンの園には私有財産はなかったと考えている。資本主義と私有財産は、その生産と分配を、人間の勤勉さと知性が富の生産における中心的な要因となる希少性の条件下で管理する最良の方法であるという主張に、その根本的な正当性を見出している。AIの使徒たちが私たちに約束している—人間が行うことが世界の経済的産物にとってますます重要でなくなり、ゼロに漸近していく世界—は、ある種の機械ベースのエデンである。おそらく一部の人々は、この結果を望ましいと考えているかもしれないが、それは資本主義の対極である。努力が報酬から完全に切り離されたシステムは、経済が単なる権利と在職権のゲームになったことを意味する。それは魅力のない提案であり、確かに資本主義的なものではない。
さらに、スミス、ヒューム、あるいは他の古典的自由主義者が、AIが私たちをより豊かにするからといって、AIを歓迎しなければならないと結論付ける理由はない。人々は単に豊かになりたいだけでなく、自分たちのために価値のあることをしたい、たとえそれがわずかであっても、世界の形に違いをもたらしたいと思っている。私たちはすでに、ジョン・メイナード・ケインズが想定した、ほぼ働き終えるであろう一般的な富のレベルをはるかに超えている。しかし、私たちはそうしていない。努力、自己を確立したいという衝動、専門職や起業家の多くの骨の折れる仕事の根底にある創造的な精神—これらは、多くの側面で、私たちの先祖よりも想像を絶するほど豊かになった今でも、何百万人もの同胞を鼓舞し続けている。
これらのことは、古典的自由主義の偉大な思想家たちを驚かせなかっただろう。その偉大な思想家たちは、資本主義へのコミットメントが、道徳的な結果を全く考慮せずに成長を受け入れることを意味するとは決して想像しなかった。むしろ逆である。18世紀半ばから19世紀半ばにかけての英雄的な時代の自由主義的理論化は、市場システムが生み出す道徳的な善への訴えに満ちていた。資本主義は、生産を最大化する道徳的に中立なシステムとして肯定されたのではない。実際、現代資本主義は、道徳的進歩が経済的および技術的進歩と並行して進むかどうかについて激しい議論があった時代に生まれ、資本主義と呼ばれるものになるもの側の偉大な人物—スミス、ヒューム、モンテスキュー、ヴォルテール—は、それが道徳を改善すると力強く主張した。彼らは、もしそうしなければ、豊かになることはその喪失を補うものではないだろうと当然のことと考えていた。資本主義経済は、独立した正直なエージェントの成長を奨励し、彼らが非ゼロサム方式で人生のプロジェクトを追求する機会を提供し、人間の卓越性を発揮し、私たちの能力を開発するための無数の場を提供すると彼らは考えた。経済的拡大が、信頼性、協調性、信頼性、創造性、寛容さ、誠実さなどの美徳の発展を促進するという楽観主義は、「doux commerce」(甘い商業)の理論と呼ばれるようになった。
道徳的に影響を受けた資本主義の擁護は、それ以来ずっと存在している。ミルトン・フリードマン、フリードリヒ・ハイエク、そして他の20世紀の資本主義の擁護者たちも、力強い道徳的な言葉を採用した。フリードマンの最も人気のある本は『資本主義と自由』というタイトルで、西洋の武器庫の中で最も強力な価値観に訴えかけている。偉大な資本主義理論家たちは、資本主義への支持が、私たちの自由や良い人格を達成できる条件を損なう技術的またはその他の発展を受け入れることを必要とすると示唆したことは一度もない。
保守主義も同様に、いかなる犠牲を払っても資本主義を擁護する言い訳にはなっていない。ヨーロッパでは、第二次世界大戦後のキリスト教民主党は共産主義を打ち負かすことを目指したが、同時に資本主義の発展を市民社会の構造を強化し、キリスト教の教えに沿うように形作ることも目指した。アメリカでは、アーヴィング・クリストルやダニエル・ベルのような新保守主義理論家たちは、資本主義の原因と完全には同一視することを拒否した。クリストルは、現代の企業版資本主義には多くの嘆かわしい特徴があるため、資本主義に「2つの喝采」しか値しないと主張し、ベルは消費主義が資本主義の生産的側面が依存する抑制と勤勉さを損なうと懸念した。しかし、資本家と保守派は、両者とも強大な国家への依存を恐れ、急進的な平等主義を嫌悪していたため、しばしば連携してきた。
現代保守思想のどの系譜も、経済生活の完全な自動化を支持するために合理的に徴用されることはない。経済成長に他の懸念よりも優先順位を与えることは、貧しかった過去においては今日よりも正当化された。すでに豊かな現代アメリカにおける目標は、人間的な資本主義を構想し、発展させることであるべきだ。不確実な、あるいは最悪の場合壊滅的な影響を持つ技術の道を突き進むのではなく、保守派とリベラル派は同様に、財産を可能な限り広く普及させるためのプラットフォームを考案し、良心的な貯蓄者や投資家に報酬を保証することを目指すべきである。目標は、広範な依存のシステムではなく、所有権を持つ民主主義であるべきだ。人工超知能の最良のシナリオでさえ、政府配布のUBIは、単に消費するだけでなく、生産し達成することを目的とする種の尊厳と矛盾するため、却下されるべきである。
資本主義が人工超知能を生き残れないのであれば、もう一つのいわゆるアメリカの価値観である個人主義も同様である。テック右派はしばしば個人主義の反対者である、最近ニューヨーク市長ゾーラン・マンダニがその暖かさを称賛した集団主義を非難してきた。しかし、もし個人主義によって、人々が自分の道を行き、自分の考えを考え、過度の圧力や監視なしに自分の道筋をたどり、主流のパターンに合わせるように自分自身を曲げる自由を意味するなら、AIはこの価値観が直面する最も手ごわい敵となるだろう。
「AIは平坦化し、均質化する。」
AIは平坦化し、均質化する。その答えは、文脈を与えられた場合の平均的な人間の発話に関する統計的推論に基づいている。個人主義への脅威は、AIへのより楽観的な反応の多くにも見られる。AIは、極端または代表的でない見解を割引く権威ある声として話すことによって、誤情報や陰謀論と戦うことができると予測する人もいる。これをテクノクラシーの恩恵と見なすこともできるが、それはまた、従来の知恵の最頻値と真実を同一視することに震える個人主義的なエートスへの打撃でもある。これは特に懸念される。なぜなら、私たちが上記で指摘したように、知るべき人々でさえ、チャットボットを、無数の方法で偏っている可能性のあるデータで訓練されたモデルではなく、全知全能で親切な友人として扱う誘惑に抵抗できなかったからだ。デジタル世界はすでに、銀行口座の閉鎖、監視、そして誤った発言のために人々の人生を台無しにするウイルス性の暴徒を促進する、異常なまでの順応のエンジンであることが証明されている。これは、人間の知識と信念の広大な部分を無効にし、それらが存在しないかのように見せかけ、世界の非常に偏った見方を、それが疑いのない合意であるかのように自然化するAIの力に比べれば何でもない。
実際、AI以前の形成期を欠く世代を先に見ると、絶望に満たされるのは難しい。個人の知的主権—そしてそれゆえ、彼の道徳的誠実さ—にとって、AIチャットボットへの依存ほど大きな脅威はない。私は、学生たちが事実情報だけでなく、個人の最も中心的な問題についてもAIに依存していることを知って悩んでいる。私は政治哲学を教えている。これは誰も自分自身では答えられない問いを提起する学問である。これらは、偉大な哲学者ジョン・ロールズが「判断の負担」と呼んだものである。それは、複数のもっともらしい答えがあり、何が私たちを納得させるかを発見するために魂の奥底を覗き込む必要がある問いである。平等は自由よりも重要か?後者のどれだけが、前者を得るために犠牲にされる価値があるか?そして自由とはそもそも何なのか?これらの問いをAIにアウトソースすることは、単なる「認知的降伏」ではなく、道徳的降伏である。近道をとることは、長い道のりのより困難な喜びを学ぶことから私たちを遠ざける。もしこれが魅力的な個人主義の概念の逆であるならば、何がそうであるか見分けるのは難しい。
あらゆる質問に対する権威ある響きの答えを瞬時に引き出す能力により、私たちはソクラテス以来、知的徳性の第一のもの—自分が知らないことを知っていること—を失う危険にさらされている。知識の表面を呼び出すことができる容易さは、実際に何かを知るということがどういうことかを本当に知っている人がますます少なくなることを意味し、逆に、何かを本当に理解していないと感じることから来る自己への健全な不信感を人間の経験の領域から消し去るだろう。デジタル技術は、摩擦を減らし、幅広いタスクで即時の満足感を提供することにより、私たちが長期的には自分たちにとって悪いことを容易に行えるようにした。1990年代の爆発以来、テクノロジーは、人間の弱さが最も優れた心さえも凌駕することを証明するために、他のどの産業よりも多くのことをしてきた。常に私たちのポケットの中に全知全能の存在があることで、私たちは思考を私たちに代わって行う機械の無知だが傲慢で、無礼で、好奇心のない付属物になるだろう。私たちははるかに少なく知るだろうが、ChatGPTから答えを呼び出した瞬間に、たとえ私たちが以前はかすかに研究したこともない主題であっても、私たちは無謬だと感じるだろう。根底にある無知を伴う、生意気な自己確信の文化は、AIが私たちを向かわせているものである。知的な生活にとって、AIはドリアン・グレイの肖像画のようなもので、私たちが根本的に萎縮している範囲を隠しながら、外見を良く見せる。
もちろん、AIが個人主義を強化するどころか、それは非常に個人的なものになる。知的および文化的製品の生成コストを下げることで、すべての人が自分の些細な好みに応えられるようになることが約束されている。クロードは、聞く、見る、読むことに関して無限の願いを叶える魔法使いのようだ。空っぽの惑星を支配する『星の王子さま』の王のように、私たちはそれぞれ、自分の要求に完全に合わせたコレクションを持つ、独自の図書館(アレクサンドリア)を持つことになるだろう。
つまり、AIは共通の文化を排除するかもしれない—すでにその方向に向かっている。残るのは、個々の気まぐれの孤立したノードだけであり、それ自体が日々ますます希薄になる以前の文化的遺産によって形作られる。誰もが、ロマンティックなスラングや「人生のルール」を指示する声で書かれたマニュアルの、オーダーメイドのシリーズを持つことになるだろう。そして、他者と共有される読書資料は過去のものとなるだろう。
共通の文化(結局のところ、多くの価値観の対立や多くの性格タイプを含む可能性がある)を解体した後、AIの傾向は単一のイデオロギーの支配に向かうだろう。イデオロギー的な固定化の可能性を超えて、知的な範囲と視野の狭窄が生じるだろう。AIはすでに文体を変化させており、人間の表現の驚くべき多様性を機械的な均一性に縮小させている。AIと人間の間のギャップは、AIが各イテレーションで改善し続けるだけでなく、私たち自身がますます小さな生き物になるにつれて、さらに広がるだろう。これらの同時により大きな原子化とより大きな均質化の可能性のある未来は、リベラル派でさえ、ましてや保守派に訴えかけるべきではない。結局のリベラリズムは、共同体の主張と個人の主張の間のバランスを求める。完璧なリベラル社会とは、私たちが皆同じ文化の海で泳ぐようなものだろうが、水は補充され、潮はそれぞれが自分の方向へ泳ぎ出すことを妨げないほど強くはない。AIが予見するのは、私たちがそれぞれ並行しているが接続されていない水域に閉じ込められる未来である。しかし、それぞれの水域の流れは同じ方向へしか流れない。私たちはかつてないほど似ているだろうが、同時にさらに孤独になるだろう。
リベラル伝統の偉大な人物—アレクシス・ド・トクヴィルやジョン・スチュアート・ミルといった思想家—は、近い将来に直面する可能性のあるシナリオを恐れていた。彼らはもちろん超知能機械を予見していなかったが、民主的近代性の特定の特性—安楽と快適さへの欲求、不確実性と疑念への嫌悪、成熟に時間と労力を要するプロジェクトへの忍耐力、即時満足の要求の結果としての二次的な結果への無関心—が、民主的な市民が無意識のうちに自由を手放し、社会的な絆を失う状況につながるだろうと懸念していた。
例えばトクヴィルは、消費主義と近視眼的な自己利益が、民主主義的な、誰もがほぼ同じくらい意見を持つべきだという前提と組み合わさって、均質性はあるが連帯感のない状況、つまり同一の見知らぬ人々の世界につながることを恐れていた。有機的な共同体の絆の不在によって生じた虚無に、すべてを私たちのため世話してくれる強力な官僚機構が成長するだろう。それは私たちの利益を考慮するだろうが、そうすることで私たちの自由を奪うだろう。そのような穏やかな官僚的専制の状況から恐れられるのは、残虐さや堕落ではなく、社会生活が「軍隊の兵舎のように、規則正しく、プログラムされ、細部にまで気を配る」ものとなり、奇矯さや主導性が消え失せ、自分で考える意欲を失うことだった。
ミルは、善意の専制の落とし穴をさらに的確に描写する方法を持っていた。
「精神的に受動的な人々の全般的な事務を管理する、超人的な精神活動を持つ一人の男を想像してみよう…そのような体制の下でどのような人間が形成されるだろうか?思考力や行動力のどちらがそこで発達できるだろうか?」
「人間の行動範囲が人工的に制限されているところでは、感情も同様に狭められ、矮小化される。感情の糧は行動である…人に自分の国のために何もさせないなら、彼は国を気にしないだろう…自由の利点の一つは、その下では支配者が人々の心を通らず、彼らのために彼らの事務を修正することなく、彼らを修正できないことである…」
私たちは実際に、「超人的な精神活動」を持つ存在に私たちの事務を委ねる見通しを持っている。私たちの偉大な自由民主主義の哲学者がこの見通しについてどう考えていたかは明らかだ。ミルはリベラリズムの神聖なテキスト『自由論』を、不穏な警告で締めくくっている。
「国家の価値は、長期的には、それを構成する個人の価値である。そして、そのビジネスの詳細において、管理上のスキルが少し増えることを理由に、個人の精神的拡大と高揚の利益を後回しにする国家は…小さな人々では何も偉大なことは達成できないだろうと悟るだろう。そして、機械がよりスムーズに機能するように犠牲にしたすべてのものの機械の完成は、結局のところ、機械がよりスムーズに機能するようにするために排除することを好んだ生命力がないために、何の役にも立たないだろう。」
これらは、何でもありのリバタリアンではない言葉である。もし「国家」を「技術」に置き換えれば、私たちが今直面している危険は明らかである。
私は多くの伝統的なリベラル派と同じように、国家が人々に意味を創造する能力は限られていることに同意する。しかし、私たちの意味のある生きる能力が著しく低下する状況の発生を、国家は(否定的な意味で)阻止する能力を持っている。それが、市民社会における擬人化AIの使用を制限することによってできることである。より豊かな世界だが、より思慮に欠け、自己依存性の低い人類は、リベラル伝統が支持することを指示するものではない。
生成AIによって遅れて正当化されるかもしれないのは、マルクスだけではない。それはまた、別の不機嫌な社会理論家の先見の明を証明するかもしれない。最近のAIに関する議論は、啓蒙主義の悪童ジャン=ジャック・ルソーが、道徳的進歩と物質的進歩が並行して進むという彼の激しい否定で、仲間の哲学者たちを驚かせたことが、いかに不気味なほど的確であったかを示している。ルソーは、後者に対して二つの根本的な非難を浴びせた。それは私たちの自由を制限し、私たちの道徳を損なった。
最初の点について:ルソーは、後の技術の批評家と同様に、多くの種類の技術は、単に安定した市民建築の上に新しい選択肢のセットを追加するだけではないことを直感した。自動車は、より速く、より遠くへ行くことを可能にすることで、可能性の全く新しい展望を開いたが、その到来の結果として、都市や町の多くの種類がもはや建設されず、新しいインフラストラクチャを作成するために多くの私有財産が徴用されなければならず、そして大規模な新しい規制の束が導入されなければならなかった。重要な技術は、単に私たちに一つの選択肢を与えるだけではない。むしろ、それらは社会の構造を変え、道徳的な期待が発展してきた古い均衡を破壊する。インターネットの後、私たちはより自由になったか?そのような質問にどうアプローチすればよいかを知るのは難しい。確かに、商業を行うこと、情報を伝達すること、遠く離れた人々とつながることには、より大きな可能性が開かれた。しかし、記録されることへの恐れから、今では決してしないこと、言わないことがたくさんある。インターネットが世界を縮小させた方法(多くの人がなぜか解放的だと感じた「グローバルビレッジ」)と、出来事の周りの重要な文脈の崩壊を可能にした結果、社会生活における絶え間ない抑制の明白な感覚がある。私たちのプライバシーは絶えず侵害されている。雇用主やクライアントに利用可能であることへの期待は劇的に変化し、多くの職業で仕事と生活の境界が曖昧になった。ソーシャルメディアのドーパミンヒットは、強力な新しい中毒を生み出し、私たちの注意力のコントロールを低下させた。
技術は私たちの生産力を拡大するが、しばしば私たちの生き方をも減少させる。乾燥機の使用を避けることはできる(ヨーロッパのほとんどがそうしている)もしあなたが古いスタイルの物干し竿に服を干すことへの原始的な憧れを持っているなら。しかし、あなたは溶媒であり、自己維持可能な人間であり、デジタルパノプティコンをオプトアウトすることはできない。
「大きな力を持つ新しい技術は、非常に強制的な効果を持つ。」
より一般的に、技術がしばしば私たちの自由を狭める理由は、その採用が実際には自発的ではないからである。大きな力を持つ新しい技術は、非常に強制的な効果を持つ。たとえ大多数の人々が新しい技術が決して存在しなかったことを望むとしても(スマートフォンについてはそうだと私は推測する)、それを排除することには壊滅的な集団行動の問題がある。場合によっては、すべての人々が社会に完全に参加するために、それを採用することを事実上強制するために、少数の人々が技術の使用を開始するだけで十分である、たとえ彼らがそれを嫌っていても。わずか15年前でさえ、アメリカの携帯電話所有者の3分の1しかスマートフォンを持っていなかった。10年以内に、新しい社会規範だけでなく、大学や企業の機器へのアクセスに二要素認証のような正式な障壁があるため、多くの仕事を持ったり、多くの学校に行ったりすることは事実上不可能になるだろう。今日の労働年齢のアメリカ人は、議会が誰にも所有を義務付けたことがないにもかかわらず、事実上スマートフォンを所有しない自由はない。人生における偉大な価値が、ある種の孤独や到達不可能性にあった男性は今、生計を立てることとこの種の人生を維持することの間で選択しなければならない。彼はまだ選択肢を持っている、ある種の。しかし、それは彼が決して直面したくなかった選択ではない。彼はそれに直面しなければ、より自由だと感じただろう。
同様に、新しい技術は、多くの人々にとって人生の重要な部分を占める、許容可能なリスクと行動についての期待と判断を変える。アメリカの自由の象徴的なイメージは、コンバーチブルに乗ってオープンロードを走り、新しい何かへ向かうドライバーである。私たち多くの人にとって、これは自由なエージェントであるという主観的な確信に最も近いものである。しかし、すでに人間のドライバーよりもはるかに安全な自動運転車の登場により、自分で運転することがすぐに深く無謀と見なされる見通しが出てきた。安全でない慣行として違法とされないとしても、一部の道徳的起業家がすでに要求しているように、それは人間ドライバーに対する大規模な社会的非難が加えられたり、保険会社が毎年人間ドライバーの保険料を引き上げたりすれば、事実上手が届かなくなる可能性がある。彼らはますます小さく、よりリスクの高いプールの一部を占めるからだ。
同じプロセスがすでにAIで進行中である。ソーシャルメディアはすでに、5年未満前に登場した技術の展開に対するあらゆる制限の擁護を、火を禁止しようとすることと同等であるかのように行動する人々で溢れている。そのような人物たちは、あなたが認識することを拒否する進歩を受け入れるようにあなたを「強制する」(ルソーからの言葉を借りれば)準備ができている。すでにAIに対する態度に関する調査が行われており、AIに反対し続けることは「病理学的」(「道徳化」)と見なされている。それは安全で有益であると知らされた後でさえだ。歴史のこの時点で生きている人間として、あなたを置き換える力を持つ機械を受け入れるために、あなた自身の資源を見つけることがあなたの厳粛な義務であることを知らないのか?私たちは皆、これがどこに向かっているのかを見ることができる。なぜなら、思慮深いコメンテーターでさえ、AIの使用を非難することをすでに始めているからだ。自発性の言葉は全く誤解を招く。私たちは皆、事実上義務的なAI使用の新しい世界に服従するか、あるいは誰もそうしないかのどちらかである可能性が高い。
法学者デイビッド・グレワルは、たとえ大多数の人々が別のやり方を好んだとしても、それを使用しない人々にとって人生を非常に不快にすることによって、新しい様式または基準のセットが他のすべての代替手段を「段階的に排除する」方法を説明するために「ネットワークパワー」という用語を造語した。作家はすでにそのような強制的な選択に直面している。もしあなたが本を出版するなら、あなたの出版社は、あなたが「新しいライセンスルートにあなたの作品を含めることに同意するかどうか」を尋ねるだろう。AI企業は、彼らの材料の法的出所を気にしない(あるいは、それがどうであれ関係ないだろう)。私がこの選択肢を持っているという事実は、私が直面したくない選択であるという事実を変えない。それは私にとって、負け負けのように感じられる。なぜなら、私はAIコーパスの一部になりたくないからだ。私は、研究と読書の質の低下と見なすものに貢献したくない。しかし、一方で、AIが私たちに押し付けられているので、私は現在および将来のほとんどの学生が、私が気にかけている主題に、主にAIクエリを通じて触れることになるだろうと知っている。私が書いたことが真実だと信じているなら(そうでなければ、なぜわざわざやったのか?)、もし私が自分の作品をコーパスから除外するなら、将来のユーザーがそのトピックについて得る情報は、そうでなければ得られたであろう情報よりも、歪んで、不正確になる。私はこのジレンマに直面したくなかった。
ほとんどの人にとって、自由の主観的な感覚は、ソフィスティケートされた選択肢に直面することではなく、自分の才能を育むための異なる道があるという信念にある。自由とは、ある程度、自分のエネルギーがブロックされていないことだ。しかし、AIはすでに、そのような達成のための多くの時代を超えたルートをテーブルから取り除いている。私の小さな世界の、大学を例にとろう。カンニングが爆発的に増加していることはよく知られており、学生にレポートを割り当てることは無意味になっている。もちろん、銃規制の擁護のバージョンを考えることもできる。「AIはカンニングしない、AIを使う学生がカンニングする。」これは論理的には正しいが、論点から外れている。この決まり文句は、AIが発明されていなかったらレポートを割り当て続けていただろうという現実を単に回避している。それは、この技術の台頭が、人間の性質の現実と相互作用して、この何世紀にもわたる教育方法をテーブルから取り除いたのだ。
これは些細な例に見えるかもしれないが、そうではない。なぜなら、この課題を提供できないということは、学生が、その主題に人生を捧げた専門家によって、彼らの熟慮された思考が評価される機会を失ったことを意味するからだ。エッセイ作成は、精神的能力の全範囲を発達させるための最も効果的な方法の一つであり、自分の考えと格闘してページに正しく書き出す訓練を学ばなかった偉大な男性がいるという考えは幻想的である(ナポレオンやド・ゴールのような行動家や、アインシュタインやオッペンハイマーのような科学者は、それぞれの分野での天才に比例して、優れた作家であった)。ChatGPTの最初の商用モデルが2022年にリリースされて以来、書くという経験—思考する人々が古来より自分の心を形成してきた基本的な方法—は学生から盗まれた。これは真の知的な貧困である。生成AIは、したがって、すでに新世代から真の学習のための最大のツールを奪っている。教育的および教育的可能性が収縮するというこの経験は、AIが進歩し続けるにつれて人生がどのようになるかの前触れである。あらゆる方向への扉が閉まるだろう。あるタスクの人間の著者性を検証したり、詐欺や盗作を回避する方法を見つけたりするための努力は、私たちの時間とエネルギーの増加する部分を占めるだろう。これにより、思考と創造という困難だが意味のある活動をLLMに委ねることがさらに促進されるだろう。
さらに、機会を閉ざすことで、どのような性格が繁栄するかをシフトさせる。書かれた言葉は、ある種の知性の形成において決定的な媒体であった。それはゆっくりと発達し、反復的で、正確だが想像力豊かで、瞑想的で、派手ではないが記憶に残るものだ。書かれた言葉が人間の知性の信頼できる指標でなくなった場合、それは、テレビ時代が始まって以来すでに過度に重視されてきた、個人的な提示とカリスマ、素早い機知、そして空虚な修辞的器用さの資質に、さらに依存するようになることを意味する。もし、すでにいくつかの学者が予測しているように、「書く」コストの低下が、思慮深い、長年の研究に基づいた本や記事の執筆が、学術界という理性の中枢とされる場所でさえ、昇進を助けるために頼ることができなくなったことを意味するなら、私たちは、内気で控えめだが、慎重で測定された人物が、名声と権力の回廊から選別されることを心配しなければならない。これは大惨事になるだろう。人前よりもページ上(ペンや絵筆で)で優れている男性は、私たちの歴史の多くの偉大な業績に責任を負ってきた。私たちは、これらの貴重な性格タイプをさらに周縁化することを約束する「進歩」を祝うべきではない。人工知能の影響下で、人間の精神は窮屈になり、より少ない方向に発達し、より少ない美徳を示し、自由の分野が縮小するだろうと私は推測する。
私たちが経済から望むべきことは、人間の卓越性がその多様な形態で達成され、表示される経路の増加である。それが真の富である—単なる消費の増加と自律的なデジタル優位性の達成ではない。しかし、私たちのテックセクターと政府が提供することに決めているのは後者である。
ルソーは、物質的な進歩の追求について二つ目の警告を発した。すなわち、現代の技術商業社会は道徳を損なうというものだ。ジュネーブの哲学者は、18世紀ヨーロッパの高度に洗練された文明は魂がなく偽物であると主張した。人工性が真正性に打ち勝ち、見せかけと偽装が、存在と達成に打ち勝った。それが彼の時代に公正であったかどうかは別として、それは私たちのAIにまみれた文化に対する正確な非難である。学術論文から、法律状、コンサルティングレポート、新聞記事、小説、さらには結婚の誓いまで、あらゆるものにおけるAIテキストの単なる増殖は、根本的な文化的変化を反映している。人々は、自分が選ぶ言葉が、人としての自分自身を構成する助けになるという感覚を失っている。この懸念は、単なる「ワードセル」の文学的な気取りではない。最も創造性のない人間でさえ、配偶者への手紙や子供へのメモを通して発見される可能性がある。もし私たちが、自分の言葉に責任があるという考えを失うなら、他者の言葉を理解する能力は衰退するだろう。私たちは自分自身とのつながりを失うだろう。私たちの中で最も謙虚な人でさえ、自分の言葉との関係を通して個性と誠実さを達成することができる。子供への父親の言葉は、シェイクスピアのどんなものよりも意味がある。
「AIを使って書くことを選ぶ人々は、自分自身のより少ない部分を世界に残している。」
AIを使って書くことを選ぶ人々は、自分自身のより少ない部分を世界に残している。亡くなった祖母が書いた手紙を発見したら、それがあなたにとって何を意味するか考えてみてほしい。それらの言葉の一つ一つが彼女のものであるという事実が、時間の経過にもかかわらず、不完全ながらも彼女について何かを知ることを可能にするだろう。今、もし彼女が時空の連続体のどこかの亀裂を通して、ジェミニにアクセスできたことが判明したら、どれほどがっかりするか考えてみてほしい。あなたは今、それらの言葉が彼女のものであったのか、それとも機械のものであったのか確信できない。この地球上で生きて死んだ、そしてあなたの歴史の一部である実在の人物へのアクセスは、あなたから奪われたのだ。
テキストの人間的な起源についてのこの不確実性は、計り知れない損失である。古典的およびキリスト教的な哲学の両方において、人間は言葉とのユニークな関係によって区別されていた。したがって、言語を操る機械は、電子レンジや計算機の単なる次のステップとは全く異なる。私の残りの人生で、テキストがそれを主張する人間によって書かれたのか、それとも機械によって書かれたのか決して確信できないだろうという現実は、それがより一般的に定着したとき、私たちの生活すべてに暗い影を落とすだろうと私は推測する。現状では、私たちは毎日、以前のどの人間も想像できなかったであろう課題に直面することになる。私たちが目にしているテキストが人間によって書かれたものかどうかを見抜くという課題である。これは、私たちの新しい技術が私たち全員に課した巨大な「取引コスト」であり、私たちの共同生活の基本に、疑念、警戒心、そして不信感を歓迎しない形で導入するものであり、それは信頼を減らし、原子化を増大させるだけだろう。
AIの推進者の間では、彼らが「1年で50本の論文を読む代わりに1ヶ月で50本の論文を読むことができる」とか、あるいは「数時間で文献レビュー全体を行うことができる」とか、「もし本を書きたいと思っていたが時間が見つからなかったり、執筆に苦労したりしたなら」今ならAIツールで書くことができる、とよく聞く。これらの各ケースで起こっていることは、あなたがそのタスク—読書、レビュー、執筆—を行うことを避けることを可能にされているが、最終的に生成されたであろうものの模倣品で現れるということだ—もちろん、それに伴ったであろう理解は除いて。あなたがどれほど正確な模倣品にたどり着いたかは、決してわからないだろう。なぜなら、もしあなたが実際にその仕事をしたなら、その過程でわずかに異なる人間になっていただろうし、したがってその問題について別の考えを持っていたかもしれないからだ。ChatGPTで情報源を「読んだ」後にClaudeで「書いた」のでなければ、あなたは異なる結論に至っただろう。
価値ある考えを形成する過程で私たちが開発する必要のあるスキルは、AIの容易さによって危険にさらされている。例えば、LLMは翻訳を効率的に自動化でき、経験豊富な思考家のために多くの新しいテキストや新しい経験を開くだろう。しかし、新世代にとっては、言語を学ぶことの以前の厳しさによって訓練されていないため、この利益は言語習得の喪失によって相殺されるだろう。AIの世界では、言語を学ぶことは効率的で正当化される選択肢には決してならないだろう。私たちは多言語性を失うだろう。そしてこれは、定量化を超えた方法で、自由で創造的な思考を損なうだろう。トーマス・ホッブズが、その時代の最大の言語学者でもなかったら、現代政治哲学を創設できたという考えは、直線的な工学的な考え方に訴えかけるが、実際には天才がどのように働くかではない。天才は、頭の中で多くの考えをぶつけ合うことによってのみ偉大なアイデアを持つ。しかし、大量のAI採用は、考えのぶつけ合いを外部化することを意味する。私たちは単に私たちの心の中に、咀嚼され、不思議な方法で機能する、理解できないものが少なくなるだろう。それは私たちを全体的により小さな生き物にするだろう—より少ない天才を生み出すだけでなく、平均的な人の内面生活に深みと質感を与える無意識の知的な遊びの基盤さえも取り除くことになるだろう。
人間は解釈する生き物である—それが古典的に、本能に動かされる動物と私たちを区別すると考えられていたことだ。私たちが世界を旅するにつれて、私たちは言語を通して私たちの経験に意味を与える。書くことは、最も根本的に人間的なタスクの一つに従事することである—言葉を選び、考えを配置し、自分の世界の感覚に到達することだ。作曲のほんの一部でさえAIにアウトソースすることは、自分自身の非人間化に参加することである。この犠牲に見合う効率の向上はない。ルソーが認識したように、私たちの種の性質が危機に瀕しているのだ。
今後、政治は、生成AIやエージェントAIによってもたらされる道徳的退廃が、いかなる経済成長によっても補償できないと考える人々、と、機械の超知能の追求の隣ではすべての人間主義的な異議が誤っていると無関係であると考える人々の間で、ますます分断されると予想される。前者(道徳的退廃を補償できないと考える人々)が勝利することを願おう。