シリコンバレーはSFを誤読し、民主主義を損なっている
Silicon Valley misreads science fiction and undermines democracy (techcrunch.com)
要約
ハーバード大学の歴史家ジル・ルポール氏は、テクノロジー企業が民主主義国家の機能を代替しつつあり、これはアルゴリズムや企業、機械による支配という「専制と神秘化への回帰」だと警告しています。彼女は、多くのシリコンバレーのリーダーが、誤読したSFやコミックから着想を得た未来を招き入れようとしていると指摘し、テクノロジー自体ではなく、民間企業が国家機能をますます引き受けている現状に懸念を示しています。
全文翻訳
歴史家ジル・レポール氏、シリコンバレーはSFを誤読し、民主主義を損なっていると指摘
ジル・レポール氏は、近著「The Rise and Fall of the Artificial State」の中で、テクノロジー企業が民主主義政府の機能をますます代替していると警告しています。彼女によれば、この変化は「アルゴリズム、企業、機械による統治という形での専制と神秘化への回帰」をマークしています。
TechCrunchの最新エピソードのEquityポッドキャストで、私はレポール氏(ハーバード大学の歴史家であり、New Yorkerのスタッフライターで、最近米国憲法の歴史でピューリッツァー賞を受賞した)と、「機械による人工国家または政府の下で生きるべきだという考え」の進化について話しました。
「私は反テクノロジストではありません」とレポール氏は主張しました。「私の不満は、民間企業がますます国家の機能を引き受けている方法にあります。」
レポール氏の著書は数世紀にわたるテクノクラート哲学を検証していますが、彼女はシリコンバレーの「カリスマ的あるいはそうでないリーダー」の多く、特にイーロン・マスクは、誤読されたパルプSFやコミックブックから引き出された未来を先導しているように見えると主張しました。
「しかし、マスクについて面白いのは、彼が好きなものが、実際には彼のすべての政治的信念を完全に打ち砕き、否定していることです」と彼女は言いました。
私たちの会話では、Appleの有名な「1984」マッキントッシュ広告、Twitterをデジタルなタウンホールと呼ぶのがなぜ「ばかげている」のか、そして現在のデータセンターへの反発についても取り上げました。長さと明確さのために編集されたハイライトを読み続けてください。
おそらくすでに何度も経験していると思いますが、「人工国家」とはどういう意味ですか?
人工国家とは、米国および世界中で、自由民主主義国家に取って代わる国家の一種を意味します。それは現実のものであり、構築物ですが、同時にアイデアでもあります。
そして、「人工国家の興亡」というこの本で、私は、私たちが機械による人工国家または政府の下で生きるべきだという考えの興隆をたどります。また、これが避けられない失敗であり、人工国家は生き残れないという考えもたどります。そして、その考えをSFを通してたどります。
ある時点で、人工国家の台頭は、数世紀にわたる民主主義と平等な権利の終焉であり、「アルゴリズム、企業、機械による統治という形での専制と神秘化への回帰」であると述べています。なぜそれをそれほど厳しい言葉で見るのか、もう少し説明してもらえますか?
はい、私はそれにかなり否定的な見方をしていますが、人工国家とテクノロジーそのもの、あるいはテクノロジーのモードを区別することが重要だと思います。私は反テクノロジストではありません。私はコンピュータ科学者と結婚しています。私は今、私たちが経験しているあらゆる種類の知的革命に本当に興奮しています。
それが私の不満ではありません。私の不満は、民間企業がますます国家の機能を引き受けている方法にあります。誰もそれに同意していません。これは、世界中の多くの国家がどのように機能してきたかの、徐々に、そしてほとんど偶然の変容でした。それはまず米国で起こりました。
政府の運営に新しいテクノロジーを導入する際のこれらのイノベーションは、しばしば非常に意図的であったと思います。それらは効率性、スピード、そして安さを追求する関心から生まれました。そして、私は、ここ20〜25年ほどで、これらの決定が国家の役割を奪うための種類の意図的かつ計画的なものになったと考えています。
それは私の憶測ではありません。多くの著名なテック起業家が、国家の時代を超えたいと語っているのを聞くことができます。(TechCrunch 2026年8月2日記事参照)
90年代の多くの未来学者はリバタリアンであり、インターネットの進歩とそれに続くイノベーションを、国家を根絶するための手段として利用することに特別な関心を持っていました。
テクノロジーそのものと、それらの背後にある哲学、そして企業がますます果たしている役割について話しています。それらをどの程度分離できるのか興味があります。私たちが現在向かっているように見える未来に必ずしもつながらないインターネットとソーシャルメディアのバージョンを持つことはできますか?
もちろんです。私は歴史家です。私はテックライターではありません。私はテックジャーナリストではありません。私はコンピュータ科学者でもありません。私は歴史家であり、主に政治史家ですが、文学史家でもあります。そして、この本で読者に解き明かしたいことの一つは、すべての「もしも」、すべての代替案、そしてなぜ取られなかったのかということです。
もちろん、1990年代には、インターネットがどのように公開されるべきかについて熱心な議論がありました。そして、私たちが最終的に手に入れた1996年の電気通信法は、多くの人が間違いだったと言うでしょう。悪意のある意図の行為ではなく、単なる間違いだったと。
しかし、それは特定の政治的瞬間の産物であり、ニュート・ギングリッチとその「アメリカとの契約」に深く影響されていました。そして、それを再検討することは非常に困難でした。当時、どのような代替案があったのかを考えることは価値があると思います。
そして、パーソナルコンピュータについても同様のことが言えます。より良いコンピュータ技術がより良い民主主義をもたらすという約束の起源点を見つけることができるとすれば、おそらく最初に注目すべき瞬間は1984年1月、Appleがマッキントッシュのリリースで行ったあのスーパーボウル広告でしょう。ジョージ・オーウェルの「1984」をテーマにしたものです。Appleは、メインフレームコンピュータが全体主義を表しているという考えに非常に固執していました。彼らは、その広告で全体主義国家として描かれていた巨大な灰色のIBMマシンを解体しようとしていました。そして、しなやかで美しく、速く、愛らしいパーソナルマッキントッシュが、そのマシンを破壊し、「1984年は『1984年』にならない」という新しい時代をもたらす斧となるでしょう。
それは巧妙な広告でした。Appleの誰も、パーソナルコンピュータが個人的な解放の道具になると本当に信じていたかどうかは疑わしいです。つまり、それは多くのクールなことを可能にするでしょう。私は初めてマッキントッシュを手に入れたときを覚えています。それは1984年ではありませんでしたが、それは本当にクールで、本当に楽しく、本当にエキサイティングで、私はそれで多くのことをしました。それが私の市民としての能力や、市民社会でより良く機能する能力を向上させているとは、決して思いつきませんでした。それはクールなツールでした。
しかし、時間を巻き戻して2026年に進むと、途中の停止点には、Facebookニュースが批判に応えて最高裁判所を設立した2016年の選挙が含まれます。昨年、Anthropicが道徳哲学者を雇って憲法を書かせた年になります。最近、サム・アルトマンがジョー・ローガンに出演し、ローガンからの質問に「ああ、AI大統領は素晴らしいアイデアだろう」と答えたことがありました。
ある意味では、それらは愚かな例です。しかし、これらの企業、シリコンバレーのこれらのテクノロジー企業、そして特にそのカリスマ的あるいはそうでないリーダーたちが、国家の装いや民主主義の機能をただ引き受けている様子が見て取れます。
彼らは洗練された政治哲学を持つ人々ではありませんが、それは1984年のマッキントッシュ広告の漫画版のようなものです。ただし、それは非常に真剣に受け止められています。そして、これらの企業は非常に多くの力を持っています。
とはいえ、この本は1984年から始まるわけではありません。私は、それが私たちの現代の時代と、楽しい広告キャンペーンがサム・アルトマンのような人々の妄想的なファンタジーに変わる方法の良い例だと思います。
「Twitter革命」という言葉の引用符付きの約束と、それがどこにでも民主主義をもたらすという考えについても話しています。サム・アルトマンや他のAI CEOが、AIがこれらの信じられないほどの贈り物をもたらすと言ったとき、それをすぐに却下すべきでしょうか、それともそれが現実になる可能性があるのでしょうか?
Twitterは実際、良い例ですよね?それが立ち上げられたとき、ジャック・ドーシーが始めたとき、「私たちは人類を救い、人類文明を絶滅から救うためにここにいる」と発表したわけではありませんでした。それは一種の冗談であり、Twitterを非常に早くから使っていた人々は、「ねえ、それは本当に楽しかったよ」と言っていたと思います。「今日、ツナサンドを作ったよ。君は何を食べたの?」Twitterという会社は、「私たちは民主主義を救うためにここにいる」とステージで発表したわけではありません。
そして実際、起こったのは、政治家や選出された役人がTwitterを、彼らの政治的権力を強化し、メッセージを増幅し、若い聴衆にリーチすることを可能にし、聴衆との絶え間ないつながりを持つことを可能にする方法で使用し始めたことです。政治家や政治キャンペーンは、Twitterを説得しました。少なくとも私が見る限りでは、会社の内情を知っているわけではありませんが、ある程度不本意ながら、Twitterは「Twitterは非常に大きくなり、人々は政治について頻繁に投稿するので、それはほとんどタウンホールのようなものだ」と言うようになりました。
私が思うに2012年までには、Twitterの比較的短い歴史の多くの年を経て、彼らは「Twitter政治・選挙ハンドブック」というものを出版しました。これは政治候補者や選出された役人がTwitterを最も効果的に使用する方法をガイドするものです。そして、「それはあなたのポケットの中のタウンホールであり、それは私たちの民主主義を改善しています。なぜなら、私たちは廃止されたニューイングランドの町議会を復活させているからです」という展開を開始しました。そして、それはすべてばかげているのです。
客観的に見て、これほど真実からかけ離れたことはありません。当時、アメリカ人の5人に1人がTwitterアカウントを持っていました。Twitterアカウントを持っていた人のほとんどがそれを使ったことがなく、政治に関するツイートの90%以上は、常にTwitterを使用していた人の10%未満によって投稿されていました。Twitterが有権者を代表するような方法はありませんでした。Twitterは、アメリカ人の間で最も過激で、政治的に活動的で、超党派的な人々の代表であり、彼らは熱心に政治をフォローしていました。今見ると、「それは単なる歪曲マシンだ。そして、政治家がそれを使って有権者を測ろうとしているなら、彼らは非常に悪い情報を得ている」と言えます。
繰り返しになりますが、Twitterは人工国家に参加したり、民主主義を損なったりしようとしていなかったと言えます。Twitterはビジネスを行い、より多くのユーザーを獲得し、より多くのものを販売しようとしていました。しかし、それは意図しない結果をもたらし、その後、それを受け入れて快適になりました。
本の構造についてもう少し話したいと思います。おっしゃったように、テクノロジーの歴史、思想の歴史から始まり、後半はSFについてです。その構造がどのように思いついたのか、なぜそのように物事を扱いたかったのか、もっと教えていただけますか?
私は、一方では、SFの物語が私が後に人工国家と呼ぶようになるものの到来をどれほど頻繁に予測しているかに興味を持ちました。そして、私は人工国家の寓話と私が考える文学的伝統を特定したいと思いました。そこでは、機械はますます洗練され、人間の機能、政府の機能を含む、ますます多くの機能を乗っ取り、最終的には人間を支配し、そしておそらく人間を破壊します。なぜなら、もはや必要としないからです。
おそらく彼らは人間を奴隷にするだけです。それは、私たちが「ターミネーター」にいるのか、「バトルスター・ギャラクティカ」にいるのかによります。さまざまなバージョンがあり、これらの物語は非常に古くからあります。それらは1850年代にまでさかのぼり、産業化の結果についての初期の熟考の数十年間にまでさかのぼります。
多くの人々、これは私の学部生の間では確かに真実ですが、技術的変化は進歩であると本当に信じています。それだけでなく、唯一の進歩は技術的変化であると。それは人間史における新奇なものです。それは19世紀の知的発明です。そして、それはチャールズ・ダーウィンが進化論を考案し、その後発表したのとちょうど同じ時期に技術的変化が加速していたためです。
したがって、進歩としての進化と進歩としての技術的変化の奇妙な結婚があり、そこから抜け落ちるのは、他のすべての、より古い進歩の概念です。主に道徳的進歩を伴います。つまり、人々がより良くなるにつれて物事が良くなる、あるいは人々がより自由になるにつれて物事が良くなるということです。
進歩について考える方法はたくさんありますが、今日支配的なのは、技術的進歩を唯一の進歩と見なす19世紀の概念であり、したがってすべての技術的変化は進歩であるということです。客観的に見れば、物事が良くなっている場合にのみ進歩です。
しかし、いずれにせよ、19世紀における技術的進歩の概念と進化の概念のこの合流は、明確に考えていた人々が「もし機械がより良く、より速く、そしてより多くのことをこなせるようになり続けたらどうなるだろうか?労働だけでなく、話したり、考えたり、移動したりするかもしれない。もしそれらがすべての面で私たちよりも優れているように進化したらどうなるだろうか?単に織機を動かすのが上手いだけでなく、鉄道車両のように時間と空間をより速く移動するだけでなく?」と考えました。そして、それとともに、SFの中で何度も何度も形を見つけた計り知れない不安が成長しました。
これらの物語の中で私のお気に入りは、1909年にE. M.フォースターによって出版されたものです。彼は「眺めの良い部屋」を書いていた頃です。彼は「機械が止まる」という物語を書きました。これは「眺めのない部屋」と副題を付けることができます。彼は、誰もが部屋、小さなセルに住んでいる近未来を想像しています。必要なものはすべて部屋に届くので、他の人を見ることはありません。それはDoorDashのようなもので、食べ物は配達され、他の人とコミュニケーションできる画面があります。すべてのニーズが満たされています。
人々が最も恐れているのは自然界です。誰も太陽を見たくありません。それは少し「マトリックス」的で、彼らは皆、生活を組織し、立方体のような部屋に彼らが必要とするすべてのものを持ってくる機械を崇拝しています。物語は、「人間は本質的に、人間よりも強く、より強力で、より多くの能力を持つ機械の奴隷になった。そして人間は持っていた能力を失った」ということです。そして、物語のクライマックスは、機械が止まったときです。
読者がその物語を見ると、今日書かれたように感じますが、今日ではSFというより、非常に不幸なYouTuberの日記のように感じます。
その糸を、今日、会社を経営し、政府の一部を運営しているとさえ言える人々、例えばイーロン・マスクにつなげています。本質的に、彼らは非常に悪いSFの読者だと示唆しています。彼らは警告の物語、あるいは少なくとも両義的な物語を、未来のマニュアルであるかのように読んでいます。
これは、SFの読者として私が苦労していることです。アイザック・アシモフを愛する者として、例えば。マスクやアルトマンが、この物語は私の会社でやるべきことのテンプレートだ、とあいまいに言っているのは、確かに狂っていると思います。しかし、彼らが拾い上げているSFにおけるテクノクラート的なリバタリアンのスレッドも[確かに存在します]。それは彼らがゼロから作り出しているものではありませんよね?
奇妙なことに、それはハインラインです。アシモフやダグラス・アダムスではありません。
確かに、SFにはそのスレッドがあります。私は知りませんが、[ジェフ・ベゾス]はロバート・ハインラインの大ファンだと言えるでしょう。あなたは、「なるほど、それはよく合っている。彼らはそれを文字通り読んでいるが、少なくともその文学作品の中で合理的な人間が見つけられる政治的メッセージを得ている」と言うことができます。
しかし、マスクについて面白いのは、彼が好きなものが、実際には彼のすべての政治的信念を完全に打ち砕き、否定していることです。
人工国家はその現在の形で不完全であり、失敗する運命にあると繰り返し述べています。なぜ失敗する運命にあるのですか?
これは、私が議論するすべてのSFで予見されていることです。
それはアシモフの物語ではありませんが、アシモフが少年時代に気に入っていた物語の一つです。「目覚めた男」(ローレンス・マニング作)は、森林管理者が浪費家を打ち負かした未来についてのものです。
これらの物語の一般的な緊張関係は、人工国家と自然界との間にあります。人工国家を建設し、その中で人間を支配するには、自然界を破壊しているため、人間を自然界から疎外しなければなりません。人工国家は自然界を破壊しますが、それでも人工国家を運営するために自然界の資源を必要とします。
したがって、それは、自然界、人間が住める惑星が、人工国家の装置の完全な構築と依存に耐える可能性がないという意味で、失敗する運命にあります。いずれにせよ、それがSFの仕組みです。
おっしゃったように、あなたは政治家や未来学者ではなく歴史家です。しかし、人工国家の敗北はどのようなものになると思いますか?それは単にこれらの企業をすべて解体し、データセンターを破壊することでしょうか?それとも、それを制御下に置くことにもっと焦点を当てた未来があるのでしょうか?
私にはここにはプレイブックはありませんが、決定は統治者との協議でなされなければならない民主主義の中で生きるという推奨事項を除けば。そして、これらの決定は人気のあるものではありません。
データセンターの危機、町から町へ、郡から郡へ、州から州へと、それは部分的には地方紙の衰退と、ソーシャルメディアの多くの結果の一つであるジャーナリズムの破壊、そして[マーク・ザッカーバーグ]の場合、ある程度意図的な結果によるものです。
町議会に多くの人々が集まり、「私たちは住む場所さえありません。医療もありません。仕事もありません。このデータセンターを建設すると誰が言いましたか?もっと詳しく知る必要があります。エネルギーコストがどうなるか知りたいです。水の消費量について教えてください。仕事はありますか?仕事は長続きしますか?それとも半年だけですか?この地域に住むシラサギはどうなりますか?」人々が知りたいことは何でも。
ますます多くの人々が、ソルトレイクの例のように、70%以上の人々がこのデータセンターに反対しており、その代表者はそれを支持していました。それは人々を代表していません。政治的コストがあると思います。そして、私たちは選挙でそれらを見始めるでしょう。
あるいは、そうならないかもしれません。人々に代表者の不正行為に対応する能力を与えるためには、民主主義の機能が十分に整っている必要があります。
人工国家についてのあなたの考えの一部は、10年以上前にニューヨーク・タイムズに書いた素晴らしい記事から始まりました。クレイトン・クリステンセンのイノベーターのジレンマと破壊的イノベーションのアイデアを批判するものです。これはTechCrunchと非常に密接に関連しています。なぜなら、私たちはDisruptという大きなカンファレンスを開催しているからです。
10年後、破壊的イノベーションという考えについてどう感じますか?
私はその記事のすべてを支持します。[(当時、レポール氏は「破壊的イノベーションは、企業が失敗する理由についての理論です。それ以上のものはありません。それは変化を説明しません。それは自然の法則ではありません」と書きました。クリステンセンは、レポール氏が「自分が違反したと非難した学術規則をすべて破った」と反論しました。)]
この本に取り組んでいた昨夏、それを読み返しました。私が言いたいのは、平和的な人間であろうと努めながら、歴史家がこれらのアイデアに関与してこなかったことが問題だと思います。私が破壊的イノベーションに関するこの記事を書いた理由の一つは、(それは私のアイデアではなく、依頼されたものでした…)「破壊的イノベーションは歴史の理論だ。それは歴史的変化の理論であり、アーカイブからの証拠に基づいている」と感じたからです。そして、歴史家として、それは全く意味をなしませんでした。彼の証拠の使用法は、歴史的方法の適切な理解によって完全に許容できません。その議論は、変化がどのように起こるかについての意味のある理解との対話になっていません。
そこで私は研究をやり直し、それは全く成り立たないことがわかりました。書かなければならないと感じました。そして、それ以来、学術的な歴史家が変化の性質を深く考えている、という関与がもっとあればよかったと思います。それは、新しいテクノロジーを開発している人々が本当に、そして誠実に興味を持っている質問です。
人々は本当に考えてみたいと思っています。「これは何だろう?私は何をしているのだろう?結果はどうなるだろう?歴史から学べることはあるだろうか?自動車が馬に取って代わったとき、何が起こったのだろう?法律はどうなったのだろう?運転免許証はどうなったのだろう?交通法はどうなったのだろう?自動車以前は交通規則はなかった。特定の種類の保険制度はなかった。運転免許試験はなかった。それらはどのように登場したのだろうか?人々を多くの点で生活を向上させ、風景を完全に変え、不法行為法を革命的に変えた、非常にエキサイティングな技術に対するそれらのガードレールをどのように開発したのだろうか?おそらく、それについて考えるべきだろう。」
私は、歴史家が長年にわたり、テクノロジストや起業家と、もっと対話していればよかったと思います。単に、「歴史についての講義を提供できますよ」と立ち話をするためだけでなく、本当の対話ができると思います。
これらすべては、私を招いてくれてありがとうと言うためです。
私たちの記事のリンクから購入すると、少額の手数料を得る場合があります。これは、編集上の独立性に影響を与えるものではありません。