災害は依然としてAIよりも良い

災害は依然としてAIよりも良い

ニューラルネットワークの研究でノーベル物理学賞を受賞したジェフリー・ヒントン氏が、最近ガーディアン紙のインタビューに応じました。この記事によると、

AIの「ゴッドファーザー」の一人であるジェフリー・ヒントン氏は、テクノロジーを開発しなければ人間はより良く生きていたかもしれないと述べ、今年か来年に金融システムや電力網の一時的なブラックアウトのような大規模なインシデントを引き起こす可能性があると警告しました。

もちろん、典型的な主流メディアの記事と同様に、この記事は基本的に「リスクがあり、テック企業のCEOは無責任で、トランプも無責任であり、規制が必要だ」と言っています。

しかし、ヒントン博士がAIが電力網をダウンさせたり、金融危機を引き起こしたりするのではないかと懸念している点を探ってみましょう。それはある意味でひどいことですが、起こりうるすべてのことの中で、おそらく最も悲惨なものではないでしょう。

実際、私にとってさらに悪いことのように思えるのは、AIが進化し続け、より強力になる一方で、何も明白に悪いことが起こらないことです。なぜなら、そうなれば、私たちはすべてがAIに支配され、膨大なエネルギーが無駄に消費され、知的コミュニティが破壊され、最終的には自然がテクノロジーによって押し出されて消滅してしまう世界に閉じ込められることになるからです。

画像: Jason Polak撮影、AIの稼働による膨大なエネルギー消費が美しい生物圏に害を与えている様子

つまり、AIから即時の苦痛を経験しなければ、私たちはそれを盲目的に受け入れ、完全に依存してしまうだけなのです。

残念ながら、人間が反応するのはそれだけです：即時の苦痛。人々がAIを手放したくない唯一の理由は、それが今、私たちの金融システムや生活に統合されており、手放すことは長期的な結果よりも即時の不快感になるからです。しかし、AIが深刻な金融崩壊を引き起こせば、それは他のすべてを凌駕し、私たちはAIを手放すでしょう。

これが私が倫理的なAIやAI安全イニシアチブを支持しない理由の一つです。実際、そのようなイニシアチブは、AIから比較的わずかな危険を相殺するだけで、AIが人間により深く食い込み、脅威が大きくなっても除去できなくなるまで、その爪を深く食い込ませるだけです。さらに、AIの本質は創造性の自動化であるため、倫理的なAIなど存在しません。

熱い表面を避ける強い本能を持っていると思いますが、その本能はあなたを火傷から何度も守ってくれたはずです。しかし、それは「熱い表面に触れるな」という看板を読んで身につけた本能でしょうか？それともお母さんが避けるように言ったからでしょうか？いいえ。あなたは火傷を負い、二度と火に手を入れようとは思わないでしょう。

人間は「火傷」を負う必要があります。そして、このテクノロジーがいかにひどいものであるかを理解するのに十分なほどひどく「火傷」を負う必要があるのです。

多くの人が数学がAIによって苦しんでいると話しているのを聞いたことがあるでしょう。私が以前書いたように、AIを巡る数学界には危機と二極化があります。しかし、この分野でさえ、私は「災害」があった方が良いと思います。

より正確に言えば、学術的な数学が破壊され、数学へのすべての資金提供が打ち切られた方が良いでしょう。なぜなら、AI以前から、学術的な数学は、世界に良いことをするための健全な論理的推論のコミュニティではなく、定理を証明する産業へと自らを転換させていたからです。これはAI以前から間違った方向であり、今やAIは学術数学の腐敗した核心を誰にでも見えるように暴露しているのです。

したがって、現代の数学研究がAIによって完全に破壊された場合、人々は数学を再構築し、新しく、より人間中心的な何かを行う必要が出てくるでしょう。

そしてそれが鍵です：再構築。私が pretty sure なのは、人間は私たちが思っているよりもはるかに回復力があり、創意工夫に富んでいるということです。特に必要に迫られた時には。そして私が思うのは、もし私たちが何らかの金融的な「災害」を経験したとしても、実際には主流メディアが信じさせたいほど悪くはならないだろうということです。

しかし、誰もが災害をできるだけ悪く見せかけることに利害関係を持っています。テック企業のCEOは、潜在的な災害が悪く聞こえることを好みます。なぜなら、それは（良いか悪いかにかかわらず）彼らの発明への関心を煽るからです。メディア（例：ガーディアン紙）は、潜在的な災害に否定的で恐ろしいスピンをかけることを好みます。なぜなら、それはより多くの人々が読み、購読し、広告を視聴してくれるからです。

そして、エリート層や富裕層は、私たちが「災害」から容易に回復できるなどと考えてほしくありません。もしそれが真実であれば、彼らの帝国全体が危険にさらされることになるからです。彼らは恐怖を製造することを好み、技術システム自体が恐怖を適応メカニズムとして製造します。なぜなら、恐怖そのものが収益性が高いからです。

ですから、これは直感に反することですが、もしAIが本当に金融システムをめちゃくちゃにしたり、私たちの食料供給網を攻撃したりすれば、私たちはそうでない場合よりもはるかに良くなっている可能性が高いでしょう。一般の人々が血を要求し、データセンターやテクノロジー企業の閉鎖を求めるようになるのがどれほど早いかを想像してみてください。

AIのない世界がどれほど素晴らしいか考えてみてください。

私の活動を支援したい場合は、有料購読を検討してください。ただし、私の記事は常に無料です。

*そしてもちろん、この記事を書くのにAIは一切使用されていません。全くもって。

投稿はありません