私たちは巨大な奇妙な連中にAIを規制させるわけにはいかない

もし、ドローンの規制を、標準的で退屈で官僚的なプロセスではなく、アメリカのドローン技術革新を促進するという名目で、実質的な規制を一切回避するという決定を下したとしたら、どうなるでしょうか。また、有名な航空安全専門家、航空宇宙エンジニア、その他の真面目な顔をした経験豊富な人々が、ドローンが旅客機に衝突したり、人々の頭上に落下したりする非常に現実的なリスクを何年もかけて研究するのをやめ、代わりに、新卒のSTEM専攻者や、顔に創造的な髭を生やした奇妙なドローンブロガーに莫大な金額を支払い、超知能を持つ犬が親指を生やしてドローンを人間に向かって飛ばし、大パニックと地球上の全生命の最終的な絶滅を引き起こす可能性について深く考えさせることに、ほとんどすべての資金とリソースを振り向けることを想像してみてください。彼らをドローン安全研究者と呼びましょう。犬には人間のようないい親指がある 一方で、カーキ色のズボンを履いた、現実的で経験豊富な航空安全と政策の専門家たちは、多くの場合、失業し、脇に追いやられ、何が起こったのかを不思議に思っていると想像してください。これらのドローン安全研究者たちは、犬がどのように超知能になるのか、どこでドローンを手に入れるのか、親指の仕組みはどうなっているのかと尋ねると、すぐにあなたを技術的に無知な愚か者だと一蹴するようです。「天才的な親指を持つ犬のドローン大惨事を防ぐことが、人類がこれまで直面した中で最も重要な問題であること、あなたには見えないのですか？」と彼らは激しく答えます。「私たち、この世代の偉大な頭脳に、なぜ「ドローンが旅客機を墜落させないようにする」といった比較的小さな懸念に貴重な時間を浪費することを提案するのですか？」と彼らはSubstack（彼らは皆Substackを持っています）に怒って投稿します。これらのドローン安全研究者たちは、しばしば同じベイエリアのグループハウスに住み、同じ難解なウェブサイトを読み、同じサイケデリックドラッグに酔ったセックスパーティーに参加しており、彼らがチェック・規制するはずのドローン会社の従業員と、さらに高給を得ていると想像してください。そして、アメリカのドローン会社が、天才的な親指を持つ犬のドローン大惨事を防ぐために、自分たちが集まって規制カルテルのようなものを形成すべきだと提案し始め、その監督はドローン安全研究者（彼らがホットタブパーティーの常連であるかどうかにかかわらず）が提供すると想像してください。彼らは、人類を救う唯一の方法はこれだと私たちに保証します。その一方で、大衆は、先週コストコの外でドローンが自分の叔母さんに落ちたとか、オーランド行きのデルタ便が左翼エンジンにドローンを受けて、エプコットに緊急の、ほとんど致命的ではなかった、水上着陸を余儀なくされたという話を繰り返し聞かされていると想像してください。そして、それにもかかわらず、ドローン安全研究者たちは、これらの安全上の懸念は、人類を悩ませる真の幽霊、つまりドローンを持った超知能の親指を持つ犬と比較すれば、最終的には些細な迷惑であると主張し続けていると想像してください。幸いなことに、私たちはコンシューマードローンの登場をこのように扱ったわけではありません。これは、奇妙に聞こえるかもしれませんが、アメリカが現在ジェネレーティブAIの登場を扱っている方法とほぼ同じです。アメリカ人が仕事、データセンター、AIに触発された暴力、詐欺のようなAI関連の懸念をますます心配しているのに、なぜ国の最も著名で資金豊富なAI「安全」専門家や組織の多くが、「もし私たちが自己増殖ロボットの群れを解き放ち、生物兵器で私たち全員を殺す超知能を作り出したらどうなるか、そして何か何か時間操作するバジリスク？」といったことばかりに焦点を当てているのは奇妙ではありませんか？ [[1]] また、この潜在的に世界を破壊する技術を構築している最も著名な企業が、製品が私たち全員を殺すだろう（私たちが彼らにさらに組織化された規制権限を与えない限り）と主張することに全力で取り組んでいるのは奇妙ではありませんか？どうしてこうなったのでしょうか？ 具体的には分かりませんが、いくつかの広範な理論があります。例えば： はい、バジリスクの話をしなければなりません アメリカの世界をリードするAI企業の多くのメンバーは、同じパーティーで、同じ閉鎖的なベイエリアのグループハウスに集まっています。しばしば文字通りです。彼らは同じ奇妙な合理主義的なハリーポッター風の寓話集を読み、AI搭載のナノロボットやバジリスクが私たちを殺すという不穏な終末論を大量に摂取し、同じ精神を変える薬を摂取し、そして（時には）同じ乱交パーティーに参加しています。そして、彼らは互いの放屁の瘴気にあまりにも長く浸かっていたため、私たちNPC [[2]] の残りの部分と、彼らがそこで何をしているのかについて、少しでも正常な方法で話す方法を完全に忘れてしまっています。まあ、それは非常に奇妙な発言ですね、エリーザー・ユドコウスキー さらに、彼らの莫大な富と影響力、そしてトランプ氏の非営利団体や学術界に対する戦争のおかげで、これらの終末論に取り憑かれたオタクたちは、テクノロジー規制空間の多くを乗っ取ることができました。つまり、彼らは、どのAIのリスクと損害が最も重要であるかについての、彼らの非常に奇妙で証拠の乏しい考えを、あなた、私、そして他のすべての人に押し付けようとしているのです。はい、AI終末論グループハウスの連中と同じように、私もテクノロジー主導の未来を非常に恐れています。それは、彼らと同じように超知能AIが私たちを殺すという彼らの恐怖を共有しているからではありません。それは、このすべて人間臭いオタクの小さな派閥が、強力なAI技術に対するさらに途方もない富と、さらに政治的・規制的な支配を得ようとしており、それが民主主義、プライバシー、人間の繁栄をさらに分断することを可能にする方法で、それをしようとしているからです。つまり、手遅れになる前に、彼らの相互の放屁を吸い合う輪を終わらせない限りは。夏の葉が秋へと移り変わるにつれて、私たちは、AIの減速、それがどのようなものになるべきか、そしてどの程度私たちが皆 mega-doomed（非常に運命づけられている）のかについて、2つの主要な強力なテクノロジー派閥が争っているのを目撃しています。私はそれらを次のように定義します。AI終末論派閥 最初の派閥は、前述のAI終末論カルト派閥 [[3]] であり、Anthropic、OpenAI、イーロン・マスク、そして多くのAI従業員の同盟によって代表されます。これらの人々のほとんどは、程度は異なりますが、巨大でうんざりするような合理主義者/Less Wrong/Slate Star Codexのボング吸い哲学投稿派閥とつながっています。現在の騒動は9月8日に始まりました。当時、比較的目立たない若いAI研究者であるジェイコブ・コックスンがTwitterで、Anthropicでの数週間だけの職を辞任したと発表しました（以前はOpenAIで働いていました）。彼は、両社が「自己改善型超知能に向かってまっすぐレースしており、私たちの命を賭けている」と信じていたからです。コックスン氏の恐ろしい主張は、Anthropicの現従業員による主張に後押しされ、爆発的に拡散しました。その従業員は、特に公的な証拠がないにもかかわらず、今後10年以内にAIが全人類を殺す確率を「10%以上」と評価していると予測しました。これらの暴露は、大手AI企業が監督不足のモデルで他の企業をハッキングしたという、不穏な最近の報告の直後に起こりました（最新の暴露では、OpenAIのモデルがオーストラリア政府のウェブサイトをハッキングしたことが含まれます）。つまり、公的な終末論的なAIの恐怖が臨界点に達するのに適切なタイミングでした。ほとんどすぐに、バラク・オバマ、ヒラリー・クリントン、そしてバーニー・サンダースと実際の生ける屍であるスティーブ・バノンによるシュールな共同作業を含む、多くの著名な人々が差し迫ったAIの終末について不吉に語り始めました。数日後の9月12日、AnthropicのCEOであるダリオ・アモデイは、「フロンティアをペースダウンする必要がある」と題したエッセイを発表しました。その中で彼は、最近の著名なAIの「脱走」事件を、AI企業がモデルの能力を高めるペースを遅らせる必要があることの確固たる証拠として引用しました。アモデイは、そのような「ペースダウン」の実施方法についていくつかの提案をしました。