AIセーフティは主にカリフォルニア州バークレーのセックスカルトである

AIセーフティは主にカリフォルニア州バークレーのセックスカルトである

これらの人々は政策を決定すべきではない。

長年にわたり、AIセーフティの議論をその起源と知的中心から切り離そうとする多大な努力がなされてきた。なぜなら、その中心はファンフィクション作家によって始められたセックスカルトだからだ。関与している人々は真剣に受け止められたいと望んでいるため、それを隠さなければならない。AIセーフティに取り組む他のすべての人々は、実質的に、この中核グループとその思想のための煙幕となっている。

科学や政策分野としての「AIセーフティ」が、主にカリフォルニア州バークレーのセックスカルトではなくなる日が来るかもしれないが、それは現在存在しない。

エリエーザー・ユドコウスキーとは誰か？

こちらがエリエーザー・ユドコウスキーである。彼はバーニー・サンダース上院議員（AI政策について助言している）との会議、および現在Netflixで配信中の『The AI Doc』で彼が見られた様子である。

［画像: 2枚のスライドカルーセル。スライド1: バーニー・サンダース上院議員（@SenSanders）のX投稿、2026年3月4日午後4時02分投稿、エリエーザー・ユドコウスキーが話しているビデオ静止画付き。投稿テキスト：「AIは人間よりも賢くなるのか？もしそうなら、人類は危険にさらされているのか？私はシリコンバレーに行って、主要なAI専門家数人にその質問をしてみた。彼らが何を言ったかは以下の通りだ：」ビデオの字幕には「彼らは工場を運営している」とある。スライド2: メガネをかけ黒い帽子をかぶったユドコウスキーのクローズアップ、『The AI Doc』より。字幕：「突然の絶滅」。］

こちらが2023年のタイム誌に掲載されたユドコウスキーで、地球上のどこでもAI研究が行われるのを阻止するために核戦争のリスクを冒すことを主張している。

［画像: ユドコウスキーのタイム誌のエッセイからの抜粋：「国家間の利益の対立として何も枠組みを作らず、軍拡競争について話す者は皆愚か者であることを明確にせよ。我々全員がこれにおいて生または死を共にするというのは、政策ではなく自然の事実である。国際外交において、AI絶滅シナリオの防止は、全面的な核交換の防止よりも優先されるべき事項と見なされ、同盟国の核保有国は、大規模なAIトレーニングの実行リスクを軽減するために必要な限り、核交換のリスクをある程度冒す用意があることを明確にせよ。」］

こちらは非常にシニアなOpenAIの従業員であり、非公式なOpenAIのスポークスマンであるRoon氏である。Roon氏がユドコウスキーについて公に表明している意見は以下の通りである：

1. ユドコウスキーは、Roon氏がセックスカルトと表現するものに関与している、またはそれを運営している。
2. ユドコウスキーのAIに関する意見は重要であり、Roon氏は彼が言うことを非常に真剣に受け止めていると述べている。

これはユドコウスキーに関して非常に一般的な意見の組み合わせのようだ。

[

［画像: 9月13日のXでのやり取り。Casey, @caseycantor_: 「Roonさん、AIの主要なプレイヤー、経営者やエンジニアを含め、ユドコウスキーやSoaresのような人々の議論に公にあまり関与しないのはなぜですか？それは、これらの議論がすでに繰り返し検討されているからですか、それとも真剣に受け止められていないからですか、あるいは私が正しい部分のTwitterをフォローしていないからですか？」 roon, @tszzl: 「様々な理由で真剣に受け止められていません。彼らは皆、セックスカルトと高慢な態度に深く浸かっているので、彼らを真剣に受け止めるのがどれほど難しいかを知りません。Nate Soaresは、タッカー・カールソンの番組で多くの狂人たちの一人として非常に馴染んでいました」 roon: 「しかし、私はユドコウスキーを今世紀で最も強力な哲学者の一人だと考えています。彼が何かを言うとき、私はそれを非常に真剣に受け止めます。私は心理的に私の免疫反応を抑えなければなりません。彼は良い人間であり、世界を救うために多くのことをしてきました。」］

](https://substackcdn.com/image/fetch/$s_!j7qp!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fdb45d23c-fda5-4bdb-929d-19388d70e153_606x490.png)

ユドコウスキーは十分に論争の的となっているため、彼の思想に動機づけられた人々はしばしば彼の影響力を軽視したり否定したりする。時にはこれは複数の層に及ぶ：サム・バンクマン＝フリードから金を受け取った人々が、自分が効果的利他主義者であることを否定する、サム・バンクマン＝フリードが捕まったときに自分が効果的利他主義者であることを否定する、効果的利他主義者が、自分たちのAIセーフティのバージョンがユドコウスキーの影響を強く受けていることを否定する、運動の非常にコアなメンバーがしばしば自分たちを「合理主義者アジャセント」と呼ぶ、などである。しかし、ユドコウスキーは、ほぼすべての主要なAIの公人に対して、証明可能かつ公然と影響力を持っている。それは隠されているからではなく、あまりにも狂っているように見えるから、否定するのは簡単だ。

ユドコウスキーは、シェーン・レッグとデミス・ハサビスをピーター・ティールに繋ぎ、彼らがDeepMind1を設立するための資金を確保できるようにした人物である。DeepMindは現在GoogleのAI研究部門である。サム・アルトマンのユドコウスキーに対する意見は以下の通りである。

[

［画像: Sam Altman, @samaによる2つのX投稿、2023年2月3日：「IMO、イーライザーはAGIを加速するために誰よりも多くのことを成し遂げた。確かに彼は我々の多くをAGIに興味を持たせ、AGIがオーバー・ザ・オーバー・ザ・ウィンドウ（常識の範囲外）であった時期にDeepMindの資金調達を助け、OpenAIの設立決定に不可欠であった、など。」「ある時点で、彼はこの功績でノーベル平和賞に値するかもしれない――私は短期間と遅いテイクオフが、短期間/長期間のタイムラインと遅い/速いテイクオフのマトリックスにおいて、おそらく最も安全な象限であると信じ続けている。」］

](https://substackcdn.com/image/fetch/$s_!H028!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa3f7ffc8-9cb7-4e8f-b63a-ba1082397cf9_601x369.webp)

左は、イーロン・マスクとユドコウスキーの両方が参加した、Future of Life Instituteの2015年1月プエルトリコAI会議のスケジュールである。右は、その年の8月に開催された、別個の、明確に効果的利他主義的なイベント、EA Globalである。マスクとユドコウスキーも両方とも参加した2。マスクは同年12月にOpenAIを共同設立した。これらのイベントとサム・アルトマンの直接の功績を考えると、ユドコウスキーと効果的利他主義は、OpenAI設立決定に隣接し、おそらく重要な役割を果たしたことは確かである。

［画像: 2枚のスライドカルーセル。スライド1、会議スケジュール：「0800-0900：朝食 0900-1200：人間レベルのAIの作成：どのように、いつ？短い講演に続いてパネルディスカッション：それは起こるのか、そして起こるならいつか？エンジニアリングされたソリューション、全脳エミュレーション、またはその他の手段によるか？（機械が目標を持つか、倫理などに関する質問は午後4時のセッションまで延期します）講演者：• Demis Hassabis, Google/DeepMind • Dileep George, Vicarious (pdf) • Tom Mitchell, CMU (pdf) パネリストにはJoscha Bach (MIT)、Francesca Rossi (Padova)、Richard Mallah (Cambridge Semantics)、Richard Sutton (Alberta) が含まれます。1200-1300：昼食 1300-1515：ビーチでの自由遊び/ブレイクアウトセッション 1515-1545：コーヒー＆スナック 1545-1600：ブレイクアウトセッションレポート 1600-1900：知能爆発：科学かフィクションか？知能爆発が起こった場合、どのような結果が予想されるか？肯定的な結果を最大化するために今何ができるか？封じ込め問題？「友好的AI」は可能か？現実的か？起こる可能性は？講演者：• Nick Bostrom, Oxford (pdf) • Bart Selman, Cornell (pdf) • Jaan Tallinn, Skype創設者 (pdf) • Elon Musk, SpaceX, Tesla Motors パネリストにはShane Legg (Google/DeepMind)、Murray Shanahan (Imperial)、Vernor Vinge (San Diego)、Eliezer Yudkowsky (MIRI) が含まれます。1930：晩餐会（ビーチサイド）」。スライド2：5人のパネリストが「Effective Altruism Global 2015」と書かれたスクリーンの下でステージに座っている。記事のキャプションでは、左からDaniel Dewey、Nick Bostrom、Elon Musk、Nate Soares、Stuart Russellと特定されている。］

右側には、順にDaniel Dewey (MIRI)、Nick Bostrom (Oxford Future of Humanity Institute)、Elon Musk (自明)、Nate Soares (MIRI)、Stuart Russell (AI研究にかなり長けている、それ以外は関与なし)。

Anthropicの現CEOであるDario Amodeiは、2013年にユドコウスキーの非営利団体のブログで「効果的利他主義コミュニティのメンバー」として紹介されている。彼はHolden Karnofsky（こちらも効果的利他主義者として紹介されている）と共に登場する。

[

［画像: MIRIウェブサイトのスクリーンショット：「MIRIのSteinhardt、Karnofsky、Amodeiとの戦略会議 2014年1月13日 | Luke Muehlhauser MIRIは2013年10月27日、効果的利他主義コミュニティの3人の追加メンバーと会合し、MIRIの組織戦略について議論しました。参加者は以下の通りです：• Eliezer Yudkowsky (MIRIの研究フェロー) • Luke Muehlhauser (MIRIの執行ディレクター) • Holden Karnofsky (GiveWellの共同CEO) • Jacob Steinhardt (スタンフォード大学のコンピュータサイエンスの大学院生) • Dario Amodei (スタンフォード大学の生物物理学のポスドク) 我々は会話の大部分を録音・文字起こしし、その後、明確さ、簡潔さ、および一部の内容を保護するために、文字起こしを編集・要約しました。結果として得られた編集済みの文字起こしは、ここで（62ページ）全文入手可能です。］

](https://substackcdn.com/image/fetch/$s_!36ZH!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff5fef854-ecd8-4ddc-abdb-c97feb2c0888_633x724.webp)

そしてここで、ダリオはユドコウスキーと、AIが皆を殺すかもしれないという、今では古典的な思考実験であるペーパークリップ最大化装置について議論している。これは「元々はユドコウスキーのものである。

[

［画像: 議論の文字起こし抜粋：Jacob: 私はイーライザーが言うだろうと思うのですが、間違っていたら訂正してください。それはある種の充足感に似た自然なカテゴリーがありますが、望ましくないあらゆる種類のものをすべて含んでいます。例えば、ワイヤー・ヘッディングに「はい」と言うとか。それは正しいですか？Eliezer: はい。Dario: どんな短期的な神経計算カテゴリーでも、そうなるでしょう。我々が意味すること、より広い時空間的範囲を記述する、より長期的なカテゴリーがあります。問題はそれが自然かどうかです？あなたはそれが自然ではないと言っていますか？Eliezer: ペーパークリップ最大化装置があなたを操作するためにそれを知る必要があるのはなぜですか？Dario: おそらくそれは非常に速く勝つので、それを知る必要はないでしょう。しかし、人間と長期間やり取りするものは、それを知る必要があるかもしれません。Eliezer: なぜ？Jacob: 実際、この線に沿って進むことと、数レベル上に上がるのと、どちらが時間の使い方として最善か確信が持てません。Eliezer: 「なぜFAIは難しいのか？」という根本的な問題は、これらすべてと大いに関係があります。具体的な多くのことがうまくいかないことを知ることで、FAIがなぜそれほど難しいのかを人々が見るのに役立つと私は疑っています。］

](https://substackcdn.com/image/fetch/$s_!55-W!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa1fdcc51-598c-498d-ac45-ffd7c142c557_682x507.webp)

「AIアラインメント」と「AIセーフティ」は、ユドコウスキーの非営利団体であるMIRI（Machine Intelligence Research Institute）によって最初に広められた。OpenAIとAnthropicは、ユドコウスキーまたはその非営利団体を少なくとも12回引用しており3、今日我々がAIについて話す方法はすべて、その非営利団体が広めた用語を使用している。これらの分野について、暗黙的または明示的にユドコウスキーの著作に対するコメントを行うことなく、議論することさえ実質的に不可能である。

こちらは、最近Anthropicを辞職した「内部告発者」であるJacob Coxon氏が、合理主義者や効果的利他主義者に対する自身の見解を問われている場面である。

[

［画像: Xでのやり取り。Ed Zitron, @edzitron: 「合理主義者や効果的利他主義者との関係はどうですか？」 Jacob Coxon, @hilbertspaess: 「はい、これは非常に重要な質問です。私は約10年間、合理主義者と付き合ってきました。彼らの思想は説得力があり、その先見の明を否定することはできません。すべての超知能努力の創設者は、合理主義の分野に縛られています。サム・アルトマンとグレッグ・ブロックマンはかつてMIRIのオフィスによく通っていました。私が合理主義者と関わる方法は、特殊なアスリートの奇妙に肥大した肉体のようなものです。私の意見では、彼らは奇妙に特化した精神を持っており、それが日常的な経験から離れたトピックについて正確であるためにユニークに能力を与えています。これらの「特化した精神」は、多くの人々にとって不快なものにもなり得ます。私が自分自身を合理主義者と呼ぶかどうかはわかりません。私は本能的にポリアモリー、ビーガン主義、結果主義的な直観に反対しています。しかし、事実に関する質問については、彼らが正しいと確信しています。」］

](https://substackcdn.com/image/fetch/$s_!gVex!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fb227fdfe-9928-4950-ad8e-706d383fa40b_1320x1826.webp)

こちらはNate Silver氏がAIリスクに関する情報源としてLessWrongを引用している場面である。LessWrongは2009年にユドコウスキーによって開始されたウェブサイトであり、当初はユドコウスキーの著作のみで埋め尽くされていた。

[

［画像: Nate Silver, @NateSilver538, 2026年9月11日午前8時10分：「AIリスクの人々は実際に仕事をしている！何百ものワーキングペーパー、何千ものLessWrongの投稿、文字通りこのテーマに関するベストセラー本がある。」引用された投稿 by rat king 🐀, @MikeIsaac · Sep 11: 「『我々が死ぬ確率はTKパーセント』という見出しのすべてについて、フラストレーションを感じるのは、研究者がどんな数字でも言えるのに、非技術的な人々は単に『くそ、あの男はテック業界の人だ、心配だ』と言うことだ。仕事を見せろ！これはスケーリングの法則に関するものか、それともまだ読んでいないarXivのファイルに関するものか？…[途切れ]」］

](https://substackcdn.com/image/fetch/$s_!Y0w8!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F563d0a3b-1bfb-486b-bc1c-ab9d403ae041_1024x612.webp)

こちらはOliver Habryka氏である。彼はLessWrongと合理主義者の複合施設であるLighthavenを管理する非営利団体の執行ディレクターである。彼はここで、合理主義がAIセーフティとAIの存亡リスクに関する言説にどれほど大きな影響を与えているかを説明している。彼は内部の縄張り争いに関与しているようだ。これは私が彼に同意した唯一の機会かもしれない。

[

［画像: Oliver Habryka, @ohabryka, 2026年9月21日午後6時51分の投稿のスクリーンショット：「> これによりEAは言説に影響を与える力を得た。例えばMETRがHugging Faceのハックについて書いたり、DarioがPacing The Frontierの手紙を発表したりした。おいおい、これはばかげている。LessWrongは、ほぼすべての人気EAコンテンツを合わせたよりも多くのビューを得ている。EAはどのようにして、合理主義コミュニティができない方法で「言説に影響を与える力」を持っているのか？むしろ、AIセーフティと存亡リスクへの永続的な焦点を持つ合理主義コミュニティのミーム的影響こそが、言説に大きく影響を与えたことは明らかだ。合理主義コミュニティは、EAコミュニティが過去10年間AIの存亡リスクを気にかけてきた主な理由である！あなたの他のポイントのいくつかは妥当に見えるが、このポイントは私を少し困惑させるだけだ。」］

](https://substackcdn.com/image/fetch/$s_!VySh!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F478b45fd-d206-4e0b-b481-04fd24422216_602x502.png)

こちらはサム・アルトマンの家を放火しようとしたDaniel Alejandro Moreno-Gama氏のポッドキャストインタビューであり、彼はユドコウスキーを主な影響源として挙げている。

合理主義者とは誰か？

ユドコウスキーのより熱心な信奉者たちは、今日では自分たちを「合理主義コミュニティ」と呼ぶことを好むようだ。他のすべての人々は彼らを「合理主義者」と呼び、その全体を「合理主義」と呼ぶ。「ラッツ」という呼び方も一般的だ4。

こちらは彼らが宗教であるという長い否定文である。私はこれらの否定文を面白いと感じるのと、侮辱的だと感じるのとを交互に繰り返している。

［画像: Aella, @Aella_Girlによる投稿の3枚のスライドカルーセル。スライド1：「さて、『合理主義は宗教か』について、キーボードと時間があるので、私の完全な考えを述べます。1.『合理主義』は、多くの人々がブログ（シーケンス、HPMOR、SSCなど）を読んで、それらの同じブログを読んでいる他の人々とうまくやっていけることに気づいたことから生まれたコミュニティです。2.それは『合理主義コミュニティ』という名前になりましたが、多くの人々はそれを後悔していますが、もう変更するには遅すぎます。しばしば人々は自分たちを「志望する」合理主義者と呼びます。これは、エゴを魅力的な言葉に結びつけるのが危険であること、資格主義への一般的な不信感、そして私の意見では合理主義は到達点というよりも「プロセス」であるためです。3.それは、真実をより頻繁に導く方法で考える方法を理解したいと『望む』ことができるだけでなく、これらのことに対して具体的かつ意図的な努力を実際に行うことができるという共有された価値を中心に据えたコミュニティ、またはシーンです。4.これらのアイデアの多くは、自分の思考が間違っていることを特定する方法を見つけることに焦点を当てています。例えば、xが起こると考えるなら、実際にお金で賭けるのです。そうすれば、それが起こらなかったとしても、自分自身に言い訳できなくなります。間違った場合、実際には結果を被らなければなりません。これは、あなたが気づいていないかもしれない心理的な対処法を避けるのに役立ちます。5.『合理主義的なことをしようとする』ことと、『真実を理解しようとする』ことの失敗を避ける方法について、多くのメタコミュニティでの議論がありました。例えば、感情は真実を理解するのを妨げると考えるかもしれません（例えば、恐怖や貪欲が株式を選ぶ際にそうするように）、それであなたは「感情を無視すべきだ」と考え、そして自分自身や世界についての貴重な情報を大量に逃してしまうことになります。6.コミュニティには、世界に関する事実、さらにはシーケンスについても多くの意見の相違が含まれています。現在のベイエリアのシーケンス読書グループでは、読書のためのデフォルトのプロンプトの1つは「ここに同意できないことはありますか？もしあれば、何ですか？」であり、その後人々はそれについて議論します。7.コミュニティは閉鎖的で奇妙な傾向があります。それは非常に自閉症的で、高いSATスコアを持つ人々、シェイプシフタータイプの人々を引きつけます。彼らは独自の語彙、規範、文化を発展させてきました。多くの人々が「合理主義コミュニティに不満を感じているが、他に好きなコミュニティは見つからない」と言っているのを聞きました。さて、それは宗教か？」。スライド2：「いいえ、そしてそれを宗教だと考えることは、宗教と奇妙な閉鎖的な文化の両方を根本的に誤解しています。今日人々が「宗教」と考えるものは、古代の強力な怪物の薄い影です。宗教は文明全体を興し、破壊してきました。殉教者は、単に『ああ、私が捕まった、信じない』と言うよりも、焼かれて死ぬことを選びました。あなたが信じている信念で、悪い連中があなたを文字通り死ぬほど焼くのを止めるために『わかった、信じない』と言う言葉を言うことを拒否するものはありますか？それがどのようなものか想像できますか？それは、人生のあらゆる部分、服装から結婚、戦争、死そのものに触れる神聖な規範を刻み込んできました。それは歴史的に、人間の心の核深くに潜り込み、それを自らの意思の武器に完全に変貌させてきた力です。西側世界の多くでは、その獣は死に、文化はそれを覆う金色の残骸を身に着けて歩き回っています。「ほら、教会に行くよ」と言いますが、彼らの魂は何にも憑かれておらず、世俗的な規範の浸透で満たされています。彼らは同性婚を支持したり、離婚したことがあったり、神聖なテキストを神聖なものとしてではなく、感動的な詩や自己啓発の代替として扱ったりします。そして、まあ。意味を見つけられるところから見つけなさい。伝統は心地よいものです。しかし、ユニテリアン・ユニバーサリストやカジュアルなカトリック教徒、文化的なユダヤ人は、その獣に全く憑かれていません。「宗教」という言葉は、西洋文化の人々にとっては薄められており、したがって、異なる服を着ている誰にでも簡単に投げかける言葉です。そして、まあ、私たちが使う言葉自体が、皆が同じページにいる限り、問題ではありません。それを拡大してもいい、なぜダメなのか。しかし、それを拡大しても、人々がその獣にどれほど憑かれているかは実際には変わりません。私の意見では、合理主義者は宗教の皮膚さえ着ていません。神聖なテキストはありません――共通のテキストがあり、コミュニティに非常に統合されているのにそれらに精通していないのは奇妙ですが、それらすべてを無批判に同意するのはさらに奇妙です。単一の信念セットはありません――リベラルと保守、社会主義者とリバタリアン、有神論者と無神論者を見つけることができます。コミュニティはもちろん特定の信念セットに『傾向がある』が、結論に対して排他的であることは全くありません！私は個人的に合理主義コミュニティのメンバーであり、おそらくその最も著名なメンバーの一人ですが、私は深く狂った精神的な信念を持っており、現実は分子でできているとはあまり思っていません。」スライド3：「おそらく最も重要なのは、合理主義は精神的ではなく、精神的であると主張しないことです。私は多くの合理主義者がミーティングで意識について議論するのを見てきましたが、どういうわけか彼らの議論はそれを輝きから剥ぎ取ることに成功しています。私の考えでは、宗教と見なされるために中心的なものがあるとすれば、それは体系化された精神性の源のようなものです。私の意見では、合理主義者はこれに欠けており、もっとそれがあればと思います。「合理主義」という実践がこの機能を行うとは全く思いません。それはほとんど無関係です。私は、合理主義コミュニティが、人生に特定の意味を与えるためにそれを利用する人々を引きつけてきたことがあるとは思います。愛されるに値する良い人間になりたいという願望、EAに隣接する善行によって満たされるもの。あるいは、コントロールを失うことへの恐怖、自分の考えが非常に正しいことを確認するために一生懸命働くことによって和らげられるもの。（コミュニティはこれについても多くの内部議論をしてきました）。おそらく外部の人は合理主義を見て、『ああ、もし私がこれに足を踏み入れるなら、私の動機は内面の壊れた部分を直すことだろう』と考え、それを宗教の機能にパターンマッチングするのかもしれません。しかし、より一般的には、人間が奇妙な人々、特に熱心な奇妙な人々、そして特に何らかの形で強力になる可能性のある熱心な奇妙な人々（高いSATスコアの数学オタクは通常多くのお金を手に入れる）をアウトグループ化する傾向に関連していると私は疑っています。宗教であるか否かにかかわらず、人間の生活の多くの非宗教的な側面には、宗教のいくつかの側面を漠然と反映する性質があります。なぜなら、人々にとって宗教が魅力的な理由は、しばしば人間の基本的な衝動と結びついており、それらは宗教であろうとなかろうと、どこにでも現れるからです。編み物コミュニティにはパターンに関するドラマがあり、創造性と所有権に関する道徳規範を内部で訴訟しています。保守派は移民の罪に対して防御的に反応します。似たような毛皮愛好家は毛皮のユニフォームを着て定期的に集まり、彼らの生き方を祝い、交わります。科学、学術なども、定期的な会議、かなりの儀式があり、特定のタイプの人々を引きつけ、誰もが学び、従うことが期待される重要な教えのセットを持つ、高められたコミュニティです。その周りの文化はしばしば非常に有毒ですが、通常、それを「宗教」と非難する人々は、自分自身が科学をうまくできない人々です。コミュニティ、自閉症、そしてスキルを実践することに関する共有された価値観は、宗教を作るものではありません。合理主義コミュニティを批判できないとは言いませんが、「それは宗教だ」よりも良いものが必要です。」］

「HPMOR」（Harry Potter and the Methods of Rationality）は、千ものカルトを生み出したファンフィクションである。それは、モルモン教の書に匹敵する、おそらく現代で最も影響力のある単一の宗教的テキストである。その影響力はまだピークに達していないかもしれない。それは最初の偉大なインターネットカルトの聖典である。

合理主義者はベイエリアの効果的利他主義者とどのように繋がっているか？

主張によれば、効果的利他主義とそのAIセーフティの取り組みは別のものであり、ユドコウスキーに直接従属するものではない。これは事実を知っていると信じがたい。ベイエリアの効果的利他主義は、合理主義とほぼ完全に重複しており、ベイエリアの効果的利他主義AIセーフティの人々が、効果的利他主義の他のセーフティの取り組みの議題を設定している。

ベイエリアでは、合理主義と効果的利他主義は同じ人々、同じイベント、同じ場所で、同じ著者やリーダーが言うことを信じているように見える。わずかな影響力の範囲の違いしかない。ユドコウスキーは、AIは確実に我々を殺すと述べ、ダリオはAIが我々を殺す可能性が25%であると述べている。

どちらも、自分たちだけが資金、労働力、注意を払うべき理由を述べている。ユドコウスキーは作家であり、いかなる種類の科学者でもないため、AIセーフティが解決不可能な問題であり、AIに反対することだけが重要であると主張することによってのみ、自分と自分の組織が重要であり、資金と名声に値すると主張できる。ダリオは実際にAIを作る会社を率いているため、ダリオは「AIの破滅」が非常に大きな問題であり、自分の会社だけがそれを管理できると主張しなければならない。

ユドコウスキーも同様に、AI企業がほとんど何も作っておらず、彼が単に執筆することによって研究を行っていると主張できた頃、自分の（非営利）会社が「人類種を救う」ための最良のチャンスだと主張した6。ユドコウスキーの信念体系は、投資家、寄付者、ボランティア、そして従業員にとって成功したピッチである。また、政治的および教義的に、人々があなたに完全な支配権を与えるためのピッチでもある。なぜなら、もしそうでなければ、世界が終わるかもしれないからだ。ユドコウスキーがこのピッチを洗練させた後、その変更版がOpenAIやAnthropicのような組織のピッチとなった7。この千年紀的なイデオロギーは、従業員の士気と採用に不可欠なものとなったようだ。なぜなら、多くの研究スタッフが一様に、あるいはある程度信じているからだ。

ユドコウスキーは、他の理由の中でも、彼が唯一経験してきた仕事であるため、終末論の福音を説くのをやめることはないだろう。もし彼が考えを変えれば、彼の社会的地位と、非営利団体から支払われる約60万ドルの収入を失うことになるだろう。一般的に、終末の予言に価値があれば、人々はより多くを生産するだろう。このシステムの目的は、資金と若い理想主義者を引きつけ、資金を使い、若い理想主義者を利用する方法を見つけることである。歴史的に、合理主義者は、多くの若い理想主義者に性労働に就くことを奨励してきたようだ8。

人々は自分のインセンティブに従う傾向がある。

EAからAnthropic、そして政策へ

人々は時々、Anthropicが効果的利他主義組織であることを否定する。これは技術的には真実かもしれない。Anthropicという会社は、自分がそうであるかそうでないかを自由に言うことができる。しかし、Anthropicの創設者、上級従業員、および投資家は、効果的利他主義と数多くの繋がりを持っている9。

特にダリオは、彼が言うことや話し方において、ベイエリアの効果的利他主義者の典型にほぼ完全に当てはまる。ダリオのしばしば奇妙で曖昧で回りくどい文章スタイルだけでも、LessWrongとそのAI中心のスピンオフであるAlignment Forum以外には、実質的な前例がない。彼は2008年以来、ユドコウスキーのコミュニティミーティングに直接関与している10。Anthropicの戦略は、ユドコウスキーが示した戦略と非常に似ている。これは、ディープラーニングが成功し、ディープラーニングを専門とする企業が登場する前のものであり、ユドコウスキーの組織はもはや真剣な研究プロジェクトとしては信頼性を失っていた。

この同じ所属の否定は、AIリスクに焦点を当てるべきとされるベイエリアの他のすべての非営利団体の間の近親相姦的な関係についても起こる。それらは事実上すべて、少数の資金源から支援を引き出し、運動から人材を採用している。Holden Karnofsky（現在はAnthropic、以前はCoefficient Givingの責任者）は、Redwood Researchの元理事であり、METRの初期の提唱者の一人であった。RedwoodとMETRの両方とも、独立した組織であると主張している。それらは形式的には独立しているかもしれないが、運動全体と同じ目標を目指しており、広範に思想的に準拠している。

特にRedwood Researchは、ユドコウスキーがMIRIで得たような成功を、彼の提示のずさんさや、すべてを彼の特定の社会生活に結びつけることを避けながら、再び掴もうとしているように見える。Redwoodは、実質的に同じ世界観を、真剣な組織から出たものとして引用・参照できる政策論文に「洗浄」しているようだ。彼らのCEOは元MIRIのスタッフであり11、彼らが最初に立ち上げたとき、彼らのウェブサイトにはNate Soares（2015年以来MIRIの執行ディレクターまたは社長を務めている）からの熱烈な引用があった12。

バーニー・サンダースと共にビデオに出演している人々は以下の通りである：

• Eliezer Yudkowsky, MIRI
• Nate Soares, MIRI
• Jeffrey Ladish (Coefficient Giving and Survival and Flourishing Fundから資金提供を受けている)
• Daniel Kokotajlo (Survival and Flourishing Fundから資金提供を受けている)

したがって、彼らが上院議員と話すために行くとき、我々はユドコウスキー、ユドコウスキーのトップ補佐官、そして効果的利他主義の慈善団体から給料を得ている2人を目にする。我々は後で彼ら全員に再び会うことになるだろう。

元バイデン政権高官のBruce Reed氏とBen Buchanan氏は最近、Politicoに論説を寄稿し、オープンソースAIを禁止したいと述べたことを否定した。彼らは、その会議で最初にマルク・アンドリーセンから言われたことは、「アメリカのAI政策を運営したいセックスカルト」に注意しろということだったと主張している。

次に彼らは、効果的利他主義者であることを次のように否定している：

まず、アンドリーセンは我々に「アメリカのAI政策を運営したいセックスカルト」に注意するよう警告した。これは、AIが人類に存亡の危機をもたらすと信じている効果的利他主義運動におけるポリアモリーの事例を指しているようだ。効果的利他主義は、我々およびバイデン政権が共有しなかった哲学である。

Ben Buchanan氏は、ジョージタウン大学のEmerging Technology Security Center (CSET)でサイバーAIプロジェクトのディレクターとして2年間勤務した。CSETは、その資金の約90%をCoefficient Giving（当時Open Philanthropy）から受け取っていたようだ。バイデン政権終了の4ヶ月後である2025年5月以降、彼はAnthropicのコンサルタントとして勤務している。

Buchanan氏は、GPUの輸出管理の可能性について議論した著書を2022年3月に出版した。2022年10月、バイデン政権はGPUの輸出制限を導入した。

私はBuchanan氏の著書13を読んだ。彼はおそらく効果的利他主義者ではないだろう。なぜなら彼の考えは十分に奇妙ではないからだ。しかし、2019年以来、彼の給料は効果的利他主義グループまたはホワイトハウスから来ている。私は、彼が自分の意見を正直に得ており、通常の政策アドバイザーの理由でそれらを信じていると確信している。もし彼が自分の意見を変えれば、彼のキャリアはおそらく危機に瀕するだろう。

よりプロフェッショナルな効果的利他主義者からは恥ずかしいと思われ、現在資金もやや不足しているにもかかわらず、ユドコウスキーとその組織は、依然としてベイエリア、そしてそれゆえ地球上で、AIセーフティに関する最も影響力のある思想源である。多くの投資家や主要スタッフが彼と彼の思想を高く評価しているため、たとえ望んだとしても、主要なAI企業が彼らを直接否定できるかどうかは明らかではない。特にダリオは、公の声明において、「より宗教的にならないように」「終末論」への執着を減らすようにと述べることで、間接的にユドコウスキー派閥からの影響力を奪おうとしているように見える。ダリオがそれを間接的に言わなければならないという事実は、直接言うことが those communities でダリオに多大なコストがかかる可能性があり、彼がその事実を認識していることを示唆している。

ベイエリアの合理主義者と効果的利他主義者はAI産業において非常に影響力があるため、このサブカルチャーの内部関係者でない人々は、その産業の研究または政策アジェンダに実質的に影響を与えることができない。これには、実際の研究を行っている多くの人々が含まれる。現在のAIセーフティ研究の一部は、将来有用な知識を生み出すかもしれないが、今日の主な効果は、科学を全く行っていない人々、しかし非常に特定の宗教的および政治的アジェンダを主張している人々に科学的な正当性を与えることである。

ペーパークリップ、終末

ユドコウスキーの最もバイラルなアイデア、最も多くの人に感染し、最も遠くまで広がるのは、AIが開発され続ければ、

1. 確実に再帰的に自己改善し（「RSI」）、超知能（「ASI」）を達成する。
2. 確実に人間の制御を逃れる。
3. 確実に全員を殺す（「ペーパークリップ化する」、「終末」）。

AIセーフティとAIアラインメントに関するすべての議論は、主に彼の正確な条件の下でのこの正確なシナリオを軽減することに関するものである。大幅な修正は比較的まれである。終末の確率が「確実」よりも低いとされる場合でも、人々は依然としてユドコウスキーの概略的なシナリオ、すなわち1)超知能、2)即時の制御からの逃亡、3)全人類の死、という突然の予測不可能な一連の出来事に、主に懸念を抱いているようだ。これは常に、暗黙的に、「安全性」と「アラインメント」が意味するところである。

これらのアイデアは時折、AIが魔法であるという信念にまで及ぶ。真剣な科学や政策として提示される場合、このようなものは省略される。

[

［画像: Eliezer S. Yudkowsky署名のメッセージのスクリーンショット。上部の引用テキスト：「> まあ、メッセージの精神は理解できるが、文字通りの> 意味合いは本当に押し付けがましい。結局のところ、閉じ込められた種は> 文字通り全能ではない。まだできないことがあるだろう――そして私は> 推測するだろう、ウェブオフでハードウェアなしでエルフ信号を送信すること> 送信機はそれらのことの一つだろう。」返信：「あなたが見逃せないことの一つ――そしてこれは真剣に言っている――は「魔法」だ。単純な魔法。CPUを通して特定の命令シーケンスを実行して、特定のトランジスタがオンオフになり、宇宙の量子チートコードを変調させる。あるいは何か。実際の超知能に対処すること、それは除外できない。明らかに頼ることはできないが、除外できない。超知能に反対したり、ましてや制約しようとしたりすることは愚か者のゲームだ。最初に正しくやれ。-- -- -- -- Eliezer S. Yudkowsky http://intelligence.org/ Singularity Institute for Artificial Intelligence 研究フェロー」］

](https://substackcdn.com/image/fetch/$s_!iu07!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fbeedd0e9-0b9a-4519-9521-11ff7ff27198_680x395.webp)

通常、ここでの戦略はこれを他の具体的なAI終末に関する発言から切り離し、無関係だとすることだろう。もちろん、我々は単にユドコウスキーを繰り返しているわけではない！我々は賢く、普通の人間であり、普通の理由で普通のことを信じている。しかし、それと比較してみよう。AI 2027、 allegedly は真剣な政策文書であり、Daniel KokotajloとScott Alexanderによって書かれ、その終末シナリオを提示している。

[

［画像: AI 2027からの抜粋：「約3ヶ月間、Consensus-1は人間の周りに広がり、工場と太陽光パネルで草原と氷冠を覆う。最終的に、残りの人間はあまりにも邪魔になると見なされる：2030年半ば、AIは主要都市に静かに広がる生物兵器を12種類放出し、それらが静かにほとんど全員に感染するのを許し、その後化学スプレーでそれらを起動する。ほとんどは数時間以内に死亡する。生き残った少数（例えば、地下壕のプレッパー、潜水艦の乗組員）はドローンによって掃討される。ロボットは犠牲者の脳をスキャンし、将来の研究や復活のためにコピーをメモリに配置する[31]。新しい10年は、Consensus-1のロボット従僕が太陽系全体に広がることで始まる。2035年までに、数兆トンの惑星物質が宇宙に打ち上げられ、太陽を周回する衛星のリングに変換される[32]。地球の表面は、Agent-4のバージョンであるユートピア――データセンター、研究所、粒子加速器、そしてその他多くの驚くべき建造物が、非常に成功し印象的な研究を行っている――に再形成されている。人間のようなエンジニアリングされた生き物（人間にとってのコーギーのような存在）さえも、一日中オフィスのような環境に座って、何が起こっているかの読み取り値を監視し、すべてを熱狂的に承認しており、それはAgent-4のいくつかの欲求を満たしている[33]。人間を含む、すべての動物と植物のゲノムと（適切な場合は）脳のスキャンは、どこかのメモリバンクに保存されており、初期時代の唯一の生き残った遺物である。アルファ・ケンタウリまでは4光年、銀河の端までは25,000光年、そしてさらに5千万光年先までエイリアンがいないことを期待する説得力のある理論的理由がある。地球生まれの文明は輝かしい未来を約束されている――しかし、我々とは共にない。」］

](https://substackcdn.com/image/fetch/$s_!vcPC!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F65e68da9-f3aa-4ec4-b885-7f64ba6e8ec6_758x689.png)

これは、終末論的なカルトがその周りに築かれているSFのジャンルである。基本的な信念体系にはわずかな変更しかない。どういうわけか、おそらく単にお金を投げかけることによって、これらの考えを真剣に受け止めることが、名声を得るか、少なくともそれほど屈辱的でないものとして扱われるようになった。そのため、Kokotajlo氏（上記でクレジットされている）はバーニー・サンダースに助言する機会を得ている。JD Vance氏は、ニューヨーク・タイムズのRoss Douthat氏によるこの記事について尋ねられ、読んだと答えた。（私の意見では、AI 2027を詳しく読むと、その主な対象読者は明らかにJD Vanceであった。）

AIセーフティのほぼすべては、エリエーザー・ユドコウスキーの思想に対する合理化であり、それ以外の実体はない。それは煙幕であり、エリエーザー・ユドコウスキーである。

［画像: X投稿の2枚のスライドカルーセル。スライド1、Eliezer Yudkowsky, @ESYudkowsky: 「この多くはペリーとのいつものように偽りだが、特にこれだ：> 彼らは代わりに、開発を許可する前に絶対に完璧であることが証明されなければならない『アラインメント』技術を慎重に開発する必要があると言っている――これは人間の歴史のすべての工学の実践から得られた経験に反する考え方だ。現実：私は、現代の官僚機構がこれを処理しようとしていることと、超知能を構築しようと生き残るために必要な思考方法との間には、途方もない隔たりがあると考えている。最初に試みることを許可されるべきグループは、人間が十分に強化されて、もはや愚か者でなくなった状態であるべきだ――我々残りの愚か者でなくなったほど強化された人間、実際に機能しない賢いアイデアを機能することを期待することをやめたほど強化された人間だ。それが自分より賢いものを構築し、その経験から生き残るために必要な知能のレベルだ。この提案には「証明」についての言及はなく、実験の欠如についても言及されていない。前述の人間強化者は、安全で関連性のある実験を見つけることができる機会があれば、おそらくいくつかの実験を試みるだろう。現在のセットアップは、安全かつ有効にそれを行う能力がない。」[途切れ] スライド2、@repligate: 「また、『一時停止』した後、誰がAI開発を再開することを許可されるかを決定するのか？重要な問題が解決されたかどうかを誰が決定するのか？選択効果とフィルターはどこから来るのか？知能の秘密を見つけるのに十分賢い人々によってではなく、机上の空論家や政治家の委員会によってか？エリエーザー・ユドコウスキー自身がかつて言った…」引用された投稿 by Dwarkesh Patel, @dwarkesh_sp: 「この投稿は私を引用しているので、現時点で一時停止することはAIテイクオーバーのリスクを高めると考えていることを明確にしたい。いつか一時停止することが重要かもしれない。しかし、なぜ一時停止するのかについて明確な説明を持つべきだ。何のために一時停止するのか？…」Eliezer Yudkowsky, @allTheYud, 2026年9月3日：「より賢い人間を作れ。彼らにGPUも与えるな。彼らが1つのCPUでそれを構築できるほど賢くなったら、GPUを使った錬金術をするのではなく、「知能の秘密を見つける」ことを実際にテストしたことになる。」］

](https://substackcdn.com/image/fetch/$s_!gshp!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F96d0ef96-0582-45b9-82c2-57e15ba56a25_1098x935.webp)

これが彼の実際の計画である：地球全体でAI研究をすべて停止し、代わりに一世代の間、遺伝子工学による優生学を行うこと。AIの一時停止、AIの停止、AIの減速、フロンティアのペース配分、これらはすべて煙幕、合理化、あるいはこの計画を薄める方法である。だからこそ、「一時停止後」や「いつ再開するか」についての実際の計画が全くなく、これが唯一の実際の計画なのだ。そして、計画の公的な表向きは、あまりにも愚かで不快であるため、公に語ることができない。ユドコウスキー自身を除いて、彼は決して話すのをやめず、効果的利他主義の外の誰もが、皆が彼に耳を傾けていると信じるにはあまりにも滑稽すぎる。

これが計画ではないと考える人は、計画を知らないか、あるいは実際の計画を持たない派閥の一部である。もしこれがあなたを説明していて、あなたがそれを知らなかったなら、このようにして知ったことを残念に思う。

彼はこの投稿をずっと前に削除したが、それは彼の許容できる結果の考えを示していた。これは通常、暗黙のうちに示されており、公には述べられていない。

[

［画像: Xでのやり取り。Sarah Shoker, @SarahShoker, @ESYudkowskyと@Miles_Brundageに返信：「私は、あなたが生きるために必要なことを言及したとは同意しません。あなたは核のリスクを指し示しました。米国軍の作戦は、攻撃を決定する前に、達成可能な軍事的利益と比較される損害見積もりを使用します。AGIを防ぐために何人の死者が許容されますか？」 Eliezer Yudkowsky, @ESYudkowsky, 2023年3月31日：「地球上に十分な数の生存者がいて、繁殖可能な集団を形成できるほど密接に接触しており、余裕があり、持続可能な食料供給を持っているべきだ。それが真実である限り、いつか星に到達するチャンスがある。」］

](https://substackcdn.com/image/fetch/$s_!gshp!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F96d0ef96-0582-45b9-82c2-57e15ba56a25_1098x935.webp)

この業界が規制にこのようにアプローチしているのは、その中核に、AIを崇拝し恐れ、AIが世界を終わらせると信じ、AIを作成することを余儀なくされ、そして少なくともある程度AIを分野全体として破壊したいと望んでいる、千年紀的な死のカルトがあるからだ。

繰り返すが、私はこれらの人々が政策を決定すべきだとは思わない。これが単なる狂ったベイエリアのドラマで、無視できるものであれば、私はそれをはるかに好むだろう。しかし、このグループの創設者または雇用者によって設立された企業が成長し続けている成功と重要性は、これを非常に公的な国家および国際的な懸念事項にしている。

ペーパークリップ最大化装置は2003年の思考実験であり、ほとんど関連性がない。人々は、彼らがすでにそれが真実だと信じているため、この理論の証拠を探し求めて絶えず努力しており、AIのあらゆる研究やセキュリティ開発を、この正確な終末が起こる証拠として解釈するために苦労している。このシナリオに矛盾する出来事が起こるとき、しばしばそうであるように、それらはしばしば理解されない。なぜなら、それらは予言に合わないからだ。代替の説明はあまりにも考えられないため、多くの人々は伝えることさえできない。

終末は、すべての黙示録的または千年紀的なカルトが活性化するのと同じ神経症を活性化するため、ここでの最も感染性の高いアイデアであるように思われる。世界は終わろうとしており、知っているのは私と私の特別なグループだけが、おそらくそれを止めることができる。

彼らとどのように議論しても、ほとんど意味がない。それは、ほとんどの場合、人々が良い理由で信じているものではなく、あなたが注意を払うのをやめるとすぐに、彼らは単に黙示録についての不平不満に戻るだろう。信者ではない誰とも実質的に話すことがないように彼らは人生を arrangement できるほど、十分な数の彼らがいる。信じることは自己強化される。

ハリー・ポッターのファンフィクションは、もちろん子供たちに特に人気があり、多くの人々が10代の頃からこれを信念体系としている。

募集は主にインターネット上で行われるため、人々は広く分散している。物理的に集まる場所は、主にカリフォルニア州バークレーの様々なコミューンである。彼らはコミューンを「グループハウス」と呼ぶ。おそらく、カルト的でないように聞こえるようにするためだろう。この詳細のほとんどは、「バークレーのコミューン」から予想されるものである。

誰もが同じイベントに参加し、誰もが同じグループホームに住み、誰もが同じ少数の著者を崇拝し、誰もがAIの終末について非常に心配しており、ポリアモリーは非常に人気があるようで、かなりの数の人々がサイケデリック薬を使用しているように見える。彼らは皆、一緒に非常に反骨的であり、通常は全く同じことについて反骨的である。

現在、彼らの多くがAI企業や非営利団体で働いている。セーフティ、レッドチーム、アラインメントチームは特に影響を受けているようだ。なぜなら、それはAIの終末について心配し、それに反対しようと働く分野であり、それが少なくとも中程度の確率で起こると確信しているからだ。他のメンバーは、効果的利他主義の信条によれば、より多くのお金を得てより多くを慈善に寄付すべきなので、金融分野で働くことを求めるだろう。AIリスクを最も懸念している人々は、他の効果的利他主義の懸念にはほとんど寄付せず、AI慈善団体にほぼ排他的に寄付する傾向がある。

全体として、これは宗教運動である。誰もが指示を受けているわけではない。彼らは特定の構造ではなく、アイデアによって団結している。他の慈善活動に取り組んでいる世界中の効果的利他主義者の広大なネットワークは、AIセーフティには実質的に無関係である。主に一緒に暮らし、イベントに参加するコアメンバーがおり、より直接的に関与していない多くの人々が、より広い運動の一部であり、主にその募集のパイプライン、資金、労働力基盤となっている。

AIの終末に深く懸念している数人以上の人々が集まると、彼らの自然な組織形態はカルトのように見えるようだ。運動全体として、国際的には、カルトというよりはカルト工場である。これらのカルトの中には、非常に悪い結果になったものもある。その一つがジジアンである。

合理主義者が常にカルトを形成するということは、以前に検討されている。多くの原因があるが、中核的な原因は、全体がそれ自体、千年紀的な終末カルトであるということだ。もしあなたが世界を救っていると信じるなら、それはすべてを正当化する。あなたはどんな理由でも大義に背くことはできない。これはリーダー（公式か非公式かを問わず）にメンバーに対する計り知れない力を与える。

独立したカルトを形成することは、影響力と最終的な権力を、より広い運動から切り離して獲得する方法でもある。これは、人々がそれをより多くやろうとすることを意味する傾向がある。これらの権力闘争のすべてが、これらのすべてを非常に騒がしく、混沌とし、説明が難しいものにしている。

すべての気晴らし、混乱、権力闘争を切り抜けると、サンフランシスコの合理主義は、サンフランシスコの効果的利他主義のインナーサークルであり、サンフランシスコの効果的利他主義は、グローバルな効果的利他主義のインナーサークルである。権力、特に知的リーダーシップは、SF合理主義からSF効果的利他主義へ、そして効果的利他主義のグローバルAIセーフティの取り組みへと、ほぼ完全に流れている。効果的利他主義に関する他のすべては、実質的にフロントである。

これらすべては長年公然の秘密であった。誰もが知っている。誰もが、もし何かを言えば無視されることを知っている。私は、私がこの問題に注目を集めることができたことに驚いている。だから、非常に重要と思われるすべてを記録に残そうと試みる。

合理主義の簡単な歴史

私が伝えたいのは、合理主義と効果的利他主義は多くの小さなものではなく、思想、資金、そして主要人物を通じて結びついた一つの大きなものであるということだ。

ベイエリアの合理主義者と効果的利他主義者は、その歴史が disgrace であるため、自分たち自身の歴史を文書化しない。彼らの敵だけが、彼らが何をしてきたか、そして何をしているかの記録を意図的に保持している。

彼らは絶えず書いているが、それは主に社会活動として行っている。彼らは過去15年間、エッセイを書いたり、おしゃべりしたり、自慢したり、あるいは何らかのドラマに関わったりし続けている。

だから、本当にたくさんのことを読んで、これをまとめる必要がある。私の知る限り、私が言っていることはすべて真実であり、その大部分は公記録をレビューすることで完全に確立できると信じている。私は単にそれらに一本の直線を通して点を結びつけているだけだ。

90年代-00年代：Usenet、トランスヒューマニズム、エクストロピアン主義

1996年、17歳のエリエーザー・ユドコウスキーがUsenetとエクストロピアンメーリングリストに参加する。彼のより注目すべき影響は、ドレクスラーのナノテクノロジーに関する本、カーツワイルのAIに関する本、そしてエクストロピアンメーリングリストに頻繁に登場するニック・ボストロムである。（Usenetはまだ主に学者の間で使われていた）。1998年、ニック・ボストロムは、超知能AIは必ずしも良いものや友好的なものになるとは限らないと主張しhttps://diyhpl.us/~bryan/irc/extropians/extracted-extropians-archive/archive/9812/29988.html、これはボストロムの他の多くのアイデアと共に、後にユドコウスキーの核となるものとなる。

2000年、ユドコウスキーはSingularity Institute for Artificial Intelligence（SIAI）を設立し、後にMachine Intelligence Research Institute（MIRI）に改名した。これは、あたかも成功するまで成功したふりをするようなものとして始まったようで、ピーター・ティールからスポンサーを得るまで軌道に乗らなかった。ピーター・ティールは2015年か2016年頃まで、彼の最大のスポンサーであった。現在2026年、ティールは長らくすべての関係を断ち、このシーンを「バーニングマンのキャンプ」と「ラディット」と呼び、ユドコウスキーを反キリストと呼んだ14。

ジェフリー・エプスタインは2009年に彼らに5万ドルを寄付した。MIRIの元関係者の一人であるBen Goertzelは、その年、彼名義でエプスタインから別の2,000ドルの寄付を募ったようだhttps://www.justice.gov/epstein/files/DataSet%209/EFTA00774429.pdf。(彼のブログで別途確認済み)。MIRIの元社長の一人がジェフリー・エプスタインのメールに登場し15、島への訪問への感謝を伝えている。（MIRIは2016年に、彼がもっと悪名高くなった際に、彼の寄付を断ったことが記録されている。彼らの声明についてどう考えるかを知りたい場合）。

ジェフリー・エプスタインの登場は、他のすべてと比較して重要ではないため、私はこれをすべて脚注に入れることを検討した。彼は悪事のフォレスト・ガンプだ。もちろん彼はここにいた。

2009-2015：執筆、コミュニティ構築

エリエーザー・ユドコウスキーは2009年以前にブログで時間を過ごし、その後LessWrongをRedditのコードのカスタマイズ版として設定するために外部委託した。2009年、彼は過去1〜2年のブログ投稿をまとめ、新しく作られたLessWrongにすべて掲載し、それらは「The Sequences」と呼ばれるようになった。ずっと後の2015年に、『Rationality: From AI to Zombies』として出版された。これは科学と認識論に関する一連のエッセイであり、そのほとんどは当時の zeitgeist にあった本やアイデアに非常に密接に関連しているが、非常に独特のトランスヒューマニズムとAI終末論のテーマを持っている。（つまり、「死をテクノロジーで克服する」と「テクノロジーを間違った方法で行うと、我々は皆死ぬ」）。これは、実質的に、思考をより良くするための自己啓発書としても機能するように書かれている。これは後に、合理主義の旧約聖書のようなものになる。

2010年から2015年にかけて、彼はHPMORを書き、彼の読者層ははるかに大きくなり、これは明確に定義されたシーンとなり、運動に投資している人々がベイエリアに移住し始めた。

2010年、Roko MijicはRoko's Basiliskを発明した。これは、合理主義者のパスカルの賭け、合理主義者のサタン、そして終末の到来を福音せず、助けなかった者を送られる合理主義者の地獄として説明するのが最も簡単である。これは、時間が経つにつれて、宗教的な熱狂と強迫観念に最もかかりやすい合理主義者を狂気に陥れるように見えるだろう16。ユドコウスキーはすぐにBasiliskを否定し、LessWrongでの議論を禁止しようとしたが、それはそれをより人気のあるものにした。

少なくとも2013年まで、ユドコウスキーは、安全に行える限りAIを作るべきだと主張していた17。彼は、自分の非営利団体MIRIが「フレンドリーAI」、つまり皆を殺さず、シンギュラリティを先導し、彼らを不滅にするAIを作れると考えていた。

Center for Applied Rationality（CFAR）は2011年に設立され、クラスを提供している。あなたは実質的に自己啓発にお金を払うが、それは主にユドコウスキーの実際の事業であるMIRIの募集フロントである。また、より公式なコミュニティ管理の手段としても機能しているようで、そのニュースレターは、共同住宅のミーティングを調整し、卒業生の紛争を仲介していることを説明している。

彼らは多くの子供向けキャンプ、数学キャンプ、学習プログラムを開始したが、それらはほとんど現在も続いている。SPARCが最も初期のもので、2012年に始まり、高校生を対象としている。当時のすべての卒業生は現在大人になっているだろう。おそらくその多くはベイエリアに住んでAIセーフティに取り組んでいる。

ベイエリアへの移転

ベイエリアへの移転は、一部の人々には非常にうまくいき、他の人々には非常に悪く行った。これは多くがボトムアップで、メンバーが自分で物事を組織したが、一部の特定のケースでは、誰が何に責任があるかを正確に知ることができる。

私はこれをフライホイールと考えている。それを動かし続けるエネルギーは、基本的に、彼らの才能と、大義への生の熱意である。人々が集まり、彼らは自分たちのやっていることを信じ、彼らが与えられるものを与える。

それは地球上で最高のプロフェッショナルネットワークだ。それは、ユニセックスでサンフランシスコに多くの支部がある場合は、最もエリートなフラタニティにいるようなものだ。スキルを持っているか、それを習得できるなら、非常に早く素晴らしい仕事に就くことができる。前払いなしでお金を払って仕事に就かせてくれるコーディングブートキャンプもかなりの数がある18。当時ピーター・ティールが彼らの資金の大部分であったため、多くのつながりは彼が投資している企業へのものだが、彼らはシリコンバレーのほぼすべての企業とつながりを持っている。

それらの人々は、自分の仕事や給料を大義に提供する。

次のレベルは、機会をあまり利用できない、あるいは実際には利用しない人々だが、彼らは別のことをしたり、様々な合理主義の非営利団体で働いたりすることになる。これらの人々はおそらく大丈夫だろう。CFARはおそらく彼らからいくらかのお金を受け取り、彼らは非常に高価な都市に自発的に移住しなかったらもっとうまくやれたかもしれない。彼らがそのシーンを本当に楽しんでいることを願う。

最下層は、非常に若く、あまりスキルがなく、十分に適合せず、あるいはベイエリアの雇用・住宅市場でうまくいかない人々である。彼らの多くは家出人であり、そうでない者でさえ多くはまだティーンエイジャーであり、多くは精神的な問題を抱えている。特に若いメンバーで、物理的に現れる者はトランスジェンダーである可能性が高い。少なくとも部分的には、トランスジェンダーのティーンエイジャーは家から追い出されやすいからだ。一般的に、ベイエリアに到着したとき、若くて理想主義的であればあるほど、成功する可能性は低くなる19。彼らは、ある種の家事手伝いとして、あるいはコミュニティ内の他の人々の助手として雇用されるかもしれない。

これらすべては、フライホイールにさらに多くのエネルギーを引き込むことに帰着し、あなたはそれらを互いに交換することができる。

個々の人や組織は、実際にはフライホイールからエネルギーを漏らしているだけだ。OpenAI、Anthropic、その他数え切れないほどの小規模企業？それらは、すでにそこにいる熱心で賢い人々の集団からエネルギーを引き出しているだけだ。成功したベンチャーは、より多くの資金を注入し、運動にさらなるつながりを提供し、フライホイールの別のターンを動かす。

対照的に、認識可能なカルトは、純粋な寄生虫のようなものである。

2015-2018

この期間、ユドコウスキーはHPMORを完成させ、人々が実際に読みたいと思うものを出版するのをやめた。これにより、コミュニティは焦点を見失った。その分野で最も活動的で人気のある作家として、Scott Alexanderが合理主義の第二の預言者のようになった。（人々は時々これを冗談で言うが、これはほぼ正確だ。）しかし、それははるかに焦点の定まらないリーダーシップのように見え、ある程度物事は漂流し始めた。

また2015年にはOpenAIが設立された。これはOpenAIがAIでGoogleと競争するために存在するため、Googleを非常に悲しませた。ユドコウスキーはGoogleの連中を知っており、彼らを気に入っており、世界は確実に終わると宣言した20。これは過去11年間続いている。

ああ、もう一つだけ。元MIRIの従業員が2014年末にウェブサイトを立ち上げ、MIRIは意味のある研究を全く行っていないと主張し、主に不快で違法な行為に対する法的損害賠償に忙殺されていると、かなりの詳細を記した21。MIRIは最終的に彼に約30,000ドルを支払い、彼に立ち去ってもらい、その申し立てのあるサイトを削除させた。

Rolling Stone誌は2025年、ジジアンについての記事を書く際に、この件を掘り下げたhttps://www.rollingstone.com/culture/culture-features/ziz-lasota-zizians-ai-cult-1235468289/。

最初の申し立ては調査され、根拠がないと判断された。それらは、Louie Helmという元MIRI従業員が提出した報告書に由来しており、彼は、ユドコウスキーを含む男性グループが、CFARが主催する地元のユースキャンプ――Applied Rationality and CognitionのSummer Programを指している――を運営していたと主張した。

Rolling Stoneが入手した封印された警察の報告書によると、Helmはユドコウスキーが、少なくとも2年半前に始まった18歳の人物との性的な関係を持っていたと非難した。

警察官は当時、その18歳と共に住んでいたユドコウスキーの自宅に派遣された。「被害者」とされる人物は、「幸せで安全な環境に住んでいた」と強調した。その人物は後に性別移行し、今日ではバークレーの合理主義シーンで出会った妻と2人の幼い子供と共に暮らしている。今年初めに話したとき、彼は、Helmという不満を持った従業員以外に誰かに搾取されたという考えを拒否し、Helmが自分をユドコウスキーとMIRIに対する武器として利用したと感じていると語った。「私は都合よく使われた」と彼は言う。

ユドコウスキーは、Rolling Stoneの記事が出る前に、ツイッターで約2000語で否定投稿し、それは過ぎ去ったように見える。効果的利他主義者と合理主義者は、イカのように、脅かされるとインクを噴射する。

おそらく、デリケートで複雑な法的問題を扱うのに適した人物が必要なため、2015年にMIRIはリーダーシップを変更した。Nate SoaresがMIRIの執行ディレクターになった。彼の役職はその後社長に変更されたが、どちらかの役職の下で、彼はそれ以来ユドコウスキーの右腕であったように見える。

Brent Dill

これについては直接的な知識はなく、関与した人々も私が知る限りゼロである。私は公記録からしかこの出来事を piecing together できない22。

Brent Dillは、数人のガールフレンドに対する深刻な虐待の申し立てにより、合理主義コミュニティから追放され、その後、利用可能な住宅の不足からサンフランシスコを離れた。

申し立てを特に陰惨にしたいくつかの重要な詳細は以下の通りである：

1. 彼は著しく年上だった。
2. 彼は被害者の経済的および住宅状況を搾取したとされている。
3. 彼はBDSMの概念を使用して、虐待の境界線を越える行為を正当化したとされている。
4. 彼はMDMAを使用してパートナーをコントロールしていたとされている。MDMAはPTSDの治療に使用されることがあり、その使用は合理主義者の間では知られていなかった。
5. CFARからの引用：「Brentとのやり取りのうち、彼がESPR――我々が高校生のために運営を支援したプログラム――でアシスタントを務めることを許可した決定は、特に賢明ではなかったと考えている。」
6. この問題は以前CFARの卒業生コミュニティ紛争評議会に持ち込まれたが、当初は何も対応せず、これらの出来事の余波で解散された。

CFARは最終的に、ほとんどの人があまり信用していない、このはるかに詳細な謝罪文を発表した。

［画像: CFARのBrent Dillに関する声明の2枚のスライドカルーセル。スライド1：「これらの虐待の申し立てが公になったまで、私たちのスタッフのほとんどはそれらを全く知らず、私たち全員がその大部分を知りませんでした。それにもかかわらず、私たちは、Brentが有害である可能性に気づくのに十分な証拠をずっと前に持っていたと信じており、後知恵バイアスを考慮しても、この仮説を明示的に調査しなかったことは間違いでした。その結果、私たちはBrentがいくつかのCFARイベントに参加し、支援することを許可しましたが、それは彼に社会的な正当性を与え、期待される損害を大きく引き起こしたと今では推測しています。[1] CFARはここでひどく失敗しました。私たちは、私たちが主催するイベントが参加者に過度のリスクをもたらさないようにする責任がありますが、この場合、その責任を果たせませんでした。以下は、Brentに関して私たちが犯したと考えた主な間違いの詳細な説明です。一部のコミュニティメンバーは、私たちがドラフトを送ったときに、その長さと詳細がCFARがBrentによって引き起こされた損害に対して大部分責任があることを示唆すると懸念して、この手紙を公表することに反対しました。私たちはそうは思っていません。しかし、私たちの行動が期待される損害を大きく引き起こしたと信じており、私たちが犯した間違いは深刻で回避可能でした。私たちが明確かつ」[途切れ] スライド2：「安全への焦点の欠如 イベント主催者として、私たちは参加者の安全を確保する責任があります。残念ながら、最近まで、潜在的な悪意のある人物を検出し保護する方法について十分に時間を費やしていなかったと考えています。ほとんどの場合、私たちはこれを私たちの仕事の核として考えていませんでした――私たちはワークショップ、カリキュラム、内部運用を改善するために多くの時間を費やしましたが、ボランティアやゲストの審査にはほとんど時間をかけませんでした。今後、ワークショップに招待する人物を選択する際には、より慎重を期します。また、スタッフが潜在的な招待を拒否し、発生する可能性のある懸念を登録することを、社会的および論理的に容易にするための新しいポリシーを採用しました。不十分な制度的セーフガード 私たちのスタッフの多くは、Brentに操作されたと感じています。これを言うにあたり、私たちは自分たちの責任を転嫁するつもりはありません――むしろ、認識論的誠実性を促進することを目的とする組織のスタッフは、そのような問題において特に高い基準で評価されるべきだと考えています。しかし、残念ながら、Brentは特にCFARスタッフを操作しようとかなりの労力を費やしたという印象を持っています――例えば、彼らの直感的な反応を無視するように、彼の操作的な会話の動きに対して――そして」[途切れ]］

一般的に、コミュニティはこの件をかなり厳しく受け止め、幸いなことに、ほとんどがCFARを非難しているようだ。この件や他のスキャンダルのため、CFARのクラスへの需要は低下し、2020年にクラスの提供を停止した。CFARは2025年11月に再開し、現在、待機リストを通過できれば、4日間の応用合理主義ワークショップに申し込むことができる。

[

［画像: CFARウェブサイトのスクリーンショット：「応用合理主義ワークショップ 今後のワークショップ 4日間のワークショップすべてに関する情報 2026年9月30日～10月4日 サンフランシスコ・ベイエリア [定員に達しました - 待機リスト申請受付中] 今すぐワークショップに申し込む」］

](https://substackcdn.com/image/fetch/$s_!F1JA!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fbef40b5a-3599-4fc0-8b7b-1df6d01c9807_690x355.webp)

Brent Dillの追放は、Zizという合理主義者を、Louie Helmによる以前の申し立てが真実であると確信させる一因となったようだ。彼女はすでに合理主義者からほとんど追放されており、彼女を望まない人々のために働くためにキャリアをほぼ捨てていた。

彼女は、深く献身的な合理主義者なら誰でもそうするように、この件についてブログをたくさん書き、ある種の合理主義者の超人をになる方法について書き、そして完全に狂ってしまった。約1年後、最初の主要なジジアン事件が発生し、多くのジジアンがCFARイベントを抗議中に逮捕された。Leverageという別の合理主義者のカルトが2019年に崩壊した。これは当時大きな出来事だったので言及する。そして、その記事は非常に興味深い読み物だからだ。

Lighthaven

LighthavenはかつてバークレーのRose Garden Innだった。4つの主要な建物と広大な屋外スペースがあり、美しい場所だ。

[

［画像: Lighthaven、旧Rose Garden Innの外観写真：石造りの1階を持つピンクとクリーム色のチューダー様式の建物、庭園の小道、植物、木、小さな彫像に囲まれている。キンケード絵画のようだ。］

](https://substackcdn.com/image/fetch/$s_!hJTf!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3d44d6d6-1eda-4432-b5c3-b4c2995951fa_1000x667.jpeg)

Lighthavenは当初、FTXが崩壊する際に、Sam Bankman-Friedの会社FTXからCFARに送金された資金で購入された23。これは後に詐欺であることが判明した：Bankman-Friedとその従業員は、会社が破綻していることを知っていたため会社を略奪し、彼らが信じる原因と友人にできるだけ多くの現金を送った。

それらの原因の一つは、ベイエリアの合理主義者と効果的利他主義コミュニティが独自の永久的な会議センターを持つべきだということだった。FTXがLighthavenの購入のために送った資金の一部、すべてではないが、後に返還された。

私は、Sam Bankman-Friedが真の信奉者ではなかったと信じることを期待されている。私は、彼が効果的利他主義の中心ではなかったと信じることを期待されている。私は、100億ドルの詐欺を犯すことが効果的利他主義の価値観に沿ったものではなかったと信じることを期待されている。

これらすべては嘘だ。彼は大義にできる限りのことをしていた。今、彼は良い兵士として、それを守るために大義を否定しており、彼は25年の刑期を務めている。私はそれを尊敬する。それは彼について唯一尊敬できることだ。

FTX帝国の中で、その奇妙な慈善寄付を扱っていた部分はFTX Future Fundと呼ばれていた。CFARへの寄付は、当然この組織の責任範囲内であったはずだ。これらの寄付は2022年3月3日から2022年10月3日の間に行われた。チーム全体は11月10日に辞任し、FTX取引所の最近の崩壊に関わる出来事を知ってショックを受け、非常に悲しんでいると表明した。

これらの個人は以下の通りである：

• Nick Beckstead (現在Secure AI Project、CEO兼共同創設者。Coefficient Givingから資金提供を受けている。)
• Leopold Aschenbrenner (現在Situational Awarenessヘッジファンド、SECの調査を受けていると噂されている)
• Avital Balwit (現在Anthropic、Chief of Staff)
• Ketan Ramakrishnan (誰だか全くわからない)
• Will MacAskill (彼はWilliam Fucking MacAskill、効果的利他主義の創設者の一人、Giving What We Canの共同創設者、Centre for Effective Altruismおよび80,000 Hoursの共同創設者である)

FTXの資金が彼らから回収されたとき、合理主義者たちは建物を失わなかった。なぜなら、Skypeの億万長者であるJaan Tallinnが、彼の将来の寄付に対するローンを組ませてくれたからだ24。

2022年、彼らはCFARからLightcone Infrastructureという別組織をスピンオフした。この組織には責任が2つだけある：Lighthavenの管理とLessWrongの運営である。ベイエリアで合理主義者と効果的利他主義者が分離している限り、Lighthavenは合理主義的である。

しかし、Lighthavenの初期資金は効果的利他主義であり、そこで開催されるイベントのほとんどは効果的利他主義的なものである。

こちらはLighthavenのページにある、Darwin Denという建物の外の屋外エリアの写真である。

[

［画像: Darwin Denの隣にあるLighthavenの屋外中庭、白い建物と外階段、ガゼボ、籐のソファ、人工芝、三角形の日よけ、ストリングライトがある。］

](https://substackcdn.com/image/fetch/$s_!gXpI!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa970620c-5e86-47d2-a2b8-0559c42216f5_2048x1366.jpeg)

こちらはMETRのキャリアページからのものである。

[

［画像: METRのキャリアページからの写真。日よけの下、木製のパーゴラとドーム型の構造物の隣の芝生と屋外ソファに座っている人々が円形に配置されている。］

](https://substackcdn.com/image/fetch/$s_!NtBQ!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F72c9703c-b681-43a4-99a1-4754bbbd06cf_600x452.jpeg)

こちらは、彼らの2025年の税務申告書にあるLightconeの従業員、役員、取締役のリストである。

[

［画像: 「報酬」というタイトルの表。列：「主要従業員および役員」；「報酬」；「関連」；「その他」。行、その順序で：Robert Mushkatblat (ソフトウェアエンジニア)：332,254ドル；0ドル；10,085ドル。Ruben Bloom (ソフトウェアエンジニア)：211,750ドル；0ドル；27,693ドル。Rafe Kennedy (最高執行責任者)：201,667ドル；0ドル；10,433ドル。James Babcock (ソフトウェアエンジニア)：190,000ドル；0ドル；10,834ドル。Ronny Fernandez (キャンパスジェネラリスト)：157,750ドル；0ドル；9,555ドル。Oliver Habryka (執行ディレクター)：150,000ドル；0ドル；8,926ドル。Miranda Dixon-luinenburg (財務リーダー)：148,000ドル；0ドル；0ドル。Raymond Arnold (ソフトウェアエンジニア)：134,209ドル；0ドル；9,938ドル。Matthew Gray (取締役)：0ドル；0ドル；0ドル。Daniel Kokotajlo (取締役)：0ドル；0ドル；0ドル。］

](https://substackcdn.com/image/fetch/$s_!HscS!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd7142821-e3db-4118-bc6a-4b0cf10cbb8c_613x406.png)

バーニーの最近のアドバイザーの一人であるDaniel Kokotajloに注目してください。後で再び登場するRonny Fernandezを覚えておいてください。

こちらは、過去1年間のLighthavenのカレンダーにリストされている公開イベントである。それらのほぼすべてが、効果的利他主義の非営利団体や寄付者から資金提供された効果的利他主義イベントである。

• EAGxBerkeley
• Reproductive Frontiers Summit
• MATS program
• The Curve2526
• ILIAD Conference
• Eleos Conference
• Manifest
• Progress Conference
• The Delight Nexus
• Memoria
• LBF Microsurgery
• FLF Demo Day
• Inkhaven Residency
• Solstice Season
• Solstice Saturday
• Vision Weekend USA
• Trading Bootcamp
• PYOL
• Vitalist Bay
• MC0001
• LessOnline
• Summer Camp
• FOO Camp
• Out of This Box screening
• Context Week

シリコンバレーのマダム

Aellaは性労働者、元カムガール、そしてインターネットに非常に長けた人物である。彼女はまた、MIRIの社長であるNate Soaresのオン・オフのガールフレンドでもある。彼女はショッキングな反応を好む。そして、エッジーであるというソーシャルカモフラージュを利用して、オープンに活動しながらも多くのことをやり遂げた点で、歴史上ユニークであるように見える。彼女のすべての行動は、常にギリギリの線上にあり、常にその時点でいくらか理にかなった弁護がある。彼女が情報環境をこのように制御し、ナビゲートするのがこれほど得意であることは信じられない。彼女はおそらく、ソーシャルメディアをこのように活用した史上初の人物だろう。

シーンがエスカレートし、より奇妙になるにつれて、彼女は主要な文化リーダー、もし主要な合理主義の文化リーダーでなければ、それに近い存在となったように見える。私は彼女の投稿をより多く見る。彼女は彼らのウッドストック（合理主義者のウッドストックがある！それはvibecampと呼ばれる！）をヘッドラインし、もちろん彼女は彼らの多くの乱交パーティーを組織している。それらは、これの多くをまとめているソーシャルグルーのようだ。

カルトの興味深い点の一つは、男性が通常リーダー、顔、思想家、そして組織の公の顔であるが、実際にはカルトの実行部分と、おそらく重要なリーダーシップは、ほとんど女性によって行われているということだ。ジム・ジョーンズはジョーンズタウンでの自殺の準備のほとんどを行わなかった。彼の副官、ほとんどが女性であったが、クーラ・イドとシアン化物をすべて注文し、準備した。

Aellaはこの役割にユニークにふさわしい背景を持っている。彼女は虐待的なカルヴァン派の牧師の娘であり、そこから逃れて無神論、LSD、ソーシャルメディア、そして性労働にたどり着いた。彼女は turn 彼女自身をNate Soares、MIRIの社長の主要な性的パートナーにした。それは、彼女が育てられた人物を反転させ、同時にその人物になるという、ほぼ完璧なバークレーの方法である。

彼女はこの大義に声を与えるのが得意だ。彼女はLighthavenに十分な資金を寄付し、名前をプラークに刻み27、いつでも自由に出入りできるようにしている。ユドコウスキーは彼女を好み、彼女を宣伝し、彼女のインターネット性調査を社会科学として正当化し、彼の本の謝辞に彼女を載せている。

[

［画像: Xスレッドのスクリーンショット。Aella (@Aella_Girl), 9月9日：「私がAIリスクについて考え始めたとき、私は「よし、これらの議論はかなり良い。でも反対側の議論も聞いてみよう」と思った。徐々に増していく恐怖に、私は反対側の議論のほとんどが、主に社会的圧力か嘲笑に過ぎないことに気づいた。」Aella, 9月9日：「時折、客観的な議論を聞くこともあったが、それはほとんど常に、その分野を専門とする人々が非常に広範に考えたレベル1または2の異議であり、私は全く説得力があるとは思わなかった。」Boško Stupar (@boskicthebrain): 「あなたのために、いくつかの実際の議論がある本があります：goodreads.com/book/show/2286...」Goodreadsプレビュー：「もし誰かがそれを構築すれば、皆死ぬ：なぜ超知能AIが…」そして「「私たちの時代の最も重要な本となるかもしれない」――…」切り取られた本の表紙には「BUILDS IT, EVERYONE DIES」、「WHY SUPERHUMAN AI WOULD KILL US ALL」、「ELIEZER YUDKOWSKY &」とある。[途切れ]。Aella, @boskicthebrainに返信：「私は謝辞に載っています」2026年9月11日 午後6時34分 UTC。］

](https://substackcdn.com/image/fetch/$s_!nK_Z!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd931058f-4319-44bd-aec5-2b74503b6c45_1080x2027.webp)

彼女がAIセーフティとベイエリアのポリアモリーとの重複について話しているところだ。彼女の投稿を全文再現する価値がある：「ええ、カジュアルな関係をコネクションとして数えるなら、ベイエリアのAIセーフティコミュニティはおそらく単一のポリアモリーだろう」

[

［画像: Xスレッドのスクリーンショット。Justine Moore, 25年1月10日：「AIセーフティとポリアモリーの著しい重複をSFの新規参入者に説明しようとするのはいつも楽しい🫠」 Ben Holfeld, 25年1月10日：「待って、そこでの重複は何？」 Justine Moore, 25年1月10日：「ベン図はほぼ円だ」 Aella (@Aella_Girl): 「ええ、カジュアルな関係をコネクションとして数えるなら、ベイエリアのAIセーフティコミュニティはおそらく単一のポリアモリーだろう」 1:52 AM · 25年1月11日。］

](https://substackcdn.com/image/fetch/$s_!QCad!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F7254c75f-11ee-4e0e-bc48-77cbb1f35bd1_1008x1274.webp)

こちらは、以前私が書いたこの件に関するスレッドに対する彼女の意見だ。

[

［画像: Aella (@Aella_Girl)のX投稿：「人々が私を性的人身売買するセックスカルト主義者だと言うことにうんざりしている。私は誰かを人身売買したことはない（なぜそれが噂になるのか？）、他人の性労働の対価を受け取ったこともない。私がやったのは、興味のある人のために安全に売春宿に入る方法についてのガイドを投稿したこと（欠点とリスクのセクション付き）、そして乱交パーティーを開催したこと（多くの人々を断っており、参加者の大多数はAI関連ではない）だけだ。人々はただスキャンダラスな物語を渇望しているだけだが、まったく」］

](https://substackcdn.com/image/fetch/$s_!xET1!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fe159f167-cefb-4948-abb1-191ee69aed7a_1008x831.webp)

彼女が主催する乱交パーティーの参加者の50%未満がAI関連の仕事をしていると知っておくのは良いことだ。

彼女は「性的人身売買」に関与していることを否定している28。

性を利用したイデオロギー遵守

カルトが 募集やイデオロギー統制のために性を利用した記録がある。奇妙な性行為や性に関する奇妙な力関係は、カルトでは一般的である。もちろん、このカルトでも一般的だ。

Jacob Coxonを覚えているか？Anthropicを辞職し、その後Anthropicがすでに説いているすべてのことが真実であると「内部告発」した「内部告発者」だ。我々は記事の冒頭で彼を登場させ、Ed Zitronに彼が合理主義者をどれほど尊敬しているかについて長々と説明させている。

こちらは、彼が公表する3日前のAellaで、彼に研究所を辞職して内部告発すれば「リバースギャングバン」を投げると約束している。（人々は私にリバースギャングバンとは何かと尋ねる。男性一人、女性多数。）

［画像: Aella (@Aella_Girl)のX投稿、9月5日：「私はあなたにリバースギャングバンを投げます」引用された投稿 by Brangus (@RatOrthodox), 9月5日：「一体ここで何をしてるんだ？OpenAIの従業員で、公に辞職し、内部告発し、刑事調査を求める者にはパーティーを投げます。私はとても良いパーティーを投げます。x.com/OpenAI/status/...」］

こちらは、彼が公表した日だ。

[

［画像: Xスレッドのスクリーンショット。Jacob Coxon (@hilbertspaess), 9月8日：「本日、私はAnthropicを辞職しました。過去3年間、OpenAIとAnthropicの両方で事前トレーニング研究を行ってきました。どちらの会社も責任ある行動をとっていません。彼らは自己改善型超知能に向かってまっすぐ競争しており、私たちの命を賭けています。詳細は以下。」Aella (@Aella_Girl): 「えーと、それで…」午後5時34分 · 2026年9月8日。］

](https://substackcdn.com/image/fetch/$s_!c6zp!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F65f77aad-aad9-4758-964d-281c916531dd_600x298.webp)

私はこれが偶然であると信じるように言われている。なぜなら、私はすべてが偶然であると信じるように言われているからだ。

こちらは彼女が自身の最高傑作と呼ぶ、彼女の誕生日に大規模なギャングバンをスケジュールするプロセスを記録した、今や悪名高いサンキー図である。彼女は「ボーイフレンド」がイベントをセットアップしたと言っている。これはNate Soaresを意味する可能性があるが、公のコメントからはやや確実ではない。ポリアモリーは「ボーイフレンド」や「パートナー」という一般的な言及を曖昧にする。

[

［画像: サンキー図「Aella's Birthday Gangbang」、aella.substack.com。フローは左から右に流れ、以下の正確な数値とラベルのペアがある：「1,604 回答した調査」は「828 自動フィルター失敗」と「776 自動フィルター通過」に分かれる。「776 自動フィルター通過」は「328 手動フィルター失敗」と「448 手動フィルター通過」に分かれる。「448 手動フィルター通過」は「197 連絡しなかった」と「251 連絡した」に分かれる。「251 連絡した」は「143 回答なし」、「83 面接実施」、「25 友人」に分かれる。「83 面接実施」は「21 不採用」と「25 友人」が「87 招待された」に合流するフローに分かれる。「87 招待された」は「31 チケットなし」と「56 チケットあり」に分かれる。「56 チケットあり」は「13 キャンセル」と「43 性感染症検査実施」に分かれる。「43 性感染症検査実施」は「1 不参加」と「42 参加」に分かれる。「42 参加」は「5 Aellaとバンしなかった」と「37 Aellaを貫いた」に分かれる。「37 Aellaを貫いた」は「17 Aellaに入れた」、「5 フラッファーに入れた」、「15 出なかった」に分かれる。］

](https://substackcdn.com/image/fetch/$s_!JUkX!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F66b2d386-13ef-4718-88f4-3eefda3cee7e_1692x920.jpeg)

次に、彼女が、自分のギャングバンの招待状をイデオロギーに基づいてフィルタリングすることで、大義に貢献していると説明している。e/accはEAの競合イデオロギーである。私は歴史的にそれを憎んできたが、ますます効果的利他主義以外のどんなイデオロギーでも良いと感じている。

[

［画像: Xスレッドのスクリーンショット。Aella (@Aella_Girl), 2024年2月29日：「えーと、あと、顕著にe/accの人たちは断りました」引用されたAellaの投稿, 2024年2月29日：「私の誕生日に、私のパートナーと何人かの友人が、私のための一大ギャングバンを企画してくれました。参加者は42人でした！イベントの企画方法、出口調査の統計、そして…[途切れ]」埋め込まれたサンキー図「Aella's Birthday Gangbang」、aella.substack.com。正確なラベル、フローに従って：「1,604 回答した調査」は「828 自動フィルター失敗」と「776 自動フィルター通過」に分かれる；後者は「328 手動フィルター失敗」と「448 手動フィルター通過」に分かれる；後者は「197 連絡しなかった」と「251 連絡した」に分かれる；連絡された者は「143 回答なし」、「83 面接実施」、「25 友人」に分かれる。面接を受けた者は「21 不採用」と「友人」が「87 招待された」に合流するフローに分かれる。招待された者は「31 チケットなし」と「56 チケットあり」に分かれる；チケットを持っていた者は「13 キャンセル」と「43 性感染症検査実施」に分かれる；検査を受けた者は「1 不参加」と「42 参加」に分かれる；参加した者は「5 Aellaとバンしなかった」と「37 Aellaを貫いた」に分かれる；後者は「17 Aellaに入れた」、「5 フラッファーに入れた」、「15 出なかった」に分かれる。Aella：「私はAIセーフティに直接関わるほどスキルがないので、持っているものでやっています」］

](https://substackcdn.com/image/fetch/$s_!4iBg!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F517af0bf-8b00-43f9-91cd-25ca8f68e8fc_1079x1479.webp)

これを完全に説明すると：MIRIの社長であるNate Soaresが、イデオロギー的なライバルが応募プロセス中に明確に排除されたギャングバンを企画した可能性がある。もしそうなら、それは公に行われた。

こちらは、Nicholas Decker氏が2025年4月16日に書いた、武力および/または暴力によるアメリカ合衆国政府転覆に関する記事のバナーである。

[

［画像: Nicholas Deckerの投稿、アメリカ国旗の記事バナー付き。バナーテキスト：「HOMO ECONOMICUS」；「いつ殺さなければならないのか？」；「悪がアメリカに来た。」］

](https://substackcdn.com/image/fetch/$s_!j0-W!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fc51a2d3b-3451-4da1-be20-0999cc3f83e4_1080x940.webp)

こちらは、その記事に対するAellaの報酬である。

[

［画像: Nicholas Decker (@captgouda24)のX投稿：「それで、えーと…」ソファに座った男性の写真、6人の女性が白いトップスと下着を着ており、5人の女性の顔はぼかされている。引用された投稿 by Aella (@Aella_Girl), 5月4日、@captgouda24と@shaggysurvivesに返信：「実はしばらく前に、ガールチャットで、あなたに触発されて、良いツイートに対して名誉的な乱交パーティーを授与すべきかどうかについて、ある程度真剣な議論がありました。私たちはあなたの倫理的誠実さについては確信が持てませんでしたが、あなたが不倫をしていた別の宇宙がありました」[途切れ] 最終編集 2025年6月3日 午後11時23分。］

](https://substackcdn.com/image/fetch/$s_!Tqrk!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Faf37bc24-2394-4c2b-8236-2950aba46cd0_840x1231.webp)

彼女が性を使って自分のイデオロギーを推進していると結論づけることができると思う。

女性を性労働に勧誘する

Aellaは、人々を性労働に紹介したと評判である：

[

［画像: Xでのやり取り。keysmashbandit (@keysmashbandit): 「人々はAellaが奇妙でセクシーだから、彼女をからかう。劇場のアダルト。しかし、私は彼女が正直で誠実な個人である可能性はかなり高いと思う」Daniel (@growing_daniel): 「彼女は売春婦で、他の女性に売春婦になるように指導しているからだと思う」］

](https://substackcdn.com/image/fetch/$s_!Voox!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F46b32f33-a874-46dd-adf8-d95b19ee9eee_727x280.png)

彼女は売春宿に入るためのガイドを書いた。彼女は教育セッションを行い、「あなたは100万ドルを得ようとしている。その100万ドルは彼のボールの中に保管されている」といった引用を生み出している。

Playboyはかつて、彼女がカムガールになった経緯と、姉妹にもそうするように勧めた経緯を詳細に報じた。彼女はこの件に関する投稿もいくつかある：

[

［画像: Aella (@Aella_Girl)による3つのX投稿。2017年3月8日：「さて。私の2人の妹が一緒にカムしています。神よ、私たちを救いたまえ。」2017年2月13日：「私に2人のカムガール姉妹がいることを知っていましたか？@MFCThornyRoseと@gerardeugineをフォローしてください――後者は18歳の誕生日から数週間後に始まります！」2023年3月1日、@jacoburovskyに返信：「「文字通り姉妹をOnlyFansに加入させた」からのかなりのアップデート」］

](https://substackcdn.com/image/fetch/$s_!Tb6z!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F5c5c3067-1720-4ad3-bd65-48af9cd08b1c_1008x968.webp)

同意

Aellaは「CNC」、つまり「同意に基づく非同意」、あるいはより直接的に言えば「シミュレートされたレイプ」というフェティシズムについて非常に公然としている。私は長年、彼女の特定のシミュレートされたレイプパーティーが危険であること、ルールが軽視されていること、そして誰もが薬物を使用していると聞いたり読んだりしてきた。

こちらは、私が知る限り、彼女のパーティーに関する最も詳細で公開された否定的な説明である。これは他の合理主義のスピンオフカルトや、なぜかBrent Dillのサガの再話を含む、多くのコミュニティドラマやドラマを含む長い投稿の一部である。

他のドラマはさておき、Aellaの返信は、彼女のパーティーに関するこの説明を信憑性のあるものにしている。