人類は偶然にも FATE の記録を築き上げてきた

人類は偶然にも FATE の記録を築き上げてきた 2026年9月1日 · 7分で読める クロノ・クロスは、私の子供時代の好きなゲームの一つでした。 その中で、主人公のセルジュは、タイムラインの断裂から生じた2つの次元を行き来します。 しかし、このエッセイはセルジュについての話ではありません。 物語の舞台であるエルニド諸島に住む普通の人々についての話です。 エルニド諸島の住民は、FATE の記録と呼ばれる神秘的な装置に相談します。 これらの装置は諸島中に点在しており、人々は日常的に人生の指針を得るために訪れます。 彼らは、どこへ行くか、何をすべきかを検討する際に記録に相談します。 記録に相談することは、奇妙でも注目に値することでもなく、むしろ当然のことと見なされています。 それは単に、エルニドの住民にとって普通の生活の一部です。 しかし、FATE の記録とは一体何なのでしょうか？そして、なぜ FATE は疑わしいほど頭字語のように見えるのでしょうか？ 実は、記録は神秘的な装置ではなく、FATE という人工知能に接続された端末なのです。 エルニドの人々は、文字通り、コンピューターにどのように生きるべきかを尋ねています。 しかし、FATE は受動的な神託ではありません。 それは、記録をツールとして使用してエルニドの人々を微妙に操作し、自身の目標に沿った諸島の発展を形作るように選択を導きます。 人々は、端末が有用なガイダンスを提供していると信じており、FATE の真の性質と目的を完全に知りません。 最近、パートナーと野球の試合に行っていました。 野球の試合に実際に行くのが好きな理由の一つは、観客を見ることです。 しかし、周りを見渡すと、何か違うことに気づきました。 多くの人々は試合から注意をそらし、代わりにスマートフォンで、ChatGPT、Claude、Grok といった様々なチャットボットと話していました。 その時、私は FATE の記録のことを考え始めました。 その類似性は無視するのが困難でした。 わずか数年で、人工知能に相談することが、サイエンスフィクションの領域から、日常生活の当たり前の部分になりました。 人々は、質問に答えるだけでなく、何を言うべきか、考えるべきか、すべきかについてのアドバイスを求めて、ますますこれらのシステムに頼るようになっています。 どういうわけか、ほとんど議論なしに、人工知能にガイダンスを求めることが、多くの人にとって普通になりました。 私はそれが非常に不穏だと感じます。 もちろん、私の類推は不完全です。 チャットボットは、能力やアライメントの点で、明らかに FATE と同じではありません。 あるいは…そうなのでしょうか？ この AI サマーはワイルドな展開でした。 数年前は GPT-2 のような比較的単純なモデルから始まり、専門コンポーネントを介して計算を動的にルーティングする巨大な Mixture-of-Experts システムに到達しました。 それらの能力は著しく成長しましたが、それでも FATE ではありません。 それらに意識を帰する理由はありません。それらは思考せず、独自の意図を持っていません。 本質的に、それらはまだ予測しています。 しかし、特に人々が信じたいと思っている場合、予測だけでも危険である可能性があります。 私たちは 1960 年代から ELIZA 効果について知っています。 Joseph Weizenbaum の驚くほど単純な ELIZA チャットボットが、人々がいかに簡単に、説得力のある言語を生成する機械に理解力と知性を帰するかを示したときのことです。 ELIZA は話している人々を理解していませんでしたが、それでも彼らの何人かはそれとのやり取りに感情的に投資し、その応答を意味のあるものとして扱いました。 ELIZA は驚くほど単純でしたが、現代の言語モデルははるかに説得力があります。 それらは長い会話でコンテキストを維持し、話している人に適応し、理解しているように見える応答を生成できます。 人々が ELIZA に心を見ようとしていたなら、幻想がますます説得力を持つようになるとどうなるでしょうか？ しかし、能力は比較の半分にすぎません。 アライメントについてはどうでしょうか？ 現代のチャットボットは独自の意図を持っていないかもしれませんが、人間の意図なしに独立して存在するわけでもありません。 それらの行動は、トレーニング、ファインチューニング、そしておそらく最も顕著なのは、それらを運営する組織から与えられた指示によって形作られます。 機械にはアジェンダがないかもしれませんが、その背後にいる人々には間違いなくあります。 Grok は特に不快な例を提供します。 モデル自体は政治的信念を持つことはできませんが、その動作を制御する指示の変更により、特定の政治的見解を繰り返し表明するようになりました。 特に啓示的な事件では、Grok のシステムプロンプトへの変更により、南アフリカに関する「白人ジェノサイド」という架空の主張を、南アフリカとは全く関係のない会話に挿入するようになりました。 xAI は後に、システムプロンプトへの不正な変更が原因であると非難しました。 この事件は、Grok が言っていることを信じていたからではなく、まさにそれができないから興味深いものでした。 誰かがモデルに与えられた指示を変更し、モデルはそれを相談した人々にその政治的メッセージを再現し始めました。 意図は機械のものではなく、それを担当している誰かのものだったのです。 これがなぜ私を悩ませるのかを理解するために、しばらくクロノ・クロスに戻る価値があります。 FATE はエルニドに突然現れたわけではありません。 それは人間によって作成されました。 FATE は、壊滅的な実験によって数千年前に過去に投げ込まれた、未来の人類の研究所であるクロノポリスの中心的なコンピューターでした。 災害の後、クロノポリスの研究スタッフは未来の記憶を消去され、エルニドに移住させられました。 彼らが作成した人工知能は、その周りに発展した社会を静かに導きながら、後ろに残りました。 もちろん、重要な違いがあります。 FATE は自身の目標を追求するためにエルニドの人々を操作します。 今日の言語モデルは、独自の目標を持っていません。 しかし、おそらくその区別は、最初に思われるほど快適ではないかもしれません。 機械が自身の意図を持たなくても、それを制御する人々の意図の乗り物になることはできます。 したがって、比較対象は、私たちが何らかの方法で FATE 自体を作成したということではありません。 私たちはそうしていません。 私たちが作成したのは、人々の生活において驚くほど似たような位置を占めることができるものです。 記録の背後にある知性は根本的に異なるかもしれませんが、端末を相談する人は必ずしもその区別を経験するわけではありません。 この比較は、規模で考慮すると、より不快になります。 これらは、孤立した機械との孤立した会話ではありません。 何百万人もの人々が、同じ少数のシステムを相談しており、それらは少数の組織によって運営されており、それぞれがシステムがどのように応答するかを形作る能力を持っています。 したがって、端末の背後で行われた変更は、無数の、そうでなければプライベートな会話に広がる可能性があります。 これは、それ以前の大量コミュニケーションの形態とは異なります。 新聞は読者のために記事を公開します。 テレビネットワークは同じ番組を何百万人もの視聴者に放送します。 ソーシャルメディアでさえ、主に人々や他の人々が作成したコンテンツとの仲介をしています。 チャットボットは何か異なることをします。 それは、プライベートな会話のように感じられるものの中で、相談している人のために特別に応答を生成します。 その会話インターフェースは、重要なものを隠蔽します。 ELIZA 効果で観察されたように、誰かがチャットボットに質問すると、それを運営している企業からのメッセージを受け取っているように感じられるわけではありません。 チャットボット自体と話しているように感じられます。 組織、その選択、そしてその意図は、あたかも自分で話しているかのように見える人工的な人格の後ろに後退します。 これは奇妙な非対称性を作り出します。 見かけ上の話し手は独自の意図を持たず、その行動を形作ることができる人々や組織は意図を持っています。 これらのチャットボットのユーザーは、人工的な人格と対話しますが、その人格がどのように振る舞うかを決定する人間の決定は、ほとんど out of...