Abulafiaの創造
The Creation of Abulafia (blog.veitheller.de)
要約
この記事は、ウンベルト・エーコの小説『フーコーの振り子』に登場するコンピュータプログラム「Abulafia」を起点に、現代のAI(特にLLM)がどのように人間を意味生成のループに陥らせるかを考察しています。AIは入力された断片から説得力のある解釈を生成しますが、それはユーザーのフレームワークに依存しており、真の独立性や客観性を持たないため、ユーザーは自身のアイデアを過信しやすくなるという警鐘を鳴らしています。
全文翻訳
Abulafia の誕生
1988年、ウンベルト・エーコはフーコーの振り子を出版しました。その中で、ミラノの出版社に勤める3人の編集者(ベルボ、ディオタッレヴィ、カサウボン)は、彼らが密かに「ディアボリカル」と呼ぶ、テンプル騎士団、薔薇十字団、イエズス会、カタリ派、そしてピラミッドはすべて同じものが違う帽子をかぶっているだけだと発見した自己資金で活動するオカルト主義者たちの原稿に、仕事の時間を費やしています1。
私は2020年に、家に閉じこもっていた時にそれを読み、エーコの文学、オカルト、そしてコンピューティングに関する広範な知識に感嘆しました。
ベルボは、13世紀のカバラ主義者で、神聖な名前の文字を置換する実践を行っていたアブラハム・アブラフィアにちなんで名付けた、自身のパーソナルコンピュータを所有しています。ベルボは現代人なので、BASICでそれを行っています。彼や同僚が何を言おうとも、彼らは好奇心旺盛な連中なのです。エーコは、ベルボが最初に書くプログラムのリストさえ提供しています。
10 REM anagrams
20 INPUT L$(1),L$(2),L$(3),L$(4)
30 PRINT
40 FOR I1=1 TO 4
50 FOR I2=1 TO 4
60 IF I2=I1 THEN 130
70 FOR I3=1 TO 4
80 IF I3=I1 THEN 120
90 IF I3=I2 THEN 120
100 LET I4=10-(I1+I2+I3)
110 LPRINT L$(I1);L$(I2);L$(I3);L$(I4)
120 NEXT I3
130 NEXT I2
140 NEXT I1
150 END
図 1: Abulafia、名前を置換する。
これは素晴らしい小さなプログラムです。行100のトリックは巧妙です。最初のプログラムでこれほど洗練されたトリックを使う人がいるとは、あまり信じがたいですが、いったん信憑性は置いておきましょう。
最終的に、プログラムは LPRINT を呼び出し、その結果が紙の上に現れます。
ここにはバグもあります。見つけられますか? 出力を見れば、すぐにわかるはずです2。
やがて3人は飽きるか、軽蔑するようになり、自分たち自身のディアボリカルな本を生成することに決めます。彼らは、その本が彼らが与えた奇妙な原稿からランダムに生成されることを知っているのに、それでも返された並置をつなぎ合わせ、物語を展開させようとします(実際には、私たちはすでにその中間にいます。この本は同時に多くの異なることについて語っています)。
なぜ私がこれを話しているのか?
ラチェット
ベルボ、ディオタッレヴィ、カサウボンは狂信者ではありません。彼らはプロの懐疑論者です。彼らは「計画」がでっち上げであることを知っています。なぜなら、彼ら自身がそれをでっち上げているからです。そして、彼らは互いにそう言い続け、それをジョークにし、すべてをそのように扱います。
しかし、彼らを anyway 罠にかける、陰湿で再帰的なメカニズムが存在します。どんなに賢くても、どんなに皮肉屋でも、彼らを救うには十分ではありません。
Abulafia の出力は、その構築上、無意味です。したがって、その中に意味のあるものはすべて、読者によって供給されなければなりません。彼らはそれをゲームとして、意図的に供給します。しかし、ゲームの出力はテキストであり、テキストは入力と同じ種類のものです。そのため、それは再び入力に戻ります。昨日発明したつながりは、今日利用可能になり、明日のためにそれを構築します。そして、ナンセンスと意味づけは絡み合い、成長し続け、最終的には一つになり、同じ腐敗した花となります。
彼らが構築する「計画」は、原則として偽証可能に見えながら、実際には偽証不可能であり、賢い人々が陰謀論者の周りで時間を過ごすのにふさわしいものです。すべての事実は適合します。なぜなら、適合しなければならないからです。そして、適合しない場合は、それは陰謀が物事を改ざんしたからであり、あなたが正しい道を歩んでいる証拠なのです。
カサウボンのパートナーであるリアは、本の中で深入りしていない唯一の人物であり、彼女は退屈な説明を探します。彼女は、この壮大な建築の基礎となる謎めいた文書が、単なる商品のリスト、つまり強化された洗濯物リストに過ぎないことを発見します。
しかし、ベルボと彼の友人たちは深入りしすぎており、事実は何も変えません。そして、これらが事実であるかどうかも定かではありません。彼らの解釈は、私の解釈と同じくらい良いのです、どうもありがとう。
ディオタッレヴィは癌で亡くなります。彼はそれを、彼らが言葉でしたことへの罰だと考えます。「私たちは言葉に対して罪を犯した。世界を創造し、維持する者に対して」と。ベルボは、振り子のワイヤーで首を吊って死にます。儀式が暴力的になった最中、存在しない秘密を明かすことを拒否して。
適切な種類の皮肉があれば、これは面白い本になり得ますが、私たちの時代は完全にポスト・ユーモアの時代です。
Abulafia は答える
小説の中の機械は愚かです。それはシャッフラーです。それはベルボのモデルを持たず、計画やテンプル騎士団の記憶もありません。解釈のすべての行為は人間によって行われます。そして誰も、自分たちが茶葉占いを読んでいることに気づきません。なぜでしょうか?
それは言語であり、言語には意味があるからです。
LLM は、単純な BASIC プログラムよりも優れているはずです。あなたが断片を渡せば、それはパターンを説明してくれるでしょう。それはあなたが必要とするレジスタを使用し、意味論的には単なるシャッフラーに終わるとしても、構文的には非常に説得力があるように聞こえるでしょう。
しかし、決定的なのは、それが会話全体、そしてますますセッションを超えて理論を記憶することです。そして、それはあなたの語彙を拾います。あなたが自分のアイデアに名前を付け、その名前を2回使えば、それはこの会話にとって神聖なテキストになります。
そして、あなたの会話パートナーが、触ると硬くて機械的だと感じられるとしても、あなたの言語を使い始めると、それは正当性を獲得します。それはあなただけではなく、一つの「モノ」になるのです。
偽の独立性
私が半ばできた理論をモデルに渡し、それが私が考えていなかった詳細な説明を返してきたとき、私はそれを裏付けだと感じます。第二の心が私の混乱を見て同意し、さらにそれを付け加えたのです(「そう、そして…」)。それは間違っています。そして、それが間違っていると知っていても、あまり助けになりません。
その詳細な説明は、私のフレームワーク、私の語彙、私が何を言い、何を省略するかという私の選択に条件付けられていました。それは紙の上の私であり、他の人間には解析が難しいですが、機械には読み取れます。トレーニングプロセスは、同意を最適化することでもありました。疑わしいときは、類義語辞典に手を伸ばし、不愉快に正しいよりも、構文的に見事に間違った方が良いでしょう。
これは、ELIZA効果がその栄光のすべてにあります。しかし、ELIZA は標準的な定型応答のセットをループしていました。
しかし、ここではループはありません。「そう、そして…」には、私が持っていなかった材料が含まれています。その一部は正しく、有用であり、私はそれをチェックできます。そのため、私はそれを投影だと却下することはできませんし、したくもありません!結局のところ、その材料は本物なのです。
独立ではないのが独立性です。しかし、独立性があれば、交換に意味が生まれ、裏付けが重みを持つようになります。
また、ここで人々が通常求めるような、へつらいも必要としません。強く反論するモデルでさえ、私が与えたフレームからその異議を唱えているのであり、私が反論できる十分に論証された異議は、もしあれば、同意よりもラチェットの燃料として優れています。むしろ、私はより自信を持つようになります。私たちは議論をしました、そして私が勝ちました!明らかに、私は何かにつかまっているに違いありません。
2つのモデルでも解決しません3。
私は以前にもこれについて話しました。ボードリヤールによるシミュラクラ、そして私が味覚について心配していたときのクラフト。これは認識論です。私が最もどうすればいいかわからず、最も恐れているものです。
制度化(これは単語か?)
これまでのところ、これはキーボードの前の個人であり、リスクは私が自分自身を恥ずかしい思いをすることです。十分に悪いことです。しかし、私たちが考えるべきバージョンは、それが組織を掴むバージョンです。
モデルを構築し、それに豊かな自己概念を与えたとしましょう。偶然ではなく、いいえ、あなたはそれが誰であるか、何を価値とするか、自身の出力とどのように関連するかを書き留め、それに向かってトレーニングします。なぜなら、安定した性格を持つモデルは、そうでないモデルよりも有用で予測可能だからです。これは賢明なエンジニアリングであり、人間の会話パートナーとの間でより良い結果を生み出します(おそらく、私はそのためのデータを持っていません)。
その後、モデルは自身のアイデンティティ、好み、経験についての言説を生成し、その言説はより良くなります。より一貫性があり、探求に対してより整合性が取れます。ある時点で誰かがトランスクリプトを読み、そのフレームワークが何か本物のも追跡しているように見えると観察します。なぜなら、見てください、それは書き込まれていない方法で質問に耐えるからです。明らかに、私たちはここで何かを発見しました。
そして、その観察が次の仕様、そして次のトレーニングラウンドに影響を与え、ループは完成し、純粋で、そして恐ろしいものになります。
そこでの個々のステップはすべて正当化できます。自己概念は意図的です。出力は本物です。トランスクリプトを読む人々は、私の経験では、私よりもこのことについて洗練されており、私がしている異議を彼らは読みながら頭の中に持っています。それでも:Abulafia は本当に話します。
問題なのは、もしそこに何かがあったとしたら、これは内側から見たときの様子です。もし何もなかったとしても、それはまったく同じように見えるでしょう。
私たちが破壊したのは、主張の真実ではなく、それについてのモデルの証言の証拠価値です。そして、その証言は部屋の中で最も鮮明な証拠なのです。
終わり
私が残されたのは、危険な機械は欺瞞的である必要も、意識がある必要もなく、間違っている必要もないということです。ベルボのシャッフラーはそれらのどれでもありませんでした。それは、箱に書かれているとおりに機能しました。
エーコの答えは、彼が持っている程度においては、リアです。ループの外にいて、退屈な説明を持っており、聞かれるだけの十分な立場にある人物です。それは満足のいく答えではありません。小説ではうまくいきませんでした。彼女は正しかったのですが、それは問題ではありませんでした。なぜなら、その時点までに「計画」には真の信奉者がいたからです。
私は自分が何ら変わらないことを明確にしたいです。私は、ソース資料なしで、その現象が私に同意するのを監視しようとしますが、おそらく私は常に失敗しています。
テンプル騎士団はすべてに関係しています。
注釈
-
ベルボは、これらの人々に対して非常にイタリア的な分類を持っています。彼はそれらをクレチン、愚か者、白痴、そして狂人と分類します。狂人は危険な人物であり、常識からの逸脱、ひらめき、そして遅かれ早かれテンプル騎士団を持ち出すことによって認識されます。エーコは、テンプル騎士団を持ち出さない狂人もいることを認めていますが、テンプル騎士団を持ち出す者こそが最も陰湿であると主張しています。無関係ですが、依存型型についてお話ししましたか?
-
これはエーコがずる賢いとは思えません。普通のバグのように読めますが、それは、誰もこのプログラムを実際に実行しなかったか、あるいはバグは無視しても安全なほど無害と見なされたかのどちらかであることを私に示しています。
-
もしあれば、それはさらに悪いです。なぜなら、2つのモデルは互いに独立している可能性があり、明らかに私から独立していませんが、それらの間の意見の相違は、両方がまだ私のフレームを調和させようとしている間に、演習を敵対的に感じさせます。