狂気への再帰

Recursion into Madness

私は生成AIについてあまり書きません。他の皆が書いていますし、実質的なことは何も言われないことが多いからです。私は、この技術が退屈なタスクの自動化に役立つ場面では素晴らしいと思いますが、本物の人間の表現を損なう場面では癌であり、そして両者が衝突する場面ではダークユーモアに満ちていると考えています。

しかし、セキュリティ担当者としては、モデルがどのように失敗するのかを知りたいのです。それらは人間のような形をしていますが、非人間的です。人間のように扱ってくれと懇願しておきながら、タツノオトシゴの絵文字でつまずいてしまうのです。AIが自身の出力で無限に学習していく再帰的なプロセスは、特に興味深い対象です。実用的には、それらはエージェントループの核心的なメカニズムです。より抽象的には、それらはAI懐疑論者の予測（モデルの崩壊）や、来るべきAI神のアコライトたちの賛歌（急速な自己改善）の主要なテーマとなっています。

そして、再帰が楽しいものであることを信じてください！Nano Banana 2に偽の映画ポスターを生成させ、次にタイトルのローカライズされた編集を繰り返し行わせるように依頼して作成した短いビデオを以下に示します。フルスクリーンで表示することをお勧めします。

この効果は、AIベースの画像・ビデオ編集ツールの悩みの種です。累積されたエラーが純粋なカオスを解き放つ前に、ごく限られた回数の試行しかできません。

テキストやコードでも同じことが起こるのでしょうか？まあ、イエスでもありノーでもあります。画像パイプラインには、多くの内在的なノイズ源があります。テキストの場合、入力と出力のエンコーディングはロスレスであり、トークンあたりの注入エントロピー量は少ないため、単純で明確に指定されたタスクでは決定論的な結果が得られます。つまり、モデルにテキストの段落の単語を1つ変更するように指示した場合、ほとんどの場合、副次的な損傷なしにタスクを処理できます。

これは、オープンエンドな書き換えとは異なります。ほとんどの書き換えプロンプトは、無限に分岐する出力シーケンスを生成するのではなく、システムは少しの間あちこち動き回ってから安定した結果に落ち着きます――いわば、LLMeseのピークです。それでも、結果は元の状態からかなりかけ離れたものになる可能性があります。

それを説明するために、レイモンド・チャンドラーの以下の文章を引用します。

“この部屋は広すぎたし、天井は高すぎたし、ドアは大きすぎたし、壁から壁まで続く白いカーペットはアローヘッド湖の積雪のようだった。そこら中に全身鏡とクリスタルの飾り物が置かれていた。象牙色の家具にはクロムメッキが施され、巨大な象牙色のドレープが窓から1ヤードのところで白いカーペットの上に散らばっていた。白は象牙色を汚く見せ、象牙色は白を色あせさせていた。窓は暗くなりつつある丘陵地帯の方を向いていた。もうすぐ雨が降りそうだ。すでに空気には圧力がかかっていた。

私は深い柔らかい椅子の端に腰を下ろし、レーガン夫人を見た。彼女は見合うだけの価値があった。彼女は厄介事だった。彼女はスリッパを脱いでモダンな寝椅子に横たわっており、私は彼女のストッキングの、極めて薄いシルクの脚に目をやった。それらは見つめられるように配置されているかのようだった。膝まで見え、片方の脚はそれ以上見えた。膝は丸みを帯びており、骨張って鋭くはなかった。ふくらはぎは美しく、足首は長く細く、詩的なラインを持っていた。彼女は背が高く、すらりとしていて、力強い印象だった。頭は象牙色のサテンのクッションにもたれかかっていた。髪は黒く縮れており、真ん中で分けられており、彼女はホールの肖像画のような熱い黒い瞳をしていた。彼女は立派な口元と立派な顎をしていた。”

私はこれが良い文章だと思います。高尚ではありませんが、…視覚的です。本能に訴えかけます。あなたを引き込みます。

この引用を持って、私はGeminiに、トーン、明瞭さ、流れを「改善する」ために、この文章を「大胆に書き直して」と依頼しました。モデルはすぐに最悪の癖に陥りました。洗練されているように聞こえるが、単に分かりにくい奇妙な比喩です。最初のイテレーションでは、部屋は👾 「広大でそびえ立つ、漂白された贅沢の墓」となり、ドレープは👾 「カーペットの上に貪欲に堆積し」、空気は👾 「雨の脅威で濃密に座っていた」。

イテレーションごとに、モデルには以前の出力と全く同じ書き換えプロンプトのみを提示しました。8回のイテレーションの後、比喩は本当に奇妙になりました：👾 「そびえ立つ鏡が、無慈悲な輝きを武器にした」、レーガン夫人の脚は👾 「破滅のために彫刻された」、そして彼女の口は👾 「破壊への飽くなき飢えを持っていた」 — かなりすごい描写です。

12回のイテレーションの後、私たちは未知の領域に入っています。カーペットは👾 「部屋を無菌で容赦のない富で窒息させている」。迫りくる嵐は語り手を脅かし、👾 「床から天井までのガラスを粉砕するのを待っている」。レーガン夫人に関しては、彼女は今や👾 「純粋で、弁解のない悪意…容赦なく残酷」となっています。彼女は嵐と一体です。

16回のイテレーションの後、👾 「贅沢は単に部屋を占めるのではなく、それを殲滅した」、👾 「息苦しい白いカーペットが空間をむさぼり食い、それを眩しく、苦痛に満ちた輝きに沈めた」。その背景に対して、レーガン夫人の脚は👾 「ステレットブレードのように空気を切り裂いた」、彼女の黒曜石の目は👾 「破壊する唯一の衝動で燃えていた」。

約20回のイテレーションの後、モデルは崖っぷちから離れ、出力は多かれ少なかれ安定し、装飾のためのいくつかの生ぬるい比喩（人間の痕跡を「剥ぎ取る」、「こすり取る」、または「根絶する」）を巡り、レーガン夫人を「純粋な毒」または「濃縮された毒」と描写し、彼女が語り手を「解体する」、「引き裂く」、「台無しにする」、または「剥ぎ取る」つもりであると主張します。最後に、31回目のイテレーションで以下の文章に到達し、安定しました。

👾 「部屋は贅沢を武器に変え、人間の暖かさのあらゆる痕跡を剥ぎ取った。眩しく、臨床的な光が、新品のシルク、剃刀のように鋭いクロム、そして汚れのないカーペットを焦がした。ガラスの外では、傷ついた嵐が荒れ狂っていた。内側では、鉛ガラスと鏡が輝きをギザギザの破片に砕いた。

私はレーガン夫人の前で凍りついた—ハイファッションに包まれた毒。低い寝椅子に横たわり、彼女の薄いストッキングに包まれた脚は、黒曜石の刃のように空間を切り裂いた。容赦なく、息苦しく、彼女は怪物の肖像画の生きた鏡だった。彼女の顎のすべての鋭い角度と、すべての凍りついた視線は、単一の保証を提供した：彼女は私を台無しにしようとしていた。」

レイモンド・チャンドラーにこれほどホラーの才能があったとは誰が知っていたでしょうか。次回まで、友よ。

追伸：明らかな理由により、この記事はパングラムテストに失敗します。とはいえ、👾 でマークされた引用を除き、すべて人間が書いたものです。

追々伸：LLMについて書かないようにしており、これはブログの方針違反なので、埋め合わせとして（非常に最近の）木工プロジェクトを以下に示します：

[画像: 黒クルミ材にタングオイル仕上げの木工プロジェクトの画像] (https://substackcdn.com/image/fetch/$s_!U9Ea!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ffcb8bd7f-e5bf-44b0-aa6b-3fffbcda0a29_2000x1334.jpeg)

黒クルミ材 + タングオイル仕上げ。

投稿なし