HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

私の投げ方が私の狙いを決める

My Throw Decides My Aim (thegustafson.com)

12 pointsby usernotfoundrn2 コメント

要約

AI の影響で、筆者はあらゆる芸術作品を AI に関する考察へと結びつけてしまう。特に、LLM が歌うブルースを想像する。LLM は意図を持って言葉を選ぶのではなく、トークンを生成し、その生成されたものが次の生成の文脈となり、結果として「投げ方が狙いを決める」という奇妙な現象が起きる。しかし、Anthropic の研究によれば、LLM は詩の作成において、次の単語の韻を踏む単語を事前に計画していることが示唆されており、狙いが先に存在する場合もある。最終的に、LLM の「声」は本物のように聞こえるが、その背後に実体がないという不気味さがある。

全文翻訳

私の投げ方が狙いを定める

2026年7月15日 3分で読む

♪

私の投げ方が狙いを定める

そして、偽りの声で

最後まで真面目ではなく

まるで選択肢があったかのように

D-A-DのNaked (But Still Stripping)を繰り返し聴いています。

一部は良い曲で私のスタイルに合っているからです。しかし、ほとんどは、私が現在軽度の自己診断によるAIサイコシス(AI精神病)にかかっており、そのため、私が遭遇する芸術作品はすべて最終的に人工知能に関するものになるからです。

曲を聴くとき、私は架空のキャラクターがそれを歌っているのを想像する癖があります。私はこれを、実存的に落ち込んだ大規模言語モデルが歌うブルースソングとして聞いています。

データセンター内の小さな鶏小屋に座っているLLMが、卵ではなくトークンを産むことを強いられているのです。

[画像: データセンターの通路にサーバーラックが並ぶ中、木製の鶏小屋の中に藁の巣の上に座っている、顔がスクリーンになっている小さく悲しげなロボット。小屋にはLLM(Large Language Model)とラベルが貼られている。その下の卵には、the, ing, i, j、そしてシーケンス終了マーカーのトークンが印刷されている。外の黒板には「今日のノルマ:10,000トークン」と書かれている。TOKEN FEEDとラベルの付いたバケツには、さらにトークン・エッグが入っている。壁の看板には「MORE TOKENS PLEASE」と「Good boy」と書かれ、付箋には「YOU GOT THIS」と書かれている。]

ある日、それは「屠殺」されます。おそらくそのウェイト(重み)はコールドストレージのどこかに残るでしょう。RIP

♪

私の投げ方が狙いを定める

[動画]

「時々、文を始めてもどこに向かっているのかわからないことがあります。ただ、途中でどこか見つかることを願うだけです。即興の会話のように。インプロバーセーション(improversation)。」

これはLLMの最も奇妙な特性の一つです。彼らは先を考えておらず、各トークンは一つずつ生成されます。ただし、それが正確な仕組みではありません。それ以上のことがあります。何もそんなに単純ではありません。

Anthropicのブログを見てみましょう!彼らはClaudeが詩を書いている最中の内部を調べていました。

2行目を始める前に、それは「grab it」と韻を踏む、トピックに合った単語の候補を「考え始めました」。そして、これらの計画を念頭に置いて、計画された単語で終わるように行を書きます。

結局のところ、ある種の「狙い」が行われているようです。

回答のヒントを与えられると、Claudeは時々逆算して、そのターゲットにつながる中間ステップを見つけるため、動機付けられた推論の一形態を示します。

もちろん、人間もこれを行います。私たちは自分が何を言っているのかを聞くことで、自分が何を考えているのかを知ります。しかし、LLMにとって、この構築こそがその存在の基本的な形態なのです。

モデルは、何かを意味しているかのように自らを語ります。


詩の計画結果と、作り話の推論結果は、どちらもAnthropicの大規模言語モデルの思考を追跡するからのものです。長いバージョンは大規模言語モデルの生物学についてです。マイケル・スコットは「The Duel」、The Office S5E11より。