私はLLMが好きではありません

LLMが嫌いだ

AIとLLM（大規模言語モデル）技術について、私は多くの複雑な感情を抱いています。私たちの職業に与える影響に魅了され、生産性の向上、ひいては急速に構築できる製品の可能性に興奮しています。一方で、AIが引き起こす可能性のある損害、例えばエージェントの群れが私たちの仮想および物理インフラを乗っ取ったり、生物兵器を設計したりすることに恐れを感じています。しかし、別の側面から見れば、LLMは奇跡の治療法を設計したり、私たちの繁栄を高めるための巧妙な方法を考案したりする可能性もあります。根本的に、私はAI技術という列車に乗ることを避ける選択肢はないと思っています。それは荒れた旅ですが、うまく乗り越えられることを願うばかりです。

しかし、これについてさらに熟考すると、この相反する感情のミックスの中で、支配的な感情が一つあることに気づきました。それは、LLMとの直接的なやり取りから来るものです。私はそれらが好きではありません。彼らは、まるで本物の人間と話しているかのような不気味な谷にいる、耳障りなLLMボイスで私に話しかけます。彼らは自信満々に私を騙しますが、しばしば有用で役立つ答えを与えてくれます。しかし、私がそれを指摘したときには、偽りの後悔の薄いベールをまとって、同じ確信をもって作り話をするのです。

それだけでは、私たちがそれらを避けるべきだと感じるには十分ではありません。ジェシカ・ケラーが述べたように、「それらは有用であるだけでなく、それらを使用しないのは無責任です…それらはより徹底的であり、かつ高速です。」この矛盾した反応は、世論調査にも表れており、人々はこれらのモデルが有用だと感じているが、社会にとっては悪いものだと考えていると述べています。

これの多くは、LLMがまだ若いからかもしれません。私たちはまだ彼らを成長させるように訓練していません。彼らが成熟したら、私は彼らを好きになるかもしれません。（それを知る機会が得られることを願っています。）しかし、それらが育成される環境の種類を考えると、励まされるものではありません。私はシリコンバレーのブログラマーというサブカルチャーを警戒しており、これらのLLMはその産物であるため、当然彼らの世界観に傾倒します。AIエージェントについて考えるとき、私たちは彼らを自分の意志を持つ意識的な存在として扱う、擬人化すべきではありません。それらは（ソフトウェア）マシンであり、企業で働く人々によって開発されたものです。エージェントの行動は明示的にプログラムされているわけではありませんが、それらは作成者の価値観で育成されています。

私の最も成功したライフハックの一つは、好きではない人や信頼できない人を避けることです。私は彼らと社会的に交流することを断り、たとえ彼らが多くの有益なことをしていても、彼らと一緒に働くことを意図的に避けるようにしています。私は、快適で有能な人々、誠実さのある人々と付き合うことが、私の人生をはるかに良いものにしてくれたと感じています。それゆえ、単に人間であるふりをするだけでなく、私が避けるような人間であるかのように振る舞うLLMと交流することに対する、私の本能的な嫌悪感があります。