LLMボイス

LLMボイス

時折、ある投稿を読んでいると、LLM（大規模言語モデル）の出力ではないかと感じるようになります。必ずしもその理由を明確に定義することはできませんが、一般的な兆候（それはemダッシュではなく、負荷を支えるタペストリーのようなものです）があります。そうしているうちに、読み進める意欲が衰え、時には嫌悪感すら抱くようになります。

LLMが書いた文章と、昔ながらの生物学的な製品を区別できると主張するツールは世の中に存在します。私はそれらを警戒しています。その正確性への懐疑論もありますが、それは論点をずらしているようにも思えます。LLMボイスへの反応は人間的なものであり、文章の「不気味の谷」にいるような感覚です。私が読んでいるものが何であるかをツールに尋ねるまでに、たとえツールがLLMは存在しないと自信を持って伝えてくれたとしても、すでに手遅れなのです。

また、LLMボイスを正確に認識する自身の能力にも懐疑的です。言語は時間とともに変化するため、年齢の一般的な兆候は、若い世代の言語について不平を言うことです。「新しいセールスモーションを採用する」とか、「ニュースのシャープなまとめ」といった文章に私は不機嫌になる傾向がありますが、これらの構文は人間の口からも聞いたことがあります。それは炭素とシリコンの違いというよりは、世代間の違いでしょう。（そして、移住してきたイギリス人として、アメリカ英語については触れないでください。すぐに慣れると確信しています。）

現時点では、著者の皆さんにLLMボイスに特に注意するよう強く勧めます。特に、LLMにドラフトを書かせるという罠に陥らないように強く推奨します。人間が編集したとしても、LLMボイスを完全に排除するのは非常に難しく、それが不気味の谷の反応を引き起こします。1 再フレーミングの提案を受け入れることさえ危険です。アウトラインや構造を開発するためにLLMを使用している人々がいると聞いていますが、それはアウトラインの範囲内であれば、許容されるかもしれません。2 著者は自分で文章を埋めるべきです。

1: 非常に難しいですが、不可能ではありません。最初のドラフトが完全にLLMによって作成されたと知っているケースに遭遇しましたが、最終的な記事を読んだときにLLMボイスは検出されませんでした。ただし、主要な定期刊行物のプロの編集者による修正が必要でした。

2: このサイトでの私のポリシーは、AIの執筆支援を受けた場合は、どのように使用したかを、通常は謝辞で申告することです。これは透明性の確保のためでもあり、読者がAIの有用な使い方を学べるようにするためでもあります。私自身のケースでは、文章生成や構造の支援のためにAIを使用していません。執筆にAIを使用する方法は、検索ツールとしてのみです（ただし、情報は必ずソースを確認します）。

LLM時代には、あなたの文章を語ることがさらに重要になります。私は習慣的に頭の中の言葉を口に出し、それを書き留めます（そして、書いたものを編集します）。このアドバイスは、定期的に文章でコミュニケーションを取りたいと願う人にとって特に重要です。多くのことと同様に、優れたライターになるための学習は、多くの練習に依存します。それだけの時間を費やす価値のあるスキルですが、LLMに委ねることは進歩を損なうでしょう。

いつかLLMが非常に優れて、違いが分からなくなるかもしれません。多くの意味で、それはより懸念すべきことです。ほとんどの作家と同様に、私も執筆は思考のためのほぼ不可欠なツールだと感じています。何かを書き留めることによってのみ、トピックに関する私の考えを本当に一貫性のあるものにすることができます。理解していないことを知りながらエッセイを始めたことがよくありますが、言葉と格闘する行為が私の混乱を克服することを強制します。より多くの人々が執筆をLLMに委任するにつれて、彼らは思考と理解もLLMに委任するでしょう。私はそれをしたくありません。執筆の楽しみはどこにあるのでしょうか？

LLMボイスを避けることは一般的なルールですが、絶対的なものではありません。重要な例として、このサイトに寄稿しているジム・ハイズミスがいます。彼は、パーキンソン病の苦悩を克服するためにLLMとの作業が執筆に不可欠だと感じています。友人の知恵を吸収し続けるために、LLMボイスに対処することは喜んで受け入れます。

より厄介なケースは翻訳です。私の同僚の多くは英語が得意ではなく、彼らにとっては第二言語または第四言語です。一部の人々は、マーラー語をあまり知らない私たちとのコミュニケーションにおいて、LLM翻訳が重要な部分であることを見出しています。しかし、私も、滑らかだが魂のないLLMよりも、本物の人間のぎこちない文章を好みます。

ネイティブのイギリス人でさえLLMに文章を書かせることが合理的な状況もあります。例えば、公式な文書に定型文を書く場合や、誰も読まないであろうと思われるレポートを作成する場合3。おそらく将来のほとんどのドキュメントはLLMによってのみ読まれ、彼らは私の不気味の谷の懸念を持たないでしょう。しかし、人間とコミュニケーションを取りたいのであれば、私の人間性は文章から輝かなければなりません（少なくとも滲み出なければなりません）。

3: マイケル・ニガードは次のようにコメントしています。「そこでは、本当に一人の人間から他の人間への思考の伝達を試みているわけではありません。あなたは人間ではなく、プロセスとコミュニケーションをとっているのです。人間が封筒を開けるかもしれませんが、その人はサイバネティック有機体のコンポーネントとして機能しているのです。」

注記

1: 非常に難しいですが、不可能ではありません。最初のドラフトが完全にLLMによって作成されたと知っているケースに遭遇しましたが、最終的な記事を読んだときにLLMボイスは検出されませんでした。ただし、主要な定期刊行物のプロの編集者による修正が必要でした。

2: このサイトでの私のポリシーは、AIの執筆支援を受けた場合は、どのように使用したかを、通常は謝辞で申告することです。これは透明性の確保のためでもあり、読者がAIの有用な使い方を学べるようにするためでもあります。私自身のケースでは、文章生成や構造の支援のためにAIを使用していません。執筆にAIを使用する方法は、検索ツールとしてのみです（ただし、情報は必ずソースを確認します）。

3: マイケル・ニガードは次のようにコメントしています。「そこでは、本当に一人の人間から他の人間への思考の伝達を試みているわけではありません。あなたは人間ではなく、プロセスとコミュニケーションをとっているのです。人間が封筒を開けるかもしれませんが、その人はサイバネティック有機体のコンポーネントとして機能しているのです。」

謝辞

Alessio Ferri, Caer Sanders, Ian Cartwright, Jie Jessie Xia, Joshua Kerievsky, Michael Feathers, Michael Nygard, Scott Davies, and Wei Zhang commented on drafts of this post.

I did not use AI or LLMs in any way while writing this post.