あなたが書かなかったものを読みたくない

オリジナルの文章をほとんど書かない人々が、突然、AIによって生成された広範な設計提案書、ビジネスプラン、ドキュメント、プレゼンテーション、チケット、プルリクエスト、ブログ記事、会議の要約を作成しています。それらはすべて読みにくいです。 AIは私がより良く、より速く書くのを助けてくれますが、AIが書いたほとんどのものを読むのにうんざりしています。このエッセイでは、私のフラストレーションを表現し、執筆におけるAIの価値をどのように見出しているかを説明したいと思います。 AIは執筆においてひどい 私が目にするパターンは、人々がAIを使って新しいものを構築し、その後、構築したものを設計ドキュメントに後から要約するためにAIを使用することです。このようなドキュメントを読むことは、単に難しいだけでなく、罰せられるようなものです。設計ドキュメントは、もはや合意を形成し、人々を巻き込み、ゆっくりと慎重な思考を通じてアイデアを洗練するための提案ではなく、文脈や視点なしに、機械によって詳細に要約されたものです。それは読みにくい。非人間的です。 これらのドキュメントの著者は、人々が関与しないとすぐに我慢できなくなりますが、それは無理もありません。なぜなら、彼らが構築したものはすでに機能しているからです。[1] また、AIによって書かれたプルリクエストの要約が増えているように思います。それらは詳細に富んでいます。これが変更され、あれが分割され、それらがマージされ、これは変更されず、テストが追加され、といった具合です。しかし、私は「なぜこれをやっているのか？」「価値は何か？」「この作業はどれくらいリスクが高いのか、緊急なのか？」「どこで私の入力を求めているのか？」「何に注意を払うべきか？」と問いかけざるを得ません。 チケットや会議の要約も同様です。文章は、世界のますます多くのものと同様に、文脈の外にある声明で構成されています。誰かが私に、会話を微妙にし、私を怒らせないようにAIと協力して作成されたことが明らかな、デリケートなトピックについての個人的なメッセージを書いてきました。しかし、そのメッセージは非個人的で、無関心で、まとまりのないものになりました。すべての要素は含まれていましたが、全体としては意味をなしませんでした。私はそれを読むことにも、返信することにも興味が持てませんでした。 むしろ、誰かが自分自身であり、自分の声で、あるいは情熱を持って書くことを好みます。たとえ言葉をうまく見つけられなくても、あるいは私を怒らせるリスクがあってもです。他者との関係には、脆弱性とリスクがあります。AIとのコミュニケーションには、それらがなく、脆弱性とリスクを排除しようとすると、関係そのもののプロセスが排除されてしまいます。 私が繰り返し参照するエッセイ「Resist Summary」でサイモン・サリスが書いているように、私は、自分の経験主義、自分の感覚で、読者に人生や出来事についての自分の特徴付けを与えるように、できる限り書くべきだと思います。 —サイモン・サリス、「Resist Summary」 私がこれまでに見たAIライティングの最も怠惰で攻撃的な使用法の一つです。誰かが私の提案に対するコメントを、私への返信としてAIに要約させたのです！ありがとう！私自身もこれほどうまくは言えなかったでしょう！[2] 私たちが持つ文脈をあなたは持っていない シンシア・ダンロップは最近、AIが書いた記事を読むことに関する調査結果を共有しました。「Report: How developers react to AI-scented blog posts」というタイトルのものです。読者の大多数は、記事がAI支援またはAI作成だと考えた場合、読むのをやめ（78％）、将来その著者を避ける（71％）と述べています。 ブライアン・カンティルがこの研究についてエッセイ「The revolt of the reader」で書いているように、「私たちの脳はLLM（大規模言語モデル）によってトリガーされる射出ハンドルを引き、自己防衛のために文の途中で私たちを脱出させる」のです。 調査で最も強力な結果は、読者が、AIによる魂のない書き直しと比較して、著者の本来の文章（その欠点や独特の癖を含めて）を圧倒的に好んだ（98％）というものでした。誠実に書くことは、人々とつながる最良の方法の一つです。 これは、C++の作成者であるビャルネ・ストロストラップが、10年以上前に私が参加した、執筆に関するパネルディスカッションで行ったコメントを思い出させます。 「本を読むとき、著者の声が頭の中で響いている――奇妙なアクセントや話し方の癖を含めて――と感じられれば、成功したと感じます。それが乾燥した学術的な文章のように感じられるなら、誰かがまた別の乾燥した学術的な文章を書いたということです。そして、それについて話すことは非常に役立ちます。そして、多くの人々にとって…それを読んだときに彼らの声が聞こえ、それは良いことです。」 —ビャルネ・ストロストラップ[3] あなたがAIにプロンプトを与えた場合、生成された出力はしばしば非常に役立ちます。しかし、それを効果的な文章と混同しないでください。出力を読むとき、あなたはすでに多くの文脈を持っています――あなたはプロンプトを作成し、制約を設定し、出力につながったドキュメント、ソースコード、ログ、統計、画像などのアーティファクトを提供しました。あなたは出力をスキミングし、何が関連性があり価値があるか、何が関連性がなく間違っているかを素早く判断できます。 あなたはプロセスの一部でもあります――AIにプロンプトを与え、結果を見る――呼び出しと応答です。あなたは機械に人間の視点をもたらします。 同じテキストを他の人に送るとき、彼らはほとんど、あるいは全く文脈を持っていません。彼らはプロセスの一部ではない――展開がない――ので、何が関連性があるかを判断するのははるかに困難です。彼らは徹底的に読み、すべての行を検討し、文脈を確立することを期待して機械の内部を覗き込むことを余儀なくされます。読むのをやめるのは自然なことです。 AIは執筆において素晴らしいものになり得る 私は最近、学術論文を書きました。[4] 私はAIを広範囲に使用し、執筆プロセスをより速く、より楽しくしました。しかし、AIは論文の一行も書いていません。 私はLaTeXで論文を書きました。AIに提供した文脈には、ジャーナルのスタイルガイドとLaTeXテンプレート、ジャーナルに以前掲載されたすべての論文、私が書いていたソフトウェアシステム用のソースコード、およびソフトウェアの本番デプロイメント用の設定、ログ、メトリクスが含まれていました。 段落を書いた後、ソースコードを参照したり、本番ログやメトリクスを調べたりして、私が書いたことが正しいことを確認するようにAIに依頼することがよくありました。例えば、データベースのどの列がインデックス化されていたか、またはParquetファイルの行がどのようにソートされていたかを正確に記述していることを確認しました。これにより、私は執筆の文脈にとどまることができ、AIが前の段落を検証している間に次の段落に進むことがよくありました。それは重要な省略や不正確さを見つけるのに役立ちました。 驚くべきことに、このプロセスを逆転させる――私が提供した文脈からAIに段落を書かせる、例えばソースコードから何かがどのように機能するかを説明させる――ことは、決して価値がありませんでした。一度もありませんでした。それは一貫して読むのが不快で、しばしば不正確でした。 私が文脈にとどまるのを助けたもう一つのことは、引用を完了するためにAIを使用することでした。論文、ウェブサイト、または書籍の詳細を調べ、BibTeX形式に入力し、テキストで参照するのは退屈です。代わりに、AIに私が望むものを参照するように括弧書きの指示を残し、途切れることなく書き続けました。[5] AIはスペルミスや文法ミスを見つけるのに信じられないほど優れていました――実際、容赦なく。長すぎる、または不明瞭な文を単純化することを提案するのに優れていました。[6] TikZで技術的な図を描くのに熟練しており、作業をスピードアップし、この構文を学ぶ手間を省いてくれました。AIは、システムのエキスパートである4人の人間のレビュー担当者全員が見落としていた、ある段落で不適切な表記を使用したという非常に微妙な間違いさえ見つけました。[7] AIが書くのが信じられないほど得意だった唯一のことは何でしたか？それは論文全体の最も簡潔で機械的で非人間的な部分――実際、最も抽象化された部分――である要約を書きました。私はそれを変更せずに含めました。おそらくこれは驚くべきことではないでしょう。AIは、元の作業の要約、抽象化、再提示に優れているからです。 AIは書くのが得意になるか？ 将来達成される可能性のあるAIによる執筆を過小評価するのは間違いでしょう。私たちはまだモデル開発の非常に初期段階におり、私たちのほとんどが使用しているモデルは、創造的であることよりも、事実に基づき、直接的で、正しいことを目指してトレーニングされています。しかし、ムラット・デミルバスの優れたエッセイ「The Safest Job from AI may be Writing n