あなたが書かなかったものを読みたくない

あなたが書かなかったものは読みたくない

2026年9月20日

［画像: あなたが書かなかったものは読みたくない］

これまでオリジナルの文章をほとんど書かなかった人々が、突然、AIによって生成された広範な設計提案書、事業計画書、ドキュメント、プレゼンテーション、チケット、プルリクエスト、ブログ記事、会議の要約などを生み出しています。それらはすべて読みにくいものです。AIは私がより良く、より速く書くのを助けてくれますが、AIが書いたほとんどのものを読むのにはうんざりしています。このエッセイでは、私の不満を表明し、執筆におけるAIの価値をどのように見出しているかを説明したいと思います。

AIは執筆においてひどい

私が目にするパターンは、人々がAIを使って何か新しいものを構築し、その後、すでに構築したものについて、設計ドキュメントとして後からAIを使って要約することです。このようなドキュメントを読むことは、単に難しいだけでなく、苦痛です。設計ドキュメントはもはや、コンセンサスを形成し、人々を巻き込み、遅く、慎重な思考を通じてアイデアを洗練するための提案ではなくなっています。それは、文脈や視点なしに、機械によって、うんざりするほど詳細に作成された要約なのです。それは読みにくい。非人間的です。これらのドキュメントの著者は、人々が関与しないとすぐに苛立ちますが、彼らが構築したものがすでに機能しているため、関与しないわけにはいきません。[1]

また、プルリクエストの要約が、機械から機械への説明のために、ますます機械によって書かれているように見受けられます。それらは詳細に富んでいます。これがこれに変更された、これらが分割された、あれらがマージされた、これはそのままにされた、これにはテストが追加された、といった具合です。しかし、私は「なぜこれをやっているのか？」「価値は何か？」「この作業はどれくらいリスクが高いのか、あるいは緊急なのか？」「どこで私の意見が必要なのか？」と問いかけざるを得ません。チケットや会議の要約がAIによって作成される場合も同様です。文章は、世界のますます多くのものと同様に、文脈の外にある陳述で構成されています。

私は、会話をニュアンス化し、私を不快にさせないようにAIと共同作業したことが明らかである、デリケートなトピックに関する個人的なメッセージを誰かに書かれました。しかし、そのメッセージは非個人的で、無関心で、まとまりのないものになってしまいました。すべての要素は含まれていましたが、全体としては意味をなしませんでした。私はそれを読むことにも、返信することにも興味が持てませんでした。むしろ、誰かが自分らしく、情熱を持って、たとえ言葉を見つけられなかったり、私を不快にさせるリスクがあったとしても、自分の声で書いてくれる方がずっと良いです。

他者との関係には、脆弱性とリスクが伴います。AIとのコミュニケーションには、それらがありません。脆弱性とリスクを排除しようとする試みは、関係そのもののプロセスを排除してしまいます。私が繰り返し参照するエッセイ「Resist Summary」で、Simon Sarrisが書いているように：

私は、人ができる限り、自身の経験、自身の感覚で書き、読者に人生や出来事についての自身の描写を与えるべきだと思います。
—Simon Sarris, Resist Summary

私がこれまでに見たAIライティングの、おそらく最も怠惰で最も攻撃的な使い方は、誰かが私の提案に対するコメントをAIに要約させ、それを私への返信として使ったことです！ありがとう！私自身もこれほどうまくは言えなかったでしょう！[2]

あなたが持つ文脈を私は持っていない

Cynthia Dunlopは最近、AIが書いた記事を読むことに関する調査結果を「Report: How developers react to AI-scented blog posts」というタイトルで共有しました。読者の大多数は、記事がAIの支援を受けている、あるいはAIによって書かれたと考えている場合、読むのをやめ（78%）、将来その著者を避ける（71%）とのことです。Bryan Cantrillがこの研究について書いたエッセイ「The revolt of the reader」の中で次のように述べています。「私たちの脳はLLMにトリガーされた射出ハンドルを引き、自己防衛のために文の途中で私たちを脱出させます。」

調査で最も強力だった結果は、読者が、AIによる魂のない書き直しと比較して、その欠点や奇妙さも含めて、著者の独自の文章を圧倒的に好んだ（98%）という点です。誠実に書くことは、人々とつながる最良の方法の一つです。それは、C++の作成者であるBjarne Stroustrupが、10年以上前に私が参加した書籍執筆に関するパネルディスカッションで行ったコメントを思い出させます：

本を読むとき、著者の声が頭の中で響いていると感じられるなら――奇妙なアクセントや話し方の癖も含めて――何かうまくいったと感じます。それが乾燥した学術的な文章のように感じられるなら、それは誰かがまた別の乾燥した学術的な文章を書いたということです。そして、それについて講演することは多くの人に役立ちます。そして、多くの人にとって…それを読んだときに彼らの声が聞こえ、それは良いことです。
—Bjarne Stroustrup[3]

あなたがAIにプロンプトを与えた場合、生成された出力はしばしば非常に役立ちます。しかし、これを効果的な文章と混同しないでください。出力を見たとき、あなたはすでに多くの文脈を持っています――あなたはプロンプトを作成し、制約を設定し、出力につながったドキュメント、ソースコード、ログ、統計情報、画像などのアーティファクトを提供しました。あなたは出力をスキミングして、何が関連性があり価値があるか、何が関連性がなく間違っているかを素早く判断できます。あなたはまた、プロセスの一部です――AIにプロンプトを与え、結果を見る――呼びかけと応答です。あなたは機械に人間の視点をもたらします。同じテキストを他の人に送るとき、彼らはほとんど、あるいは全く文脈を持っていません。彼らはプロセスの一部ではなく、展開はありません――何が関連性があり、何がそうでないかを判断するのがはるかに困難です。彼らは網羅的に読み、すべての行を検討し、文脈を確立するために機械の内部を覗き込むことを強制されます。読むのをやめるのは自然なことです。

AIは執筆において素晴らしいものになり得る

私は最近、学術論文を書きました[4]。AIを広範囲に使用し、執筆プロセスをより速く、より楽しいものにしました。しかし、AIは論文の1行も書いていません。私はLaTeXで論文を書きました。AIに提供した文脈には、ジャーナルのスタイルガイドとLaTeXテンプレート、ジャーナルに以前掲載されたすべての論文、私が書いているソフトウェアシステムのためのソースコード、そしてそのソフトウェアの本番環境でのデプロイメントの設定、ログ、メトリクスが含まれていました。

段落を書いた後、多くの場合、ソースコードや設定を参照したり、本番ログやメトリクスを調べたりして、書いた内容が正しいかAIに確認を求めました。例えば、データベースのどの列がインデックス化されていたか、あるいはParquetファイルの行がどのようにソートされていたかを正しく説明しているかを確認しました。これにより、私は執筆の文脈にとどまることができ、AIが前の段落を確認している間に次の段落に進むことがよくありました。それは重要な省略や不正確さを見つけるのに役立ちました。驚くべきことに、このプロセスを逆転させる――私が提供した文脈からAIに段落を書かせる、例えばソースコードから何かがどのように機能するかを説明させる――ことは、一度も価値がありませんでした。一貫して読むのが不快で、しばしば不正確でした。

文脈を保つのに役立ったもう一つのことは、AIを使って引用を完了することでした。論文、ウェブサイト、または書籍の詳細を調べ、BibTeX形式に入力し、テキストで参照するのは面倒です。代わりに、AIに参照してほしいものを括弧書きで指示し、中断することなく書き続けるようにしました[5]。

AIは、スペルミスや文法ミスを見つけるのに信じられないほど優れていました――実際、容赦ありませんでした。長すぎる、あるいは不明瞭な文を単純化する提案も素晴らしかったです[6]。TikZで技術的な図を描くのに熟練しており、作業をスピードアップし、この構文を学ぶ手間を省いてくれました。AIは、私が1つの段落で間違った記法を使用した、非常に微妙な間違いさえ見つけました。これは、そのシステムのエキスパートである4人の人間のレビューアが見落としていたものでした[7]。

AIが書くのが信じられないほど得意だったことは何でしょうか？それは論文の要約――論文全体の中で最も簡潔で、機械的で、非人間的な部分――つまり、最も抽象化された部分でした。私はそれをそのまま変更せずに含めました。AIは要約、抽象化、そして元の作品の再提示に優れていることを考えると、これは驚くべきことではないかもしれません。

AIは執筆が得意になれるか？

将来的にAIが達成できる執筆能力を過小評価するのは間違いでしょう。私たちはまだモデル開発の非常に初期段階におり、私たちが使用しているモデルのほとんどは、創造的であることよりも、事実に基づき、直接的で、正確であることを目指してトレーニングされています。しかし、Murat Demirbasの優れたエッセイ「The Safest Job from AI may be Writing」は、LLMからの執筆の質が停滞しており、プログラミング、数学、会計とは異なり、明確な定式化と検証可能な出力を提供するのが難しいため、改善が困難かもしれないと指摘しています[8]。

LLMは特定の人間読者のための能動的なメンタルモデルを欠いているため、膨大なデータセット全体で次の単語の統計的確率を最適化しているだけです。彼らは人間の読者に共感することができません。なぜなら、彼らは人間の実体験を持っていないからです。そして、彼らはゲームに全くスキンを持っていません。
—Murat Demirbas, The Safest Job from AI may be Writing

私は最近見つけた、AIの執筆を改善するための2つの取り組みに興味を持っています。1つ目は、1980年代に航空宇宙のワーキンググループから生まれた技術文書作成のための標準であるASD-STE100 Simplified Technical Englishです。これは、制御された辞書と文法およびスタイルに関するライティングルールという2つの部分からなります。AIモデルで使用するためのASD-STE100のバージョンが作成されました[9]。ASD-STE100は、すべてのAI生成ライティングに適しているわけではありません――それは明確で分かりやすい取扱説明書に特化しています。私はこれをインストール手順、ランブック、および同様のドキュメントに試してみるつもりです。

2つ目は、AIライティングを検出するためにファインチューニングされたモデルであるPangramです。Bryan Cantrillはエッセイ「The revolt of the reader」の中で次のように述べています：

LLMを使って書くことは、書き手と読み手の間の社会契約を無効にすることです。私たち読者は、書き手自身が作成するために労力をかけなかった文章を理解するために苦労することを期待されるべきではありません。
—Bryan Cantrill, The revolt of the reader

全く同感です。Bryanは、この契約に違反するAI生成ライティングを検出するためにPangramを使い始める実験をしており、Oxideでのすべての公開ライティングがPangramによって人間が書いたものとして報告されることを義務付けるほどです。このようなツールは、最も怠惰で最悪のAIライティングから私たちを救うことができるでしょう[10]。

言葉がないとき

私たちが書くとき、言葉の意味は必ずしも直接的、事実的、あるいは簡潔ではありません。例としては、詩、文学、歌、神話、ユーモア、演劇などがあります。私が私たちの世代で最も重要な作家の一人だと信じているIain McGilchristは、著書「The Matter with Things」の中で次のように書いています。「あることが重要であればあるほど、それを言語に還元しようと苦労しなければならない。」LLMに、恋に落ちるための信頼できる公式は何だと尋ねてください。AI生成ライティングでは、詳細な情報が意味の錯覚を与えます。しかし、人間の知識、知性、理解を模倣することにおいて、事実について書くAIと、実体験からの執筆の質は大きく異なります。全体を部分に分解しても、意味のかなりの損失なしにはできません。

直接的なアプローチはその対象を破壊します。同様に、間接的にしか伝えられないものがあります。語られたことの深さを再び捉えるために、あるいは真に新しいことを言うために、私たちは常に日常言語を超えていくことに従事しています。それは、暗黙のうちに語られていることに注意を払うことを意味します。
—Iain McGilchrist, The Matter with Things

ビジネス、エンジニアリング、あるいは科学における執筆には、事実や結論だけでなく、不確実性が含まれるべきだと言うのは馬鹿げているように思えるかもしれません。しかし、運用、インシデント対応、製品開発、パフォーマンスエンジニアリング、セキュリティ脆弱性の探索、パフォーマンスレビュー、ミッションステートメント、そして他の多くの取り組みは、すべて創造的であり、不確実性を伴います。物語は、事実や結論と同じくらい重要であることがよくあります。LLMが幅広い情報を合成できるため、それらを優れたシステムシンカーとして擬人化するのは簡単です。しかし、Simon Sarrisに戻ると、「物語は圧縮に抵抗する」そして「要約の反対は細部への注意である」とのことです。

線形的、第一原理思考が強調されているにもかかわらず、優れたシステムエンジニアの仕事は、優れた人類学者や心理学者の仕事と同様に、言葉にするのが難しく、特に要約するのは困難です。あなたは必ずしも観察して数式を使って書き留めることはできません。書き留めることさえ、ある程度の文脈を失います。観察者もその文脈の一部です。システム作業には、常に発見の感覚、未知のものを開いたままにしておく感覚、システム自体との関係の展開、そして驚かされることへの意欲が伴います。通常の言語には、常に言葉があるわけではありません[11]。

要約という出力の性質は、物事を速く進めることです。しかし、その結果は、あなたが何であれ、あなた自身の複雑なメンタルモデルを構築する必要性を回避することです。複雑なモデルが自分の心の中にないと、見過ごされている複雑な関係に気づかないかもしれないと心配しています。細部への注意の喪失です。
—Simon Sarris, Resist Summary

結論

私は、あなたがAIを使って何か重要なことを読みにくいテキストに要約し、私がそれを解読しようとしてAIを使うような世界に住みたくありません。私は、あなたの声を聞きたいのです。欠点も含めて。私は、美学、美しさ、品質、関係、時間についてのあなたの解釈を知りたいのです。あなたがどのように感じているかを知りたいのです。私が本当に重要だと思うことを切り抜いて教えてほしいのです。経験や関係から切り離された事実やつながりの要約を読みたくありません。Iain McGilchristが説明するように、私たちが世界にどのように注意を払うかは、存在するものの性質を変え、私たちが知ることができる唯一の世界です[12]。

機械に何かを頼む場合、あなたは自分が欲しいものを頼むのではなく、それがうまくできることを頼むリスクを負います。もしそれがうまくできることが要約であり、あなたがそのツールに頼るなら、より良い答えを得るために質問を調整するかもしれません。これは、機械があなたが望むことをするように訓練しているように見えますが、それはまた、あなたが世界についてある種の質問をするように自分自身を訓練することでもあります。あなたが省略している質問は何ですか？
—Simon Sarris, Resist Summary

意図的な執筆は、より価値のあるものになる可能性が高いです。書く人、そして考えるために書く人、深く慎重に考えるために書く人、あるいは何か重要なことを明示的に表現することなく、創造し、共有し、捉えるために書く人は、書き続け、オリジナルの作品を生み出すでしょう。作家ではなかった人々は、AIを使って大量のテキストを生成するでしょう。

AIによって生成されたテキストをますます読むにつれて、AIが何を破壊し、変えたのかに気づかないかもしれません。なぜなら、私たちはすでに浅くなっているからです。確実性の追求は、私たちの人間性を制限します。時には、言葉を見つけないことの方が重要です。私は、あなたが書かなかったものは読みたくありません。

1. 場合によっては、設計ドキュメントが適切ではなく、動作するソフトウェアを中心に迅速に協力するためにAIを使用することが、アイデアを洗練し、コンセンサスを構築するためのより良いアプローチかもしれません。↩︎
2. 別の例では、あるグループが数多くのWikiページを通じてコンセンサスを形成しながら、提案に取り組んでいました。新しく参加した人が提案を変更したいと思いました。このグループと協力して既存のWikiページを更新するという、手間のかかる関係的なプロセスを経る代わりに、彼らはAIを使って新しいWikiページを生成し、既存の作業をコピーして独自のひねりを加えました。↩︎
3. この引用は以前、「Techniques for Improving Your Technical Writing」で使用しました。↩︎
4. この論文は私が作成したデータベースについて説明しており、The Conference on Innovative Data Systems Research (CIDR)に採択されることを願っています。↩︎
5. 例えば、私は「{TODO: Amazon Aurora paper reference}」と書き、AIが残りを処理しました。↩︎
6. 私はAIをブログのエディタとしても使用しています。これにより、誰かに校正してもらうことなくエッセイを投稿することに自信が持てます。しかし、AIにはエラーを特定したり提案をしたりするだけを許しています。私の声や視点を書き換えたり変更したりすることはさせていません。↩︎
7. 私はログ構造化マージ（LSM）について説明していました。当初、レベルをGeneration 1、Generation 2、Generation 3、または短縮してGen1、Gen2、Gen3と呼んでいました。論文では、LSMをより一般的に、Level 0、Level 1、Level 2をそれぞれL0、L1、L2として説明しました。これは、この論文を読んだ同僚が頭の中でL1をGen2にマッピングする必要があることを意味し、1つの段落でL2を意味する代わりにL1を誤って使用した私の間違いを見つけるのをさらに困難にしました。LLMは問題なくそれを見つけました。↩︎
8. AIの執筆における限界、特に理解における個別性に関するもう一つの興味深いエッセイは、Jasmine Sunによる『The Atlantic』誌の「The Human Skill That Eludes AI: Why can’t language models write well?」です。↩︎
9. これについて教えてくれたChris Riccominiに感謝します。↩︎
10. Pangramの詳細については、創設者Max SperoとのOxide and Friendsポッドキャストを聴いてください。彼らが指摘していることの一つに、LLMを定期的に使用する人々はLLMの文章を検出するのが得意であるという証拠があるが、そうでない人々はそれほど熟練していないという点があります。また、出力のどれだけが入力から来たのか、どれだけがモデルから来たのかを説明するために、プロンプトと入力コンテキストを逆転させる試みについての興味深い議論もあります。↩︎
11. 私が知る限り、最高のシステムシンカーは優れたライターである傾向があります。このスキルは重要であり、おそらくさらに重要になると予想しています。前述したMurat Demirbasのエッセイに戻ると、それは次のように結論付けています。「そして、おそらくプログラミング自体がクリエイティブライティングの形になりつつあり、より意見が強く、よりアーキテクチャ的になっている。」↩︎
12. Iainはまた、世界全体を理解する「comprehension」と、世界を把握する「apprehension」の区別を描いています。注意の質が異なります。私が興味深いと思うのは、apprehensionは掴む、あるいは捕らえる行為であると同時に、未来に対する恐れや不安な予期でもあるということです。Ralston CollegeでのIainの講演「AI and the Battle for the Soul: Information is Not Understanding」を視聴することを強くお勧めします。↩︎