実質的な内容の文章作成にAIをほとんど使うべきではない

実質的な内容の文章作成にAIをほとんど使うべきではない お願い。 ブログ記事、研究レポート、メモ、思慮深いメール、小説、あるいはアイデア、議論、分析、その他の実質的な思考を伝えることを目的としたあらゆるテキストについて、AIに文章を書かせる――つまり、ページに言葉を打ち込むという行為をAIにさせる――ことは、ほとんどの場合避けるべきだと私は考えています。たとえAIに非常に詳細な箇条書きや、指示された考え、その他のコンテキストを与えたとしても、またAIが書いたテキストを編集したとしても、私はそう考えます。 そう考える理由は、(1)文章作成プロセスは思考プロセスに不可欠であること、(2)AIの文章は気づきにくい形で曖昧かつ不正確であること、(3)AIで文章を作成し（それを明記せずに）公開することは、無礼で誤解を招く行為であるからです。これらの点については後で詳しく説明しますが、まずいくつか前置きをさせてください。 ご存知かもしれませんが、私はAIに反対しているわけではありません。音声の文字起こし、データ分析、情報検索、ブレインストーミング、ドラフトへのフィードバックなど、リサーチやライティングプロセスの他の多くの部分でAIを使用することは非常に理にかなっていると思います。また、行編集やコピー編集、あるいはある節をより明確にしたり簡潔にしたりするための書き直しにAIを使用することも、すべての編集が人間によって意図的に受け入れられるか拒否される限り、問題ないと考えています。私が反対しているのは、テキストの作成にAIを使用することだけです。 そして、確かにAIをライティングに使うことには様々な利点があります。例えば、自分自身で書くよりも労力が少なく、はるかに高速です。したがって、ライティングにAIを使用することの欠点は、全体として悪影響を及ぼすには十分大きい必要があります。すでにお察しの通り、私はそうだと考えています。 そして最後に、私は現在存在するAIモデルと、近い将来に存在すると予想されるモデルについてのみ主張しています。いつか、それらにライティングを委任することが理にかなうほど優れたモデルが存在するようになるでしょう（その時点では、ライティングだけでなく、思考の大部分も行う必要があるため、リサーチやライティングプロセス全体をエンドツーエンドで委任する方が理にかなうかもしれません）。 文章作成プロセスは思考プロセスである あらゆるリサーチを行う目的は、重要な問題について正確な信念を形成し、それを読者に伝えることです。私の意見では、そのための最良の方法の一つは執筆です。 ポール・グレアムは次のように書いています。 「あることについて書くことは、たとえよく知っていることでも、自分が思っていたほどよく知らなかったことを示すことが多い。アイデアを言葉にすることは厳しい試練である。[...] エッセイに最終的に掲載されるアイデアの半分は、書いている間に思いついたものになるだろう。実際、私がそれらを（エッセイとして）書くのはそのためだ。」 パトリック・マッケンジーのポッドキャストのエピソードで、クララ・コリアーは次のように述べています。 「私が何か、実質的なものを書いているとき、その書くプロセスの中で、私は考えておらず、考えを変えていないという部分は一つもありません。アウトラインからそれをテキストにすること、そして単に文章にすることまで、すべてです。しばしば、アウトラインを完成品に変えようとしているときに、遷移がうまくいかず、ああ、この遷移がうまくいかない理由は、実際にはこの二つの点が並置されるべきではないからだ、と気づく経験をします。私がここでやろうとしていることは間違っているのです。そして、もし私がアウトラインをLLMに与えたら、それは立ち止まって、アウトラインが悪いかもしれないと考えることはないでしょう。[...]」 パトリックは次のように返答しています。 「文章作成プロセスは思考プロセスであるということには全く同意します。そして、私たちは今、その経験的な証拠を持っていると思います。なぜなら、文章を書く機械を作ると、思考が副産物として自然に出てくるからです。」 しかし、複数ページの文章を書く場合、たとえ強い主張があったとしても、その主張を文章や段落に落とし込み、議論を構造化しようとする行為そのものが、議論の穴を示してくれます。それは、あなたのリサーチプロセスが不十分であった箇所を示してくれます。それは、「ああ、実際には、私が言いたいことと矛盾することがある」といったことを表面化させます。そして、合理的に倫理的な人間であれば、反論を認めなければならない、あるいは、引用符で囲まれた「書きたい」結論よりも、主張できる結論全体は小さいと付け加えなければならない、と考えるでしょう。 私はこれらの見解に基本的に同意します。何かを書くとき、私はまず言いたいことを知らなければなりません。つまり、証拠と議論について考え、ある種の信念に至らなければなりません。したがって、執筆は私にこれらのことを行うことを強制します。これらは、あらゆる執筆またはリサーチプロジェクトに不可欠なことです。そのようなプロジェクトでは、誰かがその全体像――すべての証拠、考慮事項、議論、そしてそれらがどのように組み合わさっているか――を頭の中に持っている必要があります。AIで書くことは、必要な思考を避けることを容易にします。 AIの文章は気づきにくい形で曖昧かつ不正確である 私が何かを書くとき、私は特定の言葉遣いやフレーズについて多くの小さな決定を下します。これらの小さな決定は、全体的な明瞭さと正確さに貢献します。 例えば、AIチップ密輸の問題を紹介する短い段落を書くようにClaude Fableに依頼した場合、それは次のように出力します。 「2022年10月以降、米国は中国への高度AIチップの輸出を制限し、中国のAIフロンティアにおける進歩を遅らせることを目指しています。しかし、輸出管理は施行の強さと同じくらいしか強くなく、AIチップはコンパクトで、非常に価値が高く、広大なグローバルサプライチェーンを通じて販売されています――これらは密輸を魅力的で実行可能なものにする特性です。迂回ネットワークは、シンガポール、マレーシア、UAEなどの国の仲介業者を通じて、ペーパーカンパニーや偽造書類を使用して、管理されたGPUを中国に送り込みます。その規模の推定値は、年間数万からおそらく10万個以上のハイエンドチップまで幅広く、たとえ低めの見積もりでも、高性能AIシステムをトレーニングおよび展開する上で重要な計算能力を表しています。一方、数百十億ドル規模の貿易を監視する産業安全保障局は、はるかに小規模な問題に適した予算と人員で運営されています。したがって、チップ密輸は、米国AI政策の中心的な柱の一つを静かに空洞化させる脅威となります。」 それはひどいものではなく、おそらくかなり合理的でさえありますが、私が書くとしたらこう書くでしょうか？いいえ、実際、Claudeは私が微妙に間違っている、あるいは悪いと感じる多くの選択をしています。 Claudeは「輸出管理は施行の強さと同じくらいしか強くない」と書いていますが、これはどういう意味でしょうか？それは、施行されていない、あるいは不十分に施行されている政策は効果が低いという明白なことを述べているか、あるいは何も述べていないかのどちらかです。 ClaudeはAIチップが「コンパクト」だと書いていますが、それは真実ですが、通常密輸されるのはAIサーバーであり、それはコンパクトではありません。 anyway、さらに重要なのは、これは重要ではありません。なぜなら、AIチップの密輸で製品を税関を通過させるために隠すことはめったになく、通常は製品が他の種類の商品のラベルに貼り替えられ、いわば公然と出荷されるからです。 Claudeは「広大なグローバルサプライチェーンを通じて販売されている」ことがAIチップを「魅力的で密輸可能」にすると書いています。これはどういう意味でしょうか？それは、密輸業者が米国以外の企業からチップをより容易に購入できるということでしょうか？（最近まで、密輸業者は比較的容易に米国に本社を置く企業からAIチップを入手できていたようです。）それは、密輸業者がマレーシアのような国で大量のAIチップを購入することをより目立たなくするということでしょうか？（これは真実に近いと思います。）あるいは、それは何か別のことでしょうか？ Claudeは、密輸の規模の推定値が「年間数万からおそらく10万個以上のハイエンドチップまで幅広く」変動すると書いています。これは文字通り真実ですが、低い推定値はほぼ間違いなく間違っており、真の数は、Claudeが言及したより高い範囲、つまり数十万個に近い可能性が高いです。したがって、これは誤解を招きます。また、Claudeは年を指定していませんが、2022年10月以降、密輸量は大きく変動しており、Claudeは年を指定していません。