AIから最も安全な仕事はライティングかもしれない

AIから最も安全な仕事はライティングかもしれない 今日、テクノロジー業界の人々は、新たに膨れ上がった5倍の生産性目標を達成するためにワークフローの変更に奔走しており、エージェント生成コードの認知的負荷に苦しんでいます。新しいモデルがリリースされるたびに、そのギャップは広がり、人間はループ内のボトルネックとなりつつあり、「コーダー」としての obsolescence に近づいています。 プログラマーの職務記述書が完全に再構成されている一方で、ライティングは驚くほど影響を受けていません。LLMはコード生成が非常に得意になっていますが、彼らが生成する散文のひどさには愕然としています。彼らは常に同じロボットのようなリズムと決まり文句に従い、同じ退屈な語彙を散りばめています。彼らは私の魂のこもった不完全な文章を、散文を改善するという名目で、プラスチックのような魂のない言葉のゴミに変えてしまいます。彼らの書くものは、実際の理解や洞察を何も伝えていません。私たちは皆、AIライティングに対して本能的な嫌悪感を抱いているのだと思います。それは不気味の谷に閉じ込められており、長い間そこに留まるかもしれません。 私はLLMがまともな書き手にすぐに脅威を与えることはないと確信を深めています。私の予測は以下の3つの観察に基づいています。私の論理の破綻している箇所を教えてください。 散文のプラトー LLMライティングの停滞状態は、努力不足からではありません。AIラボはすでに散文の改善に懸命に取り組み、壁にぶつかりました。LLMの巨頭たちは、マーケティング、コピーライティング、出版をゼロマージナルコストで制覇するために、より優れたライティング能力を出荷したかったでしょう。 画像、音声、さらにはビデオモデルを見てみましょう。それらは、より多くのパラメータと計算能力でスケールアップできるため、急速に良くなりました。それらの急速な進歩と比較して、テキストモデルは表現力、深み、信憑性において激しく停滞しました。私は、最後の20%を橋渡しするのは非常に難しいと考えています（これは画像、音声、ビデオモデルにも当てはまります）。 ライティングは厄介な問題である システム理論において、厄介な問題とは、明確な定式化、明確な停止規則、客観的に正しい解決策を欠く問題です。ライティングは究極の厄介な問題です。なぜなら、コンテキストは常に変化しており、一つの作品は決して完全に編集されず、成功の真の尺度は根本的に主観的だからです。 この厄介さのスペクトラムに沿ってドメインをマッピングすると、AIが特定の分野を支配する一方で、他の分野ではひどいゴミを生成する理由が説明できます。 数学はスペクトラムの左側にあります。仕様は簡潔であり、検証は二元的かつ自動化されています。フィードバックループは完全に閉じているため、AIモデルは数学の問題を迅速に解決し、結果を自動的に証明できます。 コードは形式論理とテスト駆動型フィードバックに依存しています。LLMは機能的なコードを生成できます。なぜなら、コンパイラ、単体テスト、モデルチェッカーがエラーを瞬時に検出できるからです。検証は大部分が機械的です。 法律や金融のような構造化されたドメインも、規制フレームワークによってgoverned され、経験的データに基づいて評価されるため、いくつかの明確な境界を持っています。 ライティングはスペクトラムの最も遠い端に位置します。タスクに対する明確に定義された仕様はなく、出力に対する真実の基準や客観的な検証もありません。成功の究極の尺度は、別の人間の心の中での共鳴です。これが、AIモデルが良いライティングで進歩できない理由です。ライティングはAI完全問題である可能性があります。 コーディングが単一の精神的な決定論的なコンパイラとの相互作用であるのに対し、散文は心の理論によってgoverned される二重の精神の問題です。それは、特定の読者の内部的な精神状態をリアルタイムで継続的にシミュレートする能力を必要とします。シンプルかつ説得力を持って書くためには、読者がすでに知っていることを追跡し、文ごとに認知負荷を管理し、議論がどのように受け止められるかを予測する必要があります。 LLMは特定の人間読者の能動的なメンタルモデルを欠いているため、膨大なデータセット全体で次の単語の統計的確率を最適化しているにすぎません。彼らは人間読者に共感できません。なぜなら、彼らは人間の実体験を持っていないからです。そして、彼らはゲームに全く関与していません。 比較優位とコストのかかるシグナル この飛行機を着陸させるために、デビッド・リカードと古典経済学を導入しましょう。比較優位の法則は、一方の当事者が他方よりもすべてをより効率的に生産できる場合でも、両者が機会費用が最も低い分野に特化することで利益を得ることを述べています。言い換えれば、AIがタイピング速度とゼロマージナルコストでの大量生成において絶対的優位性を持っていたとしても、私たちの人間の労働は、私たちの希少なリソースが最も無駄にならない分野での機会費用によって依然としてgoverned されます。 人間がその希少な認知能力を一般的で反復的なタスクに費やす機会費用は、今や無限に高くなっています。代わりに、人間の努力はAIが失敗する分野、つまり厄介な問題をナビゲートし、創造性を推進する分野で輝きます。 ここで経済学が進化生物学と出会います。「人間のプルーフ・オブ・ワーク」は究極のコストのかかるシグナルになります。自然界では、コストのかかるシグナル（クジャクの尾やヘラジカの角など）は、生産にコストがかかり、偽造不可能であるため機能します。AIのスラップ（私の言葉遊びを許してください）がウェブを飽和させるにつれて、経済的価値は完全に本物の人間の声に移ります。 テクノロジー業界の人々とは異なり、作家は比較優位を最適化し、このコストのかかるシグナルを捉えるために、働き方を全く変える必要はありません。AIがソフトウェアの偶発的な複雑さを剥ぎ取り、その固有の複雑さを露呈させているように、テクノロジー労働者は適応に苦労しています。しかし、優れた作家は常にコミュニケーションの固有の複雑さと厄介なフロンティアで格闘しており、彼らは影響を受けずにいます。そして、プログラミング自体もライティングの一形態になりつつあるのかもしれません。より意見が強く、よりアーキテクチャ的で、人間の意図との接続に関するものになっています。 Facebook X Pinterest Email Other Apps コメント 投稿コメント 分散システム設計のヒント - 2023年10月2日 これは、40年前にSOSP'83で「コンピュータシステム設計のヒント」を発表したバトラー・ランプソンへの謝罪を込めています。もちろん、その業績に匹敵すると主張するつもりはありません。ただ、分散システムを設計することについての私の考えを整理し、他者からのフィードバックを得るために、この投稿を作成できると思っただけです。ランプソンが与えたのと同じ免責事項から始めます。これらのヒントは斬新ではなく、確実なレシピでもなく、設計の法則でもなく、正確に定式化されたものでもなく、常に適切なものでもありません。それらは単なるヒントです。それらはコンテキスト依存であり、中には議論を呼ぶものもあるかもしれません。とはいえ、私はこれらのヒントが、98年から01年の分散システムの理論から始まり、ワイヤレスセンサーネットワークの実践（01年から11年）に没頭し、以来、学界と産業界の両方でクラウドコンピューティングシステムに取り組んできた、この分野での25年間の経験を通じて、分散システム設計に成功裏に適用されているのを見てきました。これらのヒューリスティックな原則は、知っていても知らなくても適用され、証明されてきました...続きを読む >> エージェントとしての自己：AIと自己改善の類似点 - 2026年1月2日 2025年はエージェントの年でした。AGIの目標はシフトし、私たちはAIに単に「話す」ことを求めるのをやめ、「行動する」ことを要求しました。これらの新しいエージェントとエージェントシステムのアーキテクチャを外部から見ていると、奇妙なことに気づきました。AIをより賢くするためのエンジニアリングのトリックは、奇妙に見慣れていました。それらはコンピュータサイエンスというよりは、自己啓発のアドバイスのように読めました。エージェント知性の秘訣は、3つの非常に人間的な習慣にあるようです：書き留めること、独り言を言うこと、そして誰かのふりをすることです。それらはあまりにも単純です。 ライティングの不合理な有効性 私が博士課程の学生だった頃に読んだ最も深遠なアドバイスの一つは、チューリング賞受賞者であるマヌエル・ブルーム教授からでした。彼の論文「Beginning Graduate Studentへのアドバイス」の中で、彼はこう書いています。「書くことがなければ、あなたは有限オートマトンに還元されます。書くことによって、あなたはチューリングマシンの並外れた力を得ます。」複雑な議論を保持しようとすると...続きを読む >> 分散システムについて学ぶ：どこから始めるか？ - 2020年6月10日 これは間違いなく「分散システムを学ぶ」というものではありません。