AI精神病の定義。パート2：「多作なAI精神病」

AI精神病の定義。パート2：「多作なAI精神病」AIツールは、シニアエンジニアと、赤いクーラードリンクのピッチャーを持って白いカーペットを走り回る幼児の半分ずつのようなものです。あなたの仕事は、どちらがどちらかを判断することです。 Jeff Clark, MD 2026年9月8日 先週、AI精神病という用語が少なくとも3つの異なる状況に適用されると提案しました。 1) LLMの使用に関連する本物の精神病体験、私が「真のAI精神病」と呼んだ現象。 2) 現実からのより穏やかな乖離を伴う、AIツールへの過度の関与。私はこれを「多作なAI精神病」と呼んでいます。 3) 人間のつながいを模倣するAIチャットボットとの不適応な関係。私はこれを「パラソーシャルAI精神病」と呼んでいます。 次に、真のAI精神病について説明しました。精神科医にとって精神病が何を意味するのかを明確にしました。そして、真のAI精神病は、新しい症候群というよりも、一般的には既存の精神病のバリアントであると結論付けました。 今週は、多作なAI精神病についての私の現在の理解を説明します。 多作なAI精神病 多作なAI精神病は、個人の仕事の実際の価値を著しく増加させることなく、大量のAI出力を生成する場合に発生します。場合によっては、新しいAIワークフローが価値を破壊することさえあります。 例えば、多作なAI精神病を持つソフトウェアエンジニアは、毎日数千行のコードを生成できますが、そのコード自体にはほとんど実用的な価値がありません。対照的に、生産的な開発者はより少ないコードを作成するかもしれませんが、作成されたコードはユーザーや組織にとって価値があります。ある日はコードベースに大きな追加が行われ、他の日は不要なコードの削除に費やされ、時には、単一の文字を変更することでソフトウェアを破壊するバグが修正されます。コード行数は生産性と緩やかにしか相関しません。 これを、より身近な言葉で説明しましょう。お気に入りの作家を考えてみてください。彼らが現在、1日に立派な1,000語を書いていると知っているなら、彼らが1日に100,000語を書き始めたら、あなたは当然心配するでしょう。1,000の素晴らしい単語を選ぶのにかかる注意は、100倍の量では維持できません[1]。 多作なAI精神病の問題は、出力の増加ではありません。（より多くのコードとより多くのテキストは、実際にはより生産的かもしれません。） 問題は、被験者が自身の出力の認識にあります。彼らは自身の仕事の質を評価できません。この現象は、被験者が現実から軽度に乖離した状態、つまり批判的思考における欠陥を経験するため、精神病に似ています。 現在のAIツール さらに進む前に、現在のAIツールについて説明することが重要です。ほとんどの人にとって、AIはまだChatGPTの会話やGoogle検索に添付されたGeminiの要約を意味します。これらのツールで多作なAI精神病を経験する人は少数ですが、最先端のツールははるかに大きな脅威をもたらします。 現在のAIツールとチャットボットの間には類似点があります。プロンプトを入力し、応答を得ます。しかし、最先端のツールは現在、エージェントハーネスと呼ばれるプログラムにラップされています。会話を通じて単純な質問に答える代わりに、ハーネスは解決策が見つかるまで複雑なタスクに取り組むように設計されています。それは、プログラムを開いたり、インターネットにアクセスしたり、目標達成を支援するソフトウェアを書いたりすることで、エージェントとして機能します。 優れたハーネスは、ソフトウェア開発において特に印象的です。10年前にiPhoneアプリを作成したい場合、基本的なアプリを動作させるために、何十時間もコードを読んだり書いたりする必要がありました。今日では、Claude Codeに数行のテキストを入力し、いくつかの質問に答えるだけで、数分後に新しいアプリが出力されます。それは素晴らしいものではないかもしれませんが、あなたの問題を解決するかもしれません。（アプリストアに掲載することは、それほど簡単には解決できない全く別の問題です。） 開発者はさらに多くのことができます。ハーネスは、AIモデルを繰り返し呼び出すループを作成し、ソフトウェア開発のToDoリストを処理して、本格的なアプリを構築できます。規律を持って取り組めば、結果は驚くべきものです。AIエージェントが困難なタスクを完了してくれると、奇跡のように感じられます。 しかし、すべてのスーパーパワーには欠点があり、AIは時々信じられないほど悪い決定を下します。1行の修正で済む場合に、複数の新しいファイルが作成されます。新しいソリューションが機能すると自信を持って伝えられますが、実際のソフトウェアは以前よりもさらに壊れています。コードは、読みにくく、拡張がほぼ不可能な、絡み合った混乱になります。オープンソースソリューションで解決された、何十年も前の単純な問題がゼロから再構築され、製品の動作が痛いほど遅くなります。これらの問題のいくつかを軽減する方法は見つかっていますが、それは開発に時間がかかるスキルです。 現在のAIモデルは大学院生レベルで動作すると主張する人もいます。それは私の経験とは一致しません。それらは、シニアエンジニアと、赤いクーラードリンクのピッチャーを持って白いカーペットを走り回る幼児の半分ずつのようなものです。あなたの仕事は、どちらがどちらかを判断することです。残念ながら、両方の側面が自身の能力について完全な自信を持って話し、常にクーラードリンクをこぼしたことに気づいているわけではありません。そして、ソフトウェアエンジニアの仕事には、今や多くの困難な監督が含まれています[2]。 別の考え方をしましょう。AIソフトウェア開発は、世界で最も有利なスロットマシンをプレイするようなものです。レバーを引くほとんどは大きな当たりです！ほとんどの負けは明白で小さいです。時々、負けがちょうど当たりに見えることがあります。そして、偽の当たりを拒否するためのスキル、集中力、忍耐力がなければ、あなたの間違いはやがて混乱を生み出すでしょう。 多作なAI精神病の開発 LLMツールの使用が多作なAI精神病に進行する例を説明するために、仮説的な例を考えてみましょう。 あなたがソフトウェアエンジニアで、以前よりも100倍速く一部のタスクを簡単に完了できるツールを手に入れたと想像してください[3]。 あなたがソフトウェア構築が好きなら、これは興奮を超えたものです。仕事でより多くのことを達成できます。ずっと欲しかった趣味のプロジェクトを構築できます。ついに夢のビデオゲームを作成できます。あらゆる可能性がテーブルにあります。 そして、あなたはスロットマシンのレバーを引いて始めます。ホイールが回っている間に、あなたはより多くのマシンをセットアップします。結果が来たら、急いでレビューに戻ります。今回は良い結果です。しかし、時々バグに遭遇します。そして、あなたはあなたの仕事を確認するための新しいマシンをセットアップします。時には、それらは問題をキャッチし、時にはキャッチしません。だから、あなたはそれらの指示を洗練させます。あなたはそれらにさらに多くの機能を与えます。あなたは問題を解決するために協力するボットのネットワークを作成します。コードは出し続けられます。 あなたの野心は成長します。あなたは新しいソフトウェアを作成するだけでなく、10億ドルの会社を運営する最初の開発者になるつもりです。それは予測されています。なぜあなたではないのですか？あなたのプロジェクトの範囲は拡大します。あなたは仕事をするのが待ちきれず、夜も眠れません。あなたはコンピューターと過ごす時間が増え、人々と過ごす時間が減ります。あなたの努力に疑問を呈する人々は理解していません。彼らの批判は近視眼的です。そして、モデルが今完璧でなくても、次のツールのセットはより良くなるでしょう。 時間の経過とともに、あなたの睡眠不足と過集中はあなたを現実から遠ざけます。あなたのソフトウェアは多くの点で印象的です。しかし、それは役に立ちますか？それは良いですか？それは人々が実際に望むものですか？これらの質問をする時間がありません。「永久的な下位階級から脱出」する必要があります。 それを考えるとストレスを感じます。 私は完全なAI精神病を経験したことはないと思いますが、この道を進んでいた短い期間を経験しました。急速な進歩を遂げるのは信じられないほど素晴らしいことです。そして、モデルの出力が奇跡に他ならない時があります。 私が自分のプロジェクトを理解できないことに気づいたとき、その幻想は壊れました。それはテクノロジーでは珍しい感覚ではありません。すべての進歩は、私が決して完全に理解できない進歩の層の上に築かれています[4]。しかし、私はこれまで、それらがどのように機能するのか全く分からないまま、何十ものカスタムファイルを自分で書いたことはありませんでした。そして、最初からやり直さずに新しい機能を追加することは不可能になりました。 私は同様の経験をした多くの開発者と話しました。人生は反対側ではるかに良くなります。