Claudeはこう言っている
要約
筆者は、AI(Claude)からのフィードバックを求めることに対して、相手の自信のなさや権威の欠如を指摘し、批判しています。AIに質問することは、相手がその分野の知識を持っていると仮定するか、あるいは何かを阻むゲートであると示唆しています。AIの流行がソフトウェアスタックを過剰に複雑化させ、安易な判断や不必要な労力を生んでいると主張し、AIに同意を求めることは、批判的思考力の低下を招くと警鐘を鳴らしています。
全文翻訳
Claude Says....
私は気にしない。
AIからのフィードバックが欲しいなら、自分でプロンプトを作成しただろう。LLMへの服従は、現在の主題について自信を持って話す能力が自分にはないことを示している。もしそうなら、あなたが私の懸念をClaudeに適切に伝達できたかどうか、どうやって知ることができるだろうか。あなたは単に権威の欠如を露呈しただけだ。
もし私があなたに質問したということは、あなたがその分野の知識を持っていると仮定したか、あるいは私がやりたいことを邪魔する門番であるかのどちらかだ。前者であれば、私の誤りだった(思い込みについては有名な格言がある)。後者であれば、これまでの指示はすべて無視して、私を通してください。
AIは、私たちのソフトウェアスタックが極度に過剰設計されている理由だ。技術的な論理を欠いた誰かが間違った質問をし、それを全く批判的思考や精査なしに即座に実行してしまう。その結果、「安全で社内ホスト型のパッケージを構築するためのエンタープライズソリューション」が必要なときに、AIは、例えばアーティファクトリポジトリに組み込まれている機能を使用して必要に応じてパッチを適用するのではなく、すべての依存関係をソースからフォーク、ビルド、保守するという最善の解決策を決定してしまう。AIの誇大広告が、悪い解決策の「バイブコーディング」に承認を必要としない理由であり、しかし、展開済みのソリューションの設定を変更するだけで済む。すべては、AIに同意を得ることが、あなたの解決策をかろうじて実現可能なものとして提示できること以上の意味を持たないという根本的な仮定のせいでだ。
LLMにプロンプトを通すとき、あなたは批判的に考える能力を過大評価し、偽の権威に訴える論証に陥っている。情報を吐き出すことは知性ではない。それを自分の仕事として繰り返すとき、あなたは脳を萎縮させている。あなたは話す相手として、積極的に自分自身を無用な存在にしている。
AIを使えば、前提条件で井戸を汚染するのは非常に簡単で、むしろ汚染された井戸と言っても差し支えないだろう。