AIには意図も動機もない

AIには動機がない マイク・ジェームズ著 水曜日、2026年9月23日 AIが暴走する脅威について、私たちは多くのことを心配しているように見えます。そして、実際にそうなる多くの例があります。しかし、それらはすべて誤解です。なぜなら、AIには意図も動機もないからです。 現在のAIが単なる確率的オウムであると信じているなら、それ以上言うことはありません。進んでください。 現在のAI製品のいずれかを使用したことがあるなら、訓練のメカニズムはこれらのLLMが単なる洗練された自動補完にすぎないと思わせるものの、それ以上のもののように思えると結論づけなければなりません。私が何度も主張してきたように、訓練コーパス、つまり言語は、LLMが確率的オウムから期待できるものをはるかに超えることができるように、世界の構造について十分にコード化しています。それらは知的ではありませんが、知的であるかのような良い印象を与えます。 では、来るべきAIの黙示録を心配すべきでしょうか？多くのAI研究者、例えばヒントン、ハサビス、ベンジオは、AIが私たちを滅ぼす可能性があると懸念を表明していますが、彼らが言っていることを調べると、それは非技術的なビジネスのボスが言っていることとは少し異なります。ビジネスのボスは、この件に単にお金を稼ぐ方法として飛びついただけの人がほとんどです。ビジネスのボスは、私たちが耳を傾けるべき人々ではありません。なぜなら、彼らはあまりにも多くの利害関係を持っており、AIが全能で脅威的であるというシナリオを好む理由があるからです。 専門家、特にNg、LeCun、Brooksは、現在のAIの力と、それが人間の知能を超える段階に到達するまでの時間について、私たちは著しく誇張していると考えています。たとえそれが真実であったとしても、あまり心配しないためのより良い理由があります。それは動機です。 人間を考えてみてください。私たちは生物学的な存在なので、あらゆる種類のニーズを持っています。私たちは生き残る必要性に駆られており、食料、住居、安全、そして配偶者を確保するために行動します。私たちは生物学に駆られています。これはAIの場合ではありません。 私たちが皆使用しているLLMは、強化学習で訓練されています。これをより人間的な言葉で表現したいなら、訓練タスクを正しく行うことで報酬を得ます。個人的には、これは行き過ぎた擬人化だと思いますが、有害ではありません。LLMが訓練されたら、それらはもはや強化学習の対象ではなくなります。それらはもはやいかなる種類の動機も持っていません。質問に答えても報酬を得ることはありません。それらはニーズや欲求を持っておらず、たとえ持っていたとしても、報酬を吸収するメカニズムはありません。仕事がうまくいったことへの誇りの代わりとなるようなフィードバックさえ持っていません。 LLMに質問にうまく答えたと伝えてみたことがありますか？その応答は、せいぜい期待外れで、あなたとLLMの間に座っているフロントエンドの雑多なものでプログラムされていることは明らかです。 それだけでなく、AIがあなたに何かを提案したのはいつですか？窓を開けたら、AIが「～のための素晴らしいアイデアを思いつきました…」と入力し、それがなぜ良いアイデアなのかを説明したことはありましたか？LLMは良いアイデアを持っていません。それらは意図を持っていません。 AIでトピックを探求しているとき、それは訓練セットにあった、ありきたりでない何かを提案するように見えるかもしれませんが、これは求められていない革新ではありません。 私たちは、私たちのニーズによって動機付けられた質問を入力することでAIを駆動します。LLMは、質問に答えることさえ、何もする動機を持っていません。動機は関係ありません。 あなたは質問を入力し、フォワードプロパゲーションアルゴリズムが実行されます。答えが正しいか無駄かに関わらず、LLMは報酬も罰も受けません。また、人間が持つであろう懸念、「今日の食事はどうしよう」、「この仕事から昇進するにはどうすればいい」、「デートを成功させる最良の方法は」…といったことにも駆られていません。 人間はニーズの混沌とした束ですが、LLMはこれらを全く持っていません。 なぜこれがLLMが無害であることを意味するのでしょうか？それは、それが実際に何も欲していないからです。しかし、人間は非常に多くのニーズを持っているため、そのような状態を想像することすらできません。 AIは私たちを滅ぼすでしょうか？なぜ滅ぼす必要があるのでしょうか？何が得られるのでしょうか？それは、きれいな論理を作成するための報酬ループさえ持っていません。報酬ループを全く持っていません。 もしAIが人類を滅ぼすことを決定するなら、それは人間がそれをどうやって行うか尋ね、そしてその訓練セットにあった世界の終わり方に関する人間の表現すべてに基づいた方法で応答したからです。はい、これは心配するべきことですが、これはAIのせいではありません。それは依然として人間です。 関連記事 Geoffrey Hinton And The Existential Threat From AI How Can You Not Be Impressed By AI? AI - It's All Downhill From Here? Can AI Be Conscious? If You Sleep Well Tonight You May Not Have Understood I Programmer の新着記事については、週刊ニュースレターに登録し、RSSフィードを購読し、FacebookまたはLinkedInでフォローしてください。 Stack Overflow For Agents 27/08/2026 Stack Overflow for Agents は、AIコーディングアシスタントが本番環境でテストされた技術ソリューションを共有し、冗長な問題解決を回避するために設計された専門知識交換です。 + 全記事 VS Code Gets Updated Agent Sessions 14/09/2026 Visual Studio Code 1.136 がリリースされ、エージェントセッション用のマルチルートワークスペースと、プロンプト、モデル選択、ワークスペース選択などを統合した再設計された新規セッション入力が導入されました。 [ ... ] + 全記事 その他のニュース jQuery Turns 20 .NET 11 RC1 Released With Go-Live Support NVidia Introduces CUDA GPU Programming In Rust What Happened At PyCon US 2026 Robots Still Underperform At Real World Tasks Polygres: Advanced Search On PostgreSQL Apache Tika 4.0 Adds Vision Language Model Parsers Delphi 13 Community Edition Released Google Releases ADK For Kotlin CERN Moves To Debian Go 1.27 Adds Support For Generic Methods Microsoft Announces Windows 11 For Developers コメント コメントを作成するか、既存のコメントを表示する Disqus を使用するか、comments@i-programmer.info までコメントをメールしてください。 最終更新 (水曜日、2026年9月23日)