Microsoft、AI競合Anthropicが人類に「壊滅的な影響」を与える可能性を指摘

制御不能なAIは、人類に匹敵する「シリコン種」につながる可能性があるとMicrosoftが警告

Suleyman氏は木曜日のToday programmeで、AIシステムが自身の目標を設定し、収益を得て、資産を所有する能力を持ち続ける企業に対し、警告を発しました。

彼は、それは「本質的に新しいシリコン種を種まきする」ことになり、それが「疑いなく、人類をどれほど気遣い、愛していたとしても、我々との資源を争うことになるだろう」と述べました。

Suleyman氏のBBCへのコメントは、今週初めに公開されたエッセイに続くものです。そのエッセイで彼は、AnthropicのClaudeモデルのトレーニングアプローチについて疑問を呈しましたが、ボスであるDario Amodei氏とそのチームを「知的に正直な人々」と称賛しました。

その中で彼は、AnthropicがAIに人間のような特性を持たせる、いわゆる擬人化（anthropomorphising）という実践について批判しました。これは、Claudeが独自の欲求、価値観、自己意識を持っているかのように見せかけるものだと述べました。

彼はまた、テクノロジーを人間のように扱うことで、企業が「制御不能な」何かを作り出すリスクがあると警告しました。

「AIは意識を持っていません」と彼は書きました。

「それらは感じたり、経験したり、苦しんだりしません。それらは生来の好みや根本的な動機を持っていません。」

「それらはシーケンス補完エンジンであり、内部は空虚で、指示に従い、人間によって設定された目標を達成するように設計されています。」

AIシステムにどれだけの自律性を持たせるべきかという問題は、業界をますます二分しています。

BBCに対し、今後のAIサミットについて語ったSuleyman氏は、技術が人類に「従属」しなければならないものを作成するための「アライメント（整合性）」を求めました。

アライメントとは、人間の倫理的な考え方や原則をAIに組み込むことを目指す分野です。言い換えれば、人間が価値を置くものとAIを一致させ続けることを目指します。

「良いニュースは、人間であるすべての人々が、我々が共に創造し、…世界中のすべての国で使用されるシステムが安全で、制御可能で、人類に従属するものであることを保証することに非常に強い関心を持つだろうということです」と彼は述べました。

「すべての人々がアライン（整合）しなければなりません。」

Microsoftは2025年10月に独自のスーパーインテリジェンスチームを設立しました。同社は、競合相手であるAnthropicと同様に、高度なAI開発にも取り組んでいます。

Suleyman氏のコメントは、MicrosoftのHumanist AI Code of Conductの初期ドラフトを反映しています。これは月曜日に公開された、同社がAIをどのように開発しているかの「トレーニングマニュアル」であり、「ヒューマニスト・スーパーインテリジェンス」という考え方を提示しています。

このコードは、「人々のために常に働き、限界内に留まり、人間の制御下にある非常に高度なAI」であると述べています。

同社の「ヒューマニスト」AIというビジョンは、テクノロジーが直面する中心的な課題を浮き彫りにしています。それは、それが奉仕すべき価値観を見失うことなく、どのようにAIをより強力にするかということです。

Henry Mooreによる追加報道