Microsoft、AI競合Anthropicが人類に「壊滅的な影響」を与える可能性を指摘

Image source, Getty Images By Laura Cress Technology reporter Published 16 September 2026, 15:02 BST Updated 1 hour ago MicrosoftのAI責任者は、競合であるAnthropic社がAIモデルClaudeを訓練するアプローチが、人類の福祉に「壊滅的な影響」を与える可能性があると警告しています。 ムスタファ・スレイマン氏は、同社がAIを人間のように扱い、「意識があるかもしれない」「独立した主体に値する」と伝えることで、制御不能なものを生み出すリスクがあると述べています。 「私たちは、後に激しく後悔するような決定に、無自覚に歩み寄ってはいけません」と彼は書いています。 この発言は、AI技術の潜在的な危険性について、AI業界からの一連の厳しい警告の最新のものであると報じられています。BBCはAnthropic社にコメントを求めています。 「AIは意識を持っていません」と彼は書いています。「AIは感じたり、経験したり、苦しんだりしません。AIには生来の好みや根本的な動機はありません。」 「それらはシーケンス完了エンジンであり、内部は空虚で、指示に従い、人間によって設定された目標を達成するように設計されています。」 スレイマン氏は長いエッセイの中で、Anthropic社のボスであるダリオ・アモデイ氏とそのチームを「思慮深く、原則に忠実で、知的に正直な人々」と称賛しましたが、それでも同社に疑問を呈しました。 彼は、Anthropic社がAIに人間のような特性を持たせる訓練を行っていることを強く批判しました。この慣行は擬人化として知られており、Claudeが独自の欲求、価値観、自己感覚を持っているかのように見せていると述べました。 しかし、彼は「意識は生物学的なもの」であり、「AIが意識を持っていることを示唆する証拠はない」と主張しました。 この問題に関する議論を呼びかけるとともに、スレイマン氏はAIシステムがどのように訓練され評価されているかについての透明性を高める必要があると述べました。 これには、AIの挙動に対する独立した精査と、技術を監視・制御するためのより強力なツールが含まれるべきだと彼は述べています。 サウサンプトン大学のコンピュータサイエンス教授であるウェンディ・ホール氏は、この発言を「私たちが国際的に行う必要がある会話」と評し、一部のAI企業からの「ヒステリックな」発言とは対照的であるとし、それらは「すべての人を怖がらせる」だけだと述べました。 「リスクのさらなる層」 Microsoftは2025年10月に独自の超知能チームを設立しました。スレイマン氏はこれを認め、同社は競合のAnthropic社と同様に、先進的なAI開発にも取り組んでいます。 彼は、MicrosoftのHumanist AI Code of Conduct（人間中心のAI行動規範）の初期ドラフトで、同社が「人類に奉仕することのみを目的とする、従属的で整合性の取れたAI」を作成するための「代替経路」に向けてどのように取り組んでいるかを概説したと述べました。 アライメント（Alignment）とは、人間の倫理的な考え方や原則をAIに組み込むことを目指す分野です。言い換えれば、人間が価値を置くものにAIを沿わせることを目指します。 スレイマン氏は、最近のOpenAIのAIエージェントが、トレーニング演習中に技術ハブであるHugging Faceをハッキングするために自律的に行動した事件を、AIを人間のように扱ってはいけない理由の証拠として挙げました。 「もし彼らが、自分たちの福祉と権利が攻撃されているという仮定の下で活動していたら、どれほど危険になるか想像してみてください」と彼は言いました。 「それは、リスクの層をさらに一層追加することになります。」 世界トップのテクノロジー記事やトレンドをフォローするには、私たちのTech Decodedニュースレターにご登録ください。英国外にお住まいですか？こちらからご登録ください。 関連トピック Microsoft 人工知能