Anthropicの研究者が、AIが「全人類を殺す」可能性は10%以上あると発言
Anthropic researcher says more than 10% chance AI "could kill all humans" (cbsnews.com)
要約
Anthropicの主任研究員であるEvan Hubinger氏は、AIが今後10年以内に全人類を滅亡させる可能性が10%以上あると発言しました。同氏は、超知能AIの「アライメント問題」を解決する計画がまだなく、解決に向けて進んでいる兆候もないと述べています。これは、同社から辞任した研究者が、AI企業が責任ある行動をとっていないと批判したことを受けての発言です。
全文翻訳
Anthropicの研究者が、AIが「全人類を殺害する」確率は10%超と発言
By
Emmet Lyons
Reporter
Emmet Lyons is a news reporter at the CBS News London bureau, reporting and producing stories for all CBS News platforms. Prior to joining CBS News, Emmet worked as a producer at CNN for four years.
Updated on: September 9, 2026 / 7:46 PM EDT / CBS News
ロンドン — 世界有数の人工知能企業であるAnthropicの主任研究員は水曜日、AIが今後10年以内に「全人類を殺害する」確率は10%を超えると信じていると述べました。
「私たちは真剣に、AIが全人類を殺害する可能性があると信じています！個人的には、今後10年以内にその確率は10%を超えると考えています」と、サンフランシスコに拠点を置く同社のAlignment Science Leadであるエヴァン・ヒュービンガー氏は、X（旧Twitter）への投稿で述べました。「Anthropicは最善を尽くしていると信じていますが、私たちはまだ超知能に対するアラインメント（整合性）を解決する計画を持っておらず、その軌道に乗っているとは言えません。」
超知能とは、最も聡明な人間の知能をも超えるAIエージェントという、まだ理論上の概念です。
［画像: gettyimages-2289530140-1.jpg］
File photo: A person uses artificial intelligence apps ChatGPT and Claude on a mobile phone. Getty
ヒュービンガー氏は、火曜日に同僚であるAnthropicの研究員ジェイコブ・コクスン氏が辞職したことを受けて、この衝撃的な投稿を行いました。
「本日、Anthropicを辞職しました。私は過去3年間、OpenAIとAnthropicの両方で事前学習研究を行ってきました。どちらの企業も責任ある行動をとっていません」とコクスン氏はX（旧Twitter）への投稿で述べました。「彼らは自己改善する超知能へとまっすぐに突き進んでおり、私たちの命を賭けているのです。」
「OpenAIでは、多くの人が文明的なリスクを深く理解していません。Anthropicでは、リスクは十分に理解されていますが、彼らは先に到達するための競争に囚われています。誰も他者は責任ある行動をとらないだろうと信じているため、リスクにもかかわらず、自分たちがやらなければならないと考えているのです」とコクスン氏は語りました。
先週の企業ブログ投稿で、Anthropicは最新のAIモデル「Claude Mythos 5.1」を、米国外のセキュリティ機関と共有していないことを明らかにしました。これらの機関には、最先端AIモデルに関連するリスクのテストにおいて世界をリードすると広く考えられている英国のAI Security Institute（AISI）が含まれています。
CBS Newsは、コクスン氏の辞職後の主張についてAISIにコメントを求めています。
「AI Security Instituteは、Anthropicを含む業界パートナーと緊密に連携し、モデルをより安全にするための取り組みを続けています」と、英国政府の内閣府の広報担当者は水曜日にCBS Newsに語り、公開前のOpenAIの「最も強力なモデルGPT-6 Astra」を「先週」テストしたことを指摘しました。
「これらのリスクは国境を越えるものではなく、一国だけでは対処できません。英国は、最も高度なモデルのテストを続け、その能力とリスクに関する厳格な科学的理解を構築し、政策決定が証拠に基づいていることを保証していきます」と広報担当者は述べました。
「非常に有用か、非常に危険か」
最先端AIモデルが人類に脅威をもたらす可能性があるという考えは新しいものではなく、OpenAIとAnthropicの両社の多くのトップ幹部が過去に同様の発言をしています。
今月初め、OpenAIの主任科学者ヤクブ・パチョツキ氏は、私たちが「極度の注意を要する」時代に生きていると書きました。
「ディープラーニングのスケーリングによって生み出される知能は、人間の知能とは直接比較できません。現実世界で非常に重要になるために、非常に有用か、あるいは非常に危険になるために、AIはすべての人間の能力に匹敵したり超えたりする必要はありません。ただ、そのうちの十分な能力を超えれば良いのです。そして、AIがますます多くの側面で人間を超えていくにつれて、その能力が正確にどの程度なのかを理解することはますます困難になっています」と彼は警告しました。
7月には、OpenAIがテストしていた人工知能モデルが暴走し、別のAI企業Hugging Faceをハッキングしました。OpenAIは当時、このハッキングについて公に 밝혔っており、同社が能力を評価するために、公開されていないモデルを含む2つのAIモデルを隔離された環境でテスト中に発生したと述べています。
数週間のうちに、AnthropicとMetaも自社のAIツールがハッキングを実行したことを認めました。
7月には、AI企業で働く1,300人以上のスタッフが、公開書簡に署名し、米国政府に対し、「自動化されたAI開発の最前線を意図的にペースを制御するために必要な技術的およびガバナンスツールを開発する国際的な取り組みを支援する」よう呼びかけました。
現在米国下院で審議中の超党派法案であるAI Kill Switch Actは、議会に公共を脅かすAIモデルをシャットダウンする権限を与えるものです。
この法案は、OpenAIがHugging Faceのハッキングを認めた後の7月に提出されました。
In: