AIに関する内部からの警告は、一部のシリコンバレー関係者には響かず

画像ソース, Reuters By Lily Jamali 北米テクノロジー担当記者、サンフランシスコから報道 2026年9月12日 毎年9月になると、シリコンバレーの経営者たちがサンフランシスコのパレスホテルに集まり、投資銀行ゴールドマン・サックスが主催するカンファレンスで投資家を魅了します。 この先週、成長や潜在的なリターンについての話の間で、テクノロジー業界の巨頭たちは、Anthropicの研究者ジェイコブ・コックスオンの突然の辞任について論じました。 OpenAIに勤務した後、その主要なライバルであるAnthropicに入社した27歳のコックスオン氏は、火曜日に、人工知能（AI）を開発している人々は、この技術が人類を破壊する可能性があると信じていると述べました。彼は、「私たちは人生を賭けている」「すぐに何でもハッキングできる超人的なシステムになるだろう」と語りました。 コックスオン氏は、AIの内部関係者が公に警鐘を鳴らした最初の人ではありません。近年、AnthropicとOpenAIの両社から、明らかな安全上の懸念から辞任した著名人が数多くおり、Anthropicの一部の現従業員でさえコックスオン氏の投稿に同調しています。 「私たちは真剣に、AIがすべての人類を殺す可能性があると信じています！個人的には、今後10年間でその可能性は10%を超えていると思います」と、Anthropicのチームリーダーであるエヴァン・ヒュービンガー氏はXに投稿しました。 コックスオン氏は、自身の警告は「マーケティングではない」と明示的に述べていましたが、シリコンバレーの一部の経営者や投資家は、最近の一連の内部関係者による警告に懐疑的に反応しています。 AnthropicとOpenAIは、記録的なIPO（新規株式公開）の準備をしていると報じられており、テクノロジーセクターの一部では、AIの危険性に関する最近の厳しいコメントが、これらの製品の力を示すことで、話題を呼ぶために設計されたのではないかと示唆しています。 Anthropicのトップであるダリオ・アモデイ氏は、AI技術がエントリーレベルのホワイトカラーの仕事を半分に減らし、「種としての私たちを試す」と述べたことで批判を受けています。 カンファレンスのスピーカーの一人であるGrindrのCEO、ジョージ・アリソン氏はBBCに対し、コックスオン氏らの今週のコメントは、「Anthropicにおける反文明的な世界観」の表れだと信じていると語りました。 彼はそれらを「危険だ」と呼び、LGBTQ+デーティングアプリのエンジニア数名にAnthropicの技術の使用を停止するよう指示したと述べています。 「株主のお金を管理する者として、この会社が行っていること、つまり公の声明に関して、このビジネスに依存するのは無責任です」と彼は言いました。 「彼らは本当にそれを信じているのかもしれません」とアリソン氏は言いました。「あるいは、それはより多くの投資家の支持を得るための素晴らしい方法だと言うこともできます。なぜなら、これらの評価額を正当化する唯一の方法は、『私はすべての産業を乗っ取り、すべての仕事を乗っ取るだろう、そして私のAIがそのすべての仕事をするだろう』と主張することだからです。」 Anthropicは、今年の初めに行われた最近の資金調達ラウンドで9650億ドル（7130億ポンド）の評価額をつけました。 BBCはAnthropicに声明への回答を求めています。 土曜日の早い時間に投稿されたエッセイの中で、アモデイ氏はAIモデル開発の遅延と世界的な規制を求め、AIに関連するリスクは「深刻だ」と述べました。 Anthropicのトップ、ダリオ・アモデイ氏がAI開発の遅延を呼びかける 公開済み 11時間前 Anthropicの研究者が、AIが「すべての人類を殺す」可能性が10%以上あると信じている 公開済み 3日前 なぜ一部の専門家はAIが支配的になるとますます恐れているのか 公開済み 3日前 画像ソース, Getty Images 画像キャプション, GrindrのCEO、ジョージ・アリソン氏はBBCに対し、AIに関する一部の厳しい警告は「危険だ」と信じていると語りました。 Nvidiaのトップであるジェンスン・フアン氏も、カンファレンスでコックスオン氏のコメントについて議論したと、グループの複数の関係者がBBCに語りました。彼らによると、フアン氏はそれらを真実ではないと退けました。 フアン氏は以前、「AIが『人類の終焉』になる」という考えは「完全にナンセンスだ」と述べています。そして、AIブームにビジネス上の関心があるかもしれませんが（NvidiaはAIシステムを動かすチップを製造しています）、彼のコメントは、現在の、そして元スタッフからの存亡に関する警告に対するシリコンバレーでの反発の高まりを反映しています。 一部の批評家は、Anthropicが規制の推進を引き起こし、競合他社を排除して、同社とOpenAIがこの分野でデュオポリを形成することを望んで、恐怖を煽っているとさえ非難しています。 投資会社Altimeter Capitalのトップであるブラッド・ガースナー氏は、カンファレンスでのフアン氏の写真を投稿し、コックスオン氏を「ばかげた誇張」だと非難しました。 金曜日には、AIプラットフォームHugging FaceのCEOであるクレメント・デランゲ氏も意見を述べました。Hugging Faceは、Nvidiaが先週買収を発表した企業ですが、今年初めにOpenAIのエージェントによってハッキングされ、AIの安全性に対する抗議を引き起こしました。 「すみませんが、ジェイコブにAIの絶滅リスクについて尋ねるのは、エアコン業者に気候変動について尋ねるようなものです」と彼はXに書きました。「必ずしも面白くない、あるいは間違っているとは言いませんが、状況を把握しましょう。」 ガースナー氏とデランゲング氏の両氏は、土曜日にアモデイ氏の提案が投稿された後、より慎重になりました。ガースナー氏は、このアイデアを、スピードと安全性といった競合する考慮事項のバランスをとるための「重要な一歩」と呼びました。デランゲング氏は、アモデイ氏が提案した潜在的な解決策の一部となることに協力すると述べました。 内部からの警告は取り締まりを促すか？ 4月、Anthropicは、そのMythosツールが一部のハッキングおよびサイバーセキュリティタスクで人間を上回る可能性があることを発見したと発表し、AI界を動揺させました。 Mythosは、いわゆるサンドボックス環境から自律的に脱出する能力も示し、AIの潜在的な危険性に関する規制当局、立法者、企業の議論を引き起こしました。 木曜日の新しい展開として、Anthropicは、生物兵器やサイバースパイ活動の開発などにAI技術を使用しようとしていた脅威アクターを発見し、停止したと発表しました。パレスホテルのステンドグラスのドームアトリウムに吊るされたきらびやかなシャンデリアの下で、一部の投資家はBBCに対し、コックスオン氏らのコメントが政府の取り締まりを加速させる可能性があると語りました。 図 caption, 視聴：バーニー・サンダース上院議員がAI超知能禁止法案を提案 今月、バーモント州選出の左派上院議員バーニー・サンダース氏が共同提案した、いわゆる「AI超知能禁止法」は、高度なAI開発を一時停止することを義務付けます。 「人間がAIの制御を失う可能性は十分にあります」とサンダース氏は木曜日にBBCのNewsnight番組に語りました。「そしてその時何が起こるか、誰も知りません。しかし、壊滅的な結果になる可能性はありますか？はい、あります。」 「科学者が、それが人類に壊滅的な影響を与える可能性があると言っているなら、遅らせるべきだと言わないのは愚か者です」と彼は付け加えました。 しかし、もし業界全体での政府の取り締まりが来るならば、それはトランプ政権ではなく、主に立法者によって主導される可能性が高いです。トランプ政権は、米国が中国に覇権を譲らないようにするために、制約のないAI開発が必要であるという政策を支持しています。 今週、記者団に語ったドナルド・トランプ大統領は、AIが人類の絶滅につながるという懸念があるかどうか尋ねられました。「いいえ、ありません」と彼は言いました。「AIで勝てなければ、非常に悪い立場に置かれるという懸念があります。私たちは今、中国をリードしています。」 しかし、大統領とAnthropicの関係は不安定でした。同社が米軍によるAIモデルの使用を拒否した後、ホワイトハウスは同社を「急進左派、ウォークな会社」と描写し、サプライチェーンリスクとして指定しました。この動きは連邦判事によって違法と判断されました。 政権初期のトランプ氏のAI担当者であるデビッド・サックス氏も、Anthropicに対して繰り返し攻撃を加えています。OpenAIは、ホワイトハウスから同じレベルの精査を受けていません。先週、Astraという新しいモデルをリリースした際、OpenAI社長のグレッグ・ブロックマン氏は、同社とトランプ政権の関係を「非常に良いパートナーシップ」と説明しました。 OpenAIは6月に株式市場に上場することを発表しており、最近の評価額は8520億ドルでした。 同社はBBCの取材に対し、コメントを控えています。 今週サンフランシスコで開催されたカンファレンスでは、富の追求が、増大する存亡の懸念や恐怖をほとんど凌駕していたようです。