AIに関する内部からの警告は、一部のシリコンバレー関係者には響かず

シリコンバレーの一部では、AI内部からの劇的な警告は的外れとされる

毎年9月になると、シリコンバレーの経営陣の顔ぶれがサンフランシスコのパレスホテルに集まり、ゴールドマン・サックスが主催するカンファレンスで投資家を魅了する。

先週、成長や潜在的なリターンについての議論の合間に、テクノロジー業界の巨頭たちは、Anthropicの研究者ジェイコブ・コックスン氏の突然の辞任という話題に取り組まなければならなかった。

OpenAIで勤務した後、その主要なライバルであるAnthropicに入社した27歳のコックスン氏は、火曜日に、人工知能（AI）を開発している人々は、この技術が人類を破壊する可能性があると信じていると述べた。

彼は、「我々の人生を危険にさらしている」「これらはすぐに、あらゆるものをハッキングできる超人的なシステムになるだろう」と語った。

コックスン氏は、公に警鐘を鳴らした最初のAI内部関係者では決してない。近年、安全上の懸念からAnthropicとOpenAIの両社から著名な辞任が相次いでおり、Anthropicの一部の現従業員もコックスン氏の投稿に同調している。

「私たちは、AIがすべての人類を殺す可能性があると真剣に信じています！個人的には、今後10年間でその確率は10%を超えると見ています」と、Anthropicのチームリーダーであるエヴァン・ヒュービンガー氏はXに投稿した。

コックスン氏は、自身の警告は「マーケティングではない」と明示的に述べていたが、シリコンバレーの一部の経営者や投資家は、最近の内部関係者による一連の警告に懐疑的な反応を示している。

AnthropicとOpenAIは、記録的なIPO（新規株式公開）の準備を進めていると報じられており、テクノロジーセクターの一部では、AIの危険性に関する最新の厳しいコメントは、これらの製品の力を示すことで話題を呼ぶことを目的としているのではないかと示唆されている。

Anthropicのトップであるダリオ・アモデイ氏は、AI技術がエントリーレベルのホワイトカラーの仕事を半減させる可能性があり、「種としての私たちを試す」と述べたことで批判を受けている。

カンファレンスのスピーカーの一人であるGrindrの最高経営責任者ジョージ・アリソン氏はBBCに対し、コックスン氏らの今週のコメントは「Anthropicにおける反文明的な世界観」の兆候であると信じていると語った。

彼はそれらを「危険」と呼び、LGBTQ+デートアプリのエンジニア数名にAnthropicの技術の使用を中止するよう指示したと述べた。

「株主のお金を管理する者として、この会社が行っているような公開声明を行う企業に依存するのは無責任です」と彼は言った。

「彼らは実際にそれを信じているのかもしれません」とアリソン氏は言った。「あるいは、それはより多くの投資家サポートを得るための素晴らしい方法だから、そう言っていると主張することもできます。なぜなら、これらの評価額を正当化する唯一の方法は、『私はすべての産業を乗っ取り、すべての仕事を乗っ取るつもりだ、そして私のAIがそのすべての仕事をするだろう』と主張することだからです。」

Anthropicは、今年初めの最近の資金調達ラウンドで9650億ドル（7130億ポンド）の評価額を付けた。

BBCはAnthropicに声明に対するコメントを求めた。

土曜日の早い時間に投稿されたエッセイで、アモデイ氏はAIモデル開発の減速と世界的な規制を求め、「AIに関連するリスクは『深刻』である」と述べた。

Nvidiaのトップであるジェンスン・フアン氏も、カンファレンスの聴衆の前でコックスン氏のコメントについて議論したと、グループの複数の関係者がBBCに語った。彼らによると、フアン氏はそれらを真実ではないと退けたという。

フアン氏は以前、AIが「人類の終焉になる」という考えは「完全にナンセンス」だと述べていた。

そして、AIブームにはビジネス上の関心があるかもしれない（NvidiaはAIシステムを動かすチップを製造している）が、彼のコメントは、現職および元従業員からの存亡の危機に関する警告に対するシリコンバレーでの反発の高まりを反映している。

一部の批評家は、Anthropicが規制強化を促し、競合他社を排除して同社とOpenAIがセクターでデュオポリを確立することを望んで、恐怖を煽っているとさえ非難している。

投資会社Altimeter Capitalのトップであるブラッド・ガースナー氏は、カンファレンスでのフアン氏の写真を投稿し、コックスン氏を「ばかげた誇張」だと非難した。

金曜日には、AIプラットフォームHugging Faceの最高経営責任者であるクレメント・デランゲ氏も意見を述べた。Hugging Faceは、Nvidiaが先週買収を発表した企業であり、今年初めにOpenAIのエージェントによってハッキングされ、AIの安全性に対する抗議を引き起こした。

「すみませんが、ジェイコブにAIの絶滅リスクについて尋ねるのは、エアコンの修理工に気候変動について尋ねるようなものです」と彼はXに書いた。「それが必ずしも面白くない、あるいは間違っているとは言いませんが、物事を客観的に見ていきましょう。」

ガースナー氏とデランゲ氏の両氏は、土曜日にアモデイ氏の提案が投稿された後、より慎重になり、ガースナー氏はそのアイデアを、スピードと安全性といった競合する考慮事項のバランスを取る上での「重要な一歩」と呼んだ。

デランゲ氏は、アモデイ氏が提案した潜在的な解決策の一部となることに協力する用意があると述べた。

今月、バーモント州選出の左派上院議員バーニー・サンダース氏が共同提案した連邦法、「Ban Artificial Superintelligence Act（人工超知能禁止法）」は、高度なAI開発の一時停止を課すものだ。

「人間がAIの制御を失う可能性は十分にあります」とサンダース氏は木曜日にBBCのNewsnight番組で語った。「そして、その後に何が起こるかは誰にもわかりません。しかし、壊滅的な結果になる可能性はありますか？はい、あり得ます。」

「科学者が、人類に壊滅的な影響を与える可能性があると言っているのに、それを遅らせるべきではないと言うのは、愚か者でなければありえません」と彼は付け加えた。

しかし、業界全体の政府による取り締まりが来る場合、それはトランプ政権ではなく、主に立法者によって主導される可能性が高い。トランプ政権は、米国が中国に覇権を譲らないようにするために、自由放任的なAI開発を必要だと位置づけている。

今週記者団に語ったドナルド・トランプ大統領は、AIが人類の絶滅につながる懸念があるかと尋ねられた。「いいえ、ありません」と彼は言った。「AIで我々が勝てなければ、非常に悪い立場に置かれるという懸念があります。我々は今、中国をリードしています。」

しかし、大統領とAnthropicの関係は不安定だった。同社が米軍によるAIモデルの使用を拒否した後、ホワイトハウスは同社を「急進左派、ウォークな会社」と描写し、サプライチェーンリスクと指定した。この動きは、連邦判事によって違法と判断された。

政権初期のトランプ氏のAI担当責任者であるデビッド・サックス氏も、Anthropicに対して繰り返し攻撃を仕掛けている。

OpenAIは、ホワイトハウスから同じレベルの精査を受けていない。先週Astraという新モデルを発表した際、OpenAI社長のグレッグ・ブロックマン氏は、同社とトランプ政権の関係を「非常に良いパートナーシップ」と表現した。

同社はBBCの問い合わせに対し、コメントを控えた。

今週サンフランシスコで開催されたカンファレンスでは、AIへの潜在的な政府規制や存亡の危機への懸念よりも、富の追求がほとんどの場合、それを凌駕していた。

最近8520億ドルの評価額を付けたOpenAIは、以前から株式市場への上場を通じて同社の株式を購入できるようにする計画を発表していた。

しかし、同社の最高経営責任者サム・アルトマン氏は金曜日、今年のIPOはないだろうと述べ、Fortune誌のインタビューで「安全性に関して起こっているすべてのことを考えると」「時期尚早な時期」だと呼んだ。

彼は2027年がより現実的だろうと示唆した。

一方、ある投資家は、Anthropicの今後のS-1（企業が株式を販売するために証券規制当局に提出しなければならない書類）を楽しみにしていると述べた。

同社に関する彼の主な疑問は単純だった：その会社は収益性があるのか？

木曜日、チップ会社d-Matrixの最高経営責任者（同社は同日カンファレンスでNvidiaと契約を結んだ）であるシド・シェス氏は、世界が終わるのではないかと恐れているかと尋ねられ、言葉を濁さなかった。

「いいえ」と彼は言った。