フロンティアをペース配分する

2026年7月 フロンティアをペース配分する フロンティアAI企業の従業員1,132名による声明 署名者 コメント 声明 AIは劇的に良い未来を創造するのに役立つかもしれませんが、その結果は保証されていません。世界の主要なAI企業は、AI研究を自動化することに近づいていると考えています。これがAIの進歩をどれほど加速させるかを正確に予測することは困難ですが、能力開発が私たちの理解または制御能力を超えて急速に加速する現実的なリスクがあります。 AIの可能性を実現するために、産業、政府、そして社会全体は、新たなリスクに対処し、セキュリティ対策を開発し、監督を強化するための時間を買うという選択肢を必要とするかもしれません。しかし、各企業—そして国—は、その加速を一方的に遅らせないように激しい競争圧力にさらされています。そして今日、世界はフロンティア全体の進歩を意図的にペース配分するために必要な技術的およびガバナンス的ツールを欠いています。 フロンティアモデルのリリースを監視するために既に行われている作業を基盤として： 私たちは、自動化されたAI開発のフロンティアを意図的にペース配分するために必要な技術的およびガバナンス的ツールを開発するための国際的な取り組みを米国政府が支援することを要求します。 」- フロンティアAI企業の従業員1,132名 「この声明は、自動化されたAI研究が進歩を加速するにつれて、調整メカニズムの必要性についての共通認識を確立するのに役立つため、署名しました。また、米国政府が関与する前に、ラボがこれらのメカニズムを自発的に設計し始めることも見てみたいです。」 ジョン・シュルマン 「AIは、私たちの社会がまだ準備できていない可能性のある速度で進歩しています。フロンティアラボは、ほとんどすべての知能の指標において、最高の人間さえも超えることができるAIに非常に近いです。これは前例のない社会的および安全上のリスクにつながるでしょう。肯定的な未来を確保するために、私たちは責任と慎重さによって推進される方法でAIを開発する必要があります。」 シェンジヤ・チャオ 「フロンティアAIの能力は急速に進歩しており、進歩のペース自体も加速しています。私たちは評価作業でこれを直接見ています。CyberGymとExploitGymは、フロンティアAIエージェントが現在、実際のソフトウェア脆弱性を発見および悪用できることを示しており、適切な保護措置がなければ、大規模なサイバー攻撃を可能にする可能性があります。多くの研究者も再帰的…」 続きを読む ドーン・ソン 「AIが電気ほど変革的であるならば、それを世界にどのように導入するかについて意図的である方が良いでしょう。ガバナンス、安全性、または技術が公共の利益に資することへの保証なしの無思慮な競争は、そのような意図性を妨げます。」 ローラ・ワイディングガー 「私は10年間AIに携わってきました。過去数年間、数ヶ月ごとに、予測をどれだけ頻繁に更新しても、技術がどれほど急速に進歩するかに驚かされてきました。AIは、社会や国家が適応できるよりもはるかに速く進歩する可能性があります。したがって、AIの多くの著名なリーダーが、減速する能力を公に支持しています。DeepMindのCEOであるデミス…」 続きを読む ステファニー・チャン 「4年の間に、私たちは言語を理解できるAIを初めて体験した人々から、ソフトウェアエンジニアリングにおける超人的な偉業を達成し、フロンティアの数学的ブレークスルーを生み出し、科学研究を加速するAIへと進化しました。進歩は減速の兆候を見せておらず、デフォルトでは、個々の企業や国が推進することに利益があります…」 続きを読む シャンタヌ・ジェイン 署名者 (20/1,132) 署名者 ジョン・シュルマン チーフサイエンティスト、Thinking Machines ヤクブ・パチョツキ チーフサイエンティスト、OpenAI ジャレッド・カプラン 共同創設者兼チーフサイエンスオフィサー、Anthropic シェンジヤ・チャオ チーフサイエンティスト、Meta ジャック・クラーク 共同創設者兼公共利益担当責任者、Anthropic マーク・チェン チーフリサーチオフィサー、OpenAI アンカ・ドラガン VP、AIセーフティ＆アライメント、Google ヴォイチェフ・ザレンバ AIレジリエンス責任者、OpenAI Foundation ドーン・ソン VP、AIリサーチ、Meta クリス・オラー 共同創設者＆解釈可能性リサーチリード、Anthropic ローラ・ワイディングガー スタッフリサーチサイエンティスト、Google ベンジャミン・マン 共同創設者、Anthropic ステファニー・チャン スタッフリサーチサイエンティスト、Google ジュリアン・シュリットヴィーザー Anthropic サマー・ユエ アライメント＆リスクディレクター、Meta ヤン・ライケ Anthropic ボアズ・バラク OpenAI マイク・クリーガー テクニカルスタッフメンバー、Anthropic メアリー・フォン シニアリサーチサイエンティスト、Google シャンタヌ・ジェイン テクニカルスタッフメンバー、OpenAI もっと見る 個人的コメント (9/70) 個人的コメント すべてのコメントは個人的な見解であり、必ずしもいかなる企業の意見を代表するものではありません。 「世界は、AIがより良いAIを作成する能力が臨界点に達する、暴走する核連鎖反応のような知能爆発に向かって、死に物狂いの競争に閉じ込められています。遅く進むことは、それがうまくいくようにするための切望されている時間を与えてくれますが、個々の主体は一方的に止まることを望んでいません。生き残るためには、私たちは遅く進むために協力しなければなりません。」 レオ・ガオ テクニカルスタッフメンバー、OpenAI 「AI能力評価に3年間携わってきましたが、最近の進歩のペースには驚かされました。AGIからの壊滅的な損害を避けるためには、はるかに、はるかに優れた調整が必要です。」 マシュー・ラッツ スタッフリサーチエンジニア、Google 「外国人として、私は米国が支援する取り組みを、自由世界の自由だけでなく、すべての繁栄にとっての存亡に関わるものと見ています。」 クリスチャン・ライアン テクニカルスタッフメンバー、Anthropic 「原子を分裂させるように、AIは計り知れない利益と計り知れないリスクの両方の可能性を秘めています。世界はこのことを正しく行うための時間を取るべきです。」 ウィル・イェーガー Anthropic 「現在のペースでは、数週間ごとにモデルの誤用や不整合の影響が大幅に増加する新しいモデルが登場します。これらのリスクを軽減するための努力が開発のペースに追いつけず、国際的な競争圧力の下で許容誤差がますます小さくなることを懸念しています。近い将来、私たちは緊急に実施したいかもしれません…」 続きを読む ミカ・キャロル 不整合準備、OpenAI 「AIは、私たちの社会がまだ準備できていない可能性のある速度で進歩しています。フロンティアラボは、ほとんどすべての知能の指標において、最高の人間さえも超えることができるAIに非常に近いです。これは前例のない社会的および安全上のリスクにつながるでしょう。肯定的な未来を確保するために、私たちは責任と慎重さによって推進される方法でAIを開発する必要があります。」 シェンジヤ・チャオ チーフサイエンティスト、Meta 「この声明は、自動化されたAI研究が進歩を加速するにつれて、調整メカニズムの必要性についての共通認識を確立するのに役立つため、署名しました。また、米国政府が関与する前に、ラボがこれらのメカニズムを自発的に設計し始めることも見てみたいです。」 ジョン・シュルマン チーフサイエンティスト、Thinking Machines 「4年の間に、私たちは言語を理解できるAIを初めて体験した人々から、ソフトウェアエンジニアリングにおける超人的な偉業を達成し、フロンティアの数学的ブレークスルーを生み出し、科学研究を加速するAIへと進化しました。進歩は減速の兆候を見せておらず、デフォルトでは、個々の企業や国が推進することに利益があります…」 続きを読む シャンタヌ・ジェイン テクニカルスタッフメンバー、OpenAI 「メルビン・クランツバーグが書いたように、技術は良いものでも悪いものでもなく、中立でもありません。社会的な利益を達成することは、多くの人間が高度なAIシステムを協調して使用する相互依存的な方法を理解することにかかっており、その理解を得るには時間がかかります。自動化されたAI研究への進歩をペース配分することは、社会規模の変化の理解を構築するための時間を与え、それによって…」 続きを読む エドワード・ヒューズ チーフサイエンティスト、Inherent 「世界は、AIがより良いAIを作成する能力が臨界点に達する、暴走する核連鎖反応のような知能爆発に向かって、死に物狂いの競争に閉じ込められています。遅く進むことは、それがうまくいくようにするための切望されている時間を与えてくれますが、個々の主体は一方的に止まることを望んでいません。生き残るためには、私たちは遅く進むために協力しなければなりません。」 レオ・ガオ テクニカルスタッフメンバー、OpenAI 「外国人として、私は米国が支援する取り組みを、自由世界の自由だけでなく、すべての繁栄にとっての存亡に関わるものと見ています。」 クリスチャン・ライアン