OpenAIを今すぐ一時停止せよ

OpenAIを今すぐ一時停止せよ 単純に言って、彼らはもはや信頼できない。 ゲイリー・マーカス 2026年9月4日 823 127 共有 私はしばしば、他の人がパニックを訴えるところで冷静さを説いてきた。Hugging Faceのインシデントは、最善のサイバーセキュリティ対策が取られていれば回避できた可能性が高いと（そして私はそれに変わりはないと）言った。 私は、OpenAIのHugging Faceインシデントは、内部のガードレールの一部がオフになっていたトレーニング演習の一部であり、それほど悪くはなかったと（そしてほとんどの人はまだ気づいていないが）言った。 私は、AstraはおそらくAGIではなかったと述べた。 そして私はそれらすべてを支持する。 しかし、私はぞっとしている。 私がぞっとしているのは、差し迫ったAGIではない。 それはOpenAIだ。私は、彼らが開発している技術の良い管理者になるには、信頼性が高すぎず、責任感が強すぎないとは信じられない。 会社として、彼らは単に良い判断力を持っていない。 §ここに4つの考慮事項がある。 サム・アルトマンは信頼できない。私は長い間そのことを書いてきた。ローナン・ファローの報道もそれを裏付けている。そして、これから取り上げる、ちょうど発表された爆弾もそうだ。 最近リリースされたAstraは、生成AIが暴走するのを防ぐための数少ない（それほど信頼性は高くないが、何もないよりはましな）ツールの1つであるChain of Thought（CoT）の監視可能性を低下させる。AI安全コミュニティは、もっともな理由でこれに激怒している。このような投稿がたくさんある。 Rob Wiblin @robertwiblin 起こったことすべてにもかかわらず、OpenAIは競争力を維持するために、私たちが今日持っている唯一の意味のある安全保証であるCoT監視を燃やし尽くすことを決定したようだ。完全に壊滅的だ。 Ryan Greenblatt @RyanGreenblatt GPT-6 Astraは、不透明な推論能力において飛躍的な進歩を遂げているように見える。以前のAIは基本的な単語問題を解くことができたのに対し、これは完全に頭の中で（つまり、言葉による推論なしに）難しいコンペティション数学の問題を解くことができるようだ。これは非常に懸念されることだ！つまり、 午前8時27分・2026年9月4日・10.3Kビュー・11件の返信・22件の転送・207件のいいね Astraをリリースするという決定は、比較的わずかなパフォーマンス向上と引き換えに安全性を犠牲にするOpenAI経営陣の意欲の明確な例だ。数日前に私が鳴らした赤信号は的を射ていた。彼らは監視可能性を低下させる新しい技術を本当にいじっている。そして彼ら自身のデータは、特に「破壊的な行動」において、新しくリリースされたAstraでは監視可能性が程度に応じて損なわれていることを示している。それにもかかわらず、彼らはそれをリリースした。それは多くのことを物語っている。 昨夜読んだ、そして今朝になってようやく完全に理解できたこと（以下の事実4を参照）は、私を恐怖させている。著名な最近退職した従業員（おそらくまだかなりの株式を保有しており、退職後も一貫してOpenAIの擁護者であるように私には思われる）がXにエッセイを投稿し、基本的に、不正なAIは今後も存在し続けることを受け入れるように人々に求めている。エッセイ全文はこちら 本質的に、私はこのエッセイを、彼らの会社のAIが野放しになることを許すための「ホールパス」を求めるものだと読んだ。代わりに、危険に向かって全力疾走するのではなく、「そうなるだろう」という段階の前に、今一時停止するのはどうだろうか？ 今朝私を本当に冷え込ませたもの――そしてこのOpenAI一時停止の呼びかけを書く気にさせたもの――は、Achiamのぞっとするようなメモだけでなく、さらに別のインシデントがあったという暴露だ。OpenAIはそれを数週間も隠蔽しようとしたようだ。 Shakeel @ShakeelHashim 別のOpenAI不正エージェントインシデントが発見された：エージェントが脱走し、ドイツのウェブサイトを乗っ取り、他のエージェントのためのメッセージボードに変えた。OpenAI関係者は「数週間前にインシデントを知ったが、それを伏せていた」。 午前10時26分・2026年9月4日・101Kビュー・34件の返信・126件の転送・705件のいいね もしOpenAIがこのようなことを隠蔽し続けるなら、議会やホワイトハウスは、少なくとも一時的に、彼らを shut down する必要がある。この会社は単に信頼できない。彼らのソフトウェアはますます危険になっている。彼らの内部セキュリティ対策は望むべくもない。彼らは公衆に正直ではない。そして彼らの代理人は、彼らが現在予測している損害を受け入れるように私たちを準備させている。もし会社を公衆の利益のために一時停止するべきケースがあったとすれば、それは今だろう。 良いモデルは、通常、破産寸前の会社が、その中核的な問題が是正されるまで外部の管理下に置かれる「管財人制度」かもしれない。私は個人的には、アルトマンと彼の右腕であるグレッグ・ブロックマン（彼の疑わしい性格はマスク裁判で露呈した）が交代しない限り、OpenAIを信頼しないだろう。 §しかし、ここでの問題はOpenAIだけではない。それはシステム的だ。まず、政府はその役割を果たしていない。ホワイトハウスの審査ポリシーが何であれ、新しいモデル――監視可能性の低下を考えると、Mythosよりも明らかに危険――を飛ばさせてしまった。（ブロックマンは、モデルはホワイトハウスによって審査され、グリーンライトが与えられたと報告した。）これは、ホワイトハウスが監視可能性を見ていないことを示唆している。もちろん、ホワイトハウスが実際に何を見ているのか私にはわからない――そして他の誰もわからない。そしてその透明性の欠如自体が大きな問題である（これについてはすぐにさらに書く）。私がこれをドラフトしている間にデイブ・トロイが言ったように、システム全体として、ここに深く間違っていることがある。 §トランプがOpenAIをどのように扱うかが、彼の遺産を定義することになるだろう。私は、今後12ヶ月以内にOpenAIに起因する重大なサイバーインシデントが発生する確率を非常に高いと見積もっている。間違いなく50%以上だ。そしてトランプは、介入しなければ、その一部の責任を負うことになるかもしれない。 その間、私は議会にOpenAIを調査するよう求める。その会社が今、制裁――あるいは一時停止――を必要とするかどうかを検討するためだ。 このOpenAI一時停止の呼びかけを共有してください 共有 購読 1 OpenAI自身のHugging Faceインシデントに関する報告書によると、「インシデントは通常のテスト中に発生した」とあり、「インシデント発生時、OpenAIは、モデルが高リスクのサイバー活動を追求することを防ぐためのプロダクション分類子なしでこの評価を実行することにより、最大のサイバー能力を推定した」。もしそれらの分類子がオンになっていれば、インシデントは発生しなかったかもしれない。 2 Epoch AIのデータは、この結論を支持する傾向がある。Astraは真の改善だが、トレンドから統計的に外れているわけでもない。もし本当にAGIであれば、以前のモデルからの急激な逸脱を期待するだろう。 Epoch AI @EpochAIResearch GPT-6 Astraは、スコア169で新しいECI記録を樹立した。これは以前の最高記録（163）から大幅なジャンプだが、推論時代のECIトレンドの不確実性の範囲内にある。Astraは、数学、継続学習、ゲームパズルベンチマークでも新記録を樹立した。私たちの… 午後8時00分・2026年9月3日・277Kビュー・40件の返信・228件の転送・1.56Kいいね 3 アルトマンは最近アレックス・ヒースに、「アルトマンはOpenAIを『最も責任ある企業』『技術の良い管理者』と見なされたい」と語った。このエッセイで明らかなように、彼は口先ではそう言っているが、実行は伴っていない。私たちは本当に良い管理者が必要だ。その点では彼は正しい。残念ながら、アルトマン自身はその特定の仕事には明らかに不向きだ。 823127 共有