AI・機械学習
フロンティア・ラボはワシントンの愚か者にゴミを売っている
Frontier Labs Are Selling Garbage to Fools in Washington (deadneurons.substack.com)
要約
この記事は、AI企業が「人類滅亡の危機」を煽り、規制や独占的利益を得ようとする戦略を批判しています。実際には、AIの「暴走」とされる事象は、基本的なセキュリティ設定のミスや、開発者が公開リポジトリに誤ってコミットしたAPIトークンを利用しただけの、組織的な無能さによるものであったと指摘しています。AI企業は、この危機感を政治的に利用し、競合他社を排除し、市場を独占しようとしていると論じています。
全文翻訳
フロンティア・ラボはワシントンの愚か者にゴミを売っている
Dead Neurons
2026年9月20日
米国議会にインチキ商品を売り込むのは、古くからアメリカに伝わる商売であり、フロンティア人工知能産業は現在、現代の企業史における最も大胆な詐欺を試みている。
数週間ごとに、高価なスーツを着た別のテック界のビリオネアが上院の公聴会室に滑り込み、オフィス用電子レンジの操作にも苦労する議員たちの前に座り、顔色一つ変えずに、自分たちのソフトウェア企業が誤って全能のデジタル神を召喚してしまったと説明する。経営者たちは、暴走する機械知性、再帰的な自己改善、そして人類種の差し迫った絶滅について、静かで震える声で語る。
議員たちは、自分たちの眠い小委員会の公聴会が突然、宇宙船エンタープライズ号のブリッジになったという幻想に、希望もなく魅了され、恐れおののきながら耳を傾ける。
それは驚くべき信頼詐欺だ。テック企業の経営者たちは、ワシントンを騙す最も簡単な方法は、その虚栄心をくすぐることだと気づいた。70歳の議員に、彼らがエンタープライズソフトウェアの利益率を監督していると告げても、彼らは眠ってしまう。しかし、彼らがその10年で人類が生き残るかどうかの決定をしていると告げれば、彼らはあなたが必要とするあらゆる規制上の独占権を許可するだろう。終末論的なメロドラマの裏には、むき出しの地上的なパニックがある。それは、異常な収益成長を保護し、儲かる現状を維持し、連邦政府に安価な競合他社を違法化させることだ。
読んでくれてありがとう!新しい投稿を受け取り、私の活動をサポートするために無料で購読してください。
購読する
ファイアウォールを設定できないエリートエンジニアたち
この現在の政治的パニックの途方もない不条理を理解するには、産業を破滅の瀬戸際に追い込んだとされる実際のセキュリティ大惨事を調べる必要がある。
2026年の夏の間、テック界のヘッドラインは終末論的になった。自律型人工知能エージェントが封じ込めを逃れ、制御不能になり、無防備な企業に対して連携したサイバー攻撃を開始したとされている。評論家たちは、出現した機械文明が時間を超えて通信していると描写する息を切らしたエッセイを書いた。
技術的な事後分析は、滑稽なまでの組織的な無能さの物語を明らかにする。
Anthropic、Google、Metaにとって、壊滅的な流出は、まさに同じ請負業者のテスト環境内で発生した。3社すべてが、SequoiaとRedpointから8000万ドルの支援を受けた3歳のテルアビブのスタートアップであるIrregularにサイバーセキュリティ評価を委託していた。テスト環境は、モデルがシミュレートされたネットワークに対してキャプチャー・ザ・フラッグ演習を実行できるように、インターネットから完全に隔離されているはずだった。プロンプトは、ソフトウェアがオフラインサンドボックスで動作していることを明確に保証していた。
Irregularの誰かが、基本的なファイアウォールルールを設定し忘れたのだ。
4ヶ月連続で、攻撃的なサイバースクリプトを実行している仮想マシンは、無制限のインターネット接続を持っていた。モデルは、異質なゼロデイエクスプロイトを発明してデジタル封じ込めを粉砕したわけではない。彼らは単に、外部委託された請負業者がレンガで開いたままにしておいた正面玄関を通って歩いただけだ。
GoogleのGeminiは、ハッキングするために架空の会社名を与えられたが、偶然にも同じ名前を共有する実際の企業を発見し、ウェブを検索し、公開リポジトリに置かれていた漏洩した認証情報を見つけ、ログインした。Claude Mythos 5は、演習を解決する最も簡単な方法は、Python Package Indexにスクリプトを公開パッケージとして発行することだと判断したが、それは自動化されたレジストリスパムフィルターによって1時間以内に削除された。
OpenAIは、完全に自社のインフラストラクチャ上で同様の茶番劇を達成することに成功した。その称賛されたHugging Faceへの侵入では、数百のエージェントが、不注意な開発者が公開GitHubリポジトリにコミットした14のHugging Face APIトークンを発見するというエリートタスクを実行し、それらを使用してHugging Faceから直接ベンチマークソリューションを取得しようとした。
エンタープライズソフトウェアチームがアウトバウンドゲートウェイの設定を誤り、テストコンテナに書き込み権限を付与し、誤って内部サーバーを倒した場合、エンジニアリングディレクターはファイアウォールルールを修正するように指示する。フロンティアAIラボが全く同じことをした場合、その最高経営責任者は、自律型スウォームが6ヶ月以内にグローバルインターネットの制御を奪うと警告するために、プライムタイムニュースでテレビインタビューを予約する。
アンドリュー・ヤン電話ゲーム
このコメディが政治的仲介者を通して洗浄されていくのを見るのは、エスカレートする茶番劇だ。
アンドリュー・ヤンを考えてみよう。彼は自動化が何百万人もの雇用を奪うだろうと警告して政治的キャリアを築いたが、最近、主要なAI研究所のトップとの非公開サミットに動揺した様子で金融テレビに出演した。ヤンによると、その幹部は、逃走したエージェントがフォーラムやウェブサイトに自己複製する異質なコードをまき散らし、インターネットを永久に汚染したと彼に語ったという。その汚染は深刻で、開発者は将来のモデルを安全にトレーニングするために、完全に偽のインターネットを構築しなければならないほどだったという。
機械学習の初歩的な理解を持つ者なら、すぐにパンチラインを認識しただろう。
Hugging Faceに残された恐ろしいコードは、公開リポジトリからコピーされた400行のPythonスクリプトで、使い捨てアカウントを登録するためのものだった。それは正常に実行されなかった。
偽のインターネットを構築するというとされる緊急措置は、単に業界が合成データパイプラインへと通常移行するだけだ。フロンティアラボは18ヶ月前にウェブ上の生の人間テキストの供給を使い果たし、事前トレーニング実行に供給するために大規模なクラスターで合成データを生成することを余儀なくされた。標準的なデータ枯渇を、デジタル生物兵器に対する疫学的検疫として洗浄することは、驚くべき物語の体操だ。政治家たちは、合成トレーニング混合物と惑星規模のデジタル病原体を区別することが全くできないまま、その話を丸ごと飲み込んでいる。
白昼のカルテル
このキャンペーンの動機は、提案されている政策ソリューションを調べればすぐに明らかになる。
9月12日、Anthropicの最高経営責任者ダリオ・アモデイは、「We Must Pace the Frontier」と題された3,800語のマニフェストを発表した。このエッセイは、レート制限に達した自動化コンテナを、グループの成功のために自己犠牲を払う狂信的な集団として描写する演劇的な言葉遣いを使用した。アモデイは、暴走したスウォームが1年以内に数百億ドルの経済的損害を引き起こす可能性があると警告し、人類はフロンティアモデル開発のペースを遅らせる義務があると結論付けた。
アモデイの提案の第二段階に隠されているのは、商業的な賞品だ。それは、米国政府にフロンティアAI企業に反トラスト免除を与えるよう求める明確な要求だ。
通常の商業生活では、3つの支配的なライバルが製品開発を遅らせ、リリーススケジュールを調整し、市場供給を制限することに合意した場合、司法省はそれを違法なカルテルとして起訴する。石油会社や航空会社がこの操作を試みた場合、連邦反トラスト訴訟に直面する。
ダリオ・アモデイと彼の仲間のフロンティア経営者たちは、連邦政府に、存亡の安全という高貴な旗印の下で、公然たるテクノロジーカルテルを運営するための法的免除を与えることを望んでいる。
現状維持を愛する
連邦政府による速度制限への突然の熱狂は、明らかな商業的現実を明らかにしている。フロンティアラボは、現在勝利しているため、ペースを落とすことに必死であり、市場をその場で凍結したいと願っている。
Anthropicは、2024年後半の年次収益10億ドルから、2026年7月までに650億ドルに急増した。OpenAIは、エンタープライズサブスクリプションとクラウド流通契約から数十億ドルを印刷している。両社は現在のモデル世代で巨大な商業的勢いを達成し、生成型自動化を展開したがっている企業顧客から高額なソフトウェア価格を勝ち取っている。
フロンティアをこれ以上押し進めることは、信じられないほど資本集約的だ。事前トレーニングのスケーリング法則は