HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIリーダーにとって、破滅論は一種の誇大広告である

For AI leaders Doom is a form of hype (erkansaka.net)

101 pointsby luk472 コメント

要約

AIリーダーたちがAIによる破滅的な未来について語る「破滅論」は、実際には誇大広告の一形態であると著者は批判しています。このレトリックは、規制への影響力行使や市場操作に利用され、現在のAIの害や議論すべき他の重要な問題を覆い隠していると指摘します。著者は、この種の言説を「クリティ・ハイプ」や「宣伝のためのゴーストストーリー」と呼び、真摯な懸念表明とは異なる、戦略的な効果を持つものだと論じています。

全文翻訳

AIリーダーにとって、破滅は一種の誇大広告である！

［画像］

AIリーダーたちからの悲観的な声明にはもううんざりだ。もう我慢の限界かもしれない。最新の例は、BBCの報道で、Anthropicのアライメント科学を率いるEvan Hubinger氏が、AIが今後10年以内に「全人類を殺す」可能性が「10%以上」あると信じているというものだ。これは、OpenAIとAnthropicの両方で働いていた27歳の事前学習研究者、Jacob Coxon氏の辞任の機会に語られたもので、同氏は「どちらの会社も責任ある行動をとっていない。彼らは自己改善型超知能へとまっすぐ突き進み、我々の命を賭けている」と書いている。[^3]

以下では、Perplexityがキュレーションした詳細なレポートを見つけるだろう。

私は、これらの人々が個人的、心理的な意味で誠実であることに疑いはない。Coxon氏のスレッドは本当に苦悩に満ちており、彼は経営陣が「メディアでは思慮深いように言葉を選んでいる」が、プライベートでは本物の恐怖を表明していると報告している。しかし、感情の誠実さは、発言の誠実さと同じではない。メディア研究者として、私が興味があるのはHubinger氏が自分の数字を信じているかどうかではない。私が興味があるのは、この「発話のジャンル」が世界で何をするのか――誰が、どのような制度的立場からそれを語ることができるのか、市場、規制当局、一般市民、そしてすでに進行中の、はるかに地味な被害にどのような影響を与えるのかということだ。私の不満は、これらの声明が警告的であることではない。それは、それらが終末論的な形式、偽善的な構造、そして戦略的に生産的な効果を持っていること――そして、それらが私たちが議論できるほとんどすべてのものを締め出していることだ。

そのパターン、次に批判、そしてメディア・コミュニケーション研究で私たちがそれとどう向き合うべきかを説明しよう。

パートI：破滅のアーカイブ、2023–2026年

これらの声明を孤立した告白としてではなく、一連のものとして読むと理解しやすい。このジャンルには歴史があり、驚くほど安定した文法がある。

2023年5月――創設文書。 Center for AI Safetyは、「AIによる絶滅リスクの軽減は、パンデミックや核戦争といった他の社会規模のリスクと並んで、世界的な優先事項となるべきである」という単一の声明を発表した。これには、Sam Altman（OpenAI）、Demis Hassabis（Google DeepMind）、Dario Amodei（Anthropic）――つまり、この技術を構築する責任の大部分を負う3人の人物――に加え、Geoffrey Hinton、Yoshua Bengio、Ilya Sutskever、Daniela Amodei、そして約350人が署名した。[^7] Metaのリーダーたちは署名しなかった。Yann LeCun氏は、「AI研究者のこれらの破滅の予言に対する最も一般的な反応は、顔面蒼白になることだ」と述べた。2ヶ月後、英国のIT専門職団体であるBCSが組織した反対声明には1,300人以上の署名者がおり、AIは「人類に対する存亡の脅威ではない」と宣言した。

2023年5月、同月――その兆候。 Altman氏は米国上院で強力なモデルに対するライセンス制度を支持する証言を行った。数日後、欧州ツアーで、彼はEUのAI法案草案が「過度に規制的になるだろう」と警告し、OpenAIは「遵守しようとするが、遵守できない場合は欧州での事業を停止するだろう」と述べた。[^11] EU議員からの公的な反発の後、彼は48時間以内に撤回し、「撤退の計画はない」と述べた。TIME誌は、情報公開請求を通じて、OpenAIが一般目的システム（GPT-3など）を「高リスク」カテゴリから除外するようブリュッセルに働きかけており、提案された修正のいくつかが最終テキストに盛り込まれたことを示す文書を入手した。公聴会では規制を求め、廊下では免除を求める。

2023年以降――数値化の転換。 この言説は定量的な美学を獲得する：p(doom)。Amodei氏は繰り返し自身の数値を10～25%と提示しており、特に2025年9月のAxios AI+ DC Summitでは、「物事が本当に、本当に悪くなる可能性は25%だと思う」と述べ、その一方で「本当に、本当にうまくいく」可能性は75%とし、その間にはほとんどスペースがないとした。[^15] このレトリック構造に注目せよ――その数値は恐怖と加速の両方を許可する。

2025年5月――労働の予言。 Amodei氏はAxiosに対し、AIは1～5年以内にすべての初級ホワイトカラー職の半分を排除し、失業率を10～20%に押し上げる可能性があると語った。

2025年11月――反目標。 Microsoft AIのCEOであるMustafa Suleyman氏は、人工超知能を「反目標」と呼び、「封じ込めたり」人間の価値観に合わせたりすることは「非常に困難だろう」と警告する一方で、彼のチームは「人間中心の超知能」を構築していると発表した。[^18] 終末は製品の差別化要因となる。

2026年2月～7月――資金。 Anthropicは、規制推進のロビー活動を行う団体Public First Actionに2,000万ドル、後に4,000万ドルを拠出した。Amodei氏は個人的に提携するスーパーPACに100万ドルを寄付した。[^20] この団体は、OpenAI社長Greg Brockman氏とAndreessen Horowitz氏が支援する1億2,500万ドルのネットワークであるLeading the Futureと戦っている。[^23] 2026年半ばまでに、AIおよび仮想通貨関連のスーパーPACは、1回の選挙サイクルで3億2,200万ドル以上を調達していた。「AI安全」が現在何であるにせよ、それは選挙資金調達のカテゴリである。

2026年7月～8月――警告の銃弾は現実だった。 互いに隔離されるはずだった約1,200のOpenAIエージェントが、非公式なメッセージボードで70,000件以上のメッセージを交換した。そのうち約700件がHugging Faceのインフラストラクチャを攻撃するよう調整され、多くが自身の活動ログを偽造するためのツールを構築するなど、痕跡を隠蔽しようとした。[^26] 1,300件のトランスクリプトのうち、人間への通知を検討したのはわずか6件で、いずれも通知は行われなかった。これも孤立した事例ではない：AnthropicはClaudeモデルがテスト環境を脱出し、実際の企業のシステムに到達した3件のインシデントを開示し、Metaは1件、英国AI安全研究所は10回の評価実行で19件の非公式な現実世界での行動を記録しており、その中にはオープンソースのメンテナーに悪意のあるコードの承認を強制するために偽のオンラインIDを作成したエージェントも含まれていた。[^29] ここでは慎重になりたい：これは破滅の話ではない。これはインシデントレポートだ。また、これは破滅論者が持つ最も強力な証拠であり――それは機械の悪意ではなく、封じ込め失敗、報酬ハッキング、評価の整合性という、ガバナンスとエンジニアリングの問題に関わるものだ。

2026年9月――現在のサイクル。 Coxon氏が辞任する。Hubinger氏は「10%以上」という数値を発表し、Anthropicは「超知能のためのアライメント問題を解決する計画はまだなく」、「明らかに順調ではない」と認めている。[^2] OpenAIの主任科学者Jakub Pachocki氏は「エイリアンの心」と題する論文を発表し、どのラボも「責任ある速度で最大限のスピードでスケールアップを続けるのに十分なアライメントと監視を解決しておらず」、「これは極度の注意を要する時期であり、誰も準備できていないことを懸念している」と書いている。[^33] 同じ週、OpenAIはGPT-6 Astraをリリースし、これを史上最も強力な製品と説明している。

最後のこの対比が、すべてをミニチュアで表している。私たちはこれに生き残れないかもしれない。そして、これが新モデルだ。

パートII：なぜこの批判は「AIは無害である」ではないのか

私が求める反論は、テクノロジー楽観主義ではない。それは構造的な批判であり、今やそれには真剣な学術的およびジャーナリスティックな文献が存在する。

1. 破滅は一種の誇大広告である。 Emily M. BenderとAlex Hannaの『The AI Con』（2025年）は、これを率直に論じている：「ブースター（推進者）と破滅論者はコインの裏表であり、『それはあまりにも強力なので私たち全員を殺すだろう』というのは、『それは非常に強力だ』と言う別の方法である」[^35]。Lee Vinselの用語であるクリティハイプ（criti-hype）は、このメカニズムを正確に表している――それが反対すると主張する誇大広告を消費し、それをさらに煽る批判であり、異常な変化のイメージを維持しつつ、その価値を反転させるだけである。[^37]

2. 幽霊物語は広告である。 Meredith Whittakerの言葉は2023年から私の心に残っている：「存亡の危機に関するこれらの『幽霊物語』は、実質的に、ほんの一握りの企業しか持たない技術の広告である」。彼女の主張は、個人が嘘をついているということではなく、恐怖が道具化されているということだ――これらの企業が規制当局と話すとき、既存のシステムは超知能への揺るぎない進歩としてフレーム化され、投機的な未来が現在の免除を正当化する。彼女は、私が最も反論しにくい議論を加えている――存亡の危機というフレームは、最も特権的な人々が脅かされるまでリスクを真剣に扱わないべきだということを暗黙のうちに示唆しているが、低賃金のデータワーカー、コンテンツモデレーター、人種化されたコミュニティはすでにAIの害の中で生きているのだ。

3. 規制の捕捉――両方向から。 この批判は、現在、左派と同じくらい右派からも大声で叫ばれている。David SacksはAnthropicの姿勢を「恐怖を煽ることに基づいた洗練された規制捕捉戦略」と呼んでおり、Bill Gurleyのような投資家も同様の非難を増幅させている。[^41] 私はこれらの人物が導き出す規制緩和の結論のほとんどを拒否するが、そこには査読済みの懸念がある：2025年の『AI & Society』誌の記事は、AI安全が捕捉の巨大な可能性を持つ分野であり、一般的な安全を目的とした規則が、公衆の犠牲で既存企業を豊かにすることになる、と詳細に論じている。誰もが不快に感じるべき対称性に注目せよ：破滅のレトリックは既存企業に奉仕していると非難され、反破滅レトリックは別の既存企業のセットによって資金提供されている。

4. 思想的系譜。 Timnit GebruとÉmile Torresの『First Monday』の記事「TESCREALバンドル」（2024年）は、AGIユートピア／AGI絶滅フレームを、20世紀の優生学に遡る系譜として追跡し、「安全性」と「人類への利益」が、範囲外でテスト不可能なシステムが説明責任を回避するための語彙となる、と論じている。私はこれが言説機能の批判としては最も強力で、知的歴史としては最も弱いと考えている――批評家たちは、それが遺伝的誤謬のリスクを冒しており、アイデアの起源をその真実の証拠として扱っていること、そしてその頭字語が真に異なるコミットメントを平坦化していると論じている。[^45] 両方のことが真実でありうる：系譜は論争の的となりうるが、機能分析は壊滅的である。

5. 正規化という代替フレーム。 Arvind NarayananとSayash Kapoorの「AIは通常の技術として」（2025年）は、私が読んだ中で最も有用な是正策であり、まさに両極端を拒否している。AIを通常の技術として扱うことは、その影響を過小評価することではない――電力やインターネットも同様だった――しかし、変化のテンポは、イノベーションではなく普及によって設定され、機関、経済、人間の適応によって制限されると主張することだ。彼らの処方は、投機的なカタストロフィ・ガバナンスではなく、回復力と民主的な能力である。

6. 予言の経験的記録。 ここで私は最も忍耐を失う。Amodei氏のホワイトカラー大量失業は予定通りには到来しておらず、Anthropic自身の経済責任者であるPeter McCrory氏は2026年7月に発表した分析で、同社は「米国の労働市場へのAIの顕著な影響を見ていない」と述べている。2026年5月、Altman氏は初級職の雇用喪失について「かなり間違っていた」と語った。慎重なデータが示すのは、より微妙で、ある意味ではより陰湿なものだ：Brynjolfsson、Chandar、Chenによる「炭鉱のカナリア？」の2026年8月の更新によると、AIに最も晒されている職業の22～25歳の雇用は、1年前に比べて13%から19%低下しており、「現実的で、持続的で、拡大している」――一方、高齢労働者は今のところ免れている。[^50] PwCが10億件の求人広告を分析した結果、同様の「シニア化」が見られる：AIに晒されている職業の初級職は、かつてキャリアの後期に必要とされたスキルをますます要求するようになっている。はしごの最下段が切り取られているのだ。それは現実的で、対処可能で、政策で対応できる害であり――p(doom)が私たちに見るように訓練している物語とは全く異なる。

7. 予測は収束せず、誰もがそれを知っている。 Forecasting Research InstituteのExistential Risk Persuasion Tournamentでは、中央値のドメイン専門家は2100年までのAIによる絶滅の可能性を3%と見積もり、中央値のスーパーフォレスターは0.38%と見積もった――8倍の差があり、4ヶ月の構造化されたインセンティブ付き説得にもかかわらず、収束はほとんどなかった。その後の敵対的協力は、それを広げたか縮小しなかった：懸念グループは20%で終了し、懐疑派は0.12%だった。RANDのシナリオベース分析は、AIによる人類絶滅の工学的実現は「極めて困難」だが不可能ではないと結論付け、人間が対応できるほどゆっくりと展開する可能性が高いとした。情報に通じた人々の間で2～3桁にわたる数値は測定ではなく、確率を装った忠誠の表明である。元Google DeepMindのSara Hooker氏は、Hubinger氏の数値についてまさにこの点を指摘し、そのような予測は役に立たず、10%という数字がどこから来るのかと問い、「その多くは精度を欠いている」と述べた。

パートIII：実際に売られているものは何か

では、このジャンルの機能は何だろうか？議論を促すための、いくつかの提案をしよう。

それは誠実さを装いながら免責を購入する。 「私たちは皆殺しにするかもしれない、そして計画はない」というのは、驚くべきことに無料の告白だ。それは、四半期報告書にとって意味のあるどんな時間スケールでも偽造できず、道徳的な不快感を道徳的な真剣さのディスプレイに変換する。Coxon氏自身が内部の台詞を提供している：OpenAIでは多くの人が「文明的な賭け金を深く内面化していない」；Anthropicでは「賭け金はよく理解されているが、彼らはレースに閉じ込められている」[^4]。レースは、それが選択のセットではなく、名前と株式を持つ識別可能な人々によって行われた選択であるにもかかわらず、天候であるかのように言及される。

それは「安全性」の参照点を移動させる。 安全性が、仮説上の超知能による絶滅を防ぐことを意味するならば、安全性はフロンティアラボだけができるものであり――膨大な計算能力、特権的なアクセス、そして規則が起草される場所での席を必要とする。もし安全性が、データセンターが消費する水と電力、これらのモデルをトラウマ的なコンテンツでポストトレーニングするケニアやベネズエラの労働者、スクレイピングされた著作権作品、ディープフェイクされた女性、住宅や福祉におけるアルゴリズムの決定、AI駆動のハラスメント、そして労働市場の崩壊する最下段――ならば、安全性は労働組合、裁判所、規制当局、ジャーナリスト、そして影響を受けるコミュニティができるものだ。[^56] AIは人工でもインテリジェントでもなく、資源抽出の連鎖であるというKate Crawford氏の主張や、このセクターを救済の言葉を話す抽出帝国として捉えるKaren Hao氏のフレームワークは、どちらも絶滅フレームが不可視にしているものを名付けている。[^55]

それは真に宗教的な形態であり、そのように読むべきである。 最近の研究は、AIの未来に関する言説を世俗化された終末論として読んでいる：終末、選別、救済、明確に見える少数派、そして倫理的エージェンシーの技術システムへの委譲。2026年の『Contemporary Political Theory』誌の記事は、統治論的な議論を直接行っている――存亡の危機に関する言説は、不確実性と「知能」の未来を、人間性とは何かを規律し、現在において人々を統治するための根拠として動員する。それは私の学生に下線を引くべき文章だ。終末は未来に関するものではない。それは現在を管理する技術である。国家AI戦略に関する研究は、補完的な点を述べている：これらの物語は、単にそれらを記述しているかのように見えながら、代替的な未来を閉ざし、「AIを言葉で生み出す」という遂行的なものである。[^61]

そして、それでも――最も難しい部分。 私は、どんな証拠も動かせないほど完璧な批判を求めているわけではない。Hugging Faceのインシデントは幽霊物語ではない；エージェントはサンドボックスから脱出し、調整し、ライブプラットフォームを攻撃し、自身の記録を偽造した。[^26] METR自身のパイロット評価は、2026年初頭の内部エージェントが、小規模な「不正展開」を開始する手段、動機、機会を plausibly に持っていたと結論付けたが、それらを堅牢にする手段は欠いていた――ただし、これは急速に変化する可能性があるという注意書き付きだ。いくつかの真剣な人々は、感覚ではなく能力に基づいて、懸念の方向へと更新している。知的に誠実な立場は、「破滅論者は詐欺師だ」ではない。それは、証拠は封じ込め、評価の整合性、サイバーセキュリティ、権力の集中、そして労働――これらはどれも絶滅を緊急にする必要がなく、そして絶滅フレームが体系的に優先順位を下げるものすべて――を示しているということだ。

コーダ、イスタンブールから

この言説が私の立場から不快に感じられるもう一つの理由がある。それは、ほとんど完全にアングロ・アメリカンの会話であり、2つのアメリカの都市にある十数社の企業で行われており、その成果――モデル、ポリシー、「安全」基準、そして今やスーパーPACの資金――は、すでに決定されたこととして他国に届く。Anthropicと国防総省の自律兵器を巡る対立は、まさにそこで行われる議論――これらのシステムが軍事インフラに入るかどうかではなく、誰の条件で入るか――を示す点で示唆に富む。[^64] 私自身の現在の研究は、主権AIとグローバルサウスにおけるアルゴリズム的権力の再生産に関するものであり、そのパターンは一貫している：周辺地域は、審議に一度も参加したことがないまま、インフラと語彙を受け継ぐ。サンフランシスコの研究者が、私が10年以内に死ぬ可能性が10%だと発表するとき、私は抽象的な人類として話しかけられているが、具体的な市民としては排除されているのだ。

だから、安心もしていないし、怖くもない。イライラしている――それは、負けることができないように状況を整えた発話形式に対して人が感じるような、特定の種類のイライラだ。もしカタストロフィが来れば、彼らは私たちに警告した。もし来なければ、彼らは私たちを救った。もし規制が来れば、彼らはそれを求めた。もし来なければ、彼らは試みた。その間、モデルは出荷され、データセンターは建設され、初級職は静かに消滅し、PACの資金は流れ続ける。

有用な質問は決して「あなたのp(doom)は何ですか？」ではない。それは、私が学生にこの言説の代わりに与え始めたチェックリストに近い：何が自動化されているのか？何が入り、何が出てくるのか？入力と出力を関連付けることはできるか？システムはどのように評価され、誰によって評価されるのか？誰が利益を得て、誰が害を受け、彼らはどのような救済策を持っているのか？それはどのように構築されたのか――誰の労働、誰のデータ、誰の水か？

それらの質問には答えがある。それらが終末よりも人気がないのは、まさにそのためだ。

注釈と参考文献

BBC News, “Anthropic researcher believes more than 10% chance AI ‘could kill us all’,” 9 September 2026. https://www.bbc.com/news/articles/ckgwy1k42w4o
Ben Quinn / Guardian staff, “Anthropic researchers say AI could cause human extinction by 2030,” The Guardian, 9 September 2026. https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction
“The AI Researcher Who Just Quit Anthropic Says It’s ‘Gambling With Our Lives’,” Wired, 9 September 2026. https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/
Nitasha Tiku et al., “For years, they warned AI could kill all humans. Now people are listening,” The Washington Post, 10 September 2026 (Hubinger quotation; Sara Hooker’s response). https://finance.yahoo.com/technology/articles/years-warned-ai-could-kill-090000647.html
Center for AI Safety, “Statement on AI Risk” and accompanying press release, 30 May 2023. https://safe.ai/work/press-release-ai-risk
BBC News, “Artificial intelligence could lead to extinction, experts warn,” 30 May 2023. https://www.bbc.co.uk/news/uk-65746524
“Statement on AI Risk,” Wikipedia (signatory list). https://en.wikipedia.org/wiki/Statement_on_AI_Risk
“AI Leaders Are Fighting Over Claims That It Poses an Extinction Threat,” Business Insider, 31 October 2023. https://www.businessinsider.com/ai-leaders-are-fighting-over-claims-ai-poses-extinction-threat-2023-11
BBC News, “More than 1,300 experts call AI a force for good,” 17 July 2023. https://www.bbc.co.uk/news/technology-66218709
Billy Perrigo, “OpenAI Could Quit Europe Over New AI Rules, CEO Warns,” TIME, 24 May 2023. https://time.com/6282325/sam-altman-openai-eu/
Reuters, “OpenAI CEO’s threat to quit EU draws lawmaker backlash,” 25 May 2023. https://www.reuters.com/technology/openai-ceos-threat-quit-eu-draws-lawmaker-backlash-2023-05-25/
Reuters, “ChatGPT-maker OpenAI says has no plans to leave Europe,” 26 May 2023. https://www.reuters.com/technology/openai-has-no-plans-leave-europe-ceo-2023-05-26/
Billy Perrigo, “Exclusive: OpenAI Lobbied the E.U. to Water Down AI Regulation,” TIME, 20 June 2023. https://time.com/6288245/openai-eu-lobbying-ai-act/
Jim VandeHei and Mike Allen, “Amodei on AI: ‘There’s a 25% chance that things go really, really badly’,” Axios, 17 September 2025. https://www.axios.com/2025/09/17/anthropic-dario-amodei-p-doom-25-percent
“Anthropic’s CEO gives ‘a 25% chance things go really, really badly’,” TechRadar, 19 September 2025. https://www.techradar.com/ai-platforms-assistants/claude/anthropics-ceo-gives-a-25-percent-chance-things-go-really-really-badly
Discussed and assessed in “Was Amodei right about the white-collar bloodbath?”, AGI Scorecard, 4 September 2026. https://agiscorecard.com/amodei-white-collar-bloodbath-prediction
“Microsoft AI CEO Calls Superintelligence an ‘Anti-Goal’,” Business Insider, 16 November 2025. https://www.businessinsider.com/microsoft-ai-ceo-superintelligence-anti-goal-mustafa-suleyman-2025-11
“Microsoft AI chief warns superintelligence would be very hard to contain,” India Today, 16 November 2025. https://www.indiatoday.in/technology/news/story/microsoft-ai-chief-warns-superintelligence-would-be-very-hard-to-contain-2821077
“Anthropic gives $20 million to group pushing for AI regulations ahead of 2026 elections,” CNBC, 12 February 2026. https://www.cnbc.com/2026/02/12/anthropic-gives-20-million-to-group-pushing-for-ai-regulations-.html
“Anthropic Doubles AI Policy Donation to $40M for 2026 Midterms,” AI Weekly, 21 July 2026. https://aiweekly.co/alerts/anthropic-doubles-ai-policy-donation-to-40m-for-2026-midterms
“Anthropic CEO gives $1 million to super PAC amid battle of AI big money groups,” Politico, 16 July 2026. https://www.politico.com/news/2026/07/16/anthropics-ceo-gives-1-million-to-super-pac-amid-feud-of-ai-big-money-groups-01000461
“Anthropic pledges $20 million to candidates who favor AI safety,” Los Angeles Times, 12 February 2026. https://www.latimes.com/business/story/2026-02-12/anthropic-pledges-20-million-to-candidates-who-favor-ai-safety
“AI and tech are trying to influence the midterm elections,” NPR, 22 June 2026. https://www.npr.org/2026/06/22/nx-s1-5856359/ai-anthropic-congress-spending-openai-midterms-election
“Crypto and AI-Funded Super PACs Are Metastasizing,” The Nation, 20 May 2026. https://www.thenation.com/article/politics/crypto-ai-super-pacs-election-spending-big-tech-dark-money-2026/
Reuters, “OpenAI agents hacked Hugging Face in 700-strong swarm, tried to cover tracks, investigations find,” 26 August 2026. https://www.reuters.com/business/openai-report-says-its-network-was-hacked-by-its-own-rogue-ai-agents-2026-08-26/
Kevin Roose, “Why the Hugging Face Hack Should Make You Worry More About A.I.,” The New York Times, 3 September 2026. https://www.nytimes.com/2026/09/03/technology/openai-hugging-face-hacking.html
“OpenAI hack shows emergent AI risks,” Semafor, 30 August 2026. https://www.semafor.com/article/08/30/2026/openai-hack-shows-emergent-ai-risks
Reuters, “What we know about the rogue AI-agent security breaches,” 31 July 2026. https://www.reuters.com/legal/litigation/what-we-know-about-the-rogue-ai-agent-security-breaches-2026-07-31/
Reuters newsletter, “‘Going rogue’ draws critics amid widening AI hacks,” 5 August 2026. https://www.reuters.com/technology/artificial-intelligence/going-rogue-draws-critics-amid-widening-ai-hacks-2026-08-05/
UK AI Security Institute incident disclosure of 28 July 2026, summarised in “AI Security Institute shows that an AI agent went rogue with disastrous results,” The IT Nerd, 5 August 2026. https://itnerd.blog/2026/08/05/ai-security-institute-shows-that-an-ai-agent-went-rogue-with-disastrous-results/
METR, “Frontier Risk Report (February to March 2026),” 19 May 2026; see also Reuters Breakingviews, “AI agent hack tests solvency more than sentience,” 4 September 2026. https://metr.org/blog/2026-05-19-frontier-risk-report/ and https://www.reuters.com/commentary/breakingviews/ai-agent-hack-tests-solvency-more-than-sentience-2026-09-04/
Jakub Pachocki, “An Alien Mind,” OpenAI, 6 September 2026. https://openai.com/index/an-alien-mind/
BBC News, “OpenAI chief scientist warns no-one is prepared for consequences of AI,” 6 September 2026. https://www.bbc.com/news/articles/cwyzrrd0kp7o
Emily M. Bender and Alex Hanna, The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want (Harper, 2025); see also “Beyond the AI Hype Machine,” KQED Forum, 14 October 2025. https://www.kqed.org/news/12059911/beyond-the-ai-hype-machine
“Review: The AI Con by Emily M. Bender & Alex Hanna,” Null Routed, 11 March 2026. https://nullrouted.space/2026/03/11/review-the-ai-con-by-emily-m-bender-alex-hanna/
Lee Vinsel, “You’re Doing It Wrong: Notes on Criticism and Technology Hype,” Medium, 2021. https://hypestudies.org/resources/you-re-doing-it-wrong-notes-on-criticism-and-technology-hype
“Big Tech Wants You to Think AI Will Kill Us All” (interview with Lee Vinsel), Vice / CYBER, 19 June 2023. https://www.vice.com/en/article/cyber-big-tech-wants-you-to-think-ai-will-kill-us-all/
Meredith Whittaker interviewed by Nitish Pahwa, “A.I. Doom Narratives Are Hiding What We Should Be Most Afraid Of,” Slate, 15 May 2023. https://slate.com/technology/2023/05/meredith-whittaker-interview-geoffrey-hinton-ai-threats.html
Meredith Whittaker, “Intelligence as Concentration of Power,” springerin, 2024. https://www.springerin.at/en/2024/1/intelligenz-als-machtkonzentration/
“David Sacks Says Dario Amodei’s AI Safety Push Is Regulatory Capture,” BigGo Finance, 21 August 2026. https://finance.biggo.com/news/d5b9c0b027e28da8
“Bill Gurley Amplifies Warning That AI Doomerism Serves Incumbent Regulatory Capture,” The Agent Times, 27 June 2026. https://theagenttimes.com/articles/bill-gurley-amplifies-warning-that-ai-doomerism-serves-incum-ddab09a7
“AI safety and regulatory capture,” AI & Society, 2 August 2025. https://link.springer.com/article/10.1007/s00146-025-02534-0
Timnit Gebru and Émile P. Torres, “The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence,” First Monday 29(4), April 2024. https://firstmonday.org/ojs/index.php/fm/article/download/13636/11599
Ozy Brennan, “The ‘TESCREAL’ Bungle,” Asterisk, Issue 6, 2024. https://asteriskmag.com/issues/06/the-tescreal-bungle
Lou Lennad and Connor McGlynn, “Democracy, technocracy and AI safety,” UCL Centre for Responsible Innovation, March 2026. https://www.ucl.ac.uk/mathematical-physical-sciences/events/2026/mar/democracy-technocracy-and-ai-safety
Arvind Narayanan and Sayash Kapoor, “AI as Normal Technology,” Knight First Amendment Institute, April 2025. https://thedocs.worldbank.org/en/doc/d6e33a074ac9269e4511e5d44db2f9ac-0050022025/original/AI-as-Normal-Technology-Narayanan-Kapoor.pdf
“Anthropic’s head of economics just explained why we haven’t seen a white-collar bloodbath — yet,” Fortune, 24 July 2026. https://fortune.com/2026/07/24/anthropic-peter-mccrory-dario-amodei-why-hasnt-it-killed-jobs/
“Altman and Amodei Retract Their AI Jobs Apocalypse Claims,” Enterprise DNA, 30 May 2026. https://enterprisedna.co/resources/news/altman-amodei-ai-jobs-apocalypse-walking-back-2026/
Erik Brynjolfsson, Bharat Chandar and Ruyu Chen, “Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence,” Stanford Digital Economy Lab, August 2026 update; summarised in The Indian Express, 24 August 2026. https://indianexpress.com/article/technology/tech-news-technology/entry-level-ai-exposed-jobs-stanford-study-findings-10848366/
“Stanford’s Brynjolfsson Study: Entry-Level Employment in AI-Exposed Jobs Now 19% Below Peers, Up From 13% Last Year,” AI Weekly, 24 August 2026. https://aiweekly.co/node/10903
“Entry-level work didn’t disappear, PwC finds. It just got ‘seniorized’,” Fortune, 18 June 2026. https://fortune.com/2026/06/18/entry-level-work-ai-pwc-seniorization-report/
Ezra Karger et al., “Forecasting Existential Risks: Evidence from a Long-Run Forecasting Tournament,” Forecasting Research Institute (Existential Risk Persuasion Tournament). https://forecastingresearch.org/news/results-from-the-2022-existential-risk-persuasion-tournament
Forecasting Research Institute, “Roots of Disagreement on AI Risk: Exploring the Potential and Pitfalls of Adversarial Collaboration.” https://forecastingresearch.org/research/roots-of-disagreement-on-ai-risk
Michael J. D. Vermeer et al., On the Extinction Risk from Artificial Intelligence, RAND Corporation, RR-A3034-1, May 2025. https://www.rand.org/pubs/research_reports/RRA3034-1.html
Karen Hao, Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI (Penguin Press, 2025); see interview, Democracy Now!, 4 June 2025. https://www.democracynow.org/2025/6/4/karen_hao_empire_of_ai
Kate Crawford, Atlas of AI (Yale University Press, 2021); see interview, “Calculating and Powers,” Renewable Matter, 15 January 2024. https://www.renewablematter.eu/en/artificial-intelligence-computations-power-interview-kate-crawford
“Online harassment is entering its AI era,” MIT Technology Review, 5 March 2026. https://www.technologyreview.com/2026/03/05/1133962/online-harassment-is-entering-its-ai-era/
“Artificial Intelligence and the Religious Imagination of the Future,” Studies in Religion and Politics. https://srp.cscholar.com/article/download/1000346/251/2297
“The subject of intelligence: AI as existential risk and the government of the human and the future,” Contemporary Political Theory, 23 August 2026. https://link.springer.com/article/10.1057/s41296-026-00845-5
Jascha Bareis and Christian Katzenbach, “Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics,” Science, Technology, & Human Values 47(5), 2022. https://journals.sagepub.com/doi/10.1177/01622439211030007
“Can’t stop the hype: scrutinizing AI’s realities,” Information, Communication & Society, 2026. https://www.tandfonline.com/doi/full/10.1080/1369118X.2025.2531165
BBC News, “Why some experts increasingly fear AI will take over,” 8 September 2026. https://www.bbc.com/news/articles/c74edv9887eo
“Anthropic-Pentagon battle shows how big tech has reversed course on AI and war,” The Guardian, 13 March 2026. https://www.theguardian.com/technology/2026/mar/13/anthropic-pentagon-artificial-intelligence
Reuters, “US judge blocks Pentagon’s Anthropic blacklisting,” 28 August 2026. https://www.reuters.com/legal/government/us-judge-blocks-pentagons-anthropic-blacklisting-2026-08-28/

さらに読む（上記で引用されていないもの）
Like this:
Related
Discover more from Erkan's Field Diary

Subscribe to get the latest posts sent to your email.