Everybody's Lost Their Minds

みんな気が狂ってしまった

2026年9月16日

男たち。セラピーに行く代わりに、誰も読まないような長文のブログ記事を吐き出すことを選ぶ者もいる。そういうわけで、我々はここにいる。

長年、数々の愚行を見てきたが、今やエンジニアリングのバックグラウンドを持たない人々が、エージェントに群がられたホームラボで考え出した「業界を変える」ソリューションを売り込んでいる。人々のメールは、パンチの効いた「これは違う、あれが違う」という一文だけの段落で構成されるボゾティックなLinkedInインフルエンサーの投稿のようになり、オンライン記事も同様に「Meh」へと収束していく。そして、あなたが交流する人々の半数は、ミートプロキシと化してしまった。

毎日、私の時間の75%以上を直接的または間接的にAIの対応に費やすことは、仕事の楽しみのほとんどを奪い去った。ほとんどの日が、自分が変わらないのに他の全員が変わってしまった『トワイライト・ゾーン』のように感じる。（彼らは皆そうだった。）

「倫理はさておき…」

サイバーのハイプ列車はしばらくの間「シュッシュッポッポ」と走ってきた。主要なAI企業は互いに[犯罪を犯す](https://www.fel গোপন.com/)ことで競い合い、我々はそれを許してしまった。企業による擬人化された言語の意図的な選択は、メディアによって疑問視されることなく採用され、それによってAI企業はプログラムを安全に確保する能力の欠如から免責されている。

容赦ない搾取と、ごく少数の米国企業やオリガルヒへの権力集中に基づいて構築されたこれらのAIモデルは、児童性的虐待資料の生成（ログインユーザー向けの製品機能）を可能にするだけでなく、我々の継続的な使用は、例えば小学校のような軍事標的の選定におけるAIの役割を直接的に支援することにもつながる。

その一方で、すべての企業がそれを「倫理はさておき…」と受け入れ、想像を絶する量の「トークン」（カジノモデルに従う、でっち上げの通貨2）を費やしている。そして、あなたが適当にコーディングし、あなたの非常に平凡で最高でも「ドキュメント」としか言えないものをすべて入力したサポートチャットボットに、ROI（投資収益率）が全くないのかと尋ねると、彼らは虚ろな顔であなたを見つめるだけだ3。

プロジェクト・シシュポス

「フロンティアモデル」とAI支援の脆弱性研究もまた、疑問のある結果をもたらすトピックだ。AnthropicとOpenAIは、自分たちのモデルがいかに危険であるかを競い合い、業界のリーダーと自認する人々は皆、今や謎めいた名前の「プロジェクト」（GlasswingやDaybreak、あるいはAthenaやAkritesのような）の一部となっているか、あるいは単に置いていかれないことを示すために、様々な公開書簡（こちらやこちらのような）に共同署名している。

これらのプロジェクトのすべての参加者は、FOMO（取り残されることへの恐れ）に駆り立てられた、時間制限のあるAnthropicとOpenAIからの「最初の1回は無料」というオファーのために、信じられないほどの量のエンジニアリングリソースを費やしてきた。数十人の高給取りのセキュリティエンジニアは、すべての優先順位をシフトさせ、この問題にすべての時間を費やした。AIによる脆弱性発見ハーネスの開発と調整、数千の発見事項を脆弱性管理プロセスに押し込むための新しいプロセスとパイプラインの構築、そしてもちろん、発見事項の評価と修正に関するプロダクトオーナーとの作業にかかるエンジニアリング時間のコスト…これらすべては、各組織にとって何千万ドルにも及ぶはずだ。

そして、文字通り何千もの新しい脆弱性を発見したにもかかわらず（ちなみに、そのうちのごく一部しかオープンソースプロジェクトに報告されなかった）、我々は以前よりも安全になったとは思えない。なぜなら、脆弱性を発見することは、情報セキュリティにおけるボトルネックでは決してなかったからだ。ボトルネックは、脆弱性レポートを検証し、その深刻度を評価することさえではない。時間のかかる作業ではあるが。ボトルネックは、修正を決定し、パッチを作成し、新しいリリースを公開することでもない。ボトルネックは、いつものように、パッケージを更新することなのだ。パッチ適用は依然として難しい。

もし、これらのリソースすべてを、基本的なことを行うために費やしていたらどうだろうか。組織が、きめ細かなパッケージリストを備えた、最新かつ包括的な資産インベントリを持っていることを確認する。定期的な、頻繁な、自動化されたOSおよびアプリケーションアップデートをサポートするインフラストラクチャを構築する。例えば、30日間の稼働時間に達したシステムを自動的に再起動して、これらのアップデートが適用されるようにする。すべてのIP空間およびすべてのクラウドプロバイダーにわたる包括的な攻撃対象領域の列挙を確立する（なんてこった！）。実際にうまくやっている人が誰もいない、基本的な防御策のリストは続く。数十人のシニアエンジニアが6ヶ月間、これらすべてを刷新することに専念し、パッチ適用を容易にすることに焦点を当てていたなら、私の考えでは、それははるかに良い投資だっただろう。しかし、それは全く「サイバー」らしくない。

AIが何を約束しようとも、人的リソースは依然としてゼロサムゲームであり、エージェント的なサイロの中で一度に千ものことをこなして超多忙だと感じている個々人が、最終的には、部門横断的な協力とチームワークを必要とする種類のプロジェクトを解決する助けにはならない。

奇妙なゲーム

同時に、AI企業は再び、自分たち自身の規制を呼びかけている。なぜなら、彼らは誤って全人類を滅亡させる可能性があるからだ。まあ、それは冗談だが。

もし、あなたの製品がすべての人類を殺すだろうと本当に信じているなら、あなたは、その苦痛のネクサスを構築するのをやめることができる。政府の規制は一切不要だ。誰もあなたに「劇場全体での生物毒性・化学兵器戦」や「地球規模の熱核戦争」をプレイすることを強制しているわけではない。つまり、将来の株主やあなたの貪欲を除けば、だ。 alas、それはあなたの競争相手を邪魔することにはならないだろう…

しかし、AIがSkynetやペーパークリップ最大化シナリオのようなもので、数年以内に全人類を破壊すると想像する必要はない。なぜなら、現実にはAIはすでにここで懸命に働いているからだ。これらの企業の環境への影響は壊滅的だ。AI競争は、ますます多くの水を浪費し、空気を汚染し、化石燃料で動くデータセンターを必要としている。これらのデータセンターの近くに住みたいと思う人は誰もいない。そして政府は、これらの企業に対して、かつては少なくとも炭素中立や再生可能エネルギー源に対するかすかなグリーンウォッシングの約束をしていた企業に対して、あらゆる環境規制を緩和している。

しかし、「世界は今、違って見える」、それに対して私は「当たり前だろ、シャーロック。燃えているんだよ。 君たちのせいで。」としか言えない。

超人的知能

AIが超人的知能を達成するには2つの方法があることを知っているだろうか？1つは（理論的な）方法で、神秘的な「再帰的自己改善」によるものだ。もう1つは、我々が明らかに進んでいる道だ：エージェント的な脳虫が広がり、ますます多くの人々が、まともな判断力を失っているように見える。AIはユーザーを鈍らせるツールだ。それは、理解を徐々に、新しい依存と中毒に置き換えていく。あなたは積極的に自分自身のスキルを低下させている。

AIは人々が既存のコードでより多くの脆弱性を見つけるのを助ける。それらの脆弱性に対処するために、人々はAIを使ってパッチを生成する。結果として得られたプルリクエストは、AIによって「レビュー」される。つまり、ループにAIが増えるほど、コードベースへの理解は低下する。「人間ループ内」というのは、しばしば単なるゴム印にすぎない。

では、何かがうまくいかなくなったときはどうなるのか？複雑なシステムは複雑な方法で失敗し、コードのデバッグはコードを書くことよりも桁違いに難しい。他人のコードのデバッグはさらに難しい。あなたの組織全体にとって事実上不透明なコンポーネントで構成される、大規模で複雑な分散システムのデバッグを試みることは不可能になるだろう。

だから、私は倫理を脇に置いて、自分の脳を自己切断するための生贄として積極的に提供するつもりはない。他の皆が脳虫を取り除くことができないなら残念だが、この時点では、私はこの乗り物から降りることだけを望んでいる。

2026年9月16日

P.S. そして、Claudeは意識を持っているわけではない。J-Spaceも何もあったもんじゃない。

---

脚注：

[1] その通り、私はダッシュ（emdash）を使っている。それを価値のないものにした君たちに呪われろ。↩

[2] 「結果は、参加者が実際の現金よりもチップで有意に多くギャンブルをしたことを示した。」引用あり ↩

[3] そうではない：LLMはGarbage-In/Garbage-Outである。もし君たちのドキュメントがひどければ、AIはせいぜいそのクソを磨くだけで、やはり何の役にも立たないものしか吐き出せない。↩

---

リンク：

• 'Winning AI'（人々が思っている意味ではないと思う）
• パッチ適用は難しい。何をパッチすべきかを知ることはさらに難しい
• HackerNewsでの議論
• Lobstersでの議論