AIが設計したスーパーウイルスで死ぬことはない

AIが設計したスーパーウイルスで死ぬことはない 経済学者が生物学について無難に語れると思っていることから、我々を救いたまえ Claus Wilke 2026年8月30日 1105024 共有 オピニオンライターで経済学者のノア・スミスが、AIが設計したスーパーウイルスに関する記事を発表した。ああ、まったく。かつて私はスミス氏を情報に基づいた意見を持つ人物だと考えていたが、自身の専門分野に近いトピックに関する彼の見解を読むと、その前提に疑問を抱かざるを得ない。心配はいらない。明日はインフレに関する彼の見解を読んで、うなずくだろう。ゲルマン失念は現実だ。 UnsplashのJei Leeによる写真 記事は、2029年に不満を持ったティーンエイジャーがAIに致死性のウイルスを設計させ、それを拡散して人類の90%を死に至らしめるという架空の物語で始まる。 この物語の直後に、スミス氏はこう書いている。「このシナリオが突飛であるという、半分でも説得力のある議論を私はまだ聞いたことがない。」プロのヒント：専門外のトピックについてそのような声明を書くときは、可能性は2つしかない。1. あなたは適切な人々と話していない。2. あなたは適切な人々と話しているが、彼らが何を言っているのか聞いていない。その点について：記事はペイウォールされている。最初の数段落しか読めない。コメントを投稿することもできない。私ができるのは、自分のブログに記事が何を言っているのかを推測しながら書くことだけだ。私がここで述べているすべての点が、スミス氏の記事で適切に対処され、強く反論されている可能性がある。もしそうなら、彼に敬意を表し、私は訂正されるだろう。 Genes, Minds, Machinesを読んでいただきありがとうございます！新しい投稿を受け取り、私の仕事をサポートするために無料で購読してください。 購読する 私は誰か？なぜ私の話を聞くべきか？まず、ノア・スミスとは異なり、私は実際に計算によってウイルスやその他の生物システムを設計したことがある。2また、私の日々の仕事は、タンパク質やペプチド設計のためのAIシステムの開発と評価に関わることだ。そのため、生物学における最先端のAIツールや、機能的な生物システムを設計・構築する際の課題について、いくつか知っていることがある。ウイルス学についても少し知っている。 生物システムの計算による設計は、想像を絶するほど難しい。このトピックに人生を捧げた専門家でさえ、試みがうまくいかないときに壁に頭をぶつけることが日常茶飯事だ。2026年の博士課程の学生は、最先端のAIソフトウェアを使用して、ある酵素を阻害したり、あるタンパク質をプルダウンしたりする単純なペプチド結合剤を設計しようと数ヶ月から数年を費やしているが、彼らの設計の大多数は失敗するか、発現しないか、毒性がある。3しかし、スミス氏の架空の世界では、生物学の特別な訓練を受けていない不満を持ったティーンエイジャーが、ペプチド結合剤の設計よりも数千倍複雑な問題を解決できるという。今日の状況と、スミス氏の物語に現実味を持たせるために必要とされる状況との間には、巨大な隔たりがある。そして、完璧なウイルスを設計できたとしても、それを組み立てて配布することは、それ自体が容易ではない作業だ。Temu.comから動作するウイルスを注文するだけでは済まない。Abi Olveraによるこの記事などを参照してほしい。 AIが設計した生物学的エージェントによって、いつか誰かが害を及ぼす可能性を否定するわけではない。しかし、規模を考慮する必要がある。不満を持ったティーンエイジャーは、肥料爆弾を手に入れて賑やかなショッピングモールを爆破することもできる。AIは必要ない。したがって、数百人から数千人が死亡する規模の損害は、影響を受ける個人にとっては壊滅的だが、存亡の危機ではない。問題は、はるかに大規模な攻撃が可能かどうかだ。数百万人が死亡するようなものだ。4私は、少なくとも今後数十年は、このことを心配する必要はないと確信している。5 誰もスーパーウイルスの作り方を知らない AIがウイルスを設計できるかどうか、それを構築するのがどれほど難しいか、そして最終的に無防備な犠牲者に配布するのがどれほど難しいかという問題はすべて脇に置こう。これらすべての問題が解決されたと仮定しよう。6さて、あなたはスーパーウイルス生成AIと、ウイルスを合成して武器化する秘密の研究所を手に入れた。ウイルスのどのような特性を望むだろうか？ 「まあ、当たり前だろう」あなたは言うだろう、「致死性が高いものがいい！」OK、どうぞ：エボラウイルス、ハンタウイルス、狂犬病ウイルス。すべて極めて致死的だ。それでも、私たちはそれらをそれほど心配していない。少なくとも、文明を終わらせるようなスーパーウイルスとは考えていない。なぜだろうか？ ハンタウイルスは人から人へは感染しない。7感染したネズミの糞を吸い込まなければ感染しない。同様に、狂犬病は人から人へは感染しない。主に、人々が感染性を持つようになると、彼らはあまりにも衰弱してあなたを噛む可能性が低くなるからだ。エボラは異なる。実際に非常に感染しやすいが、感染者の体液との接触が必要であり、直接の介護者でない限り、その接触は容易に避けられる。 「なるほど」あなたは言うだろう、「空気感染するものがいい！」それは良い。多くのウイルスは容易に広がるが、一般的にウイルスの広がりやすさと致死性の間にはトレードオフがある。ウイルスが容易に広がるためには、感染した患者は多くのウイルス粒子を放出する必要があり、これには高いウイルス量が必要だ。しかし、患者は高いウイルス量でありながら歩き回って機能できる必要がある。そうでなければ、ウイルスは広まらない。これは一般的に、ウイルスがあまり致死的ではないことを意味する。非常に良く広がるウイルスの例は、麻疹ウイルスだ。このウイルスは最大2時間空気中に浮遊できる。2時間前に麻疹患者が15分間滞在した部屋に入ると、病気にかかる可能性がある。しかし、麻疹は感染者の約1000人に1人しか殺さない。信じられないほど伝染しやすいが、それほど致死的ではない。それでも非常に悪い。後でまた触れる。 「わかった」あなたは言うだろう、「潜伏期間が長く、その間に感染させることができ、その後、感染が非常に悪化して患者を殺すものがいい。」OK、それはおそらく「スーパーウイルス」というラベルに値するだろう。8しかし、生物学的なメカニズムが何であるかはよくわからない。これをどうやって構築するのか？潜伏期間の長いウイルスは、通常、無症候期間中に感染性はない。宿主ゲノムに統合され、しばらく潜伏した後、再活性化する（例：水痘・帯状疱疹ウイルス、水ぼうそうや帯状疱疹の原因）。あるいは、神経系をゆっくりと通過する（例：狂犬病ウイルス）。私たちが探している特性にいくらか似ているウイルスはHIVだ。非常に長い潜伏期間。患者は明らかな症状を示さずに感染性を持つことができる。治療なしではほぼ100%致死的だ。しかし、容易には感染しない。私たちは一般的にこのトレードオフを目にする。体の特定の区画に長期間隠れているウイルスは、通常、容易には伝染しない。HIVに遠く及ばない類似の特性を持ち、呼吸器系ウイルスのように広がるウイルスについては、私は何も知らない。 一般的に、ウイルスの致死性と広がりやすさの間にはトレードオフがある。一般的なインフルエンザ（H3N2インフルエンザ）と鳥インフルエンザ（特にH5N1）を考えてみよう。H3N2インフルエンザは、上気道にある受容体を標的とするため、人から人へ容易に伝染する。対照的に、H5N1インフルエンザは、下気道にある受容体を標的とする。これにより、より重篤な疾患を引き起こすが、拡散は制限される。疫学者は、潜在的なH5N1パンデミックについて合理的な懸念を抱いているが、これまでのところトレードオフは維持されている。私たちは文明を終わらせるようなH5N1パンデミックを目にしていない。 AIが魔法のようにこれらの生物学の根本的なトレードオフを回避し、H3N2のような伝染性を持つH5N1インフルエンザのような致死性を持つウイルスを設計できると信じる十分な理由はない。このようなものを構築するために必要な基礎科学は行われていない。人々がAIが、広範な研究を行う前に、これらを独自に発見できると信じているとき、