AIが設計したスーパーウイルスで死ぬことはない
I'm sorry, you're not going to die from an AI-engineered supervirus (blog.genesmindsmachines.com)
要約
この記事は、AIが容易に文明を終わらせるようなスーパーウイルスを設計できるという考えに異議を唱えています。著者は、生物学的な設計の複雑さ、ウイルスの伝染性と致死性の間のトレードオフ、そして現実的な脅威の規模について、専門的な見地から解説しています。AIがこれらの根本的な生物学的制約を覆すことは、少なくとも数十年は現実的ではないと結論付けています。
全文翻訳
AIが設計したスーパーウイルスで死ぬことはない、残念ながら
オピニオンライターであり経済学者のノア・スミスが、AI設計のスーパーウイルスに関する記事を公開しました。彼の見解を読むと、かつて彼を情報通な人物だと考えていた私の前提に疑問符がつきます。まあ、心配はいりません。明日はインフレに関する彼の見解を読んで、同意することになるでしょう。ゲルマン失念効果は現実です。
記事は、2029年のある不満を持ったティーンエイジャーがAIに致死性のウイルスを設計させ、それを拡散させて人類の90%を死に至らしめるという架空の物語から始まります。
この物語の直後、スミスは「このシナリオが非現実的であるという、まともな反論を私はまだ聞いたことがない」と書いています。ヒント：専門外のトピックについてそのような発言をするとき、可能性は2つしかありません。1. あなたは適切な人々と話していない。2. あなたは適切な人々と話しているが、彼らの言っていることに耳を傾けていない。その点について：この記事はペイウォールされています。最初の数段落しか読めません。コメントを投稿することもできません。私にできることは、この記事が何を言っているのかを推測しながら、自分のブログに書くことだけです。私がここで述べているすべての点が、スミスの記事で適切に扱われ、強く反論されている可能性があります。もしそうであれば、彼の功績を称え、私は訂正を受け入れます。
私は誰か？ なぜ私の話を聞くべきなのか？ まず、ノア・スミスとは異なり、私は実際に計算論的にウイルスやその他の生物システムを設計したことがあります。また、私の日々の仕事は、タンパク質やペプチド設計のためのAIシステムの開発と評価に関わることです。ですから、生物学における最先端のAIツールや、機能的な生物システムの設計と構築の課題について、多少の知識があります。ウイルス学についても少し知っています。
生物システムの計算論的設計は、想像を絶するほど困難です。この分野に人生を捧げた専門家でさえ、試みがうまくいかないときに壁にぶつかることが日常茶飯事です。2026年の博士課程の学生は、最先端のAIソフトウェアを使用して、酵素を阻害したりタンパク質を捕捉したりする単純なペプチド結合剤の設計に数ヶ月から数年を費やしていますが、彼らの設計の大部分は失敗するか、発現しないか、あるいは毒性があります。しかし、スミスの架空の世界では、生物学の特別な訓練を受けていない不満を持ったティーンエイジャーが、ペプチド結合剤の設計よりも数千倍複雑な問題を解決できるのです。今日の状況と、スミスの物語に現実味を持たせるために必要とされるレベルとの間には、途方もない隔たりがあります。そして、たとえ完璧なウイルスを設計できたとしても、それを組み立てて配布することは、それ自体が簡単な作業ではありません。Temu.comで動作するウイルスを注文するようなものではありません。Abi Olveraによるこの記事を参照してください。
AIが設計した生物学的エージェントによって誰かが害を及ぼす可能性を否定しているわけではありません。しかし、規模を考慮する必要があります。不満を持ったティーンエイジャーは、肥料爆弾を手に入れて賑やかなショッピングモールを爆破することもできます。AIは必要ありません。したがって、数百人から数千人が死亡する規模の損害は、影響を受ける個人にとっては壊滅的ですが、存亡に関わる脅威ではありません。問題は、はるかに大規模な攻撃が可能かどうかです。数百万人が死亡するような攻撃です。私は、少なくとも今後数十年間は、このことを心配する必要はないと確信しています。
スーパーウイルスを構築する方法を知っている人はいない
AIがウイルスを設計できるかどうか、それを構築するのがどれほど難しいか、そして最終的に無防備な犠牲者に配布するのがどれほど難しいかというすべての問題を脇に置きましょう。これらの問題はすべて解決されたと仮定します。あなたは、スーパーウイルス生成AIと、ウイルスを合成して兵器化する不正な研究所を手に入れたとします。ウイルスのどのような特性を望みますか？
「まあ、当たり前だろう」と言うかもしれません。「致死性であってほしい！」はい、どうぞ：エボラウイルス、ハンタウイルス、狂犬病ウイルス。すべて非常に致死的です。それにもかかわらず、私たちはそれらをそれほど心配していません。少なくとも、文明を終わらせるようなスーパーウイルスとは考えていません。なぜでしょうか？
ハンタウイルスはヒトからヒトへは感染しません。感染したネズミの糞を吸い込まなければ、感染しません。同様に、狂犬病はヒトからヒトへは感染しません。主に、感染者が感染力を持つようになると、あまりにも衰弱してしまうため、噛む可能性が低くなるからです。エボラは異なりますが、感染者の体液との接触が必要であり、直接の介護者でない限り、その接触は容易に避けられます。
「わかった」と言うかもしれません。「空気感染してほしい！」それは結構ですが、ウイルスが容易に広がる場合、その広がりやすさと致死性の間には一般的にトレードオフがあります。ウイルスが容易に広がるためには、感染者は多くのウイルス粒子を排出しなければならず、これには高いウイルス量が必要です。しかし、患者は高いウイルス量を抱えながら歩き回って活動できる必要があります。そうでなければ、ウイルスは広がりません。これは一般的に、ウイルスがあまり致死的ではないことを意味します。非常に良く広がるウイルスの例は、麻疹ウイルスです。このウイルスは最大2時間空気中に浮遊できます。2時間前に麻疹患者が15分間いた部屋に入ると、病気になる可能性があります。しかし、麻疹は感染者の約1000人に1人しか殺しません。信じられないほど伝染しやすいですが、それほど致死的ではありません。それは本当に悪いですが。後でまた触れます。
「わかった」と言うかもしれません。「潜伏期間が長く、その間に感染させることができ、その後、感染が非常に悪化して患者を殺してほしい。」なるほど、そのようなものなら「スーパーウイルス」というラベルに値するでしょう。しかし、生物学的なメカニズムは何でしょうか？ どうやってこれを構築するのですか？ 長い潜伏期間を持つウイルスは、通常、無症状期間中に感染力はありません。宿主ゲノムに統合され、しばらく潜伏した後（例：水痘・帯状疱疹ウイルス、水ぼうそうや帯状疱疹の原因）、再活性化することがあります。あるいは、神経系をゆっくりと通過します（例：狂犬病ウイルス）。私たちが探している特性にいくらか似ているウイルスはHIVです。非常に長い潜伏期間。患者は明らかな症状を示さずに感染力を持つことがあります。治療なしではほぼ100%致死的です。しかし、容易には感染しません。このトレードオフは一般的に見られます。体の特定の区画に長期間隠れているウイルスは、通常、容易には感染しません。HIVと類似した特性を持つウイルスで、呼吸器ウイルスのように広がるものは、私は知りません。
一般的に、ウイルスの致死性と広がりやすさの間にはトレードオフがあります。一般的なインフルエンザ（H3N2）と鳥インフルエンザ（特にH5N1）を考えてみましょう。H3N2インフルエンザは、上気道にある受容体を標的とするため、ヒトからヒトへ容易に感染します。対照的に、H5N1インフルエンザは、下肺にある受容体を標的とします。これにより、より重篤な疾患を引き起こしますが、感染拡大は制限されます。疫学者は、潜在的なH5N1パンデミックについて合理的な懸念を持っていますが、これまでのところトレードオフは続いています。文明を終わらせるようなH5N1パンデミックは発生していません。
AIが魔法のように生物学のこれらの基本的なトレードオフを回避し、H3N2のような感染力を持つH5N1インフルエンザのような致死性を持つウイルスを設計できると信じる理由は全くありません。そのようなものを構築するために必要な基礎科学は行われていません。人々が、広範で高価な基礎科学実験を実行することなく、AIがこれを独自に発見できると信じるとき、彼らは科学の領域を離れ、宗教としか言いようのない領域に入っています。彼らは、証拠や因果関係の論理に裏付けられていない強い信念を持っています。
最も被害をもたらすウイルスはあなたが思っているものではない
先ほど述べたように、静かに集団に広がり、その後スイッチが切り替わってすべての人を殺すウイルスはSFの世界の話です。それは存在せず、決して存在しません。そして、存在するウイルスの中で、最も恐ろしく見えるものが、必ずしも最も被害をもたらすものではありません。存在する可能性のあるウイルスであれ、実際に存在するウイルスであれ、アウトブレイクが人間の行動にどのように影響し、相互作用するかを考慮する必要があります。
軽度から非常に致死的なウイルスのスペクトルを考えてみましょう。一方の端には、毎年数百万人が感染し、容易に広がる一般的な風邪のようなものがあります。重篤な病気を引き起こすことはめったにないため、人々はほとんど無視して通常の生活を送っています。一般的な風邪による罹患率と死亡率の総被害額は、感染が致死的になることはめったにないため、それほど大きくありません。スペクトルのもう一方の端には、致死率が90%に達するエボラのようなものがあります。エボラは恐ろしいウイルスです。それは殺人者です。しかし、エボラによって殺された人の総数もそれほど多くありません。エボラに感染することは一般的に死刑宣告であり、そのため人々はそれを真剣に受け止め、感染拡大を避けるために最善を尽くします。エボラが世界的なパンデミックになることは決してありません。エボラの蔓延が続けば、人々は単純に孤立し、世界との交流を停止し、やり過ごすでしょう。最も被害をもたらすウイルスは、致死性のスペクトルのどちらの端にも見つからず、中間に存在します。
パンデミックウイルスが最大の死亡者数をもたらすための致死性の「ゴールドilocksゾーン」があり、それはあなたが思うよりもはるかに低い致死レベルです。実際、COVIDは世界的な罹患率と死亡率をもたらすウイルスという点で、理想に近いと私は考えています。それは十分に重篤な感染症を引き起こし、世界中で数百万人が死亡しましたが、その感染症はしばしば十分に軽度であったため、人々はウイルスを無視して問題ではないと装うことができ、さらなるウイルスの拡散に寄与しました。注目すべきは、COVIDには無症候性感染という特性もあり、一部の人々は特に気分が悪くも症状も示さずにウイルスを拡散しました。それはパンデミックスーパーウイルスとしてほぼ完璧でした。
したがって、AIが設計したスーパーウイルスを心配しているなら、エボラではなくCOVIDを考えてください。そして、もしあなたが少しでも心配が和らいだなら、私の言いたいことがわかるかもしれません。確かにCOVIDはひどかった。しかし、それは文明を終わらせませんでした。私たちはまだここにいます。少なくとも生き残った者たちは。もし誰かが実際にAIでウイルスを設計したとしても、私はそれがほぼ不可能だと主張しますが、COVIDがもたらした以上の損害を与えることができるとは思いません。
自然からのリスクは依然としてより大きい
AIが殺人ウイルスを設計するというこうした話について本当に気になるのは、それが純粋な恐怖を煽るものであり、さらに重要なのは、それが重要なことから注意をそらしていることです。私たちの周りには致命的なウイルスがたくさんあり、ウイルスは日常的に動物からヒトに飛び移り、深刻なアウトブレイクを引き起こしています。これは現実的で、記録されたリスクです。これが私たちが心配すべきリスクです。これが私たちが準備すべきリスクです。しかし、代わりに、私たちは架空のAI設計ウイルスを心配し、私たちの目の前にある現実のウイルスを無視しています。
麻疹に戻りましょう。それはひどいです。本当にひどいです。もし誰かがスーパーウイルスを設計するという目標を掲げ、麻疹のようなものを生み出したとしたら、おそらく成功と呼ぶでしょう。麻疹は信じられないほど伝染しやすいです。平均して、感染者一人あたり10人以上に感染させます。麻疹の症例の約10〜20%が入院に至り、約1000人に1人が死亡します。そして、麻疹を生き延びたとしても、永続的な視力喪失、聴力喪失、脳損傷、知的障害、または免疫システムの破壊を経験する可能性があります。もしあなたが本当に不運であれば、麻疹感染から10〜20年後に亜急性硬化性全脳炎を発症し、それは脳をゆっくりとマッシュに変え、最終的にあなたを殺す恐ろしい進行性の脳疾患です。
ここで、私が時々心配する麻疹に関する実際のリスクがあります。もし麻疹ウイルスが、既存のワクチンがもはや機能しなくなるような一連の免疫回避変異を経験したらどうなるでしょうか？ もしこれが起こったとしたら、その結果は恐ろしいものになるでしょう。新しいワクチンを開発して展開する前に、即座に世界的な麻疹の流行が発生するでしょう。これが起こる可能性はどれくらいでしょうか？ 情報筋によると、その可能性は低いとのことです。しかし、現実的に言えば、たとえ可能性が低くても、それは不満を持ったティーンエイジャーがAIでスーパーウイルスを設計する可能性よりも高いでしょう。ですから、考えるべきことです。
一般的に、社会は現在、現実の壊滅的な被害をもたらす現実のウイルスに対して、あまり懸念を抱いていないように思えます。コンゴでは大規模なエボラ出血熱のアウトブレイクが発生しています。誰も気にしません。米国では麻疹が急増しています。誰も気にしません。サブサハラアフリカではHIVが蔓延しています。誰も気にしません。そして、もちろん、COVIDを気にする人はもういません。だから、架空のAI生成スーパーウイルスについてのあなたの懸念は結構です。
致命的なウイルスから私たちを守るものは、良い公衆衛生の実践と基礎研究です。新たな病原体を早期に発見するための継続的な監視。既知の病原体に対する一貫したワクチン接種により、それらを抑制します。迅速なワクチン開発と新規抗ウイルス薬の研究。屋内空気質と空気ろ過の改善への投資。一貫した手洗い。しかし、これらは退屈であり、Substackの購読を売ることはできません。正直に言いましょう。AIスーパーウイルスに関する恐怖を煽ることは、オンラインでお金を稼ぐためのより良い戦略です。
Genes, Minds, Machines より
·
2025年10月7日
AIはプログラミングにおいて驚くほど優秀になりました。Claude Sonnetは、小さなプログラミングタスクを間違いなくゼロショットまたはワンショットで実行します。AIがすぐにソフトウェアエンジニアを完全に置き換えることができるとは思いませんが、完全に機能するアプリを感覚的にコーディングするのが良いアイデアだとも思いません。単純なタスクについては、AIは抜群です。例えば、基本的なデータ分析を実行できます。おそらく視覚化も…
## いいえ、AlphaFoldはタンパク質の折りたたみを完全に解決したわけではありません
·
2025年7月12日
［画像: いいえ、AlphaFoldはタンパク質の折りたたみを完全に解決したわけではありません］
AlphaFoldは、計算生物学の技術ツールとしては異例の範囲で、生物学以外の分野の人々の想像力を捉えました。シリコンバレーのテックブロは、HMMER、BLAST、またはFoldX、あるいはそれらが人類の未来に与える可能性のある影響について意見を持っていません。しかし、こと…
2029年は単なるおまけです。今日から3年後です。少なくとも2049年にしてください。そうすれば、ある程度の信憑性を感じることができます。
例えば、2012年に、私の研究室はバクテリオファージT7に最大182個の変異を一度に導入し、導入した変異の数を増減させることでT7の病原性を制御された方法で意図的に減少させることができることを実証しました。また、エンジニアリングしたウイルスが、複製を開始した瞬間に変更を元に戻すのが困難になるように設計するという当初の目標を達成したことも示しました。患者に投与されたときに弱毒化されたウイルスが弱毒化されたままであることを保証したいワクチン設計の文脈での実験でした。
そして、スミスの物語で主張されている人口の90%の死は、全く的外れです。これは決して起こりません。
2049年には世界が異なる様相を呈するかもしれないことは認めます。見てみましょう。
念のため繰り返しますが、そうではありません。
はい、ヒトからヒトへの感染がいくつか記録されているアンデス株については知っています。
そして、公平を期すために言えば、スミスはそのようなウイルスを想定しています。フィクションの領域で活動している限り、何でもありです。
エボラの正確な致死率は、株や、感染者が受けられるケアの質によって異なります。現代の集中治療があれば、エボラ感染を生き延びることは可能です。それにもかかわらず、エボラ感染は非常に深刻であり、死亡する可能性が高いです。
そして、これを明確にしておきます：いいえ、COVIDは研究所で設計されたものではありません。これに対する証拠は全くありません。また、病原性、感染性、無症候性感染の点で適切な特性を持つようにウイルスを微調整する技術もありません。COVIDは、SARS-CoV-1やMERS-CoVと同様に、動物ウイルスが種子の壁を飛び越えただけです。
しかし、おそらくCOVIDが実際にどれほどひどかったかを再評価する必要があるかもしれません。ニューヨーク市の満杯の遺体安置所を覚えていますか？ はい、それは現実でした。