HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

知性は主なボトルネックではない

Intelligence Is Not the Main Bottleneck (writingruxandrabio.com)

96 pointsby rruxandra_l74 コメント

要約

この記事は、AIの進化が急速に進む現代において、知性そのものが現実世界の問題解決における主要なボトルネックではないと論じています。特に医療分野では、規制や臨床試験のプロセス、政治的意思決定が技術的進歩を妨げる要因となっており、AIによる知性の向上だけではこれらの問題を解決できないと指摘しています。著者は、AIの能力向上よりも、これらの非技術的な障壁を理解し、対処することの重要性を強調しています。

全文翻訳

知性は主なボトルネックではない

*編集: 明確にしておくが、SFのテックシーンにいる人々全員、あるいは大多数がこのように考えていると言っているわけではない。しかし、確かに一部の人はそう考えている(例:冒頭の会話は逐語録である)し、この記事は、議論や政策決定において不釣り合いな影響力を持つ特定の中心的なシーンについてのものだ。

最近の夕食の席で、AIラボの人物が私に、私がなぜこのような仕事をしているのか、なぜ医療の進歩に対する規制のボトルネックや臨床試験に関連する政策に時間を費やしているのかを、かなり率直に尋ねてきた。彼は私を、同情としか要約できないような目で見ていた。

私は自分の考えを伝えた。AIの時代において、医療はこれまで以上に規制と臨床試験の地道な作業によってボトルネックになると。そして、より速い前臨床研究に注ぎ込まれる数十億ドルも、この問題には触れることすらできないだろうと。私は住宅について言及した。数十年前からより良い住宅を建てる技術はあったのに、住宅は純粋な能力の問題ではなく政治的意思の問題であるため、これまで以上に高価になっているのだと。

彼は信じられないという顔をした。確かに、私のような賢い人間なら、AI、あるいはより正確にはAGIがすぐに超説得力を持つようになることを知っているはずだ。すでに多くのベンチマークで、プロのディベーターを説得力で上回っているのだと。私は「ふむ」と言った。彼は「そうそう」と、私のような凡人には、AIラボの従業員ではないから理解できないような深い事柄を知っている男の口調で言った。そして彼は再び、まるで間もなく屠殺される運命にある、少し知能が劣っているが可愛い動物を見るような同情の念を私に向けた。

その夜、私は寝返りを打ちながら、自分の人生に意味があるのかどうか、これまで下したすべての決断が何らかの形で間違いだったのではないかと悩んだ。もっとうまくやれたことはなかっただろうか。

しかし、夜明けとともに、私は同じ考えに戻った。AIがどれほど「知的」になろうとも、知性はしばしば、現実世界で物事が変化するための主なボトルネックではないのだ。自分より賢く、特権的な情報にアクセスできる人々がそうでなければ主張するなら、その信念を持ち続けるのは難しい。結局のところ、これはすべて、屠殺を待つナイーブなハムスターの「対処法」に過ぎないのかもしれない。

[画像: AGIに見守られる怯えたハムスター]

しかし、私は nonetheless 自分の信念を貫くだろう。

これらのラボの人々は、かつては狂っているように見えたアイデアに賭けて巨額の富を築いたため、世界は今、彼らの言うことのほぼすべてを鵜呑みにしている。私は、それが間違いだと思う。AIが、医療を含む、ほとんどの人々が実際に気にかけている問題を解決するとは限らない。少なくとも、私たちがその問題を明確に考えていない限りは。私の主張は単純で、二つの方向から来る。一つは、サンフランシスコの社会力学と、そこで人々がこれらすべてについてどのように話しているかで観察することだ。もう一つは、私が何か知っている分野、つまり医学で気づいたことだ。

AIと医学

AIのリスクを正当化するために最もよく引き合いに出される約束の一つは、「病気を治す」というものだ。あらゆる主要なAIラボのCEOがそう言っており、投資家も同意しているようだ。AIのストーリーが付随するバイオテック企業は、より伝統的なバイオテック企業が資金調達に苦しみ、倒産する一方で、印象的な評価額を誇る。しかし、私が長年主張してきたように、この企業全体は、「知性」そのものとはほとんど関係のない多くのことによってボトルネックになっている。そして、それがしばしば認識されない度合いは奇妙に見える。

科学の進歩を知性の粗い代理とみなし、それが単独で進歩を解き放つかどうかを問うならば、証拠はどこにでもある。例えばEroomの法則を見てみよう。研究開発費1ドルあたりの新規承認薬数は数十年間減少しており、科学的ツールははるかに強力になっているにもかかわらず、これは純粋な能力の増加が存在すると予測されることとは正反対である。あるいは、Adaptimmuneのような企業を見てみよう。この企業は希少がんに対して2つの革新的な治療法を市場に投入したが、それでも生き残るために奮闘している。あるいは、オーダーメイドの遺伝子編集療法で救われた乳児「baby KJ」の科学者たちの話を聞いてみよう。彼らは「科学的には必要なものはすべて持っているが、次の子供のためにそれを簡単に繰り返すことができない」(https://www.statnews.com/2026/03/31/baby-kj-gene-editing-fda-rules-pose-expansion-hurdle/)。なぜなら、規制要件の一部によって引き起こされる製造コストが、それを妨げているのだ。

[画像: 1960年以降、基礎科学の進歩にもかかわらず、製薬R&Dの生産性は着実に低下している。過去10年間、製薬生産性の減速は、遺伝学などを通じた予測妥当性の向上や、承認の負担がしばしば低い腫瘍学や希少疾患への努力のシェア増加など、様々な要因の組み合わせにより、緩和されているように見える。]

特にバイオ医薬品分野では、大きなボトルネックは臨床試験である(私がこの件を繰り返し取り上げるのは知っているが)。今日、臨床試験は1つの薬剤あたり約7年を消費し、10億ドル以上を要する。そして試験は単なる形式ではない。それらは、そもそもより良いモデルをトレーニングするためにまさに必要な種類のデータ、つまり人間データ、それは最終的に代替不可能であるを生み出すのだ。

より速い臨床試験が、直接的および間接的に、二次的効果(業界で働く人々のリスク許容度を高め、迅速なフィードバックループを通じてインセンティブをより良く調整するのを助けるなど)を通じて、生物医学的イノベーションにとって重要であるという広範な証拠がある。これには、試験期間が短いと、他の条件がすべて同じであれば、ある疾患領域への投資が大幅に増加することを示す堅牢な経済論文から、中国の自然実験までが含まれる。中国はバイオテクノロジー分野で米国を追い越そうとしており、中国のバイオテック企業は西洋の大手製薬会社の半分以上を占めている。わずか10年前には、この割合はゼロだった。この変革は、中国が基礎科学の面で依然として劣っているにもかかわらず起こった。これは主に、人間データを用いた迅速な反復学習を可能にする規制改革によるものである1。

試験自体は、AIを含めて、より短く、より有益で、より良いものにすることができる。私が特に有望視している分野の一つは代理エンドポイントとバイオマーカーである。AIは、薬剤が効いているかどうかの離散的で粗い読み出しを、迅速で連続的なものに変えることができる。これにより、試験は大幅に最適化されるだろう。一部の適応症では、適切な代理が見つかれば、試験は10倍速く、安くなる可能性がある。そしてこれは、単に試験を短縮することなく最適化することの利点を考慮に入れていない。治療が効いているかどうかを早期に知らせる適切なバイオマーカーがあると考えてみてほしい。

[画像: 代替エンドポイントが、ある領域への投資インセンティブを高めるのに役立つ方法。これを示す経済論文の発見は真実であると確認できる。なぜなら、FDAが骨密度(BMD)を骨粗鬆症試験の代理エンドポイントとして許可した後、この適応症を追求する大手製薬会社の意欲が著しく増加したのを自分で気づくことができたからだ。]

しかし、ここでも制約となっているのは、必ずしも知性ではない。多くの場合、それはガバナンスである。私はこれらのバイオマーカーを構築しようとしている企業と頻繁に話すが、彼らが繰り返し直面するのは、基盤となるデータにアクセスするのがいかに難しいかということだ。ある企業は、より良いバイオマーカーを生成するために使用できる画像データセットをNIHが公開するのを1年間待っている。エンドポイントの検証のためにFDAとやり取りする必要がある場合、さらに悪い。私は以前、骨粗鬆症試験の代理エンドポイントとしての骨密度(BMD)の検証が、12年もかかったことについて書いたことがある(!)データはすでにすべて存在し、行われた分析は基本的に回帰分析だったにもかかわらずだ。

AI分野の人々が規制やガバナンスに医療分野で関与する場合、それはしばしば表面的に行われるように見える。多くの人が、ほとんどの薬剤が有効性不足で失敗するため、規制は過去数十年間で目撃された科学の進歩の遅れほど説明できない、という議論を何度も見かける。結局のところ、無効な薬剤をより多く承認しても助けにはならない、というのだ。この分析は表面的には真実のように聞こえるが、そうではない。私が繰り返し言っているように、人々が生物医学の進歩を遅らせる規制の重要性について話すとき、彼らはめったに最終的な承認決定のことを意味しない。それは、上流のプロセス全体、つまり人間データをどれだけ容易に収集でき、収集されたデータをどれだけ容易に実際に使用できるかということだ。

私は臨床試験について最もよく知っているが、これはガバナンスと政策が進歩を遅らせる唯一の分野ではない。もう一つの例は、特許システムの構造が、私たちの薬剤の革新性をどのように形作っているかに関連している。

生物医学には、ターゲットハーディングと呼ばれる問題がある。ほとんどの企業は、リスクが低いため同じ生物学的ターゲットを追う。これは、私たちが可能な限り生物学的空間をはるかに少なく探索していることを意味する。その理由を理解する最も簡単な方法は、リスクを通してである。創薬には2種類のリスクが重要である。ターゲットリスクは、生物学的不確実性を捉える。このタンパク質は疾患の原因に関与しており、それを標的とすることが許容できない毒性なしに患者を助けるだろうか?分子設計と最適化リスクは、ターゲットが確定した後の下流の問題である。新しい分子をターゲットに対して設計し2、化学物質(例:低分子)または生物学的物質(例:抗体)の効力、選択性、安全性、および無数のその他の特徴を改善することである。これは主に化学の領域であり、本質的にずっと扱いやすく予測可能である。検証済みのターゲットがあれば、優れたチームは通常、まともな分子にたどり着く。

[画像: ターゲットハーディングの背後にある論理]

特許システムは、新しい化学物質を報酬として与え、新しい生物学を報酬としないため、企業がターゲットリスクを負うことをさらに抑制する。組成物特許が最も特許を保護している。これは特定の分子を指すため、ターゲットを薬物化する価値があるという洞察を保護するものではない。

ターゲットハーディングは、上記の制約からほぼ機械的に生じる。一方では、これらのターゲットをさらに発見することが実際に困難であるという事実、そして特許システムがそれを報酬としないという事実がある。新しい生物学を発見した(そして暗黙のうちに新しい生物学を発見した)者は、莫大なターゲットリスクを負うが、特許システムの設計方法により報酬を回収できない。最初のクラスの薬剤3が説得力のある臨床データを提供すると、ターゲットは検証され、その検証は本質的に公開される。競合他社は、同じようにリスクが低くなったターゲットに対して異なる分子を設計し、各ファストフォロワーは独自の強力な特許を取得する。そのため、企業は新しいターゲットを検証するのではなく、証明されたターゲットに殺到することになり、同じ種類の生物学を標的とする薬剤の波が次々と生まれることになる。

致命的な疾患の分子基盤に関する研究(AI駆動の新規ターゲット発見の取り組みを含む)に資金を提供している著名な非営利団体のリーダーは、現在の知的財産システムでは、彼が支援する機関が新しい生物学を発見することによって生み出す価値を回収することがほぼ不可能であると語った。彼はそれでも資金提供を続けることを喜んでいるが、その価値が回収可能であれば、誰もがより良いサービスを受けられると考えており、今日のインセンティブは大きく歪んでいると考えている。

皮肉なことに、最も多額の資金調達を受けているAIバイオロジー企業は、主に分子設計と最適化という、すでに十分にサービスされている問題に焦点を当てている。例えば、Chai Discoveryは、現在38億ドルの評価額(初期段階のバイオテック企業としては巨額)であり、Isomorphic Labsも、その核心においては分子設計と最適化エンジンである。これらは、ターゲットが与えられれば、より良い化合物を、より速く、より正確に設計する。これは素晴らしいことだが、私や他の人々が以前から主張してきたように、検証済みターゲットのフロンティアを拡大することは、社会全体にとってより価値があるだろう。しかし、これはまさに特許システムがインセンティブを与えない部分なのだ。AI駆動の企業でさえ、最終的には経済的および法的インセンティブに応えることが判明したのだ!

同じ原則は、医学をはるかに超えて適用されると私は推測している。普及は難しく、技術が実際に経済に広がる速度は、その基盤となる進歩の純粋なペースによって完全に、あるいは主に予測されるわけではない。能力が存在することと、能力が制度に吸収されること、そしておそらく最も重要なこととして、人々が気にかけている結果に変換されることは同じではない。

そして、これが事実であるという広範な証拠がある。

今日世界を歩き回ると、奇妙なほど変わっていないことに気づくだろう。LLMはエージェントを生成し、複雑なアプリケーションを作成できるが、カスタマーサービスのようなありふれたものでさえ、まだうまく自動化されていない。実際、しばしば自動化されたチャットボットが最悪の体験の一部となっている。GDPは上昇しており、それは良いことだが、劇的に上昇しているわけではない。そして、繰り返し終末論の警告があったにもかかわらず、エントリーレベルの仕事は、増加していないまでも、大部分がそのまま残っている。

多くの人にとって、これは驚くべきことだ。つい先日、ある会議で、もし数年前に今日のAI能力を見ることができたなら、彼は驚いただろうし、世界は今でははるかに変革され、GDP成長率ははるかに高くなっていると仮定しただろう、と誰かが remark した。それは新鮮な観察として提供された。しかし実際には、それは以前にもなされており、この全体の軌跡は、普及に対する現実世界の障壁について考えていた人々にとっては十分に予測可能だった。私は2023年のProgress Conferenceを覚えている。経済学者のTyler Cowenが、AGIに傾倒した多くの参加者が率直に信じられないという部屋で、まさにこの議論をしたのだ。彼は、能力はそれが生み出すはずの変化よりも速く到着し、GDP成長率は誇大広告と比較して期待外れになり、大規模な失業はないだろうと示唆した。これまでのところ、データは彼を裏付けているようだ。

これを予見した人々は、単に摩擦、つまり技術が実際に世界に拡散するのにどれほど遅く、不均一であるかについて、より良い感覚を持っているだけだ。奇妙なことに、非常に賢い人々でいっぱいのサンフランシスコのコアテックシーンは、そうではないように思われる。なぜこれほど多くの賢い人々がこの一つの盲点を持つことができるのだろうか?

モノカルチャーの形成

私の見解では、サンフランシスコの特定のコミュニティ(今後「SFの人々」と呼ぶが、SFのすべての人々、あるいはほとんどの人々を意味するわけではない)は、モノカルチャーに近いものになっており、このモノカルチャーには二つの強化し合う特徴がある。第一に、AGIが完全に変革的ではない、少なくともそれ自体ではそうではないと示唆することは、実際に低ステータスになっていることだ。AIの可能性について早期に正しかった人々は、大金を得て、大きなことについて正しいということは、彼らがすべてについて正しいという仮定に硬化した。最も極端な主張に疑問を呈することは、鈍感、低IQ、「AGIに十分傾倒していない」と烙印を押されることだ。ラボで働く人、特にCEOは、外部の誰もアクセスできない未来についての秘密を持っているという信念が根強く残っている。その結果、自己検閲が行われる。サンフランシスコにいる私の知人の多くの賢い人々は、AIの普及のボトルネックを見ても、「AGIに傾倒している」ように見せるために何も言わない。

しかし、これほど賢い人々が、何についてでも間違っていることがあるだろうか?私は、それに奇妙な点や異常な点があるとは思わない。より賢明な時代であれば、それをより容易に明確に表現できたはずだ。私は以前、最高の人間は平均的な人間から非常に遠いと述べたが、神は最高の人間からさらに遠い。つまり、どんなに賢く、強力で、経験豊富であっても、誰もがすべての答えを持っているわけではないということだ。

それだけでなく、AIレースの勝者は、彼らの中心的な取り組みであるAIの開発には役立ったかもしれないが、それ以外のものを判断する際には適応性に欠ける方法で調整されている可能性があると私は考えている。スタートアップでは、非合理的な確信が、少人数のグループが不可能に挑戦し、時にはそれを成し遂げることを可能にするため、妄想はしばしば適応的である。Byrne HobartとTobias Huberは、財務バブルは、通常は破壊的だと非難されるが、実際には進歩のエンジンであったと主張する『Boom』で、この議論のバージョンを展開している。集団的な妄想は、真の進歩を資金調達するものでもある。もちろん、注意点として、生産的に妄想的で勝利したからといって、他のすべてについて正しいとは限らないということだ。さらに悪いことに、ある分野で成功を生み出したまさにその特性が、他の分野でも誇張された、生産性のない自信につながる可能性がある。

このモノカルチャーの第二の特徴は、偽の反骨精神のようなものである。外部世界のほとんどはAIの可能性に対して長い間懐疑的であったため、サンフランシスコの人々は勇敢な反逆者であると感じている。これは、彼らのサークル内では、それらの見解を持つことが安全で、地位を付与する立場であるにもかかわらずである。自分が誤解された反逆者だと信じることは陶酔感があり、その根本的な確信を揺るがすのを難しくする。

私がかつてアカデミックだった頃、学者は全体的に非常に進歩的でありながら、自分たちを反逆者だと考えていたことをしばしば観察した。これは少なくとも部分的には、ほとんどが大学よりも保守的な場所から来ていたためである。彼らは集まり、自分たちを外部世界と比較し、自分たちの進歩主義が何らかの形で勇敢であると結論づけるだろう。しかし、それは部屋の明白なコンセンサスであった。私の見解では、SFはAIに関して同じことをしてきた。エリートテック界では、AGIを真剣に受け止めることは単に反逆的ではない。むしろ逆である。しかし、比較対象は常に他人、例えばワシントンDCの政策担当者であるため、苦境に立たされた反逆者という感覚は現実との接触を経ても生き残る。

問題は、これらのいずれかが重要かどうかだろう。なぜそれが悪いのだろうか?私が知る限り、AGI神への熱狂はテックバブルの中で続くかもしれない。しかし、それは一般大衆の議論に浸透しており、悪い形で優先順位を再調整する可能性がある。

最も基本的なレベルでは、経験的事実により近いことが、それから遠いことよりも優れていると私は思う。しかし、より具体的なコストがある。誤った信念は、誤った優先順位につながる可能性がある。私はAIが破壊的になると予想している(ただし、SFの群衆が考えているのと同じ方法ではないかもしれない)ので、誤った優先順位を持つには特に悪い時期かもしれない。

再び、医学の例を挙げよう。私たちは間違ったボトルネックに目標や努力を向けているのかもしれない。医学においては、私が論じたように、規制改革はAI搭載生物学に注がれる注意のほんの一部しか受け取っておらず、AI搭載生物学の中でも、実際に進歩をもたらす介入は、しばしば資金が少ないように見えるものである。

そしてこれは医学をはるかに超えている。私たちはAGIの神々に固執する一方で、より平凡な問題が未解決のまま積み上がっている。社会の構造は目の前でほつれている。ますます多くの若い成人が家を買ったり、関係を維持したりすることができない。人々はギャンブルアプリに青春を費やしており、その一部は、私たちが議論し続けているまさにそのAIによって、より強力になっている。人々は機械に思考を委ねるにつれてスキルを低下させている。私は、AIが私の仕事を奪うことよりも、人々があまりにも好奇心を失って読書しなくなることを心配していると時々言う。これらの問題のそれぞれは、それに取り組む人々を必要としている。私たちの問題を魔法のように解決してくれるデジタルの神々に魅了されることは、すでにここにある、より単純で、より人間的な問題から注意をそらしてしまう。

1

Milan Cvitkovicは、中国の台頭を加速させたのが人間データ中心の規制改革であったかどうかは明らかではないと指摘した。2015年に中国は、カバレッジの拡大、規制決定のバックログの解消など、多くの政策改革を行ったが、どれが最も影響力があったかを特定するのは難しい。この記事はカバレッジの拡大がそれであったと主張している。私はこのX投稿で、その記事にいくらか疑問を呈した。いずれにせよ、人間データ中心のデータが中国の強み(規制改革によるものかどうかにかかわらず)の大きな構成要素であること、そして中国のバイオテクノロジーにおける台頭の直接的な原因が政策変更であったことには、誰もが同意すると私は思う。Milanとのやり取りはこちらで見ることができる。

2

実際にはこれは少し複雑である。すべての薬が分子であるわけではないからだ。細胞療法や遺伝子療法もある。それにもかかわらず、ここでも広範な原則は当てはまる。既知のターゲットに対するT細胞療法を改善することは、本質的にリスクが低い。

3

最初のクラスの薬剤は、商業的に「勝つ」薬剤ではないことが多い。なぜなら、後続の企業は通常、化学物質をより良く最適化し、最初のクラスの薬剤の欠点から学ぶことができるからだ。そのため、新しいアプローチを開拓した人が価値を回収するのは難しい。