AIは研究者のキャリアを向上させるが、科学的発見を鈍化させる

AIは科学者を出版の機械に変え、静かに彼らを同じような研究分野に押し込んでいる。 これは4,000万件以上の学術論文の分析から導き出された結論であり、AIツールを研究に使用する科学者は、それを使用しない同僚よりも多くの論文を発表し、より多くの引用を集め、より早くリーダーシップの地位に到達することが判明した。 しかし、そこには落とし穴がある。個々の研究者が学術界で昇進する一方で、科学全体としてはその好奇心を狭めているのだ。AIを多用する研究は、トピックの範囲が狭く、同じデータ豊富な問題に集中し、研究間のフォローアップの関与を少なくしている。 この発見は、個人のキャリアアップと集団的な科学的進歩との間の緊張関係を浮き彫りにしている。ChatGPTやAlphaFoldのようなツールは、スピードと規模を報酬とするが、驚きは報酬としない。 「個人インセンティブと科学全体との間に、このような対立がある」と、この研究を主導したシカゴ大学の社会学者、ジェームズ・エバンスは述べている。 そして、より多くの研究者が同じ科学的なトレンドに群がるにつれて、一部の専門家は、順応と独創性の低下のフィードバックループを懸念している。「これは非常に問題だ」と、ノースウェスタン大学で複雑系を研究する物理学者、ルイス・ヌネス・アマラルは言う。「私たちは同じ穴をますます深く掘っているのだ。」 エバンスと同僚は、1月14日に学術誌Natureにその発見を発表した。 科学がどのように進化するかについての長年の関心 エバンスにとって、効率性と探求の間の緊張は馴染みのある領域である。彼は10年以上にわたり、膨大な出版物と引用のデータセットを使用して、アイデアがどのように広がり、停滞し、時には収束するかを定量化してきた。 2008年には、オンライン出版と検索への移行が、科学者が同じく注目度の高い論文を読み、引用する可能性を高め、新しいアイデアの普及を加速させたが、流通しているアイデアの範囲を狭めたことを示した。その後の研究では、キャリアインセンティブがどのように静かに科学者を、リスクの高い独創的な問いよりも、安全でより混雑した問いへと誘導するかを詳述した。 他の研究では、論文の量が爆発的に増加する中でも、大規模な分野が概念的な革新の速度を時間とともに低下させる傾向があることが追跡された。そして最近では、エバンスはAI自体にも同じ定量的なレンズを向け、アルゴリズムがどのように集団的な注意、発見、知識の組織化を再形成するかを調べている。 その初期の研究はしばしば警告のニュアンスを帯びていた。科学をより効率的にするのと同じツールやインセンティブが、科学者が集団的に探求するアイデアの空間を圧縮することもある。新しい分析は、AIがこのダイナミクスを過剰に推進している可能性を示唆している。 キャリアと研究トピックに対するAIの影響 その効果を定量化するために、エバンスと同僚は、6つの自然科学分野にわたるAI拡張研究を特定するために、自然言語処理モデルを訓練した。 彼らのデータセットには、1980年から2025年の間に生物学、化学、物理学、医学、材料科学、地質学で出版された4,130万件の英語論文が含まれていた。彼らは、AI手法自体を開発することに焦点を当てたコンピュータサイエンスや数学などの分野を除外した。 研究者たちは、個々の科学者のキャリアを追跡し、彼らの論文がどのように注目を集めたかを調べ、そして時間の経過とともに分野全体がどのように知的にクラスター化または分散したかを検討するためにズームアウトした。彼らは、AIを何らかの形で組み込んだ約311,000件の論文（例えば、ニューラルネットワークや大規模言語モデルの使用を通じて）を、そうでない数百万件の論文と比較した。AIの採用は個々の科学的影響力を高め、AIを使用する研究者はAIを使用しない研究者よりも一貫して多くの引用を獲得している。 Veda C. Storey 結果は顕著なトレードオフを明らかにした。AIを採用した科学者は生産性と可視性を向上させる。平均して、彼らはAIを使用しない研究者よりも3倍多くの論文を発表し、ほぼ5倍多くの引用を受け、1〜2年早くチームリーダーになる。 しかし、それらの論文を高次元の「知識空間」にマッピングすると、AIを多用する研究はより狭い知的なフットプリントを占め、人気のあるデータ豊富な問題の周りに緊密にクラスター化し、研究間のフォローアップの関与の弱いネットワークを生成する。 このパターンは、初期の機械学習、ディープラーニングの台頭、そして現在の生成AIの波にまで及ぶ、数十年にわたるAI開発全体で一貫していた。「もし何かあるとすれば」とエバンスは言う。「それは激化している。」 知的な狭窄は唯一の意図しない結果でもない。自動化ツールにより、原稿や会議提出物の大量生産が容易になったため、ジャーナル編集者や会議主催者は、しばしば産業規模で生産される低品質で不正な論文やプレゼンテーションの急増を目撃している。 「科学者が発表する論文の数にあまりにも執着してしまい、私たちが何を研究しているのか、そしてそれが現実、健康、自然界の理解にどのように貢献しているのかを考えていない」と、昨年AIに駆り立てられた研究論文の製紙工場の現象を詳述したヌネス・アマラルは述べている。 最も扱いやすい問題の自動化 最近の出版の歪みとは別に、エバンスの分析は、AIが科学のフロンティアを拡大するのではなく、最も扱いやすい部分を主に自動化していることを示唆している。 豊富な既存データで訓練されたモデルは、タンパク質構造の予測、画像の分類、大量のデータセットからのパターンの抽出など、明確に定義された問題の最適化に優れている。一部のシステムは、新しい仮説や探求の方向性を提案し始めており、一部の人が現在「AI共同科学者」と呼ぶものの片鱗を見せている。 しかし、それらが意図的に設計され、そのように奨励されない限り、そのようなシステム、そしてそれに依存する科学者は、データが乏しく、質問がより曖昧な、十分にマッピングされていない領域に venturing する可能性は低いとエバンスは言う。危険は科学が遅くなることではなく、より均質になることだ。個々の研究室は先を行くかもしれないが、集団的な努力は、エバンスが検索エンジンが図書館の棚に取って代わったときに最初に文書化した、同じ問題、方法、そして答えに収束するリスクを負う。 「これは、科学におけるAIの使用の二次的および三次的な影響がどのように展開するかという点で、本当に恐ろしい論文だ」と、ピッツバーグのカーネギーメロン大学テッパービジネススクールの組織行動を研究する社会心理学者、キャサリン・シェイは述べている。 「特定の種類の質問は、AIツールにより適している」と彼女は指摘する。そして、論文が成功の主な通貨である学術環境では、研究者は自然に、これらのツールが最も容易に処理して発表可能な結果に変えることができる問題に引き寄せられる。「それは時間とともに自己強化ループになるだけだ」とシェイは言う。狭窄は一時的なものだろうか？ この傾向が続くかどうかは、次世代のAIツールがどのように構築され、科学ワークフロー全体に展開されるかにかかっているだろう。 先月発表された論文で、中国上海人工知能研究所のボウエン・ジョウと同僚は、科学におけるAIの応用は断片化されており、データ、計算、仮説生成ツールがしばしばサイロ化され、タスク固有の方法で展開され、知識移転を制限し、変革的な発見を鈍らせていると主張した。しかし、それらの要素が統合されると、AI for Scienceシステムは科学的発見を拡大するのに役立つと、以前IBM Watson Groupの主任科学者を務めた機械学習研究者のジョウは述べている。 おそらくそうだろうとエバンスは言う。しかし、彼は問題がAIのアルゴリズム設計に組み込まれているとは考えていない。技術的な統合以上に、彼が主張するのは、オーバーホールが最も重要かもしれないということだ。