Waymo効果：AIはいかに静かに研究の協調性を低下させているか

Waymo効果：AIが静かに研究の協調性を低下させている方法

エッセイ

摩擦のないテクノロジーが、いかに私たちに独りでいることを好むように教えるか――そして、なぜ研究リーダーは懸念すべきなのか。

---

先日サンフランシスコを訪れた際、サンフランシスコの訪問者が皆行うであろうことをした。無人の車を呼び出したのだ。

Waymoは、駐車場所を探すことを一度も心配したことのない機械のような、穏やかな自信をもって到着した。私は後部座席に乗り込み、挨拶をしようと本能的に運転席に目をやったが、空の椅子に丁寧に頷いている自分に気づいた。ハンドルは自分で回っていた。私は人生のかなりの時間を物理学の直感に反する側面について考えて費やしてきたが、それは、見えない運転手によって安全が確保されているのを、ハンドルが自ら動くのを見るという、かすかな実存的めまいには役立たなかった。

私はサンフランシスコにいたのは、一部には、Macmillan LearningのCEOであるスーザン・ウィンスロー氏と時間を過ごすためだった。私たちはホルツブリンク・グループ内の同僚であり、最も人間的な理由――協力するために――集まった。同じ部屋に座り、AIがそれぞれの研究と教育の分野をどのように再形成しているかについて意見を交換し、ビデオ通話では頑固なまでに難しい思考を行うためだ。

しかし、Waymoでの体験について意見を交換する中で、私たちは全く別のことに同意していることに気づいた。その乗り心地は素晴らしかったのだ。自己申告する内向者である私たち二人にとって、自動運転車は小さなオアシスだと感じられた。会話をする義務もない。ラジオの音量についての静かな交渉もない。自分の考えに没頭したり、移動中に電話に出たり、見知らぬ人の前で話すことの気まずさを感じることなく、罪悪感なく一人になれる空間だった。車内は静かで、滑らかで、全く要求がなかった。

失ったものを特定するのに、少し時間がかかった。互いに話すために大陸を横断してきた二人が、誰とも話す必要がないということが中心的な特徴であるテクノロジーに、静かに喜んでいたのだ。

Waymo効果と名付ける

定義を試みよう。「Waymo効果」とは、テクノロジーが他者とのやり取りの摩擦を取り除き、その除去を純粋な利益として経験するときに起こる現象である。なぜなら、摩擦のコストは常に私たちに見えていたが、その恩恵はそうではなかったからだ。

これは、ティム・ウーの「利便性の暴政」を読んだことのある人なら誰でも知っている動きだ。摩擦のない選択肢が存在すると、私たちはそれをデフォルトで選び、摩擦がそれまで行っていたことを静かに放棄してしまう。なぜなら、誰もそれを価値あるものとして広告しなかったからだ。アルバート・ボルグマンの関連する「デバイスパラダイム」の考えは、さらに一歩進んでいる。デバイスは、かつてそれを得るために行われなければならなかった実践を隠蔽しながら、商品（暖かさ、情報、仲間）を提供する。そのため、私たちはその実践がなくなったことに気づかなくなる。商品だけが届き続けるのだ。

タクシー運転手と話すことのコストは明白だ。礼儀正しさの小さな努力、会話のルーレット、午前7時の持続的な雑談という内向者の税金。恩恵は拡散し、遅延する。多くの人にとって、運転手は義務的に遭遇する最後の見知らぬ人だった。私たちのバブルの外（職業上、政治上、社会上）から来た、選ばれていない会話をした最後の人物。求められていない視点の最後の信頼できる情報源だ。

スーザンも私も、そのような会話のない世界を設計するだろうか。私たちは単に、この会話から抜け出すことを楽しんだのだ。そして、もちろん、そのようなものは失われる。決して決断によってではなく、常に利便性によってだ。一度に快適な乗り心地を一つずつ。

これはWaymoに反対する記事ではない（乗り心地は本当に素晴らしく、迷わずもう一度乗るだろう――それがまさにポイントだ）。これは研究に関する記事だ。なぜなら、車から運転手を取り除いたのと同じ論理が、今、同じような穏やかさで、そしてかなりの結果をもたらして、研究プロセスから共同研究者を取り除いているからだ。

摩擦のない同僚

大規模言語モデルは、知的生命体にとってのWaymoだ。

研究者として、正直に比較を考えてみてほしい。共同研究者は、教育の義務、研究費の締め切り、タイムゾーンの合間を縫って、時折利用可能になる。一方、LLMは日曜日の午前2時に利用可能だ。これは――偽らないでおこう――研究の思考の憂慮すべき部分が実際に行われる時間だ。共同研究者は、彼ら自身の議題、問題の彼ら自身の枠組み、あなたの中心的な仮定が間違っているという彼ら自身の不都合な確信をもって現れる。LLMは、あなたに役立つこと以外の議題を持たずに現れる。共同研究者は説得されなければならない。LLMは単にプロンプトされるだけでよい。共同研究者は、あなたが求めなかった方法で、そしてあなたが考えもしなかった方法であなたに異議を唱えるだろう。LLMは、あなたが要求したのと同じくらい頑丈にあなたに異議を唱える――そしてそれ以上でもそれ以下でもない。もしあなたが、あなたの議論を批判するように頼めば、それは能力をもってそうするだろう。しかし、それはあなたが持ち込んだ議論を批判するだろう。それは、あなたが間違った問題を解決している、競合するグループが2019年にこれを試みて断念した、あるいはあなたの美しい理論的枠組みが、他者の分野の厄介な現実との接触で崩壊するということを、自発的にあなたに告げることはないだろう。

つまり、共同研究者の不都合さは、協力におけるバグではない。それは、協力そのものである。もう一つの心の価値は、まさにそれがあなた自身の延長となることを拒否する点にある。

そして、挑戦とセレンディピティを超えて、さらに根本的なものがある。研究は単にアイデアを論文に変換する生産関数ではない。それは実践のコミュニティ――議論、徒弟制度、会議場の会話、困難な査読レポートの共有された試練によって維持される社会的な構造だ。その構造は、私たちが今、技術的に取り除いているまさにその摩擦から織られている。同僚からチャットボットへと向けられたすべての会話は、静かに引き抜かれた糸である。個々の糸は重要ではない。構造が重要だ。これが規模で進行したときに起こることには言葉がある。それを脱協調（decollaboration）と呼ぶことを提案する。

インセンティブの罠

これが単に個人の誘惑の問題であれば、自己規律と時折の厳しい編集記事の対象となるだろう。しかし、そうではない。研究リーダー、資金提供者、機関にとっての不快な真実は、私たちが脱協調を合理的な選択肢とするインセンティブシステムを構築してしまったということだ――そして、私たちは毎年、それをさらに合理的にしている。

協力は常に高価だった。旅行、スケジューリング、信頼関係構築の氷河期のような作業にコストがかかる。それはエゴ管理、妥協、そして著者順交渉の定期的な小さな心の痛みにコストがかかる。出版か滅亡かというプレッシャーは、常にこれらの費用を負担してきた。なぜなら、共著者と調整に費やされた1時間は、評価システムに読み取れるアウトプットを生成する時間ではないからだ。しかし、今、3つの力が複合している。

第一に、資金調達の圧力。予算が引き締められると、最初の犠牲者は常に、その価値は本物だが測定不可能である項目だ。旅行、ワークショップ、サバティカル、客員ポスト――セレンディピティの物理的なインフラ全体。私たちは廊下への資金提供をやめ、そして廊下の会話がどこへ行ったのか不思議に思う。

第二に、速度崇拝。私たちの評価システム――ウェブサイトを飾るDORA形状の声明が何であれ――は、依然としてアウトプットとそのアウトプットの速度を評価する。そしてLLMは、何よりも速度を約束する。それらは、文献レビューは金曜日までに完了でき、ドラフトは月曜日までには存在できると囁く。出版リストの長さに次の職がかかっている研究者にとって、これは無視しにくい囁きだ。

第三に、そして最も魅力的なのは、LLMは著者順について決して議論しないことだ。それは管理すべきエゴを持たず、競合する議題を持たず、クレジットに対するライバル主張を持たない。クレジットが生存の通貨であるシステムにおいて、クレジットの分け前を要求しない brilliant な対話者は、単に便利なのではない。それはアービトラージだ。

研究に関する研究は、ここで私たちを一時停止させるべきだ。私たちはチームサイエンスの文献から、小規模チームは破壊的であり、大規模チームは発展するということを知っている。そして、分野や機関をまたぐ非典型的な組み合わせ――共同研究者の予期せぬ組み合わせ――が、最も新しい仕事の大部分を生み出すということだ。一方、生成AIに関する初期の証拠は、聞き覚えのある方向を示している。個人の生産性は向上するが、アイデアの多様性は狭まり、誰もがますます似たような道を速く進んでいる。私たちは効果的に、セレンディピティをスループットと交換する制御されていないグローバル実験を実行している――そして私たちが構築したインセンティブ構造は、実験装置だ。

書くことは考えること

さらに深いコストがある。それは、LLMが最も印象的に行うこと――書くこと――に関わる。

これらのツールの魅力の一部は、速度の印象だ。そして、その印象が部分的に幻想である理由について、正確であることは価値がある。書くのに時間がかかるのは、考えるのに時間がかかるからだ。これらは、連続して発生する別々の活動ではない。論文を書くことの価値は、決して成果物そのものではなかった――それは強制的な機能だった。書くことは、私たちが確信していた議論がセクション3に穴があることを発見する場所だ。曖昧な直感が正確な主張になるか、そうでなければそうなる必要性の圧力の下で溶解する場所だ。質の高いアイデアは生成に時間がかかり、歴史的にその遅い生成の多くは人々の間で――ホワイトボードで、廊下で、共著者の追跡変更の生産的な苛立ちの中で――行われてきた。

認知心理学者は、この種の生産的な摩擦に名前をつけている。ロバート・ビョークの「望ましい困難（desirable difficulties）」――学習や思考における特定の摩擦、努力的な想起、遅延したフィードバック、自分の言葉でアイデアをページに載せるための苦闘が、永続的な理解の障害ではなく、そのメカニズムであるという発見だ。快適さのために困難を取り除くと、同じ理解をより速く得ることはできない。あなたはそれのより少ないものを、よりスムーズに配信される。

書くことをアウトソースすると、思考を加速させたのではなく、それをスキップしたのだ。そして、モデルが改善するにつれて、その出力は着実に良くなる――より流暢に、より構造化され、教育を受けた人間の文章と区別がつかなくなる――ため、罠は深まる。兆候が縮小するにつれて、誘惑は増大する。物理学者として、私はPT対称量子系を思い出す。それは、隠された対称性が破れるまで完全に正常に振る舞うという、当惑すべき特性を持っている――その時点で全てが一度に変化する。研究文化は、あらゆる目に見える指標――アウトプットの上昇、ターンアラウンドの低下、完璧な文章――によって健康に見えるかもしれないが、それを支えていた目に見えないものが静かに閾値を下回っている。指標に症状が現れる頃には、原因は数年前のことだ。

パイロットと乗客

これらはすべて、ツールを禁止するための議論ではない。それは失敗するだろうし、失敗するに値するだろう。なぜなら、その約束は本物だからだ。2026年3月のNatureのコメントで、Dashun Wangは、コンピュータを「私たちの心の自転車」と表現したスティーブ・ジョブズの有名な説明を拡張し、AIエージェントは心の飛行機であると提案している。自転車よりも速く強力で、制御が難しく、クラッシュしたときのコストが高い。彼はアップサイドについては正しい。それは相当なものだ。AIが失敗のコストを崩壊させるとき、よりリスクが高く野心的な質問が合理的になる。分析のコストを崩壊させるとき、小規模な研究所や孤独な新規参入者が、かつて軍隊を必要としたものを試みることができる。うまく使えば、これらのツールは研究を真に拡張する――そして、適切に行われれば、エージェントシステムは科学の最も弱い関節の一つ、再現性を強化することさえできる。なぜなら、すべての分析ステップを記録可能にし、再生可能にするからだ。

しかし、楽観主義者でさえ何を主張しているかに注意してほしい。Wangの処方箋は、彼が「パイロット・イン・コマンド（pilot-in-command）」科学と呼ぶものだ。研究者を船長、エージェントを乗組員――ドラフトを作成するアナリスト、調査する批評家、次のステップを計画するプランナー――とし、人間が質問、道筋、結論に対する権限を保持する。AI支援発見の最も熱心な設計者でさえ、前席に誰かがいなければならないと断言している。そしてWangは、Waymo効果の懸念を別の方向から導き出している。彼は、AIは個人のパフォーマンスを向上させるかもしれないが、集合的な多様性を低下させるリスクがあり、出力が収束する unless 私たちが意図的にそれを相殺する――そして、私たちの共同研究者が私たちを深く予期せぬ方法で形作るのと同じように、私たちのエージェントもそうするだろうと警告している。彼の治療法は、反対意見のために設計し、異なる考え方をする多くのモデルを育成することだ。つまり、摩擦を取り除いた後、私たちはそれを再びエンジニアリングして戻さなければならないということだ。

これは新しい服を着た古い懸念だ。1983年、心理学者のLisanne Bainbridgeは「自動化の皮肉（ironies of automation）」を記述した。システムが自律的にどれだけ確実に実行されるか、人間の監督者が緊急時に行使するためにループ内に留められているまさにそのスキルを練習する機会がどれだけ少なくなるか。そのため、能力は、それがまれに、そして常に最悪の瞬間にしか必要とされないという理由で、静かに侵食される。「パイロット」を「研究者」に、「オートパイロット」を「エージェント」に置き換えると、Wangが警戒しているメカニズムは、Bainbridgeが40年前に命名したメカニズムだ。

問題は、テクノロジーではない。問題は、私たちが人間の会話を高価な選択肢にし、機械の会話を無料にしたことだ。そして、研究者が合理的に反応して選択することに驚いていることだ。

摩擦に資金を提供する

したがって、責任はインセンティブが作られる場所にかかる。資金提供者と機関は、協力をそれが何であるか――「あれば嬉しい」ではなく、インフラストラクチャの一形態――として認識し、それに応じて価格設定すべきだ。

摩擦に資金を提供する：ワークショップ、訪問、共同配置、誰もスケジュールできなかった会話を生み出す非構造化時間。速度ではなく貢献を評価し、それを真剣に受け止める。「誰と考えましたか？」という質問を、「何を出版しましたか？」と同じくらい真剣に値するものとして扱う。

そしておそらく、機械があらゆる数の有能な論文を生成できる時代において、希少で価値のあるものが逆転したことに気づくべきだ。アウトプットは安くなり、一緒に考えることが貴重になっているのだ。

帰りの旅

スーザンと私は目的地に到着した。車は滑らかで、静寂は快適で、そして私たちがそれぞれ海と大陸を横断して行った協力は――摩擦のないカプセルの中ではなく、その後に続いた非効率的で、予定外で、完全に人間的な時間の中で――起こった。会話はさまよい、どちらも計画していなかった意見の相違があり、どちらもサンフランシスコに持っていかなかったアイデアがあった。なぜなら、それらは私たちが同じ部屋にいるまで存在しなかったからだ。

それが、結局のところ、Waymo効果のすべてだ。乗り心地は素晴らしく、目的地には到着する。そして、もしあなたが前方に目を向けたなら、何が欠けているかに気づくだろう。Wangはパイロット・イン・コマンド科学を求めている。静かなリスクは、私たちのインセンティブが私たちをコンフォート・サイエンスの乗客として訓練していることだ。

研究は今、後部座席に乗り込んでいる。乗り心地は滑らかだろう。アウトプットは到着するだろう。研究リーダーが尋ねるべき質問は――私たちが皆、さらに数年快適な乗り心地を経験する前に――簡単なものだ。誰が運転席にいるのか？ そして、いつ私たちは誰も運転していないことに気づかなくなってしまったのか？

Daniel HookはHoltzbrinck Groupの最高科学責任者である。この執筆の動機となった興味深い会話をしてくれたSusan Winslow氏とOliver Zahn氏に感謝する。