私たちには何が残るのか？

私たちには何が残るのか？ICML 2026での基調講演 Arvind Narayanan 2026年7月13日 先週、ソウルで開催された国際機械学習会議（ICML）で、「私たちには何が残るのか？」というタイトルの基調講演を行う機会を得ました。AIの能力向上にどう適応すべきかという、広範な不安に対処しました。講演の反響は素晴らしく、スライドをここに公開しました。注釈付きの軽い編集トランスクリプトです。以下でもスライドを見ることができますが、オンライン版にはアニメーション、クリック可能なリンク、全体的により良い体験があります。 私は3つの議論をしました。第一に、AIは通常の技術であるというフレームワークは、再帰的自己改善のような将来の不連続性がない限り、AIの影響を考える上で正しく有用な方法です。第二に、再帰的自己改善を真剣に受け止めるべきですが、企業が研究所で達成するような、私たち全員を職なしにするような節目はありません。第三に、未来の仕事は根本的に異なり、多くの適応が必要になります。私はこれがどのように見えるかについての考えを共有し、人間とAIの「共同超知能」のビジョンで締めくくりました。 今はAIにおける大きな興奮の時ですが、AIコミュニティにおける大きな不安の時でもあります。その不安に正面から向き合いたいと思います。今日私たちがしている仕事のより多くをAIができるようになる未来に、私たちはどう備えるべきでしょうか？ 私はプリンストン大学でAIエージェント評価の科学を進歩させようとしているチームを率いています。「ベンチマークで能力が上がっている！」といった通常の主張を超えようとしています。これらの主張は、エージェントがすぐに私たちの仕事をすべて奪うことを示唆していると、一般大衆に誤解されがちです。 それは起こるかもしれませんが。しかし、私たちの仕事では、実際の展開において重要な能力以外の要因を理解し、その理解を評価に反映させようとしています。 私がよりよく知られている仕事は、Sayash Kapoorと共著したエッセイ「AIは通常の技術である」です。これはAIの中期的な未来とそれにどう適応するか、そして社会と経済のニーズにどう適応させるかを考える方法です。 それで、私たちは弁護士がどう適応すべきか、あるいはジャーナリストがどう適応すべきかといったエッセイを書いてきました。しかし皮肉なことに、適応の方法という問題は、まず私たちのコミュニティを襲っています。ソフトウェアエンジニアリングやAI研究自体であっても、これらの分野でのAI能力は当然ながら非常に急速に進歩しています。 この瞬間に私たちがどう対応するかは、このコミュニティを超えて重要です。世界全体が見ています。もし私たちが単に転がり落ちて、将来私たちの仕事の多くがAIによって行われることを受け入れるなら、明確な境界を設定するのではなく、今日見られるよりもさらに強いAIへの政治的反発につながると思います。だから、この問題は私たちだけでなく、世界全体の問題だと考えています。 AIの始まりから歴史的に、これら2つの対立する物語がありました。過去には、区別は学術的かつ哲学的でしたが、今ではそれは急性的に実用的な問題になっています。私たち一人一人が、どちらの陣営にいるのか、あるいはこのスペクトルのどこにいるのかを決めなければなりません。なぜなら、一方を信じることと他方を信じることの実用的な結果は非常に、非常に異なるからです。 もしあなたが、これは数年で今日私たちがしていることすべてを置き換えることができる技術だと考えるなら、スキルが無関係になる前に、おそらく富をできるだけ早く築くことが正しい対応かもしれません。そして、これがシリコンバレーで多くの人が選んだ道です。「永久的な下位階級」のミームを聞いたことがあるかもしれません。 一方で、もしあなたが、私が信じているように、これは私たちの可能性を大いに増幅する技術だと信じるなら、今こそスキルを築くのに最適な時です。特にAIがやっていること、そしてこれからできることに補完的なスキルを築くこと、そしてエージェンシー、センス、判断力といったその周りのすべてのものを築くことです。 もしあなたが最初の道を選び、そしてAIが実際には代替技術ではなく増幅技術であることが判明した場合、私はあなたが過去数年間で、私たちに超能力を与えるこれらのスキルを築くための歴史上最高の時間を失ったと主張するでしょう。だから、私たちは皆、たとえ皆が同じ場所に落ち着くわけではなくても、この問題について考える必要があります。 AIは通常の技術である、というのが今日の私の話の知的フレームワークです。AIは普通だと言うとき、それがハンマーや歯ブラシのような、ありふれた技術であることを意味しているのではありません。 私たちはエッセイの中で、これが産業革命の規模の変革的な技術であることを顕著に認めています。私たちはAI懐疑論者ではありません。 これはスローガンではありません。それはフレームワークです。AIの能力が経済と社会にどう影響するかについての因果モデルのようなものです。それは15,000語のエッセイであり、私たちはそれを本にしています。そして、人々がしばしば「普通」という言葉を聞いて、私たちが何を意味するかを知っていると思い込むので、誤解につながるため、それを言及しています。 まず、このフレームワークは、再帰的自己改善のような将来の不連続性によって、将来の影響が過去の影響と大きく異なるようになる場合を除き、AIの影響を考える上で正しく有用であると主張します。 第二に、再帰的自己改善を真剣に受け止めるべきですが、私はそれについて特に眠れないほど心配していない理由を話します。 第三に、そして最後に、未来の仕事は現在の仕事とまったく同じになるとは言っていないことを明確にしたいです。多くの適応が必要になります。だから、私たちの役割がどのように変化し、変化にどう最善を適応させるかについての予備的な考えをいくつか提供したいと思います。 過去の強力な技術、例えば電力は徹底的に研究されており、技術進歩が経済的影響につながるかを理解するための良いフレームワークがあります。 発明：電磁気学の原理、AC対DCなどの発見。 イノベーション：人々は「電気」を直接使いません。電気器具を使います。それらは発明される必要がありました。それは一種の下流のイノベーションです。それがフレームワークの第2段階です。 普及：これは、人々がイノベーションを採用し始める漸進的なプロセスを指します。 私たちのエッセイでは、このフレームワークをAIに適用し、4部構成のフレームワークに fleshed out しています。 ソフトウェアエンジニアリングを例に、基本的な図を示します。 方法/能力：モデルは急速に改善しています。 製品/アプリケーション：私たちはLLMを直接使いません。それらが私たちの仕事すべてに影響力を持った理由は、コーディングエージェントのおかげです。これらは、潜在的な能力を取り込み、それを労働者にとって有用で利用可能なものに変える製品です。 初期採用：最初は人々は主に「バイブコーディング」を試していましたが、それは本番ソフトウェアを開発する最良の方法ではないことが今ではわかっています。そのため、より洗練されたエージェントエンジニアリングの方法があります。 適応：（または構造的変革）- 第4段階であり、最も遅い段階です。今日の私の話の多くはこの段階についてです。この段階には数十年かかると主張します。コーディングエージェントのような比較的早期にコーディングエージェントを採用している分野でさえ、まだ始まっていません。 適応段階がどのようになるかはわかりません。推測しかできません。少し推測させてください。将来、コーディングエージェントがバグやセキュリティの脆弱性に満ちていない1千万行のコードベースを作成できるようになる場合、何十億人もの人々が使用する1つのソフトウェアを作成することはあまり意味がありません。ソフトウェアが各個人またはチームのニーズに合わせて調整される方がはるかに理にかなっています。そして、それが私が極端なパーソナライゼーションと言うものです。 それは単なる技術的な変化ではありません。それは業界の変化でもあります。例えば、ソフトウェア会社はもう必要なのでしょうか？ソフトウェア開発は、大幅に社内にシフトするかもしれません。