理解が新たなボトルネックになる
Understanding is the new bottleneck (geoffreylitt.com)
要約
AIエージェントがコードを生成するようになるにつれて、そのコードを人間が理解することが、単なる検証のためだけでなく、開発プロセスへの創造的な参加のために不可欠になっていると論じています。効率的な理解を深めるために、詳細な説明、インタラクティブなクイズ、「マイクロワールド」といった教育から着想を得たテクニックを提案しています。
全文翻訳
理解が新たなボトルネックになっている
[画像: タイトルスライド: 理解が新たなボトルネックになっている。Notionの設計エンジニア、Geoffrey Litt氏。]
ホットテイク:AIエージェントが書いたコードを理解することは、依然として重要だと私は考えています!
このトークでは、その理由と、効率的にコードを理解するためのアイデアをいくつか示します。さて、始めましょう。
[画像: エージェントが書いたコードの山に囲まれた人の漫画。]
エージェントは私たちのためにより多くのコードを書くようになり、それに追いつくのが難しくなっていることは皆さんもご存知でしょう。
しかし、良いニュースがあります。コードを理解する方法はたくさんあるのです!行ごとに差分を読むことだけが唯一の方法ではありません。
[画像: 技術リストのスライド:コード説明ドキュメント、クイズ、マイクロワールド。]
このトークの大部分は、エージェントが構築しているシステムを理解するために役立つと感じたテクニックについてです。
- コード説明ドキュメント
- 理解度を確認するためのクイズ
- システムを理解するために操作できるマイクロワールド
しかし、まず、より基本的な質問をしなければなりません…
なぜ理解するのか?
[画像: スライド:「なぜ理解するのか?」]
なぜ? なぜ理解するのか?
私たちは今、自分たちをループから外し、エージェントに自己完結させるべきなのではないでしょうか? エージェントが賢くなるにつれて、私たちが詳細を理解することは重要でなくなるのでしょうか?
理解を支持する人々でさえ、この質問に対して少し間違った答えを持っていると私は思います!
[画像: スライド:「検証するために理解する」。]
一つの可能な答え:私たちは検証するために理解します。エージェントの作業をチェックし、それが正しいかどうかを確認します。
正しいとは多くの意味を持ち得ます。仕様に合っているか、アーキテクチャは適切か…しかし、それは基本的に「いいね」か「ダメ」かの質問です。
[画像: エージェント自身の作業を検証する能力が向上していることに関するスライド。]
しかし、ここで重要なのは、エージェントは自身の作業を検証する能力をますます向上させているということです。そして、それは良いことです!エージェントが間違いを犯さないのは嬉しいことです。
しかし、うーん。私たち人間はどうなるのでしょうか?
[画像: スライド:「参加するために理解する」。]
そこで、別の答えが出てきます。私たちは参加するために理解することができます。
エージェントが何をしているかを学んで、創造的なプロセスに積極的に参加できるようにすることができます。これがなぜ重要かというと…
[画像: プロジェクトをエージェントとの多くの反復ループとして示す図。]
それは決して一つのループだけではありません!プロジェクトとは、エージェントとの多くの、多くのループなのです。
そして、システムに対するあなたの理解は、それを進化させる次のアイデアを生み出す能力の一部となります。
創造的かつ流暢に物事を前進させる方法について考えるためには、あなたの心の中に豊かな概念セットが必要です。その流暢さが欠けていると、プロジェクトに参加する能力は著しく制限されます。
[画像: Margaret Storey氏による「コグニティブデット」に関する引用:「関係する人間は、単に筋書きを見失っている可能性がある。」]
ちなみに、これはMargaret Storey氏とSimon Willison氏によって広められたコグニティブデットの考え方に密接に関連しています。
それは技術的負債のようなものです。短期的な理解不足で乗り切れるかもしれませんが、最終的にはあなたを苦しめるでしょう。
[画像: スライド:「どうすれば理解を構築できるか?」教育に目を向けることを示唆。]
さて、分かりました、理解は重要です。
しかし、これは次の疑問を提起します。どうやって? AIと協力し、急速に進む中で、この人間の理解をどうやって構築するのでしょうか?
さて、これは誰かが理解を伝える方法を考えたのが初めてではありません。教育にインスピレーションを求めることができると思います。教育のために発明された最高のアイデアを盗んで、この問題に適用できるでしょうか?
テクニック1:説明
[画像: 3つのテクニックを示すスライド、「説明」がハイライトされている。]
今日は、これを試みる方法を示す3つのテクニックを共有したいと思います。
まず、説明です。良い説明とは何でしょうか?
[画像: 生のコード差分を示すスライド。]
エージェントが作業を終えるたびに、それは説明の機会、つまり成果物となります。
最も単純な方法では、コードの差分を読むことができます。これは変更された生の材料です。
[画像: スライド:「最高の説明は何だろうか?」]
しかし、もし私たちが次のように尋ねたらどうでしょうか?
最高の説明は何だろうか? もしあなたが、何かをあなたにうまく説明することに本当に細心の注意を払うチーム(人間またはAI)を持っていたら、それはどのように感じられるでしょうか?
[画像: /explain-diff スキルによって生成されたコード説明ドキュメントのスクリーンショット。]
一つの答えです。私は/explain-diffというスキルを作成しました。これは毎日使用しており、多くの同僚が価値があると感じています。
これは、考え抜かれた構造のコード説明ドキュメントをHTML、Markdown、またはNotionドキュメントとして出力します。Notionは、これらの説明ドキュメントをチームで共同作業し、議論するのに適した場所です。(免責事項:私はNotionで働いているので、偏りがあります。)
ビデオゲームの視点を編集する例を使って、これらの説明ドキュメントの1つに何が含まれているか見てみましょう。
[画像: ゲームエンジンの背景情報について説明するセクション。]
第一原則:背景情報を教えてください!
変更された内容に入る前に、すでに存在していたものについて理解するのを助けてください。この場合、ゲームエンジンについて教えてください。
[画像: 変更の目的を示し、アイソメトリック投影を説明するセクション。]
第二原則:詳細の前に直感。
コードの前に、目標(「2D描画のトリックで庭を立体的に感じさせる」)を述べ、アイソメトリック投影とは何かといった関連概念を説明します。
これらすべてが私の直感を変化の本質に構築します。人間である私を追いつかせ、理解の平等な参加者になれるようにしています。
インタラクティブな図でも直感を構築できます。
ここでは、庭の周りで岩をドラッグして座標がどのように移動するかを見ることで、アイソメトリックパースペクティブを理解しています。
(これはNotionが最近リリースした新機能を使用しています。ページ内にインタラクティブなHTMLを埋め込めるようになりました。)
[画像: 生の差分と、散文として構造化されたリテラルト差分を比較するスライド。]
ついにコードにたどり着きました。しかし、典型的な差分は、説明なしでアルファベット順に編集されたファイルの山です。
私が「リテラルト差分」と呼ぶものは、合理的な順序で変更をたどり、周囲の説明と埋め込みコードスニペットを備えた散文として構造化されています。生の差分よりもレビューが速いです。
[画像: カフェで印刷されたコード説明ドキュメントのパケットの写真。]
これらすべてが最終的に、素敵な説明ドキュメントになります。私はまだコードの差分を読みますが、いつもまずこれを読みます。
時々、これらを印刷してカフェに持っていくことがあります。気が散りにくいです。
AIがインタラクティブなアクティビティを、私が深く集中できる静的な紙のレポートに変えるというのは、実に皮肉です :)
私は今、コード説明ドキュメントでも同様のことを行っています。説明ドキュメントの最後にインタラクティブなクイズがあります。変更に関する5つの質問です。そして、私はそれらに答えようとします。
私のルール:クイズに合格できるまで、コードを他人に送りません。そして、他人のコードをレビューするときも同じことをします。
[画像: クイズをAIループの速度調整器として説明するスライド。]
クイズは速度調整器です。 AIとの作業では、ループが人間の理解の速度よりも速く回ることが容易です。
クイズはカウンターバランスの力です。「本当に理解しているか?」と機械的に問うことで、完全な創造的参加者であり続けることができます。
テクニック2:マイクロワールド
[画像: Seymour Papert氏の写真とともに、マイクロワールドを紹介するスライド。]
次のアイデアはマイクロワールドです。これは、先見の明のある教育者Seymour Papert氏に触発されたものです。
[画像: Papert氏の「Mathlandに住む」というアイデアに関するスライド。]
Papert氏は、Mathlandに住むという美しい考えを持っていました。数学を学びたいなら、Mathlandに住むべきです。フランス語を学びたいなら、フランスに住むのと同じように。子供たちが好奇心の結果として、自然に数学を学ぶことができる環境を構築できるでしょうか?
では、これをコードにどう応用するのでしょうか? システムがどのように機能し、どのように変化しているかを自然に直感できる、あなたが住むことができる世界を作れるでしょうか?
昨年、Prologインタプリタをコーディングしていて、内部で何が起こっているかを直感するのが困難でした。
エージェントと協力してこのデバッガーを構築しました。これにより、論理言語の実行をステップ実行し、時間をスクラブし、スタック上のものと各ステップで評価されたルールを確認できました。自分用のコメントを残すことさえできました(「よし、ルールを正しく適用した」)。
デバッグするためのツールを私のために作るのと、エージェントにデバッグさせるのとでは大きな違いがあります。自分でやることで、その過程で理解を深めることができます。
別の例です。個人のウェブサイトをあるフレームワークから別のフレームワークに移行していました。Claudeがそれを実行するスクリプトを書きました。しかし、レビューは非常に困難でした。新しいフレームワークに慣れておらず、「まあ、大丈夫そうだ」と言うことしかできませんでした。
そこで、Claudeにビデオゲームを作ってもらいました。コマンドセンターで、ステップバイステップでポートを実行し、視覚的な効果とファイルツリーの進化を観察します。それは、私の古いサイトと新しいサイトを並べて実行するUIを生成しました。
このコマンドセンターで、新しいサイトが段階的に生き返るのを見ました。手作業で行うのと同様の理解が得られましたが、体験全体が私に提示されていたため、はるかに速かったです。
[画像: 「エージェントはコードを理解するのを助けるコードを書くことができる!」というスライド。]
ここでのポイントは、エージェントが人間の私たちが他のコードを理解するのを助けるコードの断片を書くことができるということです。
これは大きな進歩です!
テクニック3:共有スペース
[画像: チームとして一緒に理解すること:「共有スペース」を紹介するスライド。]
さて、最後のテクニックは共有スペースです。これまでのところ、すべては一人で理解することについてでしたが…しかし、チームで作業しているときは、一緒に理解する必要があります。
[画像: 効率的なコミュニケーションを可能にする共有メンタルモデルに関するスライド。]
あなたと他の人が同じメンタルモデルを持っていると、効率的にコミュニケーションできます。同じイメージを呼び起こす共通の語彙があり、ジャムセッションや即興、創造的な会話ができます。そのような共有構造がないと、それらの会話ははるかに困難になります。
チームが一緒にその理解を構築する共有環境を作成することに非常に興奮しています。それはNotionがすべてであることのようなものです。
[画像: Notion内で実行されているClaudeとCursorエージェントのスクリーンショット。]
最近Notionでは、人間とエージェントが協力するための多くの新機能をリリースしており、チーム全体がサイロで作業するのではなく、共有された理解を深めています。
小さな例ですが、NotionでClaudeとCursorエージェントを実行できるようになりました。私は今、コーディングの多くをその方法で行っています。
そして、それらのエージェントがNotionで技術的な計画を立てるとき、それはデフォルトで共同編集ページにあるため、チームとコメントしたり、すぐに議論したりできます。一人で考えるのではなく、一緒に考えるのです!
ポイントは常に拡張することでした
[画像: スライド:「物事がどのように機能するかを人間が理解することは依然として重要です。」]
さて、まとめましょう。今日はコードを理解するためのいくつかのテクニックを取り上げましたが…実際には、これははるかに大きな問題だと考えています。
人間が一般的に物事がどのように機能するかを理解することは、依然として重要です! 単に検証するためだけでなく、参加するためです。
そして、驚くかもしれませんが、これは新しい考えではありません。それは私たちのコンピューティング分野のまさに起源にまで遡ります…
[画像: Alan Kay氏のビジョン:子供たちがインタラクティブなシミュレーションをプレイして編集することで物理学を学ぶ。]
50年前、Alan Kay氏は、コンピューターが本よりも優れた新しいメディアとなり、人々、特に子供たちに世界について考える方法を教えることができると構想しました。
この写真では、子供たちがiPadでYouTubeを見ているように見えるかもしれませんが、そうではありません。彼らはインタラクティブなゲームをプレイし、プレイ中にコードを編集して物理学への理解を深めています。これは50年前のことです!!
[画像: 宇宙飛行士のミーム:「待てよ、コンピューターのポイントは、人々が複雑な概念を理解するのを助ける新しい動的なシミュレーションを作成することなのか? いつもそうだ。」]
そして今、あなたはこのミームを理解できることを願っています。
ポイントは常に、自動化するだけでなく、拡張することでした。
AIがシミュレーションの作成をこれほど容易にしたことは素晴らしいことです…AIに教わることは、コンピューティングがこれまで開いてきた最も偉大な可能性の一つです。
[画像: 最後のスライド:「私たちはより深くループに入ることができます。それは私たち次第です。」]
これは私を未来に対して非常に楽観的にさせます!
適切なツールを構築すれば、私たちはかつてないほど世界をより良く理解できるようになります。 私たちは単に自分たちをループから外す必要はなく、より深くループに入ることもできます。それは私たち次第です。
終
関連記事
このトークを楽しんだなら、人間とAIのコラボレーションについて私が書いた他の投稿も気に入るかもしれません。
- もうAIコパイロットはたくさん! AI HUDが必要だ — 「AIのための設計を真剣に考えている人は誰でも、人間の心をより直接的に拡張する非コパイロットのフォームファクターを検討すべきです…」
- AI生成ツールはプログラミングをより楽しくすることができる — 「代わりに、AIを使ってカスタムデバッガーUIを構築しました…これにより、自分でコーディングすることがより楽しくなりました…」
- 外科医のようにコーディングする — 「二次的な雑務タスクを特定して委任し、最も重要なことに集中できるようにする。」