HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

人間参加型ループは疲れている

The Human-in-the-Loop Is Tired (pydantic.dev)

243 pointsby haritha1313129 コメント

要約

LLM(大規模言語モデル)を使ったプログラミングは、開発者にとって便利であると同時に、新たな疲労感を生み出しています。AIの出力をレビュー、指示、修正する作業が増え、本来のプログラミングの楽しさや達成感が失われ、監督疲労と呼ばれる状態に陥っています。この記事は、この状況をエンジニアリングの問題として捉え、解決策を模索する必要性を説いています。

全文翻訳

人間参加型ループは疲れている

またLLMに関する考察記事です。分かっています。もう少しお付き合いください。

これは、おそらく多くの開発者が現在経験しているものの、まだ整理する時間がない事柄を言葉にしようとする試みです。LLMを使ったプログラミングは、本当に役立つと同時に、本当に不安定です。この二つは共存します。もし後者が起こっていないと装うなら、私たちは皆燃え尽きてしまうでしょう。

Pydanticでは、開発者がデータの検証、AIエージェントの構築、そして本番環境でシステムの動作を観察するために使用するツールを開発しています。文字通り、LLM搭載ソフトウェアをより信頼性の高いものにするビジネスを行っています。そして、私たち自身も奇妙な時期を経験しています。

これは、AIがプログラマーを置き換えるかどうかについての考察記事ではありません。絶望的なエッセイでも、誇大広告でもありません。これは、内部にいる人間からの、現時点での開発者の感覚と、実際に役立つかもしれないことについての正直な記録です。

ファブリックに触れる

20代前半にコーディングを学び始めた頃、プログラミングによって宇宙のファブリックに手を差し込み、自分の意志でそれを形作ることができるという独特の感覚を覚えています。もちろん、それはコンパイルエラーにあまり遭遇する前のことでした。しかし、抽象化の深い根本的な層に触れている感覚、論理以外何もないところから物を作り出すことができるという感覚は、常に私の中に残っています。

私はコンピュータサイエンスの卒業生ではありません。私はデザイナーでありプログラマーです。前者は正式に、後者は独学で学びました。ソフトウェアエンジニアリングの形式主義には、学術的な指導ではなく、痛みを伴う経験を通してたどり着きました。もし何かあるとすれば、それはこれらの原則を理解した後に、それらをさらに真剣に受け止めるようになったということです。アーキテクチャやコード品質について、苦労して意見を形成した場合、それらは教科書的なルールというより、傷跡のように感じられます。

創造のあの原始的な感覚?それは、2010年代のローコード・ノーコードツールが常に約束していたものの、決して完全に実現できなかったのと同じ約束です。私はDreamweaverでウェブページを作成し、Adobeが内部で絶対的なスパゲッティコードを生成するゼロコードデザインツールを宣伝するのを見ていたのを覚えています。それはいつもほぼ完成していましたが、すぐそこにある未来をほのめかすには十分でした(もしあなたがそれを理解するのに十分賢ければ)。

現在のAIツールの波に懐疑的であれば、理解できます。私たちは以前にもこのような約束をされてきました。しかし今回は、約束と現実の間のギャップが、ついに意味のあるものにまで縮まりました。そして、それがまさに、これほどまでに不安をかき立てる理由なのです。

「コードが勝手に書かれる」とは実際どういう感覚か

[画像: 複数のClaude Codeセッションがデスクトップとラップトップで並行して実行されている]

はい、コードは(ある程度)勝手に書かれますが、レビューし、指示し、軌道修正する人間は、より良くならず、むしろ悪化しているように感じます。

最近、Pydantic AIフレームワークを管理し、LLMをオープンソースワークフローに統合することについて、私が知る中で最も思慮深い人物の一人である同僚のDouweと話しました。彼は、毎朝30件のPRで目を覚まし、そのすべてが誰かのAIによって前夜にプルされたもので、それぞれについて即座に判断を下す必要があると説明しました。レビュー自体をAIに委任したいという誘惑は計り知れませんでした。しかし、彼が言ったように:「その時点で、私は一体何をしているのだろうか?」

正直なところ、ここ数ヶ月、LLMに実行させる計画を作成するために、丸二日近く費やした日がありました。執拗に明確化し、指定し、再指定しましたが、それでも信じられないほど愚かなことをすることがありました。ReactフックをStorybookのストーリーファイルにポートする。間違った計画を読む。存在しないコンポーネントを生成する。これらは能力のエラーではなく、一貫性のエラーです。モデルはもっともらしいコードを生成するのに十分賢いですが、複雑な変更全体で一貫した意図を維持するほど賢くない場合があります。

これは、特有の新しい種類の疲労、つまり監督の疲労を生み出します。マシンがほとんど正しい出力を大量に生成し、それでもあなたの目、あなたの判断、あなたのセンスを必要とする間、意図を頭の中に保持することです。Douweはそれをうまく表現しました。彼は以前、オープンソースでクールな機能について実際の人間と協力することからドーパミンを得ていました。誰かが自分の技術を向上させるのを助けること。今では、「私が書くすべてがAIのブラックホールに吸い込まれます。相手側で実際に何かを学んでいる人は誰もいません。」その喪失は現実であり、名前を付ける価値があります。

強度トラップ

Simon Willisonは最近、AIの使用が仕事の強度を増加させることを説明したBerkeley Haasの研究を強調しました。「一日の終わりにあと一つプロンプトを打つ」「これを完璧にするためのもう一つの機能」という絶え間ない誘惑。私はそれを骨身に感じました。最近、計画を正しく実行するのに非常に近いと思っていたので、午前2時近くまでプロンプトを打っていました。あるいは、そう思っていました。

[画像: それはすべて計画の一部です]

Pydanticの別の同僚であるMarceloは、彼のClaude Codeセッションがフリーズしたことについて尋ねられたとき、「Claudeセッションを5つ開けばいい。他のセッションにフィードバックを与えているので、あなたは決して気づかないでしょう。」彼は冗談を言っていました。多分。しかし、それは現在の瞬間の真実を捉えています。並列処理は爽快で、ある種野生的です。開始できることの数は劇的に増加しました。思慮深く完了できることの数は全く変わっていません。なぜなら、その部分はまだ私たちが並列化できない唯一のリソース、つまりあなたの脳を必要とするからです。

私が何が起こっているのかを説明する言葉があります:人間報酬関数問題。機械学習では、報酬関数はエージェントに良いとは何かを伝えます。手でコードを書くことは決して簡単ではありませんでしたが、小さな報酬に満ちていました。頭の中で問題を解決すること。難解な論理を理解すること。コードがコンパイルされるのを見ること。コントロールの感覚。LLM支援プログラミングは、これらのドーパミンヒットを生み出した作業の多くを自動化し、レビューと監督の認知的負荷に置き換えました。満足のいく部分は縮小し、疲れる部分は増えました。そして、そのギャップを埋める新しい報酬はありません。

あなたの仕事が同時に生産的でありながら満足度が低いと感じているなら、あなたは壊れているわけではありません。フィードバックループが壊れています。そして、それを個人的な失敗ではなく、それ自体でエンジニアリングの問題として扱う必要があると思います。

率直に言って、それは非常に孤独でもあります。LLMとのプログラミングは、極めて孤独な活動です。

あなたとマシンが、行ったり来たり、洗練し、プロンプトし、レビューする。同僚に質問したり、問題をラバーダックしたり、ついに理解できたことの小さな勝利を共有したりするために振り返る自然な瞬間。それらの瞬間は、静かに別のプロンプトに置き換えられます。強力な既存の協力文化を持たないチームでは、これは人々をさらに引き離し、他の人間もこれを困難だと感じているという安心感を最も必要としているまさにその瞬間に、コミュニケーションを冷え込ませる傾向があります。

そして、それは孤立を悪化させる方法で中毒性があります。時には素晴らしいものが得られ、時にはゴミが得られ、どちらになるか正確には決して分かりません。教科書的なスキナー箱です。一歩引いて、ただ…コードを書くことが許されていることを思い出すのは、実際に難しいことがあります。しかし、LLM支援作業と手動作業の間で切り替えるのは、ぎこちなく不快で、二つの非常に異なる思考モードであり、自分自身に切り替える許可を与えるには、ある種の成熟と自信が必要です。

ブレークポイント

この瞬間は、レスポンシブデザインによって引き起こされた恐怖と不安を思い起こさせます。当時、私はデザイナー兼フロントエンド開発者として、Ethan MarcotteとZeldman / A Book Apartの群れを皆のようにフォローしていました。そして、私たちがすべて習得した固定幅レイアウトが基本的に終わったと言われたときの不安感を覚えています。

若い開発者のために:2009年頃、ウェブサイトが固定されたピクセルパーフェクトな雑誌スタイルのレイアウトから、流動的でレスポンシブなものに移行した、真の文化的な瞬間がありました。そしてデザイナーたちはそれを嫌いました。コントロールの喪失は、正確なレイアウトと完璧なグリッドを中心にアイデンティティを築いていた人々にとって、実存的なものでした。ユーザーは私のデザインをあらゆる幅で見ることがあると言っているのですか?あらゆるデバイスで?私が作ったレイアウトが…流れると?

[画像: レスポンシブデザインのアニメーション]

画像デザイン:Jyotika Sofia Lindqvist

抵抗は激しかった。そしてそれは理解できるものでした。人々は、根本的に破壊されつつあるパラダイムの中で、実際の専門知識を築き上げていました。この移行を乗り越えて成功したデザイナーは、スキルを再構築した人々でした。比率を見る目は依然として重要でした。階層の理解は依然として重要でした。クラフトは死なず、進化しました。重要でなくなったのは、ピクセルレベルのコントロールへの執着でした。より重要になったのは、システム、適応性、そして不確実性のための設計を理解することでした。

この並列関係を過度に強調したくはありません。レスポンシブデザインは数年かけて展開されました。現在の変化は数ヶ月で測定されます。エージェンシーはクライアントを失い、デザイナーはギグを失いましたが、それは同じ実存的な恐怖を伴いませんでした。リスクは物質的に異なり、ペースはレスポンシブ移行が決してそうであったようには、本当に消耗します。しかし、根本的なパターン、つまりクラフトが死ぬのではなく進化すること、コアスキルが少なくなるのではなくより重要になること、それは当てはまると思います。

コードでLLMを扱うことは、同様の転換点のように感じられます。スキルは失われていません、それはシフトしています。あなたがすべての行を手書きしなかったからといって、エンジニアでなくなったわけではありません。しかし、あなたは依然として何が良いかを知る必要があります。それどころか、あなたは今、はるかに大量の出力の品質ゲートだからです。

何が生き残るか

誰でも合理的に見えるUIとコンパイル可能なコードを生成できる時代において、区別するマーカーは次のようになります:センス、ニュアンス、成熟したアーキテクチャの意見、そしてパターンマッチングではなく、真の専門知識から来る反論的な呼びかけです。

私にとって注目すべきは、コード、決定、トレードオフを最も深く理解している領域でLLMをガイドする際に、最も成功していることです。私たちがスキルセットの浅い領域に venturing するにつれて、出力は著しく印象主義的になります。本番準備完了から遠くなります。もっともっともらしく見えますが、実際にはそれほど正確ではありません。モデルは自分が知らないことを知らないので、自信を持ってギャップを埋めます。聞き覚えがありますか?それは非常に人間的な失敗モードでもあります。

しかし、新しいスキルも登場しています。私は複雑な計画に対して、いわゆるプレモーテム(事前の死因分析)を実行し始めています。新しいLLMセッションに、計画が壊滅的に失敗したと仮定させ、その理由を診断させます。これは、二日間詳細に深入りしすぎて見落とした仕様のギャップを捉えます。私たちのエンジニアの一人は、数千件の過去のコードレビューコメントからルールを抽出し、AGENTS.mdファイルをシードするツールを構築しました。これは、長年の暗黙のエンジニアリング判断を、LLMが従うことができる指示にエンコードするものです。それは専門知識の死ではありません。それは専門知識の蒸留です。

現在、足場を固めている人々は、いくつかの特徴を共有しているようです。彼らは実践を通じて得られた強い意見を持っており、まだ適用される原則と単なる帯域幅の制約であった習慣を区別でき、基準を放棄することなくワークフローを進化させる意欲があります。

ループ内の視点

現在のAIの波が、ソフトウェアエンジニアリングという職業の終わりを表しているとは思いません。それは、仕事そのものの深刻な収縮と根本的な再形成を表していると思います。陳腐化への恐れは正当です。スキルロートへの恐れも正当です。そして、十分な速さで進まなければ取り残されるという恐れは、しばしば誇張されていますが、完全に根拠がないわけではありません。

しかし、ボトルネックは決してコードではありませんでした。それは常に人間の注意、エンジニアリングの判断、システムの一貫したビジョンを保持する能力でした。コードを書くことが大変な部分のように感じられたので、私たちはそれに気づかなかっただけです。それが自動化された今、これらの人間の能力が実際の希少資源として明らかになりました。そして希少資源は価値があります。

ですから、圧倒され、不安定になり、同時に生産的でありながら幸せではないと感じているなら、あなたは一人ではないことを知ってください。あなたがこの瞬間を乗り切るために使用しているであろうツールを構築しているチームも、それを感じています。私たちはあなたと同じように、リアルタイムで報酬関数をデバッグしています。

コードは変化しています。私たちがそれと行うことも変化しています。それがどのように感じられるかは…作業中です。

しかし、人間はまだループ内にいます。私たちはただ疲れているのです。そして、それは話す価値があります。


この混乱を軽減するためのツールを開発しています:Pydantic AIとLogfire。また、採用活動も行っています。