HN 日本語サマリー

← 一覧へ戻る
プログラミング

AIの「適切な量」とは?

Is there a 'right amount' of AI? (coyotetracks.org)

31 pointsby milali38 コメント

要約

AIの利用に対する筆者の懐疑論は明らかですが、AIを全く使わないという立場ではありません。OS開発にAIが使われている現状や、人気ポッドキャストアプリOvercastにClaude(AI)が生成したコードが含まれていることを例に挙げ、AIが生成したコードが含まれるアプリでもデータ消失やセキュリティリスクはないと述べています。重要なのは、AIが生成したコードであっても、開発者が「作り込まれた」アプリを提供し、信頼と洗練された開発プロセスを示すことだと論じています。

全文翻訳

AIの「適切な量」とは?

AIに対する私の懐疑論は、今や明らかになっていると思いますが、私は「私のマシンにはAIの気配さえも許さない」というような、反AI純粋主義者ではありません。まず第一に、それはほとんど確実に負け戦です。MicrosoftとAppleはどちらもOS開発にコーディングエージェントを使用しており、Linuxを実行しているほとんどの人がシステム上のどこかに少なくともいくらかのLLMに触れたコードを持っていると証明することはできませんが、もしそれがそこにないとしたら、私は非常に驚くでしょう。

ちょうど今週、私はポッドキャストプレーヤーとしてCastroからOvercastに戻りました。(私は10年ほどかけてこれらを切り替えてきました。Castroのキューシステムは素晴らしいですが、アプリは常にOvercastよりもバグが多く、約1年前にサブスクリプション価格が急騰し、現在3番目の所有者となっています—既にプライバシーポリシーを希釈した怪しげな会社です。)開発者のMarco Arment氏が熱心な「エージェント型コーダー」になったことを知っており、これはOvercastにClaudeが生成したコードが含まれていることを意味します。彼が私の新しいiPad mini(後で詳しく説明します)で使用している、楽しい新しいアプリFinelinerも同様です。これらのプログラムのいずれかが私のデータを消去したり、iPadを過熱させたり、クレジットカード情報をロシアのハッカーに送信したりするとは思っていません。理論的には、Lex Friedman氏が最近、バイブコーディング(vibe-coding)の件について書いたことは、私にとって共感できるものです。

AIはアプリ制作のコストを劇的に削減しましたが、素晴らしいアプリを制作するために必要な作業は削減していません。動作するものを生成することと、信頼性があり、予期せぬ状況を処理し、直感的で、プラットフォームの規約を尊重し、改善し続けるものを生成することには違いがあります。…私は作り込まれたと感じるアプリには喜んでお金を払います。洗練、テスト、思慮深さを示すアプリが欲しいのです。構築と反復を続けてくれると信頼できる開発者からのアプリが欲しいのです。投資していると感じる開発者からのアプリが欲しいのです。そのような開発者には、喜んで、あるいは熱心に投資したいのです。

(これはLex Friedman氏であり、クールな人物です。Lex Fridman氏、つまり sucksな人物ではありません。)そして、はい、Marco氏は投資していると感じる開発者だと思います。彼はコードの品質に深い懸念を示しており、それゆえ、彼自身がコーディングできる機能のために既存のライブラリの使用を(悪名高く)避けていました。彼は自分のコードを隅々まで理解したかったのです。

さて。Big Walkについて話しましょう。

もしあなたがこのゲームを知らないなら、Big Walkは、Untitled Goose Gameの制作者であるHouse Houseが開発し、まだMac開発者であるPanicがパブリッシュしたゲームです。今年のIndependent Games Festival(IGF)アワードで高く評価されましたが、IGFの審査員グループが声明を発表し、「ジェネレーティブAIをいかなる容量でも使用するゲームには投票しない」と宣言しました。彼らは、アセット(グラフィックやサウンドなど)やコードにgenAIを使用することの区別を特に拒否し、次のように書いています。

プログラミングは創造的な分野であり、その労働は、ゲーム制作の他の部分と同様に尊重されるべきです。これは、モデルのトレーニングに使用された過去の作品に対する、クリエイターの同意なしでの使用も含まれます。

これにより、House Houseは告白せざるを得なくなりました。「わずかに」LLMを使用して「困難な技術的課題やバグの解決を支援した」と。Big Walkのコードの1%未満がLLMによって何らかの形で触れられており、彼らは「これはAIツールの使用を推奨するものでも、主張するものでもなく、たとえそれが最小限であっても」と述べ、そして「ビデオゲームや私たちの世界にジェネレーティブAIがもたらす害を制限しようとしている人々の活動を支持しており、Big WalkのLLM使用が彼らの基準を満たさないかもしれないことをお詫びします」と付け加えています。

上記のすべてに基づけば、私はこれに問題はないはずです。そして、最初はそうでした。すべては、(ユタの)ティーポットの中の嵐のように思えました。

しかし、その後、私はこれを読みました。

既に非常に成功しており、少なくないリソースを持つスタジオであるHouse Houseは、実際の人間との関わり(有償契約や単なる友好的な助けの形であれ)を避け、道徳的に忌まわしいソフトウェアシステムに依存するという現実的な選択をしました。私はこれを彼らの行ったことの範囲を誇張しようとする意図ではなく、この問題が純粋に抽象的な儀式的な純粋さのテストであると誰かが特徴づけようとしても、これには現実的で物質的な側面があることを明確にするために言いたいのです。

「道徳的に忌まわしいソフトウェアシステム」という言葉に反発するかもしれませんが、Bruno Dias氏(ブログ記事の著者)は、「LLMを使用することは、有害な政治的プロジェクトに意図的に参加し、搾取的で道徳的に受け入れられないプロセスから生まれた製品を使用することです」と間違っていません。私はこれを「AIのチキンサンドイッチ問題」で書きました。要するに、LLMは真空の中に存在するわけではありません。彼が続けるように、

私は、あらゆるLLMの使用が等しく悪いと論じるつもりはありませんが、倫理的な境界線が存在するか、あるいは存在しないかのどちらかです。もちろん、人が100%遵守することを期待しない倫理的な過ちもありますが、制裁なしでは決して破らないと考えるのが合理的である倫理的な過ちもあります。私は、2年前に存在しなかった、高度に補助金を受けたSaaS製品の完全にオプションのセットを使用することは、後者のセットに含まれると考えています。

もしあなたが同意しないなら、あなたがどれほどプロパガンダに晒され、これらのシステムの正常化にどれほど精神的に屈服したかを考えてみてください。LLMを使用せずに物事を行うことは、たとえそれが困難なことであっても、非常に可能です。そして、もし何かあるとすれば、「AI」政治プロジェクトの害の一つは、あなたを愚かで無力だと感じさせるためのプロパガンダマシンです。

そして、これは私を悩ませる問題です。

私は最近、「もし自分が書いたコードを理解できなくなるなら、何か意味のある、 vitalなものを失うだろうと思います。一行一行読んで、各API呼び出しが何をするのか、なぜ特定の選択肢が他の選択肢より優れているのか、すべてがどのように組み合わさるのかを知ることができるからです」と書きました。エージェント型コーディングに全面的に取り組む人が皆、自分のコードを理解する能力を失う運命にあると示唆しているわけではありませんが、「スキル低下」が現実的な問題であるという証拠が増えており、コーディングエージェントに多くの自由を与えるほどコードベースが悪化する可能性があるという証拠もあります。Claudeが異なる場所に同じ関数の4つのバージョンを書いているのを発見したという逸話、呼び出されない巨大なコードセクションを見つけること、「バグを見つける」エージェントがバグを想像し、さらには作成することさえあるという話が蔓延しています。LLMとエージェントはあなたのコードベースを隅々まで「知っている」ように見えますが、彼らは特定の文脈における単語やフレーズ間の統計的関係以外の何も実際には理解していません。LLM自体は、自分がコードを扱っていることさえ「知りません」。

Accidental Tech Podcastを聞いていて、Arment氏がコーディングエージェントについて熱狂しているのを聞くと、「自分で書いたライブラリを使いたくない」と「ロボットにコードを書かせるのが大好きだ」ということをどう reconciles するか、正直に言って困惑します。確かに、人間がLLMによって生成されたコードをすべてチェックすることは絶対に可能です。Big WalkのコードはHouse Houseが完全に理解しているコードであると私はほとんど疑っていません。私が目にしたLLMが貢献したコードの多くは、短く明確な修正や改善であり、有害で理解不能なゴミとして指摘するのは不条理です。あなたのエージェントを抑制することは、前の段落の不満を逆転させます。LLMによって生成されたコードの使用量が少ないほど、そのコードは検証しやすくなります。

しかし、ここでのより大きなポイントは、Big WalkやOvercast、あるいはmacOSの長年の軽微なバグをClaudeが修正した(あるいはClaudeがmacOSに導入したかもしれない全く新しい軽微なバグの数)ことではありません。それは、AI支援コーディングを、それが既に存在している以上、たとえそれを純粋な善と見なすか、その利点が欠点を上回るツールと見なすか、あるいは避けられない悪と見なすかどうかにかかわらず、今使用しなければならないものとして扱うことです。Dias氏が書いているように、LLMを使用せずに物事を行うことは、たとえそれが困難なことであっても、非常に可能です。

コーディングにLLMを限定的かつ意図的に使用することは可能です。そして、現在利用可能な言語モデルのほとんどは、オープンソースで公開されているコードでトレーニングされているため、画像や音楽、あるいはバイブコーディングされたMarkdownビューアを宣伝する迷惑なメールを生成するよりも(おそらく)不快感が少ないです。しかし、その文の「ほとんど」は重要な部分を担っています。そして、たとえコードがオープンソースであっても、それをトレーニングすることが合法であるとは限りません。もしClaudeが、あなたの非GPLソフトウェアに意図せずGPLライセンスコードの有意な塊を組み込んだ場合、問題が発生します。私はこれが既に数千のコードベースに存在する問題であると疑っています。

LLM支援コーディングの大きな問題を解決する未来を想像することができます。モデルはデータセンターではなくローカルで実行され、電力と水を金に変換してElon MuskやSam Altmanに流すことはありません。トレーニングコーパスには、ライセンスがトレーニングを許可しているコードのみが含まれます。商用再利用を許可するオープンソースライセンスは、明示的な「AI禁止」条項を追加しない限り、このカテゴリに該当すると私は推測します。その未来はすぐそこかもしれません。しかし、私たちは、私たちが望むLLMではなく、私たちが持っているLLMに対処しなければなりません。

では…私はどこにいるのでしょうか?おそらく、出発点に戻ったのでしょう。私の仕事のためにLLMを完全に断念することは実用的ですが、私が使用するすべてのソフトウェアでそれを避けることは実用的ではありません。しかし、特にインディー開発者は、コミュニティで見られるものよりも、これにもっと警戒すべきだと思います。この記事を今朝仕上げている間に、この投稿が私のMastodonタイムラインに流れてきました。著名なインディーデザイン/コーディング会社Iconfactoryの責任者からのものです。

Iconfactoryの時代がついに終わるのではないかと本当に心配しています。AIのためにクライアント向けのデザインで生計を立てられなくなり、バイブコーディングされたAIアプリの氾濫のために生計を立てられなくなった場合、他に何があるでしょうか?

今からパニック発作を起こしに行きます。

そして、ええ、わかります。私はAIのためにテクニカルライティングで生計を立てられなくなりました。そしてAIは、それが他のすべてにおいて悪いのと同じ方法で、テクニカルライティングが下手です。つまり、本当に気にしないのであれば、なんとか通り抜けるのに十分なほど良いということです。一見洞察力のある人々が、地元のブリューパブでAI生成されたポスターを悩ませるのと同じ問題が、AI生成されたすべてに適用され、すべてにはコードも含まれることを理解していないのは、少しどころか、かなり懸念されます。

素晴らしいアプリの作成にジェネレーティブAIを使用できないと言っているわけではありません。IGFアワードの議論はさておき、Big Walkはその基準を満たしているようです。しかし、LLMは定義上、何も思慮深く作ることはできません。なぜなら、LLMには思考がないからです。Lex氏が望むすべて—作り込まれたと感じるアプリ、洗練さを示すアプリ、直感的なアプリ—は、味だけでなく理解力を持つ人間の開発者を必要とします。そして、ロボットコーディングアシスタントに委任すればするほど、あなたは理解しなくなります。繰り返しますが、LLMによって生成されたコードの使用量が少ないほど、そのコードは検証しやすくなります。そして、使用できるLLM生成コードの最小量は常にゼロです。