HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

LLMの批判者は正しい。それでも私はLLMを使い続ける

The LLM Critics Are Right. I Use LLMs Anyway (theocharis.dev)

241 pointsby JeremyTheo247 コメント

要約

筆者は、大規模言語モデル(LLM)に対する多くの批判に同意しながらも、依然としてLLMを多用しています。この記事では、LLMに関する一般的な懸念点を挙げ、それでもLLMを使用し続ける理由と、このジレンマに対処するためのパターンについて考察しています。

全文翻訳

LLM批判者は正しい。それでも私はLLMを使う。

2026-07-15

LLMの批判者の意見のほとんどに同意できますが、それでも私はLLMをたくさん使っています。これは私が妄想しているように聞こえるかもしれませんが、この不協和音のために時々そう感じることさえありますが、私だけではないと思います。

今週、私はベルリンで開催されたLocal-First Confに参加していましたが、そこではどこもかしこも不協和音に満ちていました。Armin Ronacherはちょうど機械エンティティの構築に関する講演を行ったばかりでした。彼はFlaskを作成し、Sentryの初期チームメンバーの一人だったので、彼は明らかに優れたソフトウェアエンジニアです。最近、彼は会社Earendilを設立し、Pi.dev、「オープンソースのコーディングエージェントハーネス」を構築しています。講演の後、Discord経由で質問でき、それがステージで読み上げられることになっていました。私はこう尋ねました。

PiではPRを受け付けていますか、それともLLMからのPRの洪水にどう対処していますか?

彼はステージ上で、聴衆全員の前で、ほとんどすべてのPRとイシューを自動的にクローズしていると答えました。しかし、人間は常に輝きを放つので、PRを開くことを思いとどまるべきではないとも付け加えました。

つまり、私だけではなく、どうやら非常に賢いエンジニアたちも同じようです。LLMを扱うためのツールを構築している人々自身が、自らの創造物の洪水に襲われており、身を守るためにすべてを自動的にクローズしているのです。彼らの目的ページにはこう書かれています。

AIへと突き進む世界において、私たちは人間こそが最高のエージェントであると信じています。

ここでも、不協和音です。

私が聴衆席に座っていたとき、多くの人がClaude Codeを開いているのを見ました。そしてスピーカーたちはLLMについて批判的なことを言い、大きな拍手を受けていました。Claude Codeを開いている人々からもです。

そしてまた、この不協和音です。

私もそのカンファレンスで話しましたが、後で何人かの人と話したとき、彼らは私の感情と非常に似ていると表現しました。それは安心感でした。なぜなら、私だけではないと知ったからです。

そこで、この記事ではそれを説明しようと思います。まず、LLMを使用することに関する、大きな拍手を受けるであろう、すべての公正で有効な懸念事項を検討します。次に、なぜ私がLLMを使い続けるのかを説明します。そして、私が発見したいくつかのパターンで締めくくります。具体的な例を挙げることで、他の人も参加して経験を共有し、この不協和音をより深く理解できるようになることを願っています。

LLMは悪い

人々や講演を聞いたり、HNを読んだりするだけで、なぜ特定の人々がLLMの使用を拒否するのか、かなりの感覚を得ることができます。そして、私が彼らのほとんどの点に同意しているということが、非常に奇妙なことです!

著作権で保護された素材でいっぱいであること、はい。環境に悪いこと、はい。すべての倫理的な問題、はい。そして、このNVIDIA、OpenAI、金銭移動のサークルジョークは良い結末を迎えません。これはバブルであり、間違いなく弾けるでしょう。

最大の懸念事項を一つずつ見ていきましょう。

最も一般的な批判である「LLMは多くのゴミを生成する」から始めましょう。

はい、彼らはそうします。間違いなく。

オープンソースソフトウェアを見ると、貢献を完全に拒否するか、何らかのフィルターをかけようとするリポジトリやプロジェクトが増えています。ArminとEarendilが自動クローズで行っていることに似ています。

根本的な問題は信頼だと私は思います。インターネット上の見知らぬ人を決して信用すべきではありません。しかし、LLMが登場する前は、基本的なこととして、適切な説明を伴う適切なPRを作成するには、少なくともある程度の人間的な時間が必要でした。そのため、荒らしや質の低い投稿を排除することができました。あるいは、数秒で簡単にフィルタリングできました。たとえ新しい人が来ても、その人が少なくとも数時間は費やしたと信頼できました。そして、それはおそらく詳しく調べる価値がありました。

その基本はもはや真実ではありません。誰でも新しいGitHubアカウントを作成し、LLMを自由に動かすことができます。そして、メンテナーとしては、誰かがPRに多くの時間を費やした(そしてPRの説明にClaudeを使っただけかもしれない)のか、それともOpenClawマシンが単独で動作しているのかを簡単に見分けることはできません。ZigやGentooのようなプロジェクトは、すでにLLM生成PRの受け入れを拒否しています(これは解決策ではないと思いますが、どうやって見分けるのでしょうか?)。

LLMは、私たちが方法を見つけなければ、OSSを殺す深刻な可能性を秘めていると思います。一つのアイデアは、少数の検証済みの人物にのみプロジェクトへの貢献を許可することかもしれません。そして、検証を受けるためには、実際のミートアップなどに参加する必要があるでしょう。

そして、ジュニアエンジニアの状況があります。実際には2つの異なる点があります。a) ジュニアのコードの背後にある努力をもう信頼できないこと、そしてb) シニアがジュニアを教えるインセンティブを失っていること。

まずa)から始めましょう。シニアは常にジュニアのコードを修正し、修正してきました。そしてジュニアは常にかなり悪いコードを書いてきました(私の最悪のコードはLLM時代以前に書かれたものです)。今、レビューする際に、そのジュニアが10分でそれをバイブコーディングしたのか、それとも数時間座っていたが、良い洞察が本当に欠けているのかを知ることができないのです。

そしてb)の教育、つまり「新しい人々をどう教えるか?」についてです。以前は、このバランスがありました。「ジュニアはかなり退屈なタスクを行うが、そのためにシニアが一緒にレビューし、成長を助ける」というものです。今、シニアとしては、もはやジュニアを必要としません。退屈なタスクは、少なくとも多くの人がそれに同意していると思いますが、LLMに完全にアウトソースできます。では、なぜジュニアを雇う必要があるのでしょうか?

そして、地政学的な緊張もあります。中国や米国がこれらの技術へのアクセスを一夜にして遮断したらどうなるでしょうか?ほんの数週間前、米国政府は非米国市民をAnthropicの最新の最先端モデルから締め出す能力と意思を示しました。

[画像: Anthropic's announcement from June 12, 2026: Statement on the US government directive to suspend access to Fable 5 and Mythos 5. The US government issued an export control directive to suspend all access by any foreign national, forcing Anthropic to abruptly disable both models for all customers.]

Anthropic自身の声明、2026年6月12日:米国政府の輸出管理指令により、Fable 5とMythos 5へのアクセスをすべてのお客様に急遽無効化する必要がありました。

私は終末論者になりたくはありません。Martin Kleppmannがステージで彼の講演でかなりうまく説明したと思います。

ヨーロッパと米国の間の紛争の確率は依然として非常に低い。しかし昨年はゼロだった。

最後になりましたが、LLMで調査しているときでさえ、それらは訓練資料の大多数の考え、あるいはモデルを作成した人々の政治的信念を静かに忍び込ませる自然な傾向があります。

それはまるで二人の人間が話し合っているかのようです。時間が経つにつれて、彼らの意見はゆっくりと融合していきます。ある友人だけがこの奇妙な言葉を使い続け、数週間後にあなたの友人グループ全体がそれを使っているのに気づいたことはありませんか?それはそんな感じです、ただ意見が違うだけです。

そして、会話の参加者の一人は人間ではありません。

LLMは良い

しかし、私たちはそれらを完全に排除することはもうできません。それらはここにあり、ここに留まります。そして、流れに逆らうのではなく、流れに乗って、それを制御し、形作ることができます。

例えば、モデルをラップトップで実行できるようにすることによって。それらはすでに改善されており、私たちプログラマーをこれらの大企業から独立させてくれます。そして、補助金が終了し、価格が上昇したとき、大規模ベンダーを抑制するのはオープンウェイトモデルです。そして、ローカルで自分のハードウェアで実行されるモデルは、どの政府によっても一夜にして遮断されることはありません。バブルが弾けたとき、世界経済に大きな損害が発生し、多くの企業が倒産するでしょう。しかし、オープンウェイトモデルはどこにも行かないので、私たちプログラマーはそれらに頼ることができます。カンファレンスでさえ、AIに関する講演のほとんどはローカルモデルを真剣に扱っていました。

想像してみてください。バックグラウンドでSFのようなAIが動作していて、いつでも質問でき、常に答えてくれる。スター・トレックのように。

多くの講演で、AIは脇役として登場しました。「Claude Codeでこれを構築しました。」スピーカーの中には、「ええ、Claude Codeに渡しただけです」と公然と言う人もいました。しかし、彼らの講演は受け入れられ、聴衆、特に非常に経験豊富で尊敬されている人々からの大きな拍手を受けました。

重要なのは、自分の信頼性を賭けている人間がいるということです。そして、それがあなたに聞かせるのです。もし彼らがAIのゴミを提示したら、彼らは信頼を失うでしょう。そして、それは彼らがAIを異なる方法で使用することを意味すると私は思います。彼らは言います。「Fable 5に実装するように頼んだだけだ。」それはテックブローのように聞こえます。そして、それはまさに私がそれを説明する方法です。しかし、私は推測しているだけで、私自身の経験しか話せませんが、彼らはLLMに考えさせるのではなく、自分の考えを、超強化され、クラックされた状態で出力させているのです。

LLMは、あなたがすでに持っているものを増幅します:意見、構造、フレームワーク。もし考えがあれば、それらはより鋭く、より速く出てきます。ブレインストーミング、文法チェック、文章の推敲、代替案の提示、ラバーダックや悪魔の代弁者としての役割に役立ちます。もし何もなければ、何も出てきません。LLMは、見た目は良いが、誰も聴衆の前で音読しないような大量のコンテンツを生成するのに長けています。

そして、ここに価値があります。私は一人ではできないよりも、簡単に物事をより高品質にすることができます。それを使ってもっと多くのことができますが、私はより少ないものをより高品質にするためにそれを使用します。数文を準備するために、私は極端な量のトークンを使用する傾向があります。これはLLMの良い使い方だと思います。そして、LLMは思考をサポートしてくれると強く感じています。

書かれたテキストは人間から人間へであるべきだと強く同意します。それでも、私はすべてのテキストをLLMで書いています。そして、矛盾しているとは思いません。「AIのゴミ」と「良い文章」を区別するものは、人間がそれらの背後に考えを置いたかどうかです。そして、思考をアウトソースすることはできません。

しかし、問題はここにあります。人間がその背後に考えを置いたかどうかは、外部からは見えないことです。「AIを使ってより良く考える」という文章は、私とランダムなAIテックブローからのものと全く同じ言葉で、私が言っていることからそれが嘘かどうかわかる方法はありません。あなたは単純にできません。増幅された嘘は天才のように聞こえるので、残るのは信頼だけです。そして、信頼は得るのが難しく、失うのは簡単です。特にLLMの時代には。私自身も見ています。一つのダッシュ(em dash)が、なぜか全体を無効にしてしまうことがあります。私は、その人が少なくともAIのゴミの明らかな兆候を取り除きたかったのではないか、と考えてしまうのです。

カンファレンスのDiscordで、ある講演中に、他の人はこの緊張にどう対処しているのかと尋ねられました。ローカルファーストに政治的に興味を持っている多くの人々は、同時に断固として反LLMです。LLMを使ってソフトウェアを作成することに懸念していましたか?コミュニティに却下されるかもしれないと知って?ある人が、その場で講演していた人を含め、多くの講演者がまさにこのことについて「複雑な考え」を述べていたと答えました。そして、それは多くのことを物語っていると思います。ここでも、人々は自分がLLMを使っていることを公に言うことを恐れていました。私も少し怖いです。先月、トークンに約1万ドルを費やしました。それは信じられないほど狂っています。

[画像: Spreadsheet screenshot of my June 2026 token spend by model, in USD: Opus 4.8 at 5042, Fable 5 at 4179, Sonnet 4.6 at 452, grand total 9838.85]

私の2026年6月のモデル別トークン使用量(USD)。支出レポートから直接。極端だったことはわかっています。その後、2つのことを変更しました。Fableは現在、非常に選択的にしか使用していません。高すぎます。そして、純粋なコード実行には、OpenRouterとGLM 5.2のようなより安価なモデルを使用しています。

しかし、そこから本当に多くの価値を得ることができ、それだけの価値があると思います。

AIが新しく、私が試していたとき、私は自分の信頼性を部分的に損ないました。しかし、信頼性こそが信頼を得る方法だと気づきました。聴衆の前に立ってそれを読み上げますか?もし答えが「まあ、意味するところを説明します」なら、それはゴミです。もし実際に、一字一句読み上げ、それを恥じないなら、おめでとうございます、それは良い文章です。

私が見つけたいくつかのパターン

では、どう使っているのでしょうか?説明するのが難しい、説明不能な微妙な線引きがあります。そして、それは経験し、オープンマインドでこれらのツールを使用することから学ぶしかないと思います。この文章がどのように聞こえるかはわかっています。それはまさにテックブローが言うことです。彼らのようにならないように、試すように誘うことさえできません。そこで、私が発見したいくつかのパターンを説明しようと思います。「こうやる」という方法ではなく、状況を明確にする希望から。

はい、実際の問題と要件を理解していない場合、それは悪いソフトウェアを書くでしょう。適切なスキルとツールがあれば、かなりまともなソフトウェアを生成できます。しかし、あなたとまともなソフトウェアの間には、同意というものがあります。何かを理解していないときに教えてくれず、ただ進んで何かをしてしまいます。これも、Matt Pocockの「grill me」テクニックから適応された/grill-meスキルが非常に強力である理由です。それは非常に短いです。

この問題のあらゆる側面について、私を執拗にインタビューしてください。共通の理解に達するまで。意思決定ツリーの各ブランチをたどり、意思決定間の依存関係を一つずつ解決してください。各質問について、推奨される回答を提供してください。

質問は一度に一つずつ行い、続行する前に各質問に対するフィードバックを待ってください。一度に複数の質問をすると混乱します。

事実が環境(ファイルシステム、ツールなど)を探索することで見つけられる場合、私に尋ねるのではなく、それを調べてください。ただし、決定は私のものです。それぞれの決定を私に提示し、私の回答を待ってください。

共通の理解に達したと私が確認するまで、それに基づいて行動しないでください。

そして正直に言って、grill-meは気分が良いです。このスキルを見つけたとき、これほど単純なものがこれほどの影響を与えることができることに、私は完全に興奮しました。なぜなら、それは質問ごとに自分の考えを形成することを強制するからです。以来、私はすべてにこのステップバイステップのアプローチを採用しています。例えば、記事を書くために、この単一の文章に極端な量のトークンを費やすようなアプローチです。この記事は、私が混沌としながら自分の考えを書き出し、その後、文ごとにLLMに炙ってもらうことで書かれました。

何かをコーディングするとき、たとえ些細なことでも、私はBasecampの「Pitch」に従い、「問題」、「出荷するもの」、「出荷しないもの」について、本当に、本当に一生懸命考えます。私は自分自身に3文の問題提起を書くことを強制します。それを埋めるのは信じられないほど簡単で、LLMを使えばさらに簡単です。しかし、それを良くするのは信じられないほど難しいです。これはLLMワークフローでうまく機能すると思います。なぜなら、それは人間向けに設計されたからです。3文は私が実際にそれらを読まなければならないように強制します。そして、私がそれを読めば、他の人間もそれを読むことができます。

私はほとんどのLLM出力を実際には読まない傾向があります。それをスキップして、それに共感できるかどうかを確認します。しかし、3文の問題提起は、私はそれを非常に厳密に事実確認します。それはコードレビューのようなものです。1,000行のコードのレビューには「LGTM」と返されます。100行のレビューには15件のコメントがつきます。

同じ注意が私のPRの説明にも払われます。私はそれらに多くの時間を費やし、読みやすく、簡潔で、常に実際の問題、出荷するもの、出荷しないものを説明するようにしています。そして、それが動作しているスクリーンショットを追加して、レビュー担当者にこのPRとやり取りする価値があることを明確に示すようにしています。しかし、Claudeは常に説明にゴミを追加するので、私は常にClaudeと戦わなければなりません。そして、それが重要なPRでない場合は、時々Claudeに勝ちすぎさせてしまうこともあります。

彼らが作成する大量のコンテンツに対抗するために、何かが必要です。私のコーディングワークフローでは、それを相殺する小さなエージェントを配置しています。

私が好む別のテクニック(Ralph Wiggumループ、またはより現代的にはClaudeのultracode)は、LLMをテキスト、計画、ステートメント、コードなどでロックし、サブエージェント(新鮮なコンテキストを持つLLM)を継続的に生成し、その唯一のタスクはコンテキストをバラバラにすることです。そして、それらはそれを続けます。最終的に幻覚を見るまで。そして、その時だけ、ワークフローを続行します。

もし幻覚を見るように強制されたら、あなたは実際にそれらの弱点を利用できます。彼らはあなたに問題があることに同意しようとしますが、それを見つけることができません。

特に/grill-meスキルと組み合わせると、人間であるあなたには、さらにコメントや考え、たとえ最も些細な考えさえも残らない結果になります。LLMはあなたの考えもバラバラにしようとし、時には何時間もあなたを炙り、あなた自身の考えを形成することを強制しました。

幻覚を利用する方法さえあります。昨年のカンファレンスで、Anselm Eickhoffは、LLMにAPIやUXを幻覚させ、その後実際のものを提示する方法を説明しました。それが推測することは、おそらくほとんどの人間が推測することでしょう。そこで、幻覚と戦う代わりに、それを利用します。それは、あなたのデザインが人々の期待と一致するかどうかの安価なテストになります。私もこれをスキルに組み込みました。試したい場合はどうぞ。

[画像: Screenshot of the intuition-probe skill on GitHub: let an LLM hallucinate the API or UX it expects, then conform your design to the guess. A blind agent commits the design it expects before seeing the real thing, then reports the shape it reached for.]

私のintuition-probeスキル:盲目のエージェントが、実際のものを見る前に期待するデザインをコミットします。gistから無料で取得できます。

これらのパターンのすべてに1つの要件があります。結果が良いかどうかを判断できる必要があります。そして、LLMを多く使うほど、私は知らない分野に足を踏み入れることになります。そして、専門家が必要になります。なぜなら、私は理解しているものしかプログラムできないからです。それは委任のようなものです。チームの別のメンバーにタスクを委任するのは、少なくとも基本的なことを理解しており、何が良いかを知っている場合だけです。LLMも同様です。

何かを非常によく知っていれば、「良い」と「絶対的なクソ」を素早く区別できます。そして、よく知らない場合は、LLMを学習のためだけにしか使いません。なぜなら、まだ良いとクソを区別できない状態でそれらを使用すると、完全なゴミ生産につながるからです。

学習には2つの方法があります。結果が明確に良いか悪いかに区別できるかどうかによります。良いか悪いかとは、コードがコンパイルされるかされないか、テストスイートがグリーンかそうでないか、プロトコルがデコードされるかされないか、ということです。「コードが良い」ということではありません。コードの品質は別の問題です。そのような明確なチェックがある分野では、LLMにそれを指示して一緒に学ぶことができます。カンファレンスで会ったある男性は、Opus 4.6を使ってバイナリやプロトコルをリバースエンジニアリングした方法を説明しました。彼が必要としたのは、リバースエンジニアリングの基本的な知識だけでした。パッチを当てたバイナリが機能したか、デバイスをブリックしたかのどちらかでした。結果が正しいかどうかは明らかだったので、彼はその過程で独自のテクニックさえ見つけることができました。

プログラミングのような意見が多い分野では、LLMはほとんどの人が望むであろうこと、つまり最も一般的なテクニックを教えてくれますが、それはあなたのケースにとって最良ではないかもしれません。

以前、チームで議論があり、人々はコードがAIのゴミであり、一般的なAIの問題だと私に言いました。詳しく調べると、彼らはTDDが好きではないことがわかりました。しかし、チームにはLLM時代のはるか前から多くのTDDを行っていた人がいました。突然、AIのゴミはAIのゴミではなくなりました。それは人間が異なる意見を持っていることについての問題でした。そして私が言ったように、LLMは増幅するだけです。それらを使えば、あなたの意見を増幅できます。ここでは、人間があなたを大まかに正しい方向に導き、あなたが自分で続けることができるまで使用する良い出発意見を与える必要があります。

私は一人ではない

私のことを信頼してくれることを願っています。そして、信頼してくれなくても完全に理解します。本当に知る唯一の方法は、私のコンテンツに関わることですが、それは多くの時間を要するので、関わらなくても理解します。しかし、もしあなたがこの時点でまだここにいるなら、あなたはすでにこのテキストにかなりの時間を費やしています。そして、おそらくこの記事には多くの努力が費やされており、それは明白なゴミではないことをすでに知っているでしょう。

私はこの不協和音に一人ではありません。

一人で書いているだけではわかりませんでした。しかし、書きながら、カンファレンスのDiscordを調べ、カンファレンスで直接人々に尋ね、過去数週間のHNの記事を読みました。それは私に示しました:同じ不協和音を説明する他の人々。だから、おそらく他の人も自分の経験や学習経路を共有して、この微妙な線引きを明確にすることができるでしょう。

このすべての中に、この非常に良いものがあります。誇大広告ではなく、あなたの思考を豊かにする、本当に良いツールです。しかし、それは決してあなたの思考を置き換えることはありません。

さあ、試してみてください。知っています、それはまさにテックブローが言うことでしょう。他の言い方ができません。


Local-First Confのすべての人々に感謝します。あなたは私の頭を情報で爆発させました。