HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIに騙されているかもしれないあなたへ

I Think You Might Be Fooling Yourself with AI (louwrentius.com)

52 pointsby louwrentius45 コメント

要約

この記事は、AI(特にLLM)の熱狂的な支持者に対し、科学的根拠に基づかない生産性向上への過信は自己欺瞞であると警鐘を鳴らしています。AIツールの利用が感覚的に生産性を高めているように感じても、客観的な証拠はなく、むしろ開発者の生産性が低下したという研究結果も紹介されています。また、AIの持続可能性や、エネルギー消費、データセンター問題、知的財産権侵害といった外部コストについても疑問を呈し、倫理的な観点からAIの利用を控えるべきだと主張しています。

全文翻訳

AIで自分自身を欺いている可能性がある

AI(LLM)に熱狂しているなら、あなたは自分自身を欺いているのかもしれません。これは侮辱ではなく、親切な警告として受け取ってください。

リチャード・ファインマンが言ったことを思い出してください。

第一原理は、自分自身を欺いてはならないということだ
そして、あなたは最も欺かれやすい人間なのだ。

出典 (バックアップ)

彼はこの発言を、1974年のカルテック卒業式でのスピーチの中で行いました。このスピーチで、彼は適切な科学的誠実さを強く訴えました。

AIは急速に変化する対象であるため、個人的なレベルで適切な「科学的誠実さ」を維持することは難しいと感じます。ツールは不当に有能に感じられ、例えばコードを書く際にLLMを使うと、より生産的になったように感じられます。

しかし、今日現在、私が知る限り、人々や組織がAIを使用することで実際に生産的になったという独立した科学的証拠はありません1。

本当に「生産的」になっていますか?

一方、ある研究(2025年後半)では、参加した開発者はAIを使用してタスクをより速く完了したと感じたものの、実際には約19%遅かったと報告されているようです。

AIの使用はより速く、より生産的に感じられるかもしれませんが、あなたは自分自身を欺いているのかもしれません。時間を遡って、AIツールを使わずにタスクを実行した場合の自分自身を測定し、結果を比較することはできません。

(科学的な)実験がしばしばブラインドまたはダブルブラインドであるのには理由があります。個人的なバイアスが結果に影響を与え、真実ではないことを信じ込ませるのを防ぎたいのです。自分一人で行うのはそれほど簡単ではありません。

だからこそ、AIが人々をより生産的にするという個人的な証言や逸話には、あまり心を動かされません。彼らがそうでなければ構築できなかったであろうアプリを、どのようにして「vibe」でコーディングしたかといった話3です。

AIのせいで大量解雇が行われているという事実を鵜呑みにしないでください。サム・アルトマン自身が、これらの解雇の多くを「AIウォッシング」と呼んでいます。これらは、過剰採用期間後の通常の解雇であり、市場が是正されているだけです。AI関連のビジネスを除けば、経済状況はあまり良くないようです。

さらに、これらの解雇の一部は、AIリソース購入のための資金を捻出するために特定されているようです。取り残されることへの恐怖による経営判断です。解雇された人々を置き換える能力を将来的に持たないかもしれない、証明されていない技術のために資金を調達するために人々を解雇しているのです。

AIは持続不可能

たとえAIが本当にあなたをより「生産的」にしているとまだ考えているとしても、それが続く間は楽しんでください。

この記事によると、ChatGPTは月額200ドルのサブスクリプションを11%を超えて使用すると赤字になり始めます。もし100%フルに使用した場合、同じ200ドルのサブスクリプションで、API価格で14,000ドル相当の利用が可能になります。私にはそれは狂っているように思えます。

AIによって生産性が向上していると思うとしても、ベンダーがAI利用への多額の補助を停止した後の「実際の」コストに見合うものだとは思いません。もしAIが単に原価で価格設定されたら、どれだけの利用があるのか本当に疑問です。月額200ドルではなく2000ドルになったら、あなたはまだ生産的だと感じるでしょうか4? 200ドルのサブスクリプションはそれほど大きな賭けではありませんが、それ以上になると、ますます割に合わないと感じるかもしれません。

開示:私自身のAIに対する偏見

さて、私自身の偏見について正直に話す時が来ました。私はAI懐疑論者です。エド・ジトロンの報道にかなり影響を受けています。そして、AIは資金が尽きて、莫大な運用コストのためにただ停止されるだろうという私自身の考えも支持しています。

これは信じがたい、不合理なことのように思えるかもしれません。Google、AWS、MicrosoftがOpenAIやAnthropicを買収するかもしれませんが、経済性は変わりません。彼らは無期限にAIを補助するつもりなのでしょうか? 何のために?

これがどのように展開するかについて、提案を歓迎します。AIに投資された資金は約1兆ドルです。これらの投資を回収するための資金はどこから来るのでしょうか? AI(関連)企業を無視すると、アメリカ経済は暗澹たる(2025年8月)ように見えます。

私自身は、AIのすべての外部性から目をそらすことはできません。気候変動の文脈でのエネルギー消費。貧しいコミュニティを混乱させるデータセンター。知的財産または著作権で保護された財産の大量窃盗。インターネットのエンシュニフィケーション(質の低下)とエンスロピフィケーション(奴隷化)。記憶の大規模な蓄積によるインフレ。

AIの悪が、AIが行うとされる善によって相殺される、または相殺できるとは確信していません。ツール自体をその外部性から切り離すことは不可能です。だから私はAIを使用していません。道徳的、倫理的な理由からAIを使用していません。


Hacker Newsの議論:こちら

ポストスクリプト

Hacker Newsのコメントは非常に示唆に富むものでした。ほとんどが、この記事の実際の論点に全く関与せずに、非常に軽視しています。

引用されたMetrの研究の後、2026年のより新しい研究があり、AI使用時の生産性が向上したことを示しているのは事実です。著者らはまた、支払った金額がはるかに少なく、開発者がAIなしでコーディングしたくないという問題があったと指摘しています。

最初の研究で実際に興味深かったのは、開発者が考えたことと、生産性に関して測定されたこととの間の乖離です。彼らは測定可能なほど自分自身を欺いていたのです。

さらに、人々はすぐに反応し、私が書いたことを実際に読まず、理解しない傾向があるようです。私が提起している主なポイントは2つです。

  1. 生産性に関するあなたの認識は間違っている可能性があります/あなたは自分自身を欺いている可能性があります
  2. さらに、AIツールが、認識される生産性向上と比較して、補助金なしのコストに見合う価値があると考えていると、あなたは自分自身を欺いているのではないかと疑問視しています。

少なくとも、この点を伝えるために、私の文章をより明確にするよう努めます。

このブログ記事をこれほど速く却下し、個人的な逸話以外の何も提供せずにAIの生産性について主張する人々がいることに驚かざるを得ません。


  1. これは、私が見つけられなかったという確認バイアスによるものかもしれません。↩
  2. この文脈で「生産的」が本当に何を意味するのか。↩
  3. それがどれだけの価値を生み出すか、あるいはどれだけの収益を生み出すかは、しばしば議論されません。そして、生存者バイアスに騙されないでください。↩
  4. あるいは、費用を正当化するためにAIをもっと使わなければならないと感じてストレスを感じ、プレッシャーを感じて燃え尽きてしまうでしょうか?↩