AIはあなたをより速くダメにもできる

AIはあなたをより速くダメにもできる Jordan Andersen 著 2017/08/26 少し前に、Disesdi Shoshana Cox 氏の素晴らしい記事を共有しました。彼女は、AIのおかげで今頃、革命的なテクノロジー企業がいくつ存在しているはずか、という数学的な計算を行いました。開発速度が10倍になれば、アプリをローンチするための技術的な側面は、ターゲット市場に到達するための限界ではなくなります。AIがついに、プログラマーの遅い動きという問題を解決する銀の弾丸を提供したかのようです。 Disesdi 氏の（反論しにくい）算術ロジックを借りれば、オープンソースLLMが登場してから4年が経過した今、AIの力のおかげで、AirBnBが3つ、Stripeが2つ、Dropboxが3つあるはずです。では、一体どこにあるのでしょうか？ GenAIの登場以降、世界で最も新しいテクノロジー企業は、言うまでもなくGenAI企業です。OpenAI、Anthropic、High-Flyer（DeepSeekの開発者）は、記録的な金額で評価されています。しかし、それらが引き起こしている最大の混乱は、世界経済に対するものです。GenAIの社会への最も顕著な貢献は、質の悪いメールを標準化し、ソーシャルメディアをゴミで氾濫させ、インターネット検索エンジンの質を低下させることです。あるいは、それが「宇宙で最も特別なプログラマー™️」だと感じさせるドーパミンゲームであり、実際にはゲーム化された大規模な知的依存に過ぎないことを認めるべきです。 Disesdi Shoshana Cox Disesdi 氏の記事は、このAIブームの中で、私も同様に期待外れのソフトウェア出力を目の当たりにしてきたため、私の心に響きました。これらのツールは、技術的なことについて時間をかけて努力して学ぶことをしていない非技術者の手に渡ると、単純に、持続可能で、一般的な攻撃に対してセキュリティが強化された動作するアプリを生成することができません。そして、経験豊富なソフトウェアエンジニアがそれらを使用した場合、その影響は弱々しい握手のように感じられます。 ここでの大きな盲点は、コードを書くことがソフトウェア開発で最も時間を浪費する部分ではないということです。これは、今頃AirBnBやDropboxが少なくともいくつかあるはずだという私の主張と矛盾しているように聞こえるかもしれません。しかし、矛盾はありません。なぜなら、企業のリーダーやスタートアップは、LLMが製品提供のボトルネックを解決したと本当に信じているからです。「Claudeにやらせればいい」というだけで、ソフトウェア開発における技術的な問題はもう存在しないという認識です。 私は最近、ある技術カンファレンスに出席しましたが、そこでは「No code, No problem」というタイトルのパネルディスカッションがメインステージで行われていました。パネルには、MVP（Minimum Viable Product）を「vibe coding」（感覚的にコーディング）で乗り越え、顧客からお金を得ていると思われる4人のスタートアップ創業者たちがいました。私がセッションから立ち去ったのは、ある創業者が、CTO（最高技術責任者）は必要ないし、今後も必要ないだろうと言ったときでした。なぜなら、技術的な問題はClaudeを使えば解決できるからです。想像してみてください。ソフトウェア会社にソフトウェアの専門知識は必要ないのです。オフィスの建物の構造を設計するために構造エンジニアは必要ありません。手術を行うために外科医は必要ありません。 I. 実験 私よりもはるかに優れた開発者である人たちから、Claudeやその他のコーディングエージェントを使ってソフトウェア作成の生産性が向上したと聞かされました。そこで私は、「どうせなら試してみよう」と思いました。コンサルタント業を営んでいると、そのような開発速度を実際にお金に換えることができるのです！ 私はすでに、退屈な作業（ボイラープレートコード、繰り返し的なSQLなど）を書くのを助けるために、いくつかの異なるAIエージェントを使用していました。しかし、この10倍の魔法に乗れるかどうか試してみたかったのです。そこで、私は自分の言葉に責任を持ち、$10分のDeepSeekクレジットを購入し、現在取り組んでいるプロジェクトで使用することにしました。 そのプロセスは信じられないほどイライラするものでした。チャットボットは、考えうる限り最も愚かなことをいくつか推奨しました。そして、はっきりさせておきましょう。DeepSeekが書いたコードは実行できましたが、それはダクトテープで車輪が固定されたピエロの車のようなものでした。さて、あなたは「この野郎はプロンプトの書き方を知らないんだ。もっとうまくプロンプトを書ければ、こんなにひどいことにはならないだろう」と思っているかもしれません。そして、それは正しいかもしれません。しかし、私は以前に製品をリリースしたことがあります。これは、ほとんどの人がエンジニアリングキャリア全体で達成することよりもはるかに多いことです。だから、私はプロンプトの書き方が下手なのかもしれません。あるいは、何か別のものが下手なのかもしれません。 II. 今日の悲しい現実 ごく最近まで、何かを知らないことの答えを見つける方法は、Googleで検索し、さまざまな意見を読み、それらの考えをフィルタリングして組み合わせ、自分自身の見解を生成することでした。そして、Googleで検索することが答えを見つけるための標準的な方法になる前は、埃っぽい人間がたくさんいる巨大な建物に行き、棚を一つ一つ探し回り、理解したいことの一部が含まれている適切な書物のコレクションを見つける必要がありました（図書館を訪れるたびに、私はそれを「スタックスで行う」と呼んでいます）。それらはすべて、あなたと、誰かのアホがRedditに投稿したどんなゴミでも吐き出すロボットとの間のテキスト戦争に取って代わられました。 この統計を少しだけ噛み締めてください！！！：ChatGPTが金融に関する質問に答える際、YMYL（Your Money Your Life）ガイドラインが権威ある情報源を優先しているにもかかわらず、Redditは金融専門家を176%上回っています。Carlos Silva、Semrushのライター GenAI後の世界では、自分で考える人があまりにも多すぎます。好奇心は私たちから失われていません。これは非常に心強いことです。しかし、問題や質問について批判的に考える代わりに、「それに対応するアプリ」があります。問題は、「それに対応するアプリ」は推論できないということです。その情報源は、正当性が検証されていない、主に非専門家からのさまざまな意見の範囲です。 かつては、熟練した分野への参入障壁がありました。これは良いことでした。例えば、あなたは自宅の電気配線を自分でやりますか？ なぜやらないのですか？ スイッチボードを見ながら、携帯電話でステップバイステップのガイドを入手できます（ChatGPTがスイッチボードから始めることを推奨した場合）。チャットボットはおそらく、照明を1つの回路に接続し、オーブンを別の回路に接続する方法を見つけることができるでしょう。あなたは、負荷を分散するために、家の部分を異なるブレーカーに分散させる方法さえ学ぶかもしれません。しかし、もし間違いを犯したらどうなるでしょうか？ その結果はどうなるでしょうか？ 夜中に電気火災が発生するかもしれませんし、それが発生する前に感電するかもしれません。明白で、潜在的に壊滅的な結果は、ほとんどの非電気技師が専門家を雇うには十分でしょう。 では、なぜソフトウェアを構築する際に同じ論理が使われないのでしょうか？ 今日のほとんどのアプリは、クレジットカード情報や、間違った人物に漏洩した場合に誰かの人生を台無しにするのに十分な個人識別情報を収集します。世界中のどこかにいる、やる気のない16歳のハッカーが、十分に守られていない本番データベースに侵入するだけで十分です。結果は、家が燃えるような映画のようなものではありませんが、あなたの人生は、不注意なソフトウェア設計によって完全にめちゃくちゃにされる可能性があります。 さらに、ソフトウェア開発に新しい人だけがこれらのチャットボットにアクセスできるわけではありません。もしあなたがAIの生産性への10倍の効果を本当に信じているなら、ハッカーにとってそれがどれほど良いものになっているか想像してみてください。それは、アプリを「vibe coding」し、それに対して人々から料金を請求し、機密データを収集するという点では同じ考え方です。ただし、アマチュアの電気工事が家を燃やすかどうかを賭けているわけではありません。代わりに、あなたは他人のお金（VCや顧客から）、プライバシー（あなたのアプリを使用してデータを提供してくれた人）、そして生計（あなたの会社で雇用したすべての人）を賭けているのです。 III. オズの魔法使い GenAIに私たちが置く信頼の量は、「まあまあ良い」情報によって舗装されてきたと私は考えています。これらのLLMは、ユーザーが全く知らないトピックについて、数秒で膨大な量の情報をキュレーションします。チャットボックスと会話的な感覚が、自分でやるという骨の折れるプロセスに取って代わりました。（余談ですが、Googleで何かを検索することが面倒なことになっているのは、信じられないほどおかしいです。人間の歴史のほんの一瞬前、