ソフトウェア、デジタル商品、サービスの「TEMU化」

ソフトウェア、書籍、音楽、映画などのデジタル商品やサービスの、そう遠くない未来に関する仮説です。私たちが消費するもののほとんどが、より安価で、より豊富になり、そして明らかに質が悪くなる一方で、人間が作ったものはそれ自体が高級セグメントへと移行していくでしょう。 免責事項：これは意見記事であり、そのほとんどは、まだ到来していない（？）未来についての憶測に基づいています。いつものように、要約は最後にあります。 数年前なら、10ドルのドリル、2ドルのドレス、1ドルの靴が地球の反対側の倉庫から shipped されるという真剣な市場が存在すると誰かに言われたら笑っていたでしょう。しかし今日、その市場は存在し、名前もあり、公開取引もされています（持ち株を通じてですが）。TEMU、Shein、その他いくつかの企業は、生産を十分に安く、十分に速く、そして電話画面でそれらしく見えるのにちょうど良いだけの品質にすれば、たとえ製品が1週間以内に壊れたり、含まれる素材に懸念されるレベルの有毒物質が含まれていたり、1回の配送のカーボンフットプリントが同等のローカル購入のそれを桁違いに超えたりしても、人口の大部分がそれを購入するという考えを中心に、率直に言って驚異的なビジネスを構築してきました。 この種のビジネスモデルの鍵はイノベーションではなく、コストの外部化と圧縮です。どこかで、このウェブサイトの読者のほとんどが訪問することさえ拒否するような状況で、人々が週75時間働いているため、私たち残りは5営業日以内に玄関先に安価なプラスチック製スパチュラを届けてもらうことができます。目に見える価格は崩壊しますが、目に見えないコストは埋立地、肺、そして最終的には私たちが決して会うことのない人々に分散されます。 以下は、証明できないが、しばらく頭の中で考えている仮説です。私たちは、ソフトウェア、書籍、音楽、（映画の）脚本、そして私たちが消費するほとんどのデジタル商品やサービスで同じことが起こるのを見ています。この場合の安価な労働力は人間ではなく、多くの人が今日「AI」と呼ぶ大規模言語モデル（LLM）であり、外部化されたコストは、とりわけ、職人技によって生み出され、認識するために注意が必要な品質です。そして、物理的な商品と同じように、生成されたゴミの巨大で莫大な利益を生む下位層と、まだ人間的だと認識できる作品の、より小さく、より高価な上位層という、二層市場に落ち着くでしょう。 これをソフトウェア、デジタル商品、サービスの「TEMU化」と呼び、それがどのように見えるかを説明したいと思います。 安価な労働力 数十年にわたり、世界のファッション業界は、ほとんど交渉力も発言権もない労働力に依存してきました。そして、誰かが遠く離れた場所でコーヒー1杯以下の値段でTシャツを縫ってくれるため、経済は成り立っています。その歪んだ取り決めがなければ、ファストファッションのビジネスモデル全体が崩壊します。あなたの手にある衣類は、価格タグには表示されない方法で誰かにとって高価であったために、あなたにとっては安価なのです。 現代の大規模言語モデルは、経済において同様の立場にありますが、1つの重要な違いがあります。それは、スウェットショップに人間は存在せず、数十年にわたる他の人間が生産した作品のコーパスでトレーニングされたGPUのスタックがあるだけだということです。圧縮された労働力は歴史的なものであり、モデルは数百万人のプログラマー、ライター、イラストレーター、ミュージシャンの作品の圧縮されたコピーのようなもので、ほぼゼロの限界費用で提供されます。まあ、少なくとも理論上は、そしてハイパースケーラーがトークンあたりのコストを下げる方法を見つけた場合に限りますが、それは別のトピックです。 しかし、結果は同じです。あるクラスの商品が、以前よりも桁違いに安く生産できるようになります。そして、TEMUと同様に、それらの商品は「ちょうど十分」なものになります。 バイブコードされたソフトウェア これまでのところ、最も直接的な現れは「バイブコーディング」と呼ばれるものです。この用語は、自然言語でLLMに何をしたいかを説明し、それが生成したものをそのまま受け入れ、基本的なアイデアのより洗練された説明でそれを反復し、最終的に結果を本番環境にリリースする実践を指します。開発者が生成されたものを実際に理解しているかどうかは、実装の詳細と見なされることが増えています。そして、出力は技術的にはソフトウェアですが、どのような種類のソフトウェアかという問題があります。 2025年のVeracodeのレポートによると、AI生成コードサンプルの約45％がセキュリティテストに失敗し、OWASP Top 10の重大な脆弱性を含んでいました。また、Claude、Gemini、Codestral、GPT-4o、Llama-3の出力をPython、Java、C++、Cで評価した多言語、多モデルの学術研究では、生成されたスニペットのかなりの割合が、基本的なセキュアコーディング標準に準拠していないか、分類された脆弱性（バッファオーバーフロー、ハードコードされた認証情報、SQLインジェクション、暗号化の誤用、パストラバーサルなど）を積極的に引き起こすことが発見されました。さらに懸念されるのは、IEEE-ISTASによる2025年の査読付き論文で、5回の反復プロンプトで重大な脆弱性が37.6％増加したことが文書化されており、モデルにコードをさらに洗練させるほど、セキュリティ体制が悪化することを示唆しています。 これらの問題が時間とともに蓄積すると、従来の開発よりも総コストが高くなります。しかし、これは長期的な視点を持たず、ファストファッションのように考える場合には問題になりません。また、これらは経験豊富なエンジニアがこれらのツールをうまく利用できないと言っているわけではありません。彼らは確かにうまく利用できます。問題は、同じツールが、そもそも「良い」とは何かを知らない人によって使用され、その下流にそれを知る人が誰もいない場合に何が起こるかということです。出力は、それが実行され、もっともらしく見えるという基本的なテストに合格し、本番環境にリリースされ、何か非常に悪いことが起こるまで表面化しないようなアーキテクチャ的およびセキュリティ上の負債を蓄積します。 注：業界には、特にAIツールのベンダー自身から、AI支援開発は天井を下げるというより床を上げるという意見もあります。この見方では、平均的なソフトウェアは常に平凡であり、疲れた人間が締め切り圧力の下で書き、あまり考えずにStack Overflowからコピーし、ダクトテープでまとめられていました。LLMがわずかな時間で同等の品質の出力を生成する場合、何も悪化していない、というのがその議論です。私たちは単にボトルネックを取り除いているだけです。 私はこの議論に部分的に納得し、部分的に都合が良いと感じます。多くのソフトウェアがすでに良くなかったのは事実ですが、少なくとも自分が何をしているのかを理解していた人間が書いた悪いコードと、何も理解していないシステムが書いた悪いコードの間には、同等の違いがあるのも事実です。前者は質問され、修正される可能性がありますが、後者は、それをリリースする人がそれがなぜそのように動作するのかを説明できないため、悪化する傾向があります。少なくとも現時点では。 バイブで書かれた本 ソフトウェアだけがこのような状況になっているわけではありません。書籍業界は明らかにさらに進んでおり、毎月1万から4万冊のAI生成書籍がAmazonのKindleダイレクト・パブリッシング・プラットフォームにアップロードされていると推定されており、その多くはモデルが関与したという開示がありません。2023年6月、Kindleトップ100ベストセラーリストには人間が書いた本はわずか19冊しか含まれていないことが判明しました。Amazonはその後、制限と開示要件を導入しましたが、施行はまだら模様であり、著者は人間の作者が同意しなかった古い本の認識に依存した、生成された適応作品である、存在しないレストランの推薦がある、作者が訪れたことのない都市のガイド（生成されたガイド）、存在しない研究への引用がある（生成された栄養と健康のアドバイス）、といった、ゆっくりとした洪水のように見えるものに抵抗し続けています。