AIの信頼性劇場はもうやめてください
Please stop the AI confidence theater (elenaverna.com)
要約
この記事は、AIの現在の能力に関する過剰な誇張や「信頼性劇場」に警鐘を鳴らしています。AIの進歩が速すぎるため、多くの人が取り残されていると感じ、イノベーションの阻害や採用プロセスの混乱を招いています。著者は、AIの真の価値は、誇張された「人生を変える」という主張ではなく、現実的な時間節約や問題解決にあると主張しています。
全文翻訳
AIの自信満々な演出はやめてほしい
AIの見出しは決して期待を裏切らない。まず、AIは教育を破壊すると言われた(ああ、良い時代だった、懐かしい)。次に、作家、エンジニア、デザイナー、プロダクトマネージャー、そして営業職を排除する段階に進んだ――おそらくその正確な順序で。しかし、マーケティング、財務、人事部門は免れた。これは皮肉だと感じる。
SEOで有名なGoogleでさえ、AIのせいで危うくなった。そして、私たちは集合的にSaaSを廃止することを決めた。廃止はしなかったが、株式市場はそれを信じ、多くの人々がお金を失った($$$)。今、誰も彼もがAIエージェントを必要としている真っ只中だ。なぜなら、AIエージェントを持たないと人生を変えるような経験を逃しているからだ。そして、それでも… 人々の99%はAIエージェントが何をするのかさえ知らない。
その間、私はChatGPTに同じ段落を3回書き直すように頼んでいる。なぜなら、それは常に「LinkedInの賢者風投稿」モードにデフォルト設定されるからだ。ガァー。
見てほしい:私はAI企業で働いている。一日中AIを使っている。AIと戦略を練る。AIで製品を構築する。AIで文章を書く。AIでデータを分析する。しかし、私でさえ、皆がAIのコードを解読したように感じ、自分はまだ基本的なチュートリアルバージョンを使っているように感じる。
そこで、誰かがAIが人生を変えたと言ったとき、私はいつも簡単な質問を始めた。「すごいね。見せて。」
そして、ほとんどの場合、私はいくつかの基本的なワークフローを見る。Slackの要約。メールへの返信。スケジュールされたスキャン。リサーチをして何かを予約する。Claudeからメールを送信する。まあ… 便利ではある。しかし、あなたの仕事が明日なくなったら、本当に崩壊してしまうほど、あなたの日常でクリティカルになったものを見せてほしい。本当に人生を変えるものを見せてほしい。
それは、ごく短いリストであることがわかる。
しかし、ノイズは音量11/10で続いている。
だから、これは私の必死の訴えだ… 皆さん、この「AI自信満々な演出(AI Confidence Theater)」を、お願いだからやめませんか?それは良いことよりも害悪の方が多い。
この投稿は Firecrawl のスポンサーです。Firecrawl は、Webを大規模に検索、スクレイピング、操作するためのWebデータAPIです。ライブWebを、エージェントが実際に使用できるクリーンで構造化されたデータに変換します。
(追伸:私は個人的にFirecrawlを私のLovableアプリでいつも使っています――最近では、このブログ自体をスクレイピングするために使用し、私のAIの分身が最新の投稿をコンテキストとして使用できるようにしました。)
[
[画像]
](https://firecrawl.dev/?utm_source=newsletter&utm_medium=partner&utm_campaign=elenas_growth_scoop)
いろいろなものを台無しにしている
この偽のAIハイプは私たち皆を傷つけている。これは被害者のいない犯罪ではない。
現実の歪みがイノベーションを傷つける
AIの見出しを追いかける者や偽装者は、AIツールで人々が本当にクールな「アハ体験」をする機会を奪っている。問題は、誰かが「人生を変える」(いつも「人生を変える」と言われる)新しいAI搭載システムについて話しているのを見ても… 実際には機能しないことだ。だから、あなたはすべてのAIがデタラメだと決めつけ、知らんぷりを続ける。
[
[画像]
](https://substackcdn.com/image/fetch/$s_!__9h!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F442d1ae1-821a-46cd-bccb-066fc8104e9a_664x377.png)
そして、AIが今実際にできる時間の節約や煩わしさの軽減を祝う代わりに、人々は従業員を置き換えるスーパーエージェントを約束している… それらのエージェントが機能するのは50%の時間だけで、非常に具体的なコンテキストを手作業で与えられない限り(そしてほとんどの場合、間違ったことをする)まともな出力を提供しないという事実にもかかわらず。
この奇妙な逆ハッスル・ハッスル文化?
「2026年のビンゴカードに、毒のあるハッスル文化を少し懐かしく思う、という項目があるとは思わなかった」が、今ここにいる。なぜなら、私たちはさらに毒のある環境を持っているからだ。
5年前、人々は自分が他の誰よりも一生懸命働いていると思わせたかった。今日、彼らはAIがすべてをやっていると思わせたい。
5年前、人々は大きな成果――収益、ユーザー数、資金調達、人員数――を共有し、自慢していた。今日、人々はただトークンをどれだけ燃やしているかを強調している。誰もが、自分が大きな考え事をしている間に、見えないAI従業員のチームがビジネスを運営していると信じさせたい。しかし、そのビジネスの成果はどこにあるのだろうか?!
5年前、人々は朝5時に起き、コールドシャワーを浴び、受信トレイをゼロにし、ペロトンを漕ぎながら働き続けることを自慢していた。今では、17個のエージェントを持ち、メールを開かず、AIがビジネスを運営している、ということになっている。それは全く同じパフォーマンスだが、小道具が違うだけだ。
真の専門知識を持つ人材の採用が混乱している
これは採用プロセスも台無しにした。AIは平均的な知能を信じられないほど安価にし、誰にでも専門用語の語彙を与えた。かつては、誰かがベクターデータベース、MCP、エージェント、メモリ、またはRAGについて話し始めると、彼らが何をしているのか知っていると仮定できた。今日では、誰もがその言葉を知っている。AIは彼らのために賢い一文や3つのホットテイクを再生する。誰もが経験を持っているように聞こえる。
しかし、有能に聞こえることと、有能であることは全く異なる。では、その中でどのように採用するのか?古い面接や採用プロセスがそれほど優れていたわけではない――私は長年それに不満を抱いていた。しかし、実際の口頭面接はもう機能しない。MCPを「自信を持って」説明できるからといって、それを構築できるとか、誰も依存していないワークフローを一つでも構築したことがあるとは限らない。ケーススタディと実務トライアルが、このくだらないものを切り抜けるために絶対に必要になる。
FOMOは疲れる
これらすべてが、人々を落胆させている。これらのツールがどのように役立つかに興奮する代わりに、私たちは皆ひどく遅れているように感じ、すべてが完全に不可能に思える。
全体として、私たちの脳はこのレベルの変化を理解できない。特にテクノロジー分野の人々にとって、これはすべてがあまりにも速く起こっている。200年前、私たちは基本的な衛生状態をようやく確立しようとしていたことを考えてみてほしい。そして今、私たちは、私たちの仕事を助けたり(あるいは置き換えたりする)、非常に強力だが(同時に非常に不安定で、時にはがっかりさせられる!?)人工知能をどのように管理するかを考えなければならない?それはあまりにも多い。常に私たちに遅れていると叫ばれる必要はない。
私がそれを好まないのは、それが偽の基準を作り出すからだ。あなたの周りの誰もがAIについて何かを理解し、仕事を変えたように見えるなら、会議を要約するためにAIを使うことは、恥ずかしいほど基本的なことに感じられるようになる。誰かがもっと多くのことをしたと主張するので、実際にあなたを時間を節約してくれることを感謝しなくなる。
なぜこれが起こっているのか?
これが起こるいくつかの大きな理由がある:ソーシャルメディアは表層的なハイプを報酬とし、AIができることは私たちが追いつけるよりも速く進化しており、そして企業は組織のあらゆる階層でこの種の行動を奨励している。
問題1:ハイプはクリックを稼ぐ
私たちは注意が通貨である世界に住んでいる。そしてその注意は一般的にインプレッションで測定される。これは人々が追い求めているドーパミンヒットだ――バイラルになれるか?誰もがエンゲージできるようにできるか?
注意を引く方法は、衝撃的または予期せぬことを言うことだ。だからすべてが誇張される。正当にクールなユースケースは、「これは毎週15分間の面倒な時間を節約してくれる」から「OMG、これは私の人生を変えた」または「このワークフローを使わないと、あなたは永久に失業する」に引き上げられる。
問題2:ここはワイルドウェストだ
LinkedInやXで魔法のようなユースケースを共有するコンテンツクリエイターについて話すとき、難しいのは、AIは本当にクレイジーなことができるということだ。もしすべてが偽物だったら、私たちは皆それを無視できたはずだ。しかし、人々は常に、あなたと私の働き方を毎日完全に変えることができるものを実際に構築している。だから、私たちはそれを無視できない。
しかし、確認するのも難しい。例えば、彼らは私とは違うLLMモデルを使っているのだろうか?私のデータは正しく構造化されていないのだろうか?ワークフローの設定で何か間違えたのだろうか?それとも… 彼らはただ偽装しただけで、これらすべては不可能だったのだろうか?知る方法はない。
これは、テクノロジーの以前の段階で対処する必要があった問題ではない。「Dropboxでこの信じられないほどのセットアップを構築したばかりだ」という投稿を作成してバイラルを狙う人はいなかった… 誰もが説明を見て、すぐに「くだらない!」と叫んだだろう。
問題3:マーケティングチームは、存在しない確実性を売っている
従来のソフトウェアはメッセージングが「簡単」だった。ボタンをクリックすれば、結果が得られる。AIはそうは機能しない。それはより多くの可能性を開き、ユースケースは曖昧に定義され、成功するには適切なコンテキストが必要だ。時にはそれは信じられないほど素晴らしい。時にはそれは単に愚かか、自信満々に間違っている。
しかし、ランディングページを読めば、すべてのAI製品が、決して眠らず、決して間違いを犯さず、誰よりも会社の運営をうまく行う魔法のような従業員だと思うだろう。
このAIイノベーションのすべてについてのことは、信頼ベースの成長の時代でもあるということだ。もしあなたが売りすぎれば、それは発見され、誰もあなたを信頼しなくなるだろう。今、このハイプすべてが無料の注目と資金のように感じられるかもしれない。しかし、その道を選べば、最終的には代償を払うことになる。
追伸:マーケティングチームを責めているわけではない。彼らはマーケティングが常にやってきたこと――製品の最良のバージョンを売る――をやっているだけだ。問題は、AIでは、デモと日常の現実との間のギャップが計り知れない可能性があることだ。そして、誇張された約束はすべて、次のAI製品への信頼を少しずつ失わせる。
問題4:トップからの圧力
企業内では、これは一番上から始まる。エグゼクティブの上、VCレベルでさえ。なぜなら、投資家はAI搭載の奇跡を約束されているからだ。そしてこれは、エグゼクティブが従業員にAI搭載の奇跡を要求する必要があることを意味する。つまり、従業員は(しばしば性能の低い)AIツールで不可能なことをするように求められている。つまり、従業員はキャリアの進歩を正当化するため、あるいは単に職を守るために、AI自信満々な演出を行うことに非常にインセンティブを与えられている。
やめろ。君は自分自身を傷つけているだけだ。
もしこの茶番を止めたいなら、それは集団的な努力が必要になる。
コンテンツについて:ハイプの共有(および拡散)をやめろ。
これを読んでいて、あなたの「100倍AIエージェントワークフロー」について誇張されたナンセンスを投稿していることに心当たりがあるなら… やめなさい。
[
[画像]
]
良いニュースは、素晴らしいことがたくさんできるということだ。何も作り上げたり誇張したりする必要はない。あなたが知っていることに深く掘り下げ、本当にクールで実際に影響を与えるものを作る時間を費やしなさい。もしあなたが人々の働き方を真に変えるものを共有すれば、彼らはあなたを常に覚えてくれるだろう。クリックベイト的なタイトルと偽の約束は、あなたを忘れられなくするか、嫌われるようにする。
そして、そのようなハイプされたコンテンツを「見ている」なら:あなたも解決策の一部になれる。お気に入りのクリエイターに説明責任を求めなさい!彼らに証拠を見せるように頼みなさい!もしそれが機能しないと知っているなら、ただ見過ごさないでほしい。
そして、自分で試さない限り、それを増幅しないこと。もしそれが機能せず、あなたがそれを広めたなら、あなたにも責任がある。
企業について:基盤を構築せよ。
この企業の側面は少しトリッキーだ。なぜなら、繰り返すが、それはトップから始まるからだ。
-
エグゼクティブ:現実的な期待を設定する。 これは、投資家と、実際に何ができるかを伝えることで管理することを意味する。また、組織のベンチマークを設定することも意味する――非現実的な期待を設定することは、あなたに跳ね返ってくるだけだ。
-
マネージャー/チームリーダー:成果に焦点を当てる。 あなたのチームがどれだけ進められるかをリーダーシップに示し、AIを使ってそれを増幅させなさい。単にAIから始めて、それがビジネスインパクトにどうつながるかをうやむやにするな。もしあなたのチームがまだAIツールやワークフローを実験しているなら、本当に長持ちするものを構築するためのスペースを与えなさい。
-
従業員:実際のインパクトを理解する。 あなたが興味のあるAIツールをより良く使うための時間とトレーニングを求めなさい!誰もがAIについて話しているが、もしあなたがそれをコアなビジネス上の問題を解決することに実際に結びつけることができれば、あなたは真のヒーローになるだろう。成果に結びつける方法を見つけなさい!(このようなインパクトを理解し、提供することが、Hi-Cになる方法だ、ところで。)
今のところ、誰にとっても私の最大のキャリアアドバイスはこうだ:週に数時間、AIで新しいことを試してみなさい。それはランチタイム、会議の合間の5分、仕事の後、または週末のアクティビティではない。AIを学ぶことは、今や仕事そのものだ。それに正当なスペースを確保しなさい。
正直になろう、そして難しい部分について話そう
真剣に、皆さん。コンテンツクリエイター、企業のリーダー、従業員、マーケティングチーム。私たちと私たちの製品がAIで実際に何ができるかについて、正直になろう。
最初のプロンプトは楽しい部分だ。次の千のプロンプトで、真の価値が創造される。モデルが変わったとき、プロンプトが機能しなくなったとき、APIの動作が変化したとき、または統合が壊れて誰もそれに気づかなかったときに何が起こるか――その部分をカバーするようにしよう。
AIシステムは「設定して忘れる」ものではない。それらは監視、評価、反復、そして絶え間ない調整を必要とする生きたシステムだ。そこに真の仕事がある。そこに真の価値が創造される。そして不思議なことに、それは誰も投稿しない部分だ。
もし素晴らしいものを構築したなら、人々に伝えなさい。しかし、有望なプロトタイプを構築したなら、そのように言えばいい。私たちはそれでも興奮するだろう、約束する。もしあなたのワークフローが1日20分を節約してくれるなら、それを祝いなさい。もしあなたのAIエージェントがまだベビーシッターを必要としたり、常に間違いを犯したりするなら、それを認めなさい。
AIはすでに私たちの人生で最もクールな技術革新だ… それが魔法でもあると偽装する必要はない。
Jonathan Yagel氏による編集。