AIマニアが世界の意思決定を蝕んでいる

AIマニアが世界の意思決定を蝕んでいる Nikhil Suresh 著 26/07/18 私は今、多くの企業が重度のAIサイコーシスに陥っており、それについて合理的な会話をすることが不可能であると強く信じています。個人的に深く尊敬している友人を含む特定の個人名を挙げることはできませんが、これがどのように展開していくのか心配です。 Mitchall Hashimoto、HashiCorpとGhosttyで有名 過去1年間、私は当社のすべての営業を担当し、2つのエンゲージメントを除いてすべての技術コンポーネントを主導し、このブログの生涯で世界中の専門家と約300回の打ち合わせを行ってきました。これには、ニッチなサービス業界の現場の人々からフォーチュン500企業の幹部までが含まれます。このため、私は民間および公共部門全体にわたる私たちの集合的な制度が息をのむような集団的サイコーシスを経験しているのを最前列で見てきました。このエッセイは、私の幸福が狂気へのリップサービスを支払うことに依存しておらず、この中で生き残ろうとしている人々が狂っていないことを安心させるという稀な立場にあるため、現在作用している奇妙な力学を説明しようとする試みです。現実はこうです。責任者は計画がないか、あるいは頭を下げ続ける以外の道を見出していません。銀行でも、病院でも、政府機関でもありません。世界の組織は、泡立つ興奮の渦中にある人々に乗っ取られており、常に恐怖と不満が混在する状態に生きるより賢い人々は取り残されています。 I. AI投資は一般的に大失敗である エージェントワークフローのインターフェースを提供する部門で働き、私たちがエージェントのために作った製品に触れたユーザーはわずか10人しかいなかったことを発見し、再びエージェントワークフローのサポートにピボットしましたが、それは今やあらゆる企業がエージェント的なことをしなければならないため、多くの競争があり、その分野でできることはわずか4つしかないという状況で、このエッセイを読むのは骨が折れます。 企業はAI導入から大規模な生産性向上を実際に目にしているのでしょうか？この汚い話は意味があるのでしょうか？これは簡単な質問であるはずですが、まっすぐな答えを得るのは驚くほど難しいです。自分の会社が狂ったと言った幹部は、すぐにその地位から追放されるでしょう。正直な従業員は、短期間で解雇されるか、「ランダムに」レイオフの対象となるでしょう。実際、この分野のほぼすべての関係者、つまり取締役会、経営幹部、従業員、ベンダー、コンサルタントにとって、AIプロジェクトの成功率を曖昧にし、誤解させることが利益になります。多くの公開企業は、私たちがCopilotライセンスを購入して勝利を宣言しただけであることを知っているにもかかわらず、AI生産性向上に関する発表を行っています。しかし、これらのプロジェクトが成功しているかどうかを知る必要があります。もしAIをビジネス戦略の核となる原則として全面的に注力することが合理的な速度で成功しているのであれば、相対的なリスクと報酬についての議論は正当化されます。残念ながら、私たちは暗い時代に生きています。私たちが観察したすべてのAIプロジェクトは失敗しています。一つ残らず、私たちは1年半で成功率0％を見てきました。私たちが参加を求められたプロジェクトだけでなく、全く関係のない仕事をしている間に通りすがりに観察したプロジェクトでもです。 AIツールが特定のワークロードを加速すると仮定したとしても、現在の投資の方法と規模は無意味です。しばしば、失敗はAI自体に関連するのではなく、企業がソフトウェアプロジェクトを効果的に実行するのが致命的に下手であるということに起因します。そして、私が以前述べたように、AIプロジェクトは通常のプロジェクトのすべての失敗モードの影響を受けますが、それに加えて、すべてを正しく行っても方法論の新規性のために失敗する可能性があります。出荷できるほどソフトウェアプロジェクトに長けている企業はごくわずかで、追加のリスクプロファイルを許容できます。 しかし、多くの場合、それはLLMができることの実際の失敗です。世界中のビジネスで展開されている最も一般的なバージョンは、社内チャットボット、またはより大胆な企業の場合は顧客向けチャットボットです。話はいつも同じです。前者については、企業内で実質的な社内利用を見たことがありません。従業員は社内チャットボットを使用しません。なぜなら、企業は低品質のドキュメントを持っている傾向があり、LLMはテレパシー能力がないからです。それは、書き留められてアクセス可能にされたものしか知り得ません。後者の顧客向けアプリケーションについては、消費者として、私は快適な経験をしたことがほとんどありません。医療予約中のライブ文字起こしは例外かもしれませんが、組織全体をピボットする価値があるとは言えません。 どちらの場合も、プロジェクトリーダーは、ツールの使用状況が追跡されているかどうか、または簡単に操作できるメトリクスが追跡されているかどうかといった基本的なメトリクスを追跡することを避けるように細心の注意を払っています。例えば、私の最後の消費者インタラクションは、自動車の故障後に三菱から助けを得ようとしたときのものでした。非常に丁寧なロボットが問題を説明するように求め、誰かが利用可能になり次第電話すると約束しました。これは、私が野生で見たこのようなプロジェクトの中で最も有能な実装でした。音声は自然で、応答は速く、明らかに本番環境で「ライブ」であり、迅速な解決を約束しました。それは6ヶ月前のことですが、私は実際には電話を受け取っていません。 三菱が私に電話をかけなかったら、何が起こったのでしょうか？そのリクエストは虚空に消え、その年のインシデントが一つ減ったのでしょうか？電話ボットは私のクエリを人間の介入なしに解決したように見えますか？私たちが知っているのは、それがエラーとして現れなかったということです。そうでなければ、電話があったはずです。それが重要な点を除けば、あらゆる点で素晴らしく見えるはずですが、それは私が車を購入する予定で、彼らの車をもう一台購入しないと決めたという点です。 このため、私たちのチームは、エンゲージメント中に、進行中のAIプロジェクトについていかなる文脈でも尋ねないようにすぐに学びました。プロジェクトが開始されるまでに、経営陣にとっては手遅れであり、危機的状況が避けられずに発生するまで介入は不可能です。考えられる肯定的な結果はありません。失敗率は非常に高いため、基本的な問い合わせでさえ私たちを不可能な立場に置きます。それがどのように進んでいるか、目標は何か、誰がそれを使用しているかについての、首尾一貫した質問は、何も良い答えがないため、責任ある指揮系統への意図しない攻撃を構成します。私の対話者が物事がうまくいっていると述べたまれなケース（通常はプロジェクトがまだ進行中であり、失敗が顕在化する機会がなかった場合）でさえ、一般的に彼らが破滅していることは明らかですが、少なくともこれらのケースでは、私は単に同意して、6時間叫びながら家に帰ることができます。 これらすべてを言うと、企業からの「大規模なAI生産性向上」に関するほぼすべての報告が、事実として真実ではないと確信しています。たとえ一部の企業が明確な利益を得ているとしても、それは例外であり、標準ではありません。その前提に立って、私たちは作用している力学について、そして多くの組織が長期的な（あるいは短期的な）健康にとって実際に重要なことに集中し続けることが不可能になった方法について話すことができます。 II. 異端者は撃たれる AIが問題の解決策ではない可能性を提起することさえ、ましてや会社の戦略全体にAIを唯一の焦点とすることさえ、 outright dangerous になりました。私たちが観察した十分な規模のすべてのビジネス（例えば、500人以上の従業員がいる場合）では、継続的な進歩、そしてますます継続的な雇用が、そのビジネスにおけるAIの変革力への繰り返し信仰の表明を必要とするようになったことに気づきました。私はビジネスでAIを使用する方法についてのアイデアを提供しているわけではありません。私は宗教的な表明、信仰の宣言について話しています。十分な規模のすべてのビジネス（例えば、500人以上の従業員がいる場合）では、継続的な進歩、そしてますます継続的な雇用が、そのビジネスにおけるAIの変革力への繰り返し信仰の表明を必要とするようになったことに気づきました。私はビジネスでAIを使用する方法についてのアイデアを提供しているわけではありません。私は宗教的な表明、信仰の宣言について話しています。