HN 日本語サマリー

← 一覧へ戻る
ビジネス・スタートアップ

判断の貯水池

The Judgment Reservoir (shannph.com)

10 pointsby shampaynee6 コメント

要約

AIによる効率化で実行能力は向上したが、期待されたほどの収益成長に繋がらず、組織のエネルギーが低下している状況を描写しています。優秀な人材が、AIによる形式的な意思決定プロセスに自身の経験や直感が活かされないと感じて離職し、組織の判断力が低下していることを指摘しています。これはAI導入企業に共通するリスクであり、将来的な成長の停滞を示唆しています。

全文翻訳

判断力の貯水池

実行力は無償で判断力を生み出した。その補助金は終わった。

あなたは年次の取締役会を準備している。3年ぶりに、どのようなストーリーを語るべきか確信が持てない。

数字は印象的だ。プロダクトチームは3つの新製品をローンチし、四半期レビューを長年悩ませてきた機能バックログを解消した。エンジニアリングは過去2年間を合わせた以上の量をこの12ヶ月で出荷した。かつて四半期かかっていたGo-to-marketの動きは、今や5週間で立ち上がる。サポートの応答時間は40%低下した。取締役会が追跡するあらゆる実行指標において、これは会社史上最高の年だった。

1年前、あなたはAIへの投資が収益成長率を30%押し上げると取締役会に伝えた。あなたはそれがもっと高くなると信じていた。理由は単純だ。もし私たちが2倍の量を、2倍の速さで、2倍の市場表面積をカバーできれば、結果はついてくるだろう。チームはその論理を完璧に実行した。

実際の増加率は6%だ。

以前の時代なら、単一のオペレーションシフトから得られた6%の成長加速を祝っていただろう。しかし、それはあなたが約束したことでも、再編成したことでも、投資家に期待するように伝えたことでもない。構築された量と、それが生み出した影響の少なさとのギャップは、どの数字でも説明できない何かに示唆している。

あなたを悩ませているのは数字ではない。それは、その一年がどのように感じられたかだ。

この場所は活気に満ちているはずだ。出荷のペースだけでも勢いを生み出したはずだ。前回の全社集会では、部屋のエネルギーに何か違和感があるのを感じたが、まだそれを特定できない。チームミーティングは生産的だが機械的だ。ロードマップレビューは、もっともらしい根拠とともに優先事項を提示するが、部屋の誰もそのどれにも確信を持っていない。誰かが、反対意見があるにもかかわらず、自分が信じるアイデアのためにテーブルを叩いて戦ったのを最後にいつだったか思い出せない。組織はもっともらしい選択をしている。勇敢な選択をやめたのだ。

また、今年は何人かの主要な人材を失った。多くはない。重要な人々だ。

エンジニアリング担当VPは、会社の黎明期の混乱、3回の困難なピボット、組織を壊滅寸前に追い込んだスケーリングの危機を乗り越え、10年以上会社に在籍していた。そのたびに、会社はより強くなって現れた。彼女は9月に辞任した。彼女は仕事で燃え尽きたわけではなかった。むしろ、その逆だった。彼女は、AI支援の提案書、製品仕様書、アーキテクチャの推奨事項をレビューするのに一年の大半を費やしたが、それらはすべて十分によくできており、構造化され、弁護可能で、せいぜいトレードオフを2つ程度絞り込むだけで済むように見えたとあなたに語った。毎週、彼女のカレンダーには何十もの提案が届き、それぞれが、彼女が本当に形作れない結果に対する説明責任の蓄積を加えていった。

彼女は製品レビューの後に辞めることを決めた。チームは、エンタープライズ戦略が依存する統合アーキテクチャの3つのアプローチを提示した。それぞれがAI支援を強く受けており、評価基準とともに提示された。統合の複雑さ、移行の労力、保守性、セキュリティ体制。彼女はどちらの方向を取るべきか尋ねられた。彼女は3つすべてに目を通し、経験から、エンタープライズ顧客が要求するであろうものを処理するには、どれも拡張性に欠けていることを知っていた。彼女が説明を始めると、部屋は彼女の懸念を評価基準のいずれかに結びつけるデータがあるか尋ねた。彼女には指標がなかった。彼女は20年間、まさにこのようなシステムを構築し、どこが壊れるかを見てきた経験があった。部屋は彼女の判断を拒否しなかった。彼らはそれを注釈として追加し、既存の基準を使用することを決定し、彼女なしで先に進んだ。

彼女は、自分がビルダーであるという感覚を失い、ゴム印を持つ事務員であるという感覚を持ち始めたとあなたに語った。彼女は、チームが彼女に難しい問題を持ってきて、彼女の仕事が彼らが見えないものを見ることだった日々を懐かしんだ。今では、彼らは彼女に3つの選択肢を持ってきて、投票するように求めた。

彼女の最も優秀なシニアアーキテクトは2ヶ月後に辞めた。彼の退職時の会話で、あなたは繰り返し再生する言葉を言った。「私たちは、何のためにそれを構築しているのか、ビジネスケースではなく、その背後にある本当の理由を知っていた。今はもうそう感じないし、他の誰もそう感じていないと思う。」当時、あなたはそれをノスタルジアとして退けた。

どちらもあなたに数字を持ってこなかった。増加分には数字があった。サイクルタイム、リリース頻度、市場投入までの時間、すべてが今あなたが眺めているデッキにある。彼らは、人々が答えを受け入れすぎているとあなたに言った。あなたの最も経験豊富な人々が、それを書く人ではなく、理由のレビュー担当者になったと。エンジニアはシステムが何をすべきかを説明できたが、なぜそのように動作するのかを説明できなかった。そのどれもオペレーティングレビューの行にはない。あなたは台帳の一方の側には計装を持ち、もう一方には逸話を持っていた。そして、あなたはそれらをそれに応じて重み付けした。

彼らの離職は、彼らの役割記述よりもはるかに大きな穴を残した。エンジニアリング担当VPが部屋にいたとき、彼女はプロダクトのアプローチを見て、それがスケールで維持できるかどうかを伝えることができた。なぜなら、彼女は十分にシステムを構築・再構築し、それを明確に説明する前に構造的な弱さを感じていたからだ。その直感はどのドキュメントにもない。それは彼女と一緒にドアを出て行った。ジュニアエンジニアがアーキテクトによってコードレビューを受けたとき、彼らは何が重要で、何が戦う価値があり、何がノイズだったかを学んだ。そのエンジニアのうち2人は、別々に、これまで以上に速く出荷しており、長年で最も少ない学習しかしていないとあなたに語った。

取締役会デッキを送るのを止めた結論は、同じアプローチをもう1年続けても6%を超えて複利計算されないだろうということだ。あなたはプラトーが来るのを感じている。AI導入の最初の6ヶ月は真の加速を生み出した。次の6ヶ月は洗練を生み出した。増加分は平坦化しており、1月に決定的だと感じられたオペレーショナルアドバンテージは、今やテーブルステークス(当然のこと)になっている。あなたは、すべての競合他社が同じ結論に達しているのではないか、そしてどちらの答えがより悪いだろうかと疑問に思い始めている。

あなたはすべてを正しく行った。あなたは早期に動いた。あなたは見出しではなく、実際の能力を構築した。そして今、あなたは取締役会デッキのドラフトを持って、結果が努力に見合っていないこと、軌道が複利計算されていないこと、そして間違った単一の決定を指摘してギャップを説明できないことを認識している。なぜそうなのかを教えてくれたかもしれない人々、つまりシステムがその判断を利用する方法を持たなかった人々は、もはや建物内にいない人々だ。


このパターンは、特定の会社に限定されるものではない。それは、AI導入のあらゆる段階にある組織全体に形成されており、まだそれを感じていない組織は同じ軌道上にある。問題はそれが到着するかどうかではなく、いつ到着するかだ。

アウトプット指標が真の増加を示し、ビジネスインパクトがそれに一致しない場合、反射的な診断は実行に帰着する。ツールを調整する必要がある、ワークフローを洗練する必要がある、チームはより良いプロンプトを必要とする。その診断は心地よい。なぜなら、その治療法は、より良く行われた同じことだからだ。それはまた、不十分でもある。

より深い問題はAI導入ではない。それは、AIが、それによって生み出されたものを置き換えることなく、誰も説明していなかった重要な作業を置き換えることだ。

加速の下では、実行は一貫性よりも速くスケールし、一貫性は、整合性とは異なり、それ自体では維持されない。目標に完全に整合したチームでも、断片的な結果を生み出す可能性がある。一貫性を維持するには、意図的に設計された意思決定インフラストラクチャ[1]が必要だ。明確な意思決定の所有権、ドリフトを検出するフィードバックループ、生の出力ではなく一貫性を報酬とするインセンティブ。最高の意思決定インフラストラクチャでさえ、それが実行する判断と同等だ。

そのインフラストラクチャは、ドリフトを修正すべきものと無視すべきノイズとの違いを判断できる人々、いつ修正が緊急であり、いつそれが単なる反応的なものかを判断できる人々、データが確認する前に統合アーキテクチャがエンタープライズの複雑さの下で維持できないと感じることができる人々にかかっている。

その判断力に対する需要は、これまで以上に高まっている。追加されるリリース、同時進行するイニシアチブ、拡大されるサーフェスごとに、組織が集合的に構築しているものがまだまとまっているかどうかを評価する誰かが必要であり、AIはそれら3つすべてを倍増させた。供給は枯渇している。人々は去る。人々は燃え尽きる。システムが彼らが最も得意とすることを要求しなくなったとき、人々は離れる。それぞれの離職は、どのドキュメントや意思決定フレームワークでも置き換えられない判断力を奪う。新しい人々が到着するが、組織的な判断力は完成した形で雇用することはできない。それはシステム内で長年運用することによって構築される。

判断力は貯水池のように振る舞うが、すべての貯水池が満杯である必要はない。クエリプランを手動で調整する、または午前2時に再起動すべきサーバーを知るという本能は、かつては持つ価値があったが、もはや維持する価値はない。他の判断力は、それがどこで必要とされているかに移行すべきであり、プロセスを実行することから、それを実行するシステムを設計することへと移行すべきだ。枯渇は失敗ではない。管理されていない枯渇が失敗だ。システムの一部のどの部分がそれに依存しているかを知る前に、容量を枯渇させることだ。

組織の誰が、システムが依存している判断力の貯水池をまだ判断できるだろうか?その評価を行うには、その負荷を担った人々が必要であり、それらの人々は枯渇によって失われている人々と同じだ。すでにその容量を枯渇させた組織は、監査を実行し、見えるすべてがすべて必要なものであると結論付けるだろう。

新たな評価のボトルネック

ほぼすべてのAI投資は、同じ仮定に基づいている。より多くの情報がより良い意思決定につながる。それはある時点までしか真実ではない。それ以降は、ボトルネックが移動し、ほとんどの組織はそれに気づかない。なぜなら、新しいボトルネックは古いものとは全く異なるように感じられるからだ。

情報が希少だった頃、ボトルネックは良い選択肢を生み出すことだった。今やAIが数秒でもっともらしい選択肢を生成するようになると、ボトルネックはそれらを評価することに移る。ペンキ店で100色の白を見つめたことがある人なら誰でもその感覚を理解できるだろう。違いは本物で狭く、あなたはアンダートーンの専門家になるか、店員に最も人気のある色を尋ねるかのどちらかだ。インテリアデザイナーは30秒で正しい色を選ぶ。なぜなら、彼女はあなたの南向きの窓が寒色系を洗い流すことを知っており、あなたのメープル材の床は暖色系を引き出し、3歳未満の子供が2人いるということは、仕上げがぶどうジュースに耐えなければならないことを知っているからだ。彼女の判断はスワッチ(色見本)に関するものではない。それは、スワッチに含まれていないすべてに関するものだ。

今、そのデザイナーに1日に12軒の家でその判断をさせるように頼んでみよう。8軒目までに、彼女は玄関で迎えてくれる泥だらけのオールドイングリッシュシープドッグについて尋ねるのをやめ、12軒目までには、十分似ているように見える方を選んでいるだろう。判断力は intact(無傷)だ。それを適用する帯域幅が失われたのだ。

AI生成の選択肢は、事前に基準に対して評価されて提示されるため、包括的に見える。統合アーキテクチャには技術的なトレードオフマトリックスが付属する。プロダクト戦略には予測される顧客インパクトが付属する。採用計画にはモデル化されたシナリオが付属する。すべての選択肢は比較できるようにフレーム化されている。コスト、タイムライン、予測リターン。意思決定プロセスは、それらがそこにあるという単純な理由で、生成された基準に引き寄せられる。測定可能性が包括性の代わりをする。システムは決して、良い判断は何を尋ねただろうか、これらはそもそも正しい基準か?とは問わない。

失われるのは分析ではない。分析が機能する枠組みに疑問を呈する能力だ。採点ルーブリックは、誰かが含めようと考えた次元に限定され、ルーブリックがAI生成された場合、それさえも含まれない。プロダクトの直感が、インパクト予測が間違った顧客セグメントに基づいてモデル化されていると言っているのは、ルーブリックに含まれていない次元であり、提示されたものからしか選べない。組織は、ルーブリックの定義とそれに対する評価を単一のステップに崩壊させており、その崩壊は摩擦がない。誰もメトリクスではなく経験を選ぶ必要はない。数字が単に先に到着するのだ。

時間の経過とともに、経験豊富な人の役割は、意思決定を形成することから承認することへと狭まる。その変化は効率のように感じられる。損失を最初に感じるのは、最も深い理解を持つ人々だ。

方向性なしのより速いイテレーション

数年前、上海のスペイン料理店でパエリアを注文した。届いたとき、私は感銘を受けた。米、シーフード、サフランの色、炭素鋼のフライパン。すべての視覚的な手がかりがパエリアを示していた。それから私はそれを味わった。それはチャーハンのような味がした。シェフはパエリアがどのように見えるべきかを見て、その外観を本物のスキルで再現していた。シェフは、本物のパエリアを味わうこと以外はすべてやっていた。味は逆算できなかった。なぜなら、それは参照に含まれていなかったからだ。それは、本物のものを食べたり準備したりする経験の中に生きている。

組織は常に、その背後にある思考の質のショートカットとして、議論の一貫性に依存してきた。もし推論がよく構造化されており、内部的に一貫していれば、誰かが大変な仕事をしたと仮定する本能がある。今やAIは、その思考なしでそのフィルターを通過する出力を生成し、ギャップは、パエリアが本物のように見えたのと同じ理由で見えなくなる。参照には、欠けていたものが含まれていなかったのだ。

実際には、AIは組織が行うほとんどのルーチンな意思決定において正しい答えを出す。そして皮肉なことに、それが問題を悪化させる。結果に明らかな影響がないことが多いため、二重チェックをやめるのは自然だ。レビューサイクルは短縮され、反論は弱まり、精査の習慣は衰退する。古いパターンが適用されない問題が発生し、曖昧さが本物である場合、衰退した筋肉は機能しない。

そのスペイン料理店が今、パエリアを速く安価に生産できる炊飯器を手に入れたと想像してほしい。そのレストランは今、自由にバリエーションを実行できる。シーフード、ミックス、スパイシー。十分なイテレーションで、そのうちの1つが本物に収束すると信じるのは魅力的だ。それはしないだろう。炊飯器は生産を速くしたが、シェフはまだパエリアがどのように味がするべきかを知らない。

この信念のバージョンが組織レベルで機能している。AIが実験を安価にしたため、組織はイテレーションを通じて正しい答えにたどり着くことができる。方向が明確な場合、安価な実験は真に加速する。そうでない場合、それは追求する価値がなかったさらなる選択肢を生成するだけだ。スピードは本物だ。収束は幻想だ。

判断力とは、すべてが正しく聞こえる選択肢のセットを見て、真に正しいものを見る能力、またはそれらのどれも正しくないことを認識し、それを裏付けるデータがないうちにそれに基づいて行動する確信を持つ能力だ。その能力は購入したり、インストールしたり、プロンプトで生成したりすることはできない。それは開発されなければならない。それはより難しい質問を提起する。それはどこから来るのか?

判断力はどこから来るのか

私たちは判断力をロマンチックに捉えがちで、それは一部の人々が生まれ持った特質だと説明する。そのフレーミングは便利だ。なぜなら、それは判断力を組織がすでに解決方法を知っている問題、つまり採用の問題に変えるからだ。しかし、チェスのグランドマスターがゲームの途中で盤面を一瞥して勝利への道筋を見たとき、本能のように見えるものは、十分なプレッシャーの下で自動認識になるまで繰り返された数千回のゲームの意図的な分析の残骸だ。それは生まれではなく、構築されたものだ。グランドマスターは異なる種類の思考をしているわけではない。それは、あまりにも頻繁に行われたため、労力を必要としなくなった思考だ。

人間の認知は2つのトラックで動作する[2]。最初のトラックは速く自動的で、常に実行されており、ポッドキャストを聞きながらどこで曲がるか考えずに家に帰ることを可能にするトラックだ。2番目のトラックは遅く、意図的で、負担が大きい。消防車のサイレンが見えて早期出口を選ぶときに従事するトラックだ。それらの間の境界はトレーニングとともに移動する。判断力とは、意図的な作業が、十分な回数、実際の条件下で行われた結果、自動認識に圧縮されたときに起こることだ。判断力を持つ人々を失うことは、才能の問題だ。それを開発する能力を失うことは、構造的な問題だ。

行動中の判断力を考えてみよう。隣接市場へのプロダクト拡張を主導したCPO(Chief Product Officer)は、うまくいったものと停滞したものからメンタルモデルを構築する。チームがエンタープライズへのアップマーケットへの移行計画を提示したとき、CPOはその計画が複雑さを過小評価していると感じることができる。この特定の市場を分析したからではなく、同じ見えない依存関係でつまずいた6つの類似の拡張を経験したからだ。より長い販売サイクルがコアビジネスから注意を奪う、線形にスケールしないサポート要求、計画が考慮していない方法でロードマップを再形成するバイヤーの調達プロセス。それは今、パターン認識として到着する。スプレッドシートで正当化するのが難しいかもしれないが、それでも信頼を賭けることができる確信だ。

そのCPOと同じタイトルの、同様の経験を持つ人物と隔てるものは、経験そのものではなく、経験をどのように使ったかだ。同じことを20年間行うことは、20年間の判断力開発ではない。それは1年を20回繰り返すことだ。判断力は、サイクルが閉じたときにのみ形成される。結果が検査され、世界モデルが更新され、更新されたモデルが次の意思決定を形成する。判断力開発の速度は、いくつのサイクルが閉じ、それぞれにどれだけの重みが乗っていたかによって支配される。サイクルを機能させるのは、ダメージの大きさではない。それは、その人が、それが正しいかどうかわかる前に、状況の読み取りにコミットし、その後でそれを知ったことだ。

そのサイクルはモデルでは閉じない。それは次の意思決定に責任を持つ誰かのところで閉じる。それは選択肢を生成し、既知の基準に対して評価し、一貫した根拠とともに提示することができる。結果の重みは、モデルではなく、次の意思決定に責任を持つ誰かに着陸しなければならない。すべての結果から完璧に学習したモデルでさえ、モデルが一度も見たことのない状況に直面したときに組織が依存する人々を改善しているわけではない。そして、急速なモデル改善があったとしても、推論がソースマテリアルに存在しなかったため、軌道はそれに到達しない。ドキュメントは結果を提供するだけで、それを生み出した作業(3週間の議論、意見の不一致を解決した廊下での会話、シグナルとノイズの感覚)は提供しない。同じドキュメントが全く異なる推論によって、異なる条件下で生成された可能性がある。だからこそ、その背後にある判断力を逆算しようとする人間は同じ壁にぶつかるのだ。

この種のAI使用の最も重要な影響は、経験豊富な人々がその判断力を適用し、経験の浅い人々が自身の判断力を構築する環境にある。かつて2時間かかった提案レビューは、標準的な懸念が先回りして対処された提案が届くため、今や30分で済む。アーキテクチャレビューは非同期で議論されるチェックリストになる。四半期計画は、すべてのイニシアチブが弁護可能な根拠を伴って届くため、スムーズに実行される。これらはすべて有用だ。しかし、出力が一貫して有能に見える場合、レビューは短縮され、反論は弱まり、最終的には会議自体が無駄に感じられるようになる。なぜなら、フィードバックが決定的でないなら、なぜそれを届けるために招集するのか?意図的な思考にはトリガーが必要であり、トリガーは誰もそれを見る前にフィルターアウトされている。判断力を開発し維持するプロセスは内側から空洞化しており、それは常に効率のように感じられる。

個人は、遅く考えてより意図的に考えることを選択できる。しかし、スピードを中心にプロセスを再構築した組織は、同じようにその選択をすることはできない。盲点は人々にあるのではない。それらはプロセス、リズム、インセンティブに組み込まれている。誰かに質問をさせるために半ば形成された状態で届いた提案、誰も合意できなかったために長引いたレビュー、デッキからは答えられなかった異議:それらはより深い思考が必要であることを示すシグナルであり、それらは削除されているものだ。そして、プロセスが受信トレイに届いたものを承認することに還元されると、現在の世代の判断力だけでなく、次の世代の判断力も形成されない。判断力をまだ構築している人々が経験豊富な人々の考え方を学ぶレビューは、短縮され、非同期化され、または排除されているのと同じレビューだ。組織は単にその判断力を使用するのをやめただけではない。それはそれを生み出す条件を解体したのだ。

誰があなたの賭けが間違っていると教えてくれるのか?

判断力容量の喪失は、個々の意思決定を悪化させるだけではない。それはより根本的なものを除去する。組織自身の方向性が間違っていることを発見する能力だ。

加速下での組織的な一貫性の必要性を認識している企業は、それを維持するための意思決定インフラストラクチャを構築している。そのインフラストラクチャは不可欠であり、特定の問題を解決する。各チームの範囲内で下された意思決定が、会社の戦略的な賭けと同じ方向を指さなくなったことを検出し、それらを修正する。それは賭けが正しい限り機能する。しかし、賭けが常に正しいわけではない。なぜなら、それが置かれた条件は常に変化しているからだ。そのインフラストラクチャには、賭け自体が現実にドリフトしたかどうかを検出するものは何もない。それがうまく機能すればするほど、組織は誰もチェックしていない方向をより正確に実行する。賭けに挑戦する能力は、本当の権威を持たなければならない。なぜなら、間違った方向への1歩は、正しい賭けに費やすことができたステップを2つ必要とするからだ。

キャリアの初期に、私はGPSナビゲーション会社にシニアアーキテクトとして入社した。私は50番目の従業員で、10年未満で1000人を超えた。私の信頼性は、そこまで私たちを導いたアーキテクチャをスケーリングしたことによるものだった。ユーザー数の増加が6ヶ月ごとに倍増し、収益の80%を占めるキャリアからの要求というプレッシャーの下で、そのアーキテクチャはモノリスになり、各モバイルキャリアの要件を満たすために繰り返しフォークされた。GoogleがAndroidで無料のターンバイターンナビゲーションを発表したとき、彼らはキャリアが私たちに年間数百万ドルを支払っていたものを無料で提供した。コアビジネスには時計がかけられていた。私たちは隣接市場に多様化する必要があり、私が長年構築してきたアーキテクチャはそれをほぼ不可能にしていた。

私は、すべての製品ラインを単一の基盤から提供するために設計された新しいAPIプラットフォーム全体を再構築することを提案した。その賭けは巨大だった。失敗すれば、コアビジネスも道連れにするだろう。私は7人の厳選されたエンジニアと3ヶ月を証明構築のために要求し、個人的にチームを率いた。私たちはすべてのマイルストーンを達成した。その後、懐疑論者は彼らの反対意見をシフトさせた。証明構築は本番システムではない。私はさらに3ヶ月を要求した。私たちは、既存のすべての機能と次期バージョンのロードアイテムを備えた完全な製品をリリースし、アプリのロード時間を半分にし、主要な応答時間を30%改善した。

リプラットフォームには、私が予期しなかったコストがかかった。新しいアーキテクチャは、フォークされたコードベースを維持する並列チームの必要性を排除し、チームリーダーは彼らのスコープが縮小し、昇進パスが閉じるのを見た。私が彼らにそれが開いた機会について話す機会を得る前に、約12人のエンジニアが去った。数年後、同じプラットフォームがGMとトヨタの自動車フリート全体にわたる組み込みコネクテッドナビゲーションを可能にした、会社史上最大の2つの取引を可能にした。その賭けは、組織がそれを作るコストを吸収したからこそ、後になって初めて検証された。

結果は、誰も予期しなかった結果を含め、判断力を発達させる。私はフォークを可能にした設定レイヤーを構築し、それらの間でバグ修正を何年も厳選してきた。私は、誰も尋ねる前に、新しいフォークがそれぞれどれだけのコストがかかるか、そしてクリーンな抽象化がどれだけの価値をもたらすかを知っていた。プロダクトラインは、アプリのコレクションであることをやめ、共通のプラットフォーム上のサーフェスになる必要があった。私はアーキテクチャと市場をモデル化した。私はフォークされたコードベースを排除することが、それらに依存する人々に何をするかをモデル化していなかった。

判断力は確信を可能にする。一度そのメンタルモデルが結果を伴う経験を通じて構築されると、人は利用可能なデータと矛盾しても、部屋でそれを正当化するメトリクスがなくても、それを信頼できる。懐疑論者は、失敗したリプラットフォームがすべてを支払ったビジネスにどれだけのコストがかかるかを正確に価格設定できた。3年後に起こらないであろう取引を価格設定できる人はいなかった。私の確信は、私が正しいという自信ではなかった。それは、同じ道を歩み続けることがどれだけのコストがかかるかを知っている唯一の人物だったということだ。なぜなら、私はそれを支払っていたからだ。私の信頼性は、私が解体しようとしていたアーキテクチャだった。

ありえない選択肢は、新しい理解が生まれる場所だ。ありえる選択肢は、定義上、世界がどのように機能するかについての現在のコンセンサスを反映している。この場合、コンセンサスにはチームがついていた。自動車プロダクトは、過去10年が教えたパターンを再現するエンジニアによって、別のフォークとしてすでに構築されていた。それは安全な道であり、出荷されただろう。それはまた、別のコードベースを生み出し、プラットフォームはなかっただろう。3年後にモバイルと車が同じ基盤で稼働することに依存した取引は不可能だっただろう。コンセンサスは、それが形成されたときに真実だった仮定に基づいて構築されており、それらが真実でなくなったときにそれを登録するものは何も含まれていない。それを見つける唯一の方法は、それが選択しないものを選ぶことだ。その能力なしでは、組織はフレーミングを変更する必要があるときを発見するのではなく、既存のフレーミング内で最適化する。そして、すべての組織が主に同じデータでトレーニングされたモデルから引き出すようになると、フレーミングはもはやそれ自身のものさえない。

これが、判断力が侵食されるときに危険にさらされるものである。組織は一貫性を保つだろう。効率性を保つだろう。そして、もし賭けが間違っていれば、それはどの競合他社よりも速くその間違った答えに収束するだろう。すべての修正メカニズムは、それをそのコースに保つために設計通りに機能するだろう。賭けが間違っているとあなたに言える人は、意思決定の代償を支払い、その結果とともに十分に長く生きて、次の意思決定がどれだけのコストがかかるかを知っている人だ。それが組織がもはや生産していないものである。

見ているだけではやっていない

私がシニアアーキテクトだった頃、新卒エンジニアにオンボーディングタスクを与えた。それは、最も重要なAPIに対して継続的に実行される監視コールであるトレーサーバレットを構築することだった。そうすれば、顧客よりも先にAPIが異常であるかどうかを知ることができる。ほとんどの組織は、ジュニアにAPI設計を任せないだろう。その作業は通常、シニアエンジニアのために予約されている。私は決してそのようには運営しなかった。所有権はあらゆるレベルでエンドツーエンドで実行されるべきであり、シニアリティによって変わるのは、あなたが渡される曖昧さの量であり、問題のどれだけを所有するかではない。

彼は1日かけてそれに取り組み、私に彼の設計を説明してくれた。彼は難しい部分を理解していた。トレーサーバレットは、ログやメトリクスを汚染しないように、テストとして識別可能でなければならないということだ。彼の解決策は、APIシグネチャにブーリアンパラメータを追加して、コールをトレーサーとしてマークすることだった。

それはもっともらしい答えであり、機能するだろう。そして私はそれでも彼と1時間かけてそれに取り組んだ。私は彼に、その情報が送信される他の方法について尋ねた。結局、私たちはそれをAPIから完全に切り離し、呼び出し元コンテキストに移動させた。

彼はその変更を受け入れた。そして私は彼の顔に「ブーリアンで1時間の議論の価値があったのか?」という表情を見た。そこで私たちはその質問にさらに1時間費やした。12チームが統合した後でAPIを変更するコスト。意図ではなくコンテキストを伝えるパラメータが、なぜ間違った種類のパラメータなのか。APIの変更は、どれほど小さくても常に高価であること。なぜなら、それがどのように複利計算されるかだからだ。

その部屋では2つのことが起こり、そのうちの1つだけが教えるように見えた。結果は彼のものだった。彼は他のチームが依存するインフラストラクチャ上で実際の設計上の意思決定を行い、それを擁護しなければならなかった。その後の1時間は、観察者が目にすることになるものであり、それは先行するものがあったからこそ機能した。彼は誰かがAPIの耐久性について推論するのを聞いていたわけではない。彼は自分の選択がなぜ間違っていたのかを聞いており、だからこそそれは彼に残ったのだ。

結果を取り除くと、同じ2時間はより薄いものになる。彼はレビューに座り、誰かのフラグに関する同じ推論を聞き、APIの変更は高価であると学ぶ。彼が持ち帰らないのは、どの小さな決定が永続的なものであるかを感じることだ。なぜなら、彼は一つも行わず、それに対して責任を負ったことがないからだ。彼は良い判断の形を認識できるが、その味を発達させたことはない。パエリアが正しく見えることだ。

観察を取り除くと、彼はブーリアンを出荷する。18ヶ月後、4つのチームが統合を変更し、彼は建物内の誰かが彼に教えることができた教訓を、全額負担で学ぶことになる。それは判断力の開発だが、それは遅く高価な種類であり、建物内の誰かが彼に教えることができたことを再発明している。

これが徒弟制度だった。教える時間ではなく、彼がすでに下した取り返しがつかない決定の上に、その教える時間があったことだ。どちらかの部分を取り除くと、もう一方は判断力を生み出すのをやめる。

その場面で不快に感じるべきことがある。私はそのエンジニアに対する管理責任を持たず、彼のAPI設計が貢献した目標も割り当てられていなかった。私は技術プラットフォーム全体のシニアアーキテクトであり、アーキテクチャが維持できるよりも速くフォークしていた年だった。2時間は、誰かが測定したものから出てきた。もし私がそれらをスキップしていたら、その会社のどのシステムもそれを登録せず、彼はどちらにしても機能するトレーサーバレットを出荷していただろう。

それが、継承された判断力の開発の外観だ。それは機能し、そしてそれは正確に一度だけ機能した。それは、特定の人が部屋にいて、何が重要かを認識し、彼が持っていなかった時間と、彼が責任を持っていなかったエンジニアに時間を費やすことを必要とした。その取り決めのどの部分も、二度、ましてや100人のエンジニアと10年間にわたって信頼することはできない。このように判断力を開発する組織は、システムを実行しているのではない。それは、適切な人々が引き続き現れることを望んでいるのだ。

それを設計することは、結果と観察が一緒に到着するように、仕事自体に条件を組み込むことを意味する。たとえ適切な人がその週に利用できなくてもだ。

最も明確な例は、AmazonのCorrection of Error(COE)と呼ばれるメカニズムだ。顧客に影響を与える問題が発生した場合、責任者はCOEを書く義務がある。それは、何が起こり、なぜ起こったのかだけでなく、問題をより早く検出する方法、より速く対応する方法、顧客への影響を少なくして解決する方法、そしてエラーのクラス全体が再発しないようにする方法をカバーする構造化された分析だ。基準は厳格だ。シニアリーダーはすべての単語を読む。

私はAmazonのカタログパイプライン、ほぼすべてのAmazonプロパティ(マーケットプレイス、Prime Video、Whole Foods)に適用される何十億もの日次カタログ更新を処理するシステムでの障害の後、COEを書いた。パイプラインはAWS Kinesisに依存していたため、US-EAST-1で主要なKinesis障害が発生すると、パイプラインもダウンした。すべてのマーケットプレイス地域が同時にブロックされ、約20万人のマーチャントがリスティングを更新できなくなり、Whole Foodsは在庫更新を処理できなかったため注文を一時停止した。影響から完全復旧まで31時間半かかった。

障害の処理は、プレッシャー下での判断力を要求した。その後のCOEは、より深い判断力を形成する場所だった。その構造は、「依存関係が失敗した」で止めることを許さない。それは、なぜその単一の依存関係がすべての地域で同時に障害点になったのか、なぜフェイルオーバーが不可能だったのか、なぜ既存のメカニズムがその規模で検証されたことがなかったのかを追跡することを要求する。各レベルは、システムの間接的な仮定の別の層を剥ぎ取る。5レベル目になると、もはやインシデントを分析しているのではない。あなたはすでに知っていると思っていたシステムのアーキテクチャを理解しているのだ。30件の是正措置が続き、それぞれに名前付きの担当者と期日が設定された。そのプロセスがその粒度で理解することを強制したからこそ、その粒度で処方できるのだ。

Amazonは、COEを永久に可視化することに多額の投資をした。それらは共有され、検索可能で、シニアリーダーによって参照される。実際には、人々は後で、類似の問題に遭遇し、それがどのように処理されたかを見たいときにそれらを読み返す。それは有用だ。しかし、それを書くことは別のものを生み出す。最近Amazonに入社した友人は、私のCOEを読んだと言っていた。彼は何が間違っていたかを説明できた。6年後、私はまだ、メトリクスが確認する前に、新しいシステムが同じ構造的な弱さを運んでいることを私に伝える連鎖的な障害のパターンを感じることができる。

COEは、判断力の開発が、誰かが時間を持っていたときだけでなく、常に、責任を持つ人間に強制されることによって行われることを証明している。それは1種類の判断力、オペレーショナルな判断力を開発する。プロダクト、戦略、市場の判断力は、それぞれ独自の経験から構築された独自のメカニズムを必要とする。COEは転送されるものではない。必要なのは、結果に責任を持つ人間に分析を強制し、誰かが時間を持っていたときだけでなく、毎回それを実行するメカニズムだ。

それはまた、開発が読書ではなく、実行を通じて起こる証拠でもある。判断力を可視化する組織は、必要な作業を行っている。可視性だけが判断力を転送すると仮定する組織は、それを生み出した旅と出力を混同している。

フォローアップなしの委任

Intelを最も困難な10年間リードしたAndy Groveは、率直に言った。フォローアップなしの委任は放棄である。彼が選んだ言葉は「理解」ではなかった。「フォローアップ」だった[3]。それは、委任者が作業を渡した後も保持する監視だ。

その監視は2つの仕事をする。明らかな仕事は、エラーが複利計算される前にそれらを捉えることだ。目に見えない仕事は、委任者自身の作業モデルを最新の状態に保つことだ。これにより、リーダーはもはや自分で実行しないドメインに対して調整されたままでいられる。人に委任すると、両方のループが実行される。作業を行う人は、それを行うことから学ぶ。監視する人は、それがどのように進んでいるかを見て、それを期待していたことと比較することから学ぶ。

同じ作業をエージェントに委任すると、どちらのループも閉じない。エージェントは吸収すべき結果を持たず、更新すべき世界モデルも持たない。そして、レビュー担当者は、利用可能な時間よりも速く増加したAI生成出力の圧倒的なキューに直面し、監視を承認に格下げしている。承認は何も教えない。作業は完了し、出力は問題なく、システム内のどこでも判断は形成されない。

コードレビュー中に何が起こるかを考えてみよう。これはエンジニアリング組織にとって最も有効性の高いフィードバック環境の1つだ[4]。キューは特定可能で、フィードバックは速く届き、それが構築する判断はアーキテクチャと設計に上方転送される。エージェントは昼食前に12件のプルリクエストを生成する。それらは有能だ。最初の3件は注意深く読まれる。7件目までには、レビュー担当者はテストがパスしたかどうか、そして明らかに間違っているように見えるものがないかを確認している。なぜなら、12件のPRがその日の量であり、マージ率は彼らの四半期レビューが測定されるものだからだ。レビュー担当者は合理的に行動している。システムにはそれ以上のものを要求するものはない。12件のうち11件は注意深く読む必要がなかった。結果として生じる量の増加からのリターンは単に減少するのではない。それは逆転する。なぜなら、結果を伴う意思決定とルーチンな意思決定を分ける有限のリソースが、それらを必要としなかった意思決定によって消費されてしまったからだ。

かつてそのレビューで起こったことはもはや起こらない。コードを書き、システムがどこで壊れるかを学んだであろうジュニアエンジニアはそれを書かなかった。なぜ壊れるのかを説明することで何かを学んだであろうシニアエンジニアはそれを説明しなかった。徒弟制度の両端は同じ動きで閉じ、マージ率は改善された。

このパターンはエンジニアリングに限定されない。午後に動作するプロトタイプを構築したプロダクトマネージャーは、仕様書では不可能だったものを生成し、仕様書を書くことでエッジケースを特定する必要があった部分をスキップした。プロトタイプは動作する。それがギャップを見えなくしている理由だ。

この取り決めでは誰も自分の仕事を悪くしているわけではない。レビュー担当者はキューをクリアしている。プロダクトマネージャーは昨年よりも速く動いている。それは同じ年を繰り返しており、どちらのループも閉じていない。それが判断力が形成された唯一の方法だ。今違うのは、失敗はもはや個人の内省の問題ではないことだ。組織は、内省するものが何も残らないような仕事を与え、そしてそれをどれだけ多く完了したかで彼らを測定している。

2つの失敗は独立していない。自動化は、判断力を形成した作業が吸収されたため、下から入ってくるものを減らす。レビューゲートは、生成された各出力ユニットがそれを承認するために経験豊富な人を必要とするため、上から引き出されるものを増やす。入ってくるものが少なく、出ていくものが多く、不足を生み出すメカニズムは、それを管理するために設置されたメカニズムだ。

貯水池

判断力は、リーダーが困難な決断を下すたびに、シニアプラクティショナーがさらに1つのレビューに拡散するたびに、組織がその人の能力を超えて表面積を拡大するたびに消費される。判断力の貯水池[5]が誰にも気づかれずに引き下げられると、軌道はすでに設定されている。現在のレベルは方向性に関する情報は何も教えてくれない。それは満杯に見えても、すでに下から排水されている可能性がある。

良いニュースは、判断力は再生可能であるということだ。それは、人々がコミットし、その結果とともに生きる意思決定を通じて補充される。何十年もの間、誰もそれを設計しなくても、消費と補充のバランスは保たれていた。実行は遅かったため、シニアな判断力への要求は、組織が出荷できる量によって制限され、ジュニアは実行作業自体を通じて判断力を発達させた。コードを書く、顧客コールを所有する、トレードオフが行われる部屋に座る。判断力開発のパイプラインは、通常の運用の副産物として実行された。誰もそれを設計する必要がなかったため、誰もそれを考える必要はなかった。

AIだけがそのバランスに圧力をかけているわけではない。採用凍結はジュニアのコホートを細め、リモートワークは周囲の近接性を排除し、フラットな構造は意思決定者とそれから学ぶ人々との間のスパンを広げた。AIを他のものと区別するのは、それが作業自体を除去することだ。

組織は、AIがそれらの役割がかつて生産していたアウトプットの多くを処理するため、より少ないジュニアを採用している。存在するジュニアは異なる作業を行っている。AIを効果的に使用することを学ぶこと、それらのツールが動作するシステム、顧客、市場に深い精通を開発することではなく。プロダクトレビューが戦略的な緊張を提示したとき、AI支援で仕様書を生成するのに1年を費やしたジュニアPMは、フィールドで顧客が実際にチャーンする理由を学ぶのにその年を費やしたPMとは異なる顧客との関係を持っている。パイプラインは縮小しているだけではない。その中を流れるものも変化しており、それが生み出す判断力は薄い。

圧力がかかるときに本能的な反応は、それを採用することだ。すでに判断力を持っているシニアな人々を採用する。それは明白な動きであり、それは全く間違ったレバーを引く。すべてのシニア採用は、すでに過負荷になっている人々の判断力を引き出す。なぜなら、そのレベルでのオンボーディングは、既存のシニアだけが提供できるコンテキスト転送を必要とするからだ。それは彼らの下のパイプラインには何もしない。開発メカニズムが除去された場合、次の世代に投資したいシニアでさえ、投資するものがなくなる。このパターンは自己強化される。枯渇はプレッシャーを生み出し、プレッシャーは採用を引き起こし、採用はすでに過負荷になっている人々の負担を増やし、採用が解決するために意図されていた赤字を深めるような離職を引き起こす。これを早期に認識した組織は、それを設計するだろう。そうしない組織は、貯水池が短期的な修正では解決できないほど枯渇するまで、同じレバーを引き続けるだろう。

採用がうまくいったと仮定しよう。シニアな人々が着地し、誰も消耗させずにオンボーディングし、彼らの下のパイプラインが再構築される。それでも、それのどれも対処しない損失がある。

組織は常に、機能間のエラー修正で運営されてきた。プロダクトは機会をある方法で読み取り、エンジニアリングは実現可能性を別の方法で読み取り、財務はリスクを3番目の方法で読み取り、そして意見の不一致は、単一の機能が見ることができなかったものを捉えた。その修正は構造的な理由で機能した。エラーは無相関だった。各機能は異なる基盤、異なる顧客、異なる障害モード、異なる時間枠からモデルを構築した。それぞれが異なる方向で正しくもあり、間違ってもいた。

各機能に残っている判断力が同じモデルによって足場を組まれ、同じコーパスでトレーニングされ、同じ順序で同じ考慮事項を提示されると、読み取りは分岐しなくなる。プロダクトとエンジニアリングは、同じ基盤となる分布を参照した後、レビューに到着し、合意に達することを発見する。その合意は整合性のように見え、確認として扱われる。

人員は維持される。シニアリティは維持される。組織図はまだ3つの視点を持つ3つの機能を示している。失われたのは、3つの視点を持つ価値があった特性だ。差別化だ。その独立した視点は、人々よりも先に消える。

全員が同じ場所から推論するとき

判断力の形成は、組織的な問題だけではない。それは競争的な問題だ。どの市場の主要な競合他社も、同じAI機能にアクセスできるようになった。フロンティアモデルは、かなりの量の重複する資料から引き出す。統合パターンは標準化され、ツールはコモディティ化され、早期採用のタイミング上の利点は失効している。

生産性利用を超え、市場機会の評価、プロダクトの方向性の設定、投資先の根拠構築にAIを依存する2つのAIネイティブな競合他社を考えてみよう。モデルが3つの戦略的選択肢を生成し、リーダーシップチームが最も説得力のあるものを選択したとき、その選択は判断の呼び出しのように感じられる。しかし、その3つの選択肢が、すべての競合他社のモデルが引き出すのと同じトレーニングデータから引き出され、評価基準がそのコーパスで最も一般的なものである場合、判断は最ももっともらしいものに事前にフィルタリングされている。説得力のある選択肢は、モデルが最も流暢に議論できるものである。同じフィルタリングが組織内でも、一度に1つの意思決定で実行される。

解毒剤は、モデルが引き出すのと同じコーパスではなく、結果を通じて判断力を構築した人々をサポートし、増幅することだ。彼らの世界モデルが異なる方法で構築されたため、フレームが間違っていると感じることができる人々。フレームが間違っていると感じる経験豊富なリーダーは、建設的な分岐だ。確立されたフレームワークがどのように機能するかを尋ねるジュニアは、建設的な分岐だ。組織がそれらの人々が開発され、繁栄し、留まる条件を除去すると、それはイノベーションに必要なパターン破壊の自身の能力を除去する。モデルが選択しないであろうありえない選択肢は、競争上の差別化が始まる場所だ。

開いたギャップは、競合他社が昨四半期に展開したモデルを展開することでは閉じられない。それはツールのギャップではない。それは判断力のギャップであり、判断力のギャップは、判断力だけが提供できる答えを要求する瞬間が来るまで見えない。

オートパイロットの先例

AIは、判断力を構築した作業を置き換えることなくそれを変位させた最初の技術ではない。商業航空は40年以上にわたって同じシーケンスを実行し、その賭けは生命で測定された。

オートパイロットは、コックピットクルーを5人から2人に減らし、職業を変えた。ジェットエンジン、規制緩和、ハブアンドスポークネットワーク設計の進歩とともに、それは業界の劇的な拡大を可能にした。より多くのルートが経済的に実行可能になった。より多くの航空機がより頻繁に飛行した。クルーが縮小するよりも運営規模が速く成長したため、より多くのパイロットが必要とされた、少なくではなく。航空管制は、分散した高速度の運用を同じ方向に向ける調整レイヤーへと発展した。拡大されたシステムを中心に、まったく新しい産業が出現した。業界は自動化によって縮小しなかった。それはそれを通じて拡大した。

変革の瞬間は、1988年のAirbus A320で訪れた。これは、完全なデジタルフライバイワイヤを備えた最初の商用航空機だった。オートパイロットは巡航だけでなく、複雑な遷移、進入、計器手順も処理した。パイロットの役割は、アクティブオペレーターからシステムモニターへと移行した。手動操縦は例外になった。

1990年代半ばまでには、結果は誰が見ても明らかだった。1996年、FAAの人間要因チームは、高度に自動化されたコックピットを持つ航空士のインターフェースに関する研究を発表した。それは直接的な問題を特定した。自動化への依存は、自動化が失敗したり予期せぬ動作をしたりした場合に、パイロットが手動で飛行経路を管理する能力に脆弱性を作り出していた。それは、経済的圧力の下で人的専門知識への投資が削減されているという明確な懸念を提起した。まさに、インシデントの約4分の3が航空士の誤りを含んでいたときだ。問題は文書化された。業界はそれに注目した。

13年後、エールフランス447便が大西洋に墜落し、乗客乗員228名全員が死亡した。高高度で対気速度センサーが氷結し、オートパイロットが切断され、パイロットは手動で操縦しなければならなかった。彼らはできなかった。訓練体制は、その条件下での高高度での手動飛行のために彼らを準備していなかった。そして、何が起こっているかを彼らに伝える本能は、長年の自動化管理飛行によって衰退していた。航空機は機能していた。それを操縦するスキルはなかった。エールフランス自身の内部評価は、一部の長距離パイロットの間で航空技術が弱まっていることをすでに指摘しており、FAAのその後のレビューでは業界全体で同じパターンが見つかった。事故の60%以上で、パイロットは手動操縦に苦労するか、自動操縦を誤って操作していた。FAAのパイロット訓練諮問委員会の共同議長は、それを5つの言葉で要約した。「私たちは飛ぶことを忘れている。」警告は墜落の前に存在した。結果はそれでも訪れた。

対応はオートパイロットを削除することではなかった。誰も手動操縦に戻ることを主張しなかった。効率の向上は現実であり、それが可能にした拡大は、覆すにはあまりにも価値があった。対応は、自動化が劣化させていた判断力を開発し維持するために訓練を再設計することだった。正式には2013年に始まり、2017年に更新されたFAAは、中核的な発見に対処するガイダンスを発行した。自動化システムの継続的な使用は、手動飛行に必要な知識とスキルを強化しなかった。パイロットは定期的に手で操縦することが要求され、ほとんどのフライトで不要だったが、最も重要なフライトで不可欠だったスキルを練習した。業界は、自動化によって時代遅れに見えていた能力に再投資した。なぜなら、それらの能力が必要だった瞬間は、全員が航空機に乗っているかどうかの生死を決定する瞬間だったからだ。再投資はコックピットに限定されなかった。航空安全エンジニア、シミュレーターデザイナー、ルートネットワークアナリスト:オートパイロットとその関連技術が拡大されたシステムを可能にする前に、これらの役割のどれも現在の形では存在しなかった。拡大と判断力への投資は同じ賭けだった。

航空は、その衰退を発見し、研究し、大惨事の後に調整するために数十年を費やした。AIを大規模に展開する組織には、そのタイムラインはない。同じサイクルが数十年ではなく数年で展開されており、結果が現れる頃には、組織が必要とするものと組織が生産できるものの間のギャップは、開発されなかった人々のコホートで測定されている。圧縮は反対方向にも切断される。判断力容量の維持に投資する組織は、単に衰退を回避するだけではない。それらは、自動化とそれを管理できる人々の両方がなければ不可能な規模と複雑さで運用する能力を構築するだろう。

航空はオートパイロットが変位させたすべてを元に戻したわけではない。フライトエンジニアの席は二度と戻らず、誰もそれを望むことを主張しなかった。それらの能力は意図的に、そして永久に枯渇された。業界が特定したのは、文書化された警告と228人の死の後で、システムがまだ依存しており、オンデマンドで製造できなかった単一の能力だった。それは、自動化が停止したときに航空機を操縦できるパイロットだった。

診断的な質問は、組織が今日どれだけの判断力を持っているかではない。それは、その判断力のどれが組織によって構造的に依存されており、そして残っている誰かがその違いを判断できる位置にいるかどうかだ。それに答えるには、在庫ではなく入力を見る必要がある。結果を個人的に負担する意思決定を下している人は何人か、それから学ぶのに十分近い人は何人か、そしてかつて両方を生産したメカニズムのどれだけがまだ立っているかだ。

去ったエンジニアリング担当VPは、システムが置き換えられない何かを運んでいた。出口の会話で誰もが言わなかったことを名前を付けたアーキテクトは、どのドキュメントでも埋められないギャップを残した。これまで以上に速く出荷し、学習が少なくなったと報告したジュニアエンジニアは、判断力形成パイプラインが枯渇した初期の症状を報告していた。

それらのどれも誰かのせいではなかった。かつてその判断力を生産したメカニズムは、設計されたことはなかった。それらは継承されたものだった。そしてその遺産は失われた。

代替品を構築することは、今や設計問題であり、それをそのように扱う組織は、開発する各個人とともに利点を複利計算する。そうしない組織は、すべての競合他社と同じように、もっともらしい中心に向かって収束するだろう。

オートパイロットは巡航を処理した。人間は最も重要な瞬間を処理した。航空は、今すべての組織が直面している質問に、一世代前に答えを出した。そしてその答えは、すべてを保持することではなかった。それは、瞬間が来る前に、システムがなしでは運営できない能力を確立することだった。

それらの瞬間は訪れる。常にそうだ。

フットノート

  1. 意思決定インフラストラクチャの構造的ケースと、それを構成する3つのメカニズムは、“Engineering Coherence: Building Decision Architectures for the AI Era”で完全に展開されている。 ↩
  2. Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. ↩
  3. Grove, A. S. (1995). High Output Management. Vintage Books. ↩
  4. Klein, G. & Kahneman, D. (2009). Conditions for Intuitive Expertise: A Failure to Disagree. American Psychologist, 64(6), 515-526. 信頼できる直感は、定期的なパターンと、迅速かつ明確なフィードバックを通じてそれらを学ぶ機会がある環境を必要とする。それらの条件が存在しない場合、経験は正確さなしに自信を生み出す。 ↩
  5. ストックとフローのフレーミングは、Donella Meadows, Thinking in Systems: A Primer (2008) に従う。ストックは、その流出が流入を超える場合でも安定しているように見えることがあり、そのレベルは軌道に関する情報を提供しない。 ↩