AI時代におけるエンジニアのスキル保護

AI時代にさらに重要となる3つのスキル

10年ほど前、私は米国のある原子力発電所の初のフルデジタル制御システムの制御設計を主導しました。それは、現代の航空機のように、オペレーターがほとんど必要としないシステムが自律的に稼働するように設計された、紙面上の美しい機械でした。そして、効率を重視する観察者から見れば時代遅れに見える決断を下しました。それは、システムが自律的に実行できるシーケンスの中に、意図的に手動のステップを残したのです。

私たちは特定の課題を解決していました。自動化を監督するだけのオペレーターは、徐々にオペレーターでなくなっていきます。手が冷たくなり、プラントが実際に行っていることのメンタルモデルが曖昧になります。そして、自動化が制御を返す日が来ます。自動化は混乱しているか、問題がある場合にのみ停止するため、それは常に最悪の日です。しかし、その時には、何年も実際にその装置を操作していない人間が椅子に座っていることになります。手動のステップは、人間が最新の状態を保つために存在していました。それは意図的に、設計によって非効率的でした。

そのプラントは、結局建設されませんでした。それは、エンジニアリングとは無関係の理由で、この国の原子力発電を取り巻く政治経済の中で棚上げされました。しかし、その設計思想はプロジェクトを超えて生き残り、私はそれが今、あらゆる役員室を席巻している議論に提供できる最も有用なアイデアであると確信するようになりました。AIがかつてそれを構築していた仕事をするようになったとき、人間の専門知識はどうなるのでしょうか？

AIはエンジニアのキャリアラダーを破壊している

データはもはや無視できません。28万社以上の米国企業に勤める約6500万人の労働者を対象としたハーバード大学のワーキングペーパーによると、企業が生成AIを導入した後、6四半期でジュニアの雇用は約9パーセント減少し、シニアの雇用は増加し続けたことがわかりました。スタンフォード大学のADP給与記録分析も同様の傾向を示しています。AIに最も晒されている職業の最も若い労働者は2022年後半以降、経験豊富な同僚が地位を維持する一方で、地位を失いました。スタンフォード大学の研究者は、損失はAIが作業を自動化する場所に集中しており、単に増強するだけでは、ジュニアの雇用は安定するか上昇すると発見しました。

因果関係はまだ議論の余地があり、正直に言うとそう言わなければなりません。ニューヨーク連邦準備銀行の研究者は、若手卒業生の失業率の上昇の多くをAIではなくリモートワークに起因すると主張しており、企業は遠隔で訓練や指導ができない経験の浅い人材を採用することに消極的であると述べています。しかし、これらの説明に共通するものに注目してください。モデルが形成的な作業を吸収しているのか、それとも距離がその周りのメンターシップを断ち切っているのか、どちらの説明も同じ壊れたメカニズムを説明しています。それは、専門知識がシニアからジュニアへと受け継がれる見習いのチャネルです。どちらにしても、「エントリーレベル」は静かに「3年の経験が必要」という意味になってしまいました。

ノイズを取り除くと、 deceptively simple な問題が残ります。あなたは、まずジュニアエンジニアにならなければ、シニアエンジニアにはなれません。専門知識はダウンロードされるものではありません。それは、失敗したビルド、行き詰まったデバッグセッション、そして有能なAIが新参者を喜んで免除してくれるであろう「なぜそれがうまくいったのか」という瞬間の積み重ねによって獲得されるものです。それらの経験を十分に免除すると、モデルを紙面上では監督できるが、モデルが自信を持って、壊滅的に間違っていることを決して知るための直感的な感覚を開発できなかったコホートを生み出すことになります。

ほとんどの論評は診断で止まるか、ジュニアの雇用の喪失を経済問題として扱う政策的解決策に手を伸ばします。しかし、それはエンジニアリングの問題でもあり、安全クリティカルな分野はすでにそれを解決する方法を何十年もかけて学んでいます。

航空業界の[自動化パラドックス]に関する教訓

私のキャリアは、自動化の最前線から始まりました。学校を出て最初の仕事は、戦闘機のエンジンの応答を、パイロットよりも速く決定するデジタルジェットエンジンコントローラーのソフトウェアの検証と妥当性確認でした。1980年代後半でさえ、中心的な緊張は明らかでした。機械はルーチンケースでは人間を上回りますが、機械が予期しなかったケースでは、人間が航空機と破局の間のすべてでした。この緊張は[自動化パラドックス]として知られており、ますます有能になる自動化は人間のオペレーターの練習を減らし、最も困難な状況だけを残します。

航空業界は、そのギャップの中で人間のスキルが衰退した場合に何が起こるかを、繰り返し、高額な代償を払って学びました。典型的な例は、2009年に大西洋に墜落した[エールフランス航空447便]です。直接の原因はありふれたものでした。氷結した対気速度センサーが[オートパイロット]に誤ったデータを送り、それは設計通りに動作しました。オートパイロットは切断され、航空機の制御を乗員に引き渡しました。その後に続いたのはハードウェアの故障ではありませんでした。それは能力の故障でした。回復可能な状況が、自動操縦が飛行するのを何千時間も監視することに慣れてしまったパイロットが、高高度の失速を読み取って手動で操縦して抜け出すことができなかったため、回復不能な状況になりました。航空機は機能していました。自動操縦が静かに侵食した訓練は、機能していませんでした。

業界の対応は示唆に富んでおり、それは私たちが原子力制御室で行ったのと同じ動きです。オートパイロットを引き抜くのではなく、意図的に手動練習を組み込みました。2017年、[FAA]はオペレーター向け安全アラート17007「[手動飛行操作の習熟]」を発行し、「手動飛行は、他の技術的な飛行スキルの基盤となる」と宣言しました。このアラートは、スキル低下をそれ自体がハザードとして正式に認識しました。一部の航空会社は、穏やかな条件下での初期上昇と初期降下の両方を手動で行うことを奨励するように手順を変更し、乗員の生の飛行スキルを維持するために、燃料効率をわずかに犠牲にしました。その取引こそがすべてです。無能なオペレーターを生み出す完全に最適化されたシステムは、まったく最適化されていません。それは単に、スプレッドシートが見えない場所にその障害モードを移動させただけです。

マニュアルゲートはエンジニアリングスキルを維持できる

航空業界の教訓と原子力発電所の設計思想を並べると、AIで強化された作業に今必要な一つの設計パターンが浮かび上がります。それは意図的な「マニュアルゲート」です。

A manual gate（マニュアルゲート）とは、ワークフローの中で人間が制御を握るポイントのことです。それはタスクを最も速く完了させる方法だからでもなく、安全インターロックとしてだけ機能するのでもなく、そうでなければ衰退するスキルを行使し維持するために、特別に選ばれます。その際立った特徴は、それが選択されるということです。組織として、どの能力を人間の間で生かしておく必要があるかを設計上の問題として決定します。なぜなら、それらは悪い日に必要となる能力だからです。そして、それらを維持するために必要な摩擦をエンジニアリングします。

AIをコードの大部分に頼るソフトウェアチームでこれがどのように機能するかを想像してみてください。チームは、失うわけにはいかないスキル、すなわち[デバッグ]の周りにマニュアルゲートを設けます。重要なモジュールで欠陥が発生した場合、担当エンジニア（意図的に、しばしばジュニアエンジニア）は、まず、AIアシスタントをオフにした状態で、障害を再現し、根本原因を特定し、バグを捉える自動テストを作成しなければなりません。エンジニアが診断をコミットした後になって初めて、モデルが再びオンになり、修正を提案し、代替案を生成し、コードベース全体で同様のバグを検索します。その後、エンジニアは自分の診断をモデルのものと比較します。両者が意見の相違がある場合、それは設計が機能している証拠であり、悪い日の前に意見の相違を表面化させるのです。

このアプローチは、ジュニアエンジニアの概念を完全に再構築します。今日の考え方は、AIがエントリーレベルの作業を行うことを許可することです。なぜなら、それはより速く、より安価だからです。しかし、その作業の一部は、排除されるべきオーバーヘッドではありません。それは、将来のシニアスタッフの訓練装置であり、他の重要なインフラストラクチャと同様に保護されるべきです。今四半期は効率的ではないかもしれませんが、それを解体することは、10年後の能力を静かに抵当に入れることになります。

企業がジュニアエンジニアのトレーニングを続けるべき理由

これらのどれも無料ではありません。そうでなければ、予算に署名しなければならない人々を侮辱することになります。意図的なマニュアルゲートは、その構造上、完全自動化よりも短期的に非効率的です。ジュニアに形成的な作業を行わせ、手動シーケンスを実行させ続けることは、将来のために現在何かを犠牲にすることです。

これは、ほとんどのリーダーが四半期ごとの結果で評価される市場では、難しい売り込みです。AIが置き換えることができる「不要な」人間を抱えている採用された幹部は、その報酬が来るずっと前に取締役会から指摘されるでしょう。この計算は、その圧力から隔離された人物、つまり支配権を持つ創業者、非公開企業、真に長期的な視野を持つ機関、またはパイロットが定期的にスキルを証明することを要求できる規制当局にのみ有効です。つまり、自身の専門知識を維持する可能性が最も高い組織は、短期的な利益を長期的な能力のために費やすことができる構造を持っている組織です。それ以外のすべての組織は、外部からの後押しを必要とするでしょう。

したがって、この議論は一言で言えばこうです。意図的な非効率性は無駄ではありません。安全クリティカルなエンジニアリングでは、私たちはそれを常に保険として知っており、意図的に購入しています。AIが専門知識が形成される作業を引き継ぐにつれて、賢明な動きは自動化に抵抗することではありません。それは、設計によって制御を握り続けることです。そうすれば、自動化が、いつかは必ず失敗したときに、まだ操縦方法を知っている人が椅子に座っていることになるのですから。