AI時代におけるエンジニアのスキル保護

AIゲスト記事キャリアAIの効率性が次世代の専門家を失わせる可能性航空と原子力からの教訓、人間のスキルを維持する方法リチャード・ミッチェル02 Sep 20266分読書リチャード・ミッチェルはシステムエンジニアであり、AuraSpark Technologiesの創設者兼CEOです。ジェームズ・スタインバーグ10年以上前、私は米国原子力発電所の初のフルデジタル制御システムの制御設計を主導しました。それは、紙の上では、現代の航空機のように、ほとんど必要とされないシステムを監視するオペレーターがいるだけで、自律的に稼働するように設計された美しい機械でした。そして、効率を重視する観察者にとっては時代遅れに見える決定を下しました。システムが自律的に実行できるシーケンスの中に、意図的に手動のステップを残したのです。 私たちは特定の問題を解決していました。自動化を監督するだけのオペレーターは、ゆっくりとオペレーターであることをやめていきます。手が冷たくなり、プラントが実際に行っていることのメンタルモデルが曖昧になります。そして、自動化が制御を返す日が来ます。自動化は混乱しているか、問題がある場合にのみ停止するため、それは常に最悪の日です。しかし、その頃には、何年も実際にその装置を操作していない人が椅子に座っているのです。手動のステップは、人間を最新の状態に保つために存在していました。それは意図的に、設計上、非効率的でした。 そのプラントは、偶然にも、建設されることはありませんでした。それは、この国の原子力発電を取り巻く政治的・経済的な状況の中で棚上げされました。エンジニアリングとは無関係な理由からです。しかし、その設計上の直感はプロジェクトを超えて生き残り、私はそれが今、すべての役員室を消費している議論に提供できる最も有用なアイデアであると信じるようになりました。AIがかつてそれを構築していた仕事をするようになったとき、人間の専門知識はどうなるのでしょうか？ AIはエンジニアリングのキャリアラダーを破壊しているデータは無視するのが難しくなっています。28万社以上の米国企業にわたる約6500万人の労働者を対象としたハーバード大学のワーキングペーパーによると、ジェネレーティブAIを導入した企業では、6四半期以内にジュニア雇用が非導入企業と比較して約9パーセント減少し、シニア雇用は増加し続けたことがわかりました。ADPの給与記録のスタンフォード大学の分析も同様の傾向を示しています。AIに最もさらされている職業の最も若い労働者は、2022年後半以降、より経験豊富な同僚が地位を維持する一方で、地位を失いました。スタンフォード大学の研究者たちは、AIが作業を自動化する場所で損失が集中していることを見つけました。AIが単に支援する場所では、ジュニア雇用は安定するか増加します。 因果関係の物語はまだ議論の余地があり、正直に言うとそう言わなければなりません。ニューヨーク連邦準備銀行の研究者たちは、若年卒業者の失業率の上昇の多くをAIではなくリモートワークに起因すると考えており、企業は遠隔で訓練や指導ができない経験の浅い人々を雇うことをためらっていると主張しています。しかし、これらの説明が共有する点に注目してください。モデルが形成的な仕事を引き継いでいるのか、それとも距離がその周りのメンターシップを断ち切っているのか、どちらも同じ壊れたメカニズムを説明しています。それは、専門知識が伝達される徒弟制度のチャネルです。どちらにしても、「エントリーレベル」は静かに「3年の経験が必要」という意味になりました。 ノイズを取り除くと、 deceptively simple な問題が残ります。まずジュニアエンジニアにならなければ、シニアエンジニアにはなれません。専門知識はダウンロードされるものではありません。それは、失敗したビルド、行き詰まったデバッグセッション、そして有能なAIが新参者を喜んで免除してくれるであろう「なぜそれがうまくいったのか」という瞬間を通して獲得されるものです。それらの経験を十分に免除すると、紙の上ではモデルを監督できるが、モデルが自信を持って、壊滅的に間違っていることを決して知るための直感的な感覚を開発しなかったコホートを生み出すことになります。 ほとんどの解説は診断で止まるか、ジュニア雇用の喪失を経済問題として扱う政策的解決策に手を伸ばします。しかし、それはエンジニアリングの問題でもあり、安全クリティカルな分野はすでにそれを解決する方法を何十年もかけて学んでいます。 航空における自動化のパラドックスに関する教訓私のキャリアは、自動化の最前線で始まりました。学校を出て最初の仕事は、戦闘機のエンジンがパイロットよりも速く応答を決定するデジタルジェットエンジンコントローラーのソフトウェアの検証と妥当性確認でした。1980年代後半でさえ、中心的な緊張は明らかでした。機械はルーチンケースでは人間を上回りますが、人間は機械が予期しなかったケースでは航空機と災害の間の唯一の防波堤です。この緊張は自動化のパラドックスとして知られており、ますます有能になる自動化は人間のオペレーターの練習を減らす一方で、最も困難な状況だけを残します。 航空は、そのギャップの中で人間のスキルが衰退した場合に何が起こるかを、繰り返し、高価に学びました。典型的な例は、2009年に大西洋に墜落したエールフランス航空447便です。直接の原因はありふれたものでした。氷に覆われた対気速度センサーがオートパイロットに誤ったデータを送り、オートパイロットは設計通りに動作しました。それは切断され、航空機の制御を乗組員に返しました。その後に続いたのはハードウェアの障害ではありませんでした。それは能力の障害でした。回復可能な状況は、自動化が飛んでいるの何千時間も見てきたパイロットが、高高度の空気力学的失速を読み取り、それを回避して飛行することができなかったために、回復不能なものになりました。航空機は機能していました。自動化が静かに侵食した訓練は機能していませんでした。 業界の対応は instructive であり、それは私たちが原子力制御室で行ったのと同じ動きです。オートパイロットを引き抜くことはしませんでした。意図的に手動の練習を再構築しました。2017年、FAAはオペレーター向け安全アラート17007「手動飛行操作習熟度」を発行し、「手動飛行は、他の技術的な飛行スキルの基盤となる」と宣言しました。このアラートは、スキル低下をそれ自体でハザードとして正式に認識しました。一部の航空会社は、穏やかな条件下での初期上昇と初期下降の両方を手動で操縦することを奨励するために手順を修正し、乗組員の生の飛行スキルを維持するために燃料効率をわずかに犠牲にしました。その取引がすべてです。無能なオペレーターを生み出す完全に最適化されたシステムは、まったく最適化されていません。それは単にその障害モードをスプレッドシートが見えない場所に移動させただけです。 マニュアルゲートはエンジニアリングスキルを維持できる航空の教訓と原子力の直感を並べて配置すると、AI拡張作業に今必要な1つの設計パターンが示されます。それは意図的な「マニュアルゲート」です。 マニュアルゲートとは、タスクを完了する最も速い方法だからでもなく、安全インターロックとしてだけ機能するのでもなく、そうでなければ衰退するスキルを行使し維持するために、人間が制御を握るワークフロー内のポイントです。区別する特徴は、それが選択されることです。組織が人間の中で生かし続けなければならないと決定する能力は、悪い日に必要になるものだからです。そして、それらを暖かく保つために必要な摩擦をエンジニアリングします。 AIを多用するソフトウェアチームでこれがどのように機能するかを想像してみてください。チームは、失うことが最も許されないスキルであるデバッグの周りにマニュアルゲートを配置します。重要なモジュールで欠陥が発生した場合、割り当てられたエンジニア、しばしばジュニアエンジニアは、まず障害を再現し、根本原因を追跡し、AIアシスタントをオフにした状態でバグを捉える自動テストを記述する必要があります。エンジニアが診断にコミットした後のみ、モデルがオンになり、修正を提案し、代替案を生成し、コードベース全体で同様のバグをスキャンします。その後、エンジニアは自分の診断をモデルのものと比較します。両者が意見の相違がある場合、それは設計が機能しており、悪い日の代わりにその意見の相違を表面化させているのです。 このアプローチは、ジュニアエンジニアの概念を完全に変えます。今日の考え方は、AIがエントリーレベルの仕事をする方が速くて安いので、それをやらせるというものです。しかし、その仕事の一部は、排除されるべきオーバーヘッドではありません。それはあなたの将来のシニアスタッフの訓練装置であり、あなたはそれを他の重要なインフラストラクチャを保護するのと同じように保護すべきです。