今最も重要なスキルは倫理である
Ethics Is the Skill That Matters Most Now (agonora.com)
要約
AIやテクノロジーの進化により、かつて人間が誇っていた多くのスキルが自動化され、倫理観が最も重要な差別化要因となっています。倫理は単なる性格ではなく、道徳的側面を認識し、葛藤の中で推論し、二次的影響を考慮し、圧力に反して行動する訓練可能なスキルです。AIは意図を増幅させ、その規模、速度、結果からの距離により、倫理的誤りのリスクを劇的に高めています。現代のシステムはしばしば倫理を損なう特性を優遇するため、倫理的判断能力の育成と実践が、将来を乗り切る上で不可欠です。
全文翻訳
AI時代において最も重要なスキルとしての倫理
文章作成、コーディング、分析、翻訳、デザイン、リサーチ。これらの作業は今や、ほとんどの専門家よりも速く安価に機械が行えるようになり、その差は数ヶ月ごとに少しずつ縮まっています。あなたがどんなに得意なことでも、正直に言って5年後には、同じように得意なモデルが存在しているでしょう。
しかし、そのリストにいつまで経っても現れないものがあります。それは「判断」です。つまり、これから行おうとしていることが、そもそも行うべきかどうかを決定することです。
増幅器には意見がない
ツールは、それを持つ者を増幅します。AIは史上最大の増幅器ですが、方向性に関する意見を持ちません。がん研究の提案書を作成するのと同じモデルが、その違いに気づくことなく偽情報キャンペーンの提案書も作成します。歴史のほとんどにおいては、これは現在ほど重要ではありませんでした。なぜなら、悪意は無能さによって抑制されていたからです。深刻な損害を与えるには、資金、人員、専門知識、時間が必要でした。その抑制はほとんど失われています。ラップトップを持つ一人の人間が、小規模な組織と同等の範囲で活動できるようになり、行動する人物の種類が、技術的な能力よりも重要になってきています。
倫理は性格特性ではない
人々は倫理を、雰囲気かルールブックのどちらかのように捉えがちです。良い価値観を持っているかいないか、行動規範に従ったか従わなかったか。まさにこの問いを中心に評価プラットフォームを構築してきた経験から、私はそれがどちらでもないことを確信しました。倫理はスキルのように振る舞います。それは構成要素を持ち、人々はそれぞれの要素において測定可能に優れているか劣っており、練習によって向上します。
最も過小評価されている要素は、単に「気づくこと」です。目の前の決定に道徳的な側面があることに、そもそも気づくことです。ほとんどの倫理的失敗は、間違ったことを選ぶ瞬間に起こるわけではありません。それはもっと早く、誰かがメトリックを最適化する際に、その中に人が含まれていることに全く気づかないときに起こります。Amazonの実験的なCVスクリーニングモデルの背後にいたエンジニアたちは、おそらく女性を罰しようとしたわけではありません。モデルは、同社の一〇年間の採用データからそれを自ら学習し、女性大学や女性チェスクラブに言及した履歴書を静かに格下げしました。Amazonはそれを発見し、2018年にそのツールを破棄しました。多くのチームは、自分たちのツールを発見できていません。
気づいた後には、本当の練習を必要とする部分が続きます。それは、二つの良いことが対立するときの「推論」です。真のジレンマは、善対悪であることがめったにありません。それは、スピード対安全性、忠誠心対正直さ、今四半期対今後一〇年、といったものです。それらをスローガンに陥ることなく乗り越えることは、交渉術と同じように、主に最初に数回まずく経験することによって学びます。
次に、自分の仕事が手から離れた後に可能にするものに対する「責任を持つこと」があります。トム・レーラーは1965年にすでにこのことについて歌っていました。「ロケットが打ち上げられたら、どこに落ちるかなんて誰が気にする?それは私の担当ではありません、とヴェルナー・フォン・ブラウンは言いました。」当時、それは大した弁明ではありませんでしたし、時とともに悪く響くようになりました。
そして最後に、人々を実際に分ける要素、それは「コストがかかる時に行動すること」です。正しい判断を知っていることは安価です。フォルクスワーゲンは、排出ガス不正装置が何であるかを正確に理解していたエンジニアを雇用していましたが、少なくとも一人はそれに加担したことで刑務所に入りました。その失敗に知識の問題はありませんでした。
なぜAIがリスクを高めるのか
一つには規模の問題があります。偏見のある採用担当者は、自分の机を通り過ぎた少数の人々に害を与えますが、モデルに展開された同じ偏見は、昼食前に一〇〇万回同じ決定を下します。倫理的なエラーは、かつては小売業でした。今や卸売業です。
一つには速度の問題があります。法律や裁判所は年単位で動きますが、展開は週単位で動きます。そして、最終的にあなたを捕らえる遅い外部プロセスは、追いつかなくなっています。チェックが内部的でない場合、ますます、チェックは存在しません。
しかし、最も腐敗しやすい部分、私はそう思いますが、それは距離です。皆に研究してほしい事例は、オランダの育児給付金スキャンダルです。税務当局のリスクアルゴリズムが、数万の家族、特に外国系の背景を持つ家族を福祉詐欺師としてフラグ付けしました。家族は、支払う必要のないお金を返済するよう命じられました。一部は破産し、子供たちは里親のもとへ送られ、オランダ政府は最終的にその件で辞任しました。事後の驚くべき点は、連鎖の誰も、それをやった人物だと感じていなかったことです。一人が仕様を作成し、別の一人がシステムをトレーニングし、別の一人がそれを展開し、数千人のケースワーカーがその出力を追従しました。拡散した責任は、一人ひとりが単に自分の仕事をしているだけだった人々によって、巨大な損害が引き起こされる方法です。
委任の問題
誘惑される対応は、アラインされたモデル、ガードレール、安全層など、倫理そのものをシステムに組み込み、人間については心配しないようにすることです。ガードレールは構築する価値があります。私もそれに頼っています。しかし、モデルに何を価値づけさせるか、どのようなトレードオフをさせるか、許容できる失敗率は何であるかを、依然として誰かが決定します。それらは道徳的な判断であり、事前に、あなたが決して会うことのない人々によって下されます。倫理を、誰かがその倫理を仕様決定しなければならなかったシステムにアウトソースすることはできません。あなたは単に判断を上流に移し、より少ない手に集中させ、見えにくくしただけです。
より静かな問題は、衰退です。機械が処理してくれるからといって道徳的判断を行わなくなった人口は、最終的に機械を評価できなくなる人口です。スキルは、使用されないと色褪せます。私自身、もうほとんど筆算ができません。ほとんどのスキルにとってはそれで問題ありません。しかし、このスキルは維持しておきたいと私は思います。
勝者を見る
ここに不快な部分があり、私が最もどうすれば良いか確信が持てない部分があります。
現在の政治システムが何を求めているかを見てみましょう。民主主義国家でも権威主義国家でも、台頭してくる人々は認識可能なプロフィールを共有しています。嘘に流暢で、操作に長け、どんなことについても確信を表明でき、捕まることに無関心です。有権者が嘘つきを望んでいるとは思いません。それはフィルター効果だと思います。現代政治は、絶え間ない注意の競争であり、絶え間ない放送とバイラルな怒りに満ち、記憶も矛盾に対する罰もなく、そしてその競争は、内なるブレーキがない方が単純に勝ちやすいのです。真の良心を持つ人はためらい、譲歩し、安易な攻撃を拒否します。これらのそれぞれが競争上の不利であり、ラウンドを重ねるごとに、フィルターは何も感じない人々を昇進させます。
今、そのクラスの人々に、産業規模で説得力を製造する技術を与えてみてください。2024年1月のニューハンプシャー州予備選挙の前、数千人の有権者が、ジョー・バイデンのクローン音声によるロボコールを受け取り、投票に行かないように指示されました。それを担当したコンサルタントは、報告によると、路上マジシャンに150ドルを支払ってその音声を生成させたそうです。欺瞞を生産するコストは、かつてはその広がりとともに増加していましたが、もはやそうではありません。
私はこの選択問題に対する解決策を持っていませんし、それを主張する人には用心しています。それは個人の上流、インセンティブと説明責任、そして嘘にコストがかかるかどうかという問題にあり、それを変えることは遅く、地味な仕事です。ほとんどの私たちにとって実際に手の届く範囲にあるのは、パイプラインのもう一方の端、つまり私たちが構築するもの、黙認するもの、そして私たちがいる部屋で声に出して言うことをいとわないものです。
実践における姿
これらのどれも哲学セミナーのように見えるものではありません。実際には、それは数多くの地味な習慣です。あなたが構築しているものによって誰が影響を受けるのか、たとえそれに同意しなかった人々も含めて、尋ねてください。あなたの仕事が最終的にあなたよりも悪い動機を持つ誰かに届くことを想定し、あなた自身のためではなく、その人のために設計してください。まだ安価なうちに、会議で不快なことを言ってください。理由ではなく正当化を探していることに気づいたら、「みんなやっている」や「技術的には合法だ」を警告サインとして扱いなさい。なぜなら、それらは通常、警告サインだからです。
次の十年がどうなるか正確には分かりませんし、それを知っていると主張する人を誰も信用しなくなりました。しかし、一つの賭けは安全そうです。能力が安価で普遍的になるにつれて、それはもはや誰かを区別するものではなくなり、残るのは判断力です。つまり、そのレバレッジを持つ人が、何が可能かということと、何がやる価値があることかとの違いを見分けられるかどうか、そしてそれがコストがかかる時にその線を守れるかどうかです。