今最も重要なスキルは倫理である

人間がかつて誇りに思っていたあらゆるスキルは、コモディティ化しつつあります。ライティング、コーディング、分析、翻訳、デザイン、リサーチ。機械はそれらをすべて、より速く、より安く、そしてますます上手にこなします。あなたがそれらをできるから価値があるとされるもののリストは、四半期ごとに縮小しています。縮小していないのは、そもそも何をすべきかという問いです。 能力は判断なしでは単なるてこです。 ツールはそれを扱う者を増幅します。AIはこれまで作られた中で最大の増幅器であり、方向性には無関心です。がん研究の提案書を作成するのと同じモデルが、同じ熱意で偽情報キャンペーンも作成します。ボトルネックは能力ではありませんでした。それは意図でした。 歴史のほとんどにおいて、悪意は無能さによって抑制されていました。深刻な損害を与えるには、資金、人員、専門知識、時間が必要でした。その抑制がなくなりました。ラップトップを持つ一人の人間が、今や小規模な組織と同等の運用能力を持っています。行動のコストが崩壊すると、行動する人間の質だけが残された制約となります。 ボトルネックは能力ではありませんでした。それは意図でした。 倫理は性格特性ではありません。 人々は倫理を、雰囲気かルールブックのどちらかとして扱います。どちらでもありません。それはスキルであり、他のスキルと同様に、特定の訓練可能な要素から構築されています。 認識すること：決定にそもそも道徳的な側面があることを見る。ほとんどの失敗は、間違った選択をする時点ではなく、ここで起こります。人々は指標を最適化し、その中に人間がいたことを認識しません。 葛藤下での推論：現実のジレンマは善対悪ではありません。それは適合しない二つの善です――スピード対安全性、忠誠心対正直さ。それをスローガンに陥らずに処理するには練習が必要です。 二次的影響を所有すること：あなたの仕事があなたの手を離れた後に可能にするもの。「私はツールを作っただけ」という言い訳は、しばらく前に通用しなくなりました。 圧力に反して行動すること：正しい判断を知っていることは安価です。ボーナス、チーム、あるいは仕事が反対方向を指しているときに、それを行うことが実際のスキルです。 なぜAIが特にリスクを高めるのか これには3つの理由があります。 規模：偏った採用決定をする人間は、数人を傷つけます。そのバイアスをエンコードしたモデルは、昼食前に同じ決定を百万回行います。倫理的エラーはかつて小売でしたが、今や卸売です。 速度：システムは、組織がレビューするよりも速く動作します。法律や裁判所は年単位で動きますが、展開は週単位です。あなたを捕らえるための遅い外部プロセスはもうありません――チェックは内部で行われるか、存在しません。 距離：AIは、あなたと結果の間に層を置きます。あなたは仕様を書き、誰かがモデルをトレーニングし、会社がそれを展開し、見知らぬ人が影響を受けます。各層は、それが自分の問題ではないと感じやすくします。責任の分散は、それぞれが大丈夫だと思っていた人々によって、大規模な損害がもたらされる方法です。 委任の問題 魅力的な選択肢は、倫理をシステムに組み込んで、心配をやめることです――整合性の取れたAI、ガードレール、安全層。それらすべてを行う価値はありますが、どれも十分ではありません。 モデルが何を重視すべきか、どのようなトレードオフを行うか、許容できる失敗率は何かを決定するのは、結局のところ人間です。それらは事前にエンコードされた人間の判断です。あなたが指定する必要があったシステムの倫理を、システムにアウトソースすることはできません。責任は上流に移動します。それは消えません。 そして、機械がそれを処理するからといって道徳的判断を行わなくなった人口は、機械を評価できない人口です。スキルは、使用されないと衰退します。これは失うには悪いものです。 誰が勝っているかを見てください。 倫理が価値を失いつつある証拠が欲しいなら、国を運営している人々を見てください。 民主主義国家と権威主義国家の両方で、政治システムのトップで報酬を与えられる特性は、ますます同じになっています。嘘の流暢さ、操作への快適さ、自分が何も知らないことについて完全な確信を表明する能力、そして捕まることへの完全な無関心。これらは隠すべき弱点ではなく、機能です。プレッシャーの中で虚偽を維持し、それが真実だと感じるまで繰り返し、そしてそれを指摘する者を攻撃できる政治家は、誠実な善意でポイントを認める者よりも優れています。 これは性格の問題ではなく、選択の問題です。システムは人々を腐敗させるというより、それを選別します。現代の政治は、永続的な注意のコンテストで勝てる者すべてに報酬を与えます。絶え間ない放送、バイラルな怒り、部族の忠誠心、記憶の欠如、矛盾に対するペナルティの欠如。これらの条件は非常に特定のプロフィールを有利にします。巨大なエゴ、恥に対する高い耐性、内なるブレーキのゼロ。真の良心を持つ人は、そのレースで不利になります。彼らはためらいます。彼らは誤りを認めます。彼らは安易な攻撃を拒否します。これらのそれぞれが競争上の不利です。 そのため、フィルターは世代から世代へと実行され、トップに出てくるのは、嘘をうまくつき、それについて何も感じない人々が不釣り合いに多くなります。有権者が嘘つきを望むからではなく、機械がそれらを確実に昇進させるからです。 そして、そのクラスの人々に、産業規模で説得力のあるものを製造する技術を与えてください。合成ビデオ、個人の心理に合わせたターゲティングメッセージ、世論をシミュレートする自動化されたネットワーク、何でも本物であることが偽物として却下できるため、否定が容易になったこと。欺瞞はかつて、一人が生産できる量によって制限されていました。その制限もなくなりました。 何かが壊れています。それは個人の上流にあります。倫理が破局に対する拘束力のある制約になったまさにその時に、倫理のない人々を体系的に昇進させるシステムは、壁にぶつかっているシステムです。それを修正するには、報酬を与えられるものを変える必要があります。それは遅く、地味な仕事です。インセンティブ、アカウンタビリティ、メディア構造、嘘にコストがかかるかどうか。それが変わるまで、より良いツールを持った同じプロファイルがさらに増えることを期待してください。 実践ではどう見えるか それは哲学セミナーのように見えません。それは具体的な習慣のように見えます。 あなたが構築しているものによって誰が影響を受けるかを尋ねてください。参加しなかった人々も含めてください。あなたの仕事は、あなたよりも悪い動機を持つ誰かによって使用されると想定し、それに向けて設計してください。まだコストがほとんどかからない会議で、不快なことを言います。理由ではなく正当化を探していることに気づいたら、それを認識します。「みんなやっている」や「技術的には合法だ」を答えではなく警告として扱います。 結論 知性は自動化されつつあります。判断はそうではありません。倫理は、能力を価値あるものに変える規律であり、機械に凌駕されても義務から解放されない唯一のスキルです。 次の10年間で重要な人々は、最も多くのことができる人々ではありません。ほぼすべての人がほぼすべてのことができるようになります。彼らは、何が可能か、そして何をする価値があるかの違いを見分けることができる人々であり、それがコストがかかる場合にその境界線を守る人々になります。