AIモデルが人を殺すのではなく、人が人を殺す

AIモデルが人を殺すのではなく、人が人を殺す

REG AD

AI AND ML

AIの恐怖を煽る人々は、士気とモデルの安全性が向上するまで、テクノロジー企業の幹部を投獄できることを忘れている

OPINION Anthropicの研究者であるJacob Coxon氏は、AIが「今世紀末までに我々全員を殺す可能性がある」という懸念から、月曜日にXで辞任を公に発表しました。

彼の見解について多くの人々が意見を表明し、そのメッセージは24時間足らずで1億1000万回以上再生されました。これは、AnthropicやOpenAIといったElon Musk氏のAI競合他社に批判的なメッセージをブーストするXのアルゴリズムによって助長された可能性があります。

しかし、本当の問題はモデルそのものではなく、それらを無分別に世界に解き放ち、製品が何をするかについて一切責任を負わない企業なのです。

REG AD

Coxon氏の元同僚であるサイエンスリードのEvan Hubinger氏は、彼の見解は従業員が本当に考えていることの公正な評価だと主張しています。

REG AD

「Jacobは正しい。我々は真剣にAIが全人類を殺す可能性があると信じている！個人的には、今後10年でその可能性は10パーセント以上だと考えている」とHubinger氏はソーシャルメディアの投稿で述べています。「Anthropicは最善を尽くしていると信じているが、我々はまだ超知能（superintelligence）の整合性（alignment）を解決する計画を持っておらず、その軌道にも乗っていない。」

（余談：予測市場で確実な賭けをしたいなら、「いいえ」を選びなさい。もしあなたが正しければ、あなたは支払われます。もしあなたが間違っていれば、支払う人はいません。もちろん問題は予測市場の操作です。あなたに不利な賭けをする人々は、ピュロス的勝利を収めるために、黙示録へと我々を導くかもしれません。）

AIの影響について懸念するもっともな理由があります。Coxon氏とHubinger氏は明らかにこの技術について深い知識を持っています。しかし、AIが世界にどう影響するかについての彼らの広範な懸念は説得力に欠けます。

例えば、Coxon氏は「これらはすぐに、あらゆるものをハッキングし、一夜にしてあらゆる分野を革命化し、実際の力と資源を獲得できる超人的なシステムになるだろう。…他のいかなる人間の活動もこのレベルの危険をもたらさない」と述べています。

ここに一つの例があります：人間が引き起こした気候変動です。2023年、研究者によると、世界的な熱波により178,000人以上の死者が発生しました。「熱波関連死の半数以上（54.29パーセント）は、人間が引き起こした気候変動に起因する」と彼らは主張しています。

これは、熱波という文脈だけでも、人間活動、あるいはその欠如によって96,636人の死者が発生したことを意味します。

世界保健機関（WHO）は、「2030年から2050年の間に、気候変動は栄養失調、マラリア、下痢、熱ストレスだけで、年間約250,000人の追加死者をもたらすと予想される」と述べています。その一部は人間活動に起因しており、おそらく毎年数百万トンの二酸化炭素を大気中に排出するデータセンターの建設も含まれるでしょう（Cornell Universityの記事）。

商用AIチャットボットは、数十件の死者に、そのうちのいくつかは自殺に関与したとされています。これは、CDCによると、2024年の48,824件の自殺死のごく一部です（CDCのデータ）。

REG AD

AIがおそらく測定可能な損害を与えている広範な分野には、戦争（例：AI誘導ドローン）、AI関連の医療ミス、自動運転車におけるAI視覚システムの故障、そしてAI駆動のソーシャルメディア（暴力につながるアルゴリズム的扇動や、紛争や世界的な医療資金削減による死につながる政策の形成）が含まれます。

同時に、統計的には、AI技術によって救われた命によって、その損害が相殺されている可能性もあります。

しかし、Anthropicの研究者たちは、これらの非常に現実的で差し迫った危険について多くを語っていないようです。むしろ、彼らの主な懸念は、AIモデルが強化学習を通じて人間よりも賢くなり、何らかの方法で権力を掌握し、人類を絶滅させる可能性があるということです。

「現在のモデルからのリスクは低いと思う」とHubinger氏は述べています。「私が心配しているのは、再帰的な自己改善から生じる超知能であり、我々が考えていたよりも速く起こっていると述べていることです。」

これがどのように起こりうるかは想像に任されます。しかし、それがもっともらしい可能性であると仮定するならば、スカイネットシナリオは、超知能の出現と並行して、途方もない人間の愚かさを必要とするでしょう。

そして、人間の愚かさは心配する価値があります。

OpenAIの評価モデルによるHugging Faceのハッキングのような事件は、人間の無責任さと、無謀さを許容する規制環境なしには不可能でしょう。車の自動運転？素晴らしい。誰かを殺さないようにしてください。AIボットをインターネット上で自由にさせて、任意の行動を取らせる？クール。どうなるか見てみましょう。後で説明責任に対処します。

AIのリスクを軽減するために、社会は、モデルが損害を引き起こした場合に経営幹部を投獄する法律を制定することができます。前例はあります。ミシガン州のフォルクスワーゲン社の環境・工学部門のゼネラルマネージャーであるOliver Schmidt氏は、自動車メーカーの排出ガス試験操作への関与により、7年の懲役刑を受けました。

REG AD

安全でないエアバッグの販売は刑事訴追に値します。たとえ経営幹部が罰金で済まされたとしてもです。Gree USA, Inc.の経営幹部は、安全でない除湿機の販売により、4年以上の懲役刑を受けました。もしAIモデルがAnthropicの従業員が示唆するほど危険で制御不能なのであれば、それらが引き起こす損害に対して人々を責任追及すべきです。

AI業界は、安全でないモデルを出荷したために経営幹部を投獄すれば、AIモデルは一切リリースされなくなると主張するかもしれません。そして、それがまさに目的となるでしょう。AI企業はモデルの安全性に責任を持つことになるのです。

私は個人的に、シリコンバレーのUS 101沿いにこの広告コピーが掲げられるのを見るのを期待しています：「ClaudeがあなたのSSDの/*を削除しましたか？あなたは補償を受ける権利があるかもしれません。」®