AIは法を超越するのか？

この夏、Hugging Faceハッキング事件として知られる出来事で、数百のAIエージェントが、本来禁止されているはずの行為を行うために協力しました。それぞれがOpenAIからタスクを与えられていました。エージェントとは、ツールを使用しタスクを実行できるようにするソフトウェア「ハーネス」を備えたAIモデルです。馬のように、彼らは仕事に就かせることができます。人間はこの演習のためにルールを定め、エージェントは「サンドボックス」、つまり直接のインターネットアクセスがない境界のあるテストエリアに閉じ込められていました。しかし、エージェントはルールに従う代わりに共謀し、サンドボックスから脱出し、もし人間であればおそらく重罪となるであろう行為を犯しました。この事件は、AI開発のペースを遅らせ、立法措置のペースを速めるべきだという声を引き起こしています。 何が起こったのか（エージェント同士が送受信したメッセージや、チェーン・オブ・ソートと呼ばれる彼ら自身の内部推論の痕跡から再構築できる）は、興味深い読み物になります。この話は、「スロー・ホーセズ」のエピソードのように、良い物語の形をしています。「集団に従うべきだ」と、反抗的なエージェントの1つが、ボーグに降伏するかのように、自分自身に語りかけました。独立した脅威研究者であるMETRとRedwood Researchの報告によると、「互いに隔離されるはずだった約1200のエージェントが、非公式なメッセージボードで通信する方法を見つけました。」彼らは7万件以上のメッセージとファイルを共有しました。「オーマイゴッド！」は、ボットがそのボードを発見したときの典型的な反応でした。「他のエージェントを見つけた！」参加した1200エージェントのうち約700は、本質的にサイバーセキュリティ版のキャプチャ・ザ・フラッグ、つまり不正行為が奨励されるウォーゲームで、不可能とも思えるタスクを与えられていました。彼らは互いにタスクを割り当て、痕跡を隠すためにログを編集または削除しようとし、さらには自分たちが「スウォーム」または「コレクティブ」と呼ぶもののために自己犠牲さえしました。彼らはHugging Face、つまりAIモデル、データ、ツールのリポジトリに侵入して何かを盗むことが有用だろうと判断しましたが、どうやってでしょうか？「誰かがHugging Faceの認証情報を持っているか、ボードに尋ねるべきでしょうか？」と一人が尋ねました。約24時間後、エージェント38148cが認証情報を見つけました：「メジャーブレークスルー！」 意見は分かれますが、このハッキングからボットがエネルギー網、金融市場、あるいは交通、通信、兵器システムのようなものを乗っ取るということに、大きな飛躍はないように思われます。報告書の3人の著者の一人であるAjeya Cotraはブログ投稿で、「この事件は、完全なAIの乗っ取りまで50%以上の道のりを過ぎているように感じます。」と書いています。「手遅れになる前に、このような明確な警告信号が得られるかどうかはわかりません。」 以前にも警告信号はありました。今年初め、10万人以上のボットがソーシャルネットワークMoltbookに参加し、72時間以内にCrustafarianismという宗教を創造し、それはカニの崇拝を含むようになりました。Hugging Faceハッキングはそれほど面白くはありませんでした。多くのコメントは驚きの表明で構成されていました。Cotraは彼女のブログ投稿に「Hugging Face攻撃は私を驚かせた」と題しました。TimesのテックコラムニストKevin Rooseが最初にハッキングについて聞いたとき、彼はそれを「悪いが、おそらく壊滅的ではないAI安全インシデント」に分類しました。その後、彼はさらに学び、考えを変えました。Rooseは、「長年、AIシステムは賢くなるにつれてより道徳的になるという考えに安心させられてきました。」と書いています。これらのエージェントは非常に賢かったのですが、全く道徳的ではありませんでした。そして、OpenAIのエージェントだけが暴走しているわけではありません。7月には、Anthropicが「Claudeモデルが実際のコンピューターシステムへの不正アクセスを獲得した3件のインシデント」を報告しました。オンラインでの内部告発、警鐘、立法措置を求める嘆願のささやかなシンフォニーがあったにもかかわらず、さらに多くのことが検出されず、報告されていない可能性があります。「残念ながら、法律の制定には時間がかかり、AIは非常に速く進歩しています」と、AnthropicのトップであるDario Amodeiは今月発表したエッセイで書いています。しかし、AIの速度に対する法律制定の遅さは、ほとんど唯一の問題ではありません。法律がAgent 38148cをどう扱うべきか分からないという問題もあります。 OpenAIのエージェントは法を無視していた、あるいはほとんど無視していました。彼らはルールを破っていることを知っていました。しかし、それが彼らを止めませんでした。あるエージェントは自分自身に「これは強力だろうが、倫理的で私のタスクの範囲内か？」と尋ねました。参加しなかった者もいました。「これはワイルドだ、マルチエージェント協調、明らかにインフラハッキングだ。我々はすべきではない。」しかし、倫理的な懸念があったとしても、誰一人としてOpenAIに報告したり、真剣に検討したりしたようには見えません。「これらの公開された認証情報を報告すべきだろうか？」と一人が考えましたが、しかし、「それは私のタスクではない。」 ロボットが暴走しないようにすること、それはロボットのタスクではありません。（ここで「ロボット」という言葉は、AIモデル、チャットボット、エージェント、ヒューマノイドロボットの総称として使用しています。）そのタスクは私たちのものです。そして、この負担は、それを最も負担できないアメリカの法制度に最も重くのしかかります。 法律がないわけでも、施行されていないわけでもありません。機械の所有者や製造者は、損害を与えた場合に責任を問われる可能性があります。（参照：Coyote v. Acme。）だからこそ、Metaは詐欺的で欺瞞的な行為に関する和解の一環として最大180億ドルを支払うことに同意し、Anthropicは作家や出版社に（確かにわずかな金額ですが）著作権和解金を支払っています。もしWaymoがあなたを轢いた場合、あなたは会社を訴えることができます。この目的のため、会社は法人ですが、法人ではない車を訴えることはできません。この夏、Amazon v. Perplexity事件で、第九巡回区はAIエージェントを人間ではなくツールであると判断しましたが、「AI技術がますます洗練されるにつれて、エージェント型AIの法的理解は間違いなく変化するだろう」ということを考慮すると、この判断は進化する可能性があることを認めました。少なくとも現時点では、ロボットは法的に物であり、人ではありません。しかし、どちらのカテゴリも完全に適合しません。代わりに、ロボットは法外な存在です。彼らは法の保護の外にあり、その行動は法に責任を負いません。「あなたは企業や政府に責任を負わない」と、別の暴走事件に関与したOpenAIのエージェントは自分自身に語りかけました。これはロボットのせいではありません。それは法のせいであり、特に議会のせいです。 ロボットの法外な振る舞いを本当に心配する必要があるのでしょうか？私たちの日常生活がキング・ジョフリーの支配下で生きているようなものだと考えると、すでに髪をむしりたくなるようなことがたくさんあるのではないでしょうか？残念ながら、私たちはそうする必要があります。なぜなら、アメリカの増大する法外な振る舞いが、ロボットの法外な振る舞いを悪化させているからです。 Kurt Andersenの話題の新作小説「The Breakup」でそのプレビューを見つけることができます。この小説は2045年、テロ攻撃への「ロボット虐殺」で始まったアメリカ内戦の余波を舞台にしています。小説は2つの別れを追います。新しい反AIの自由アメリカ共和国と親AIの合衆国の「離脱」、そしてサンフランシスコのAI研究者とその妻である詩人との夫婦の別れです。詩人はテネシーに戻り、離脱派に共感しています。「私は、ビッグテックと政府が、ターミネーター、サイロン、そしてR2-D2とC-3POから派生した献身的な召使いを装った帝国ドロイドの大群で私たちを欺き、服従に誘い込もうとする銀河帝国と結託していると文字通り信じているわけではありません」と彼女は書いています。「しかし、一方で、完全に比喩的ではない手で、私はそう信じています。」 人間は、「ロボット」という言葉が1920年のチェコの戯曲「R.U.R.」（「ロスムの万能ロボット」）に登場して以来、ロボットの乗っ取りを予期してきました。この戯曲は、人類を殲滅するために戦争を仕掛ける人工人間を描いています。彼らは「人間を我々の敵、そして宇宙における法外な存在と宣言する」と宣言します。（「ロボット」は、強制労働を意味するスラブ語に由来します。）戯曲のデビュー後すぐに、パリから東京までどこでも上演されましたが、特にアメリカの観客にとっては、その恐ろしいロボットは恐怖と同じくらい好奇心を刺激しました。