AI安全ブートキャンプを法務・ガバナンス実務家向けに共同主導して学んだこと

AI安全は主流になりつつあります。AI安全研究に取り組みたいと考える人がかつてないほど増え、米国、英国、欧州では実際の政策上の成果も出ています。しかし、政治的意思と市場のインセンティブが現在のボトルネックとなっており、政策担当者が正しい実装を単独で担うことはできません。 アクセンチュアの合弁事業で責任あるAIプログラムを構築した経験から、利益主導の企業を方向転換させるのは難しいことはわかっていますが、その企業内の人々が、契約条項の強化、ベンダーやサプライヤーへのより厳格な精査、プロバイダーがコンプライアンス違反を免れる方法の減少といった形で、実践を積み重ねていくことも可能です。EUにはネイティブなフロンティアラボはありませんが、巨大な市場（AI安全部門を持つ規制機関もあります！）です。 そのレバレッジが機能するのは、AI安全法を施行し、その背後にある法的メカニズムを起草する専門家が、技術的な側面を理解している場合のみです。つまり、研究を読み解き、安全性の約束がどこで破綻するのかを理解している場合です。市場は最も能力の高いモデルを選ぶのではなく、安全性へのインセンティブが最も強いパートナーを選ぶべきであり、この知識を持つコミュニティだけがそれを広めることができます。 9月初旬、ML4GoodはEquiStampと提携し、欧州初のフロンティアAIと法に関するセミナーを開催しました。これは、12の法域から集まった19名のシニアな法務、ガバナンス、リスクの専門家を対象とした、5日間の集中的な合宿研修でした。 研修では、トレーニングや評価からエージェントやセーフガードに至るまで、フロンティアAIのパイプライン全体を網羅しました。各段階は、調達、リスク評価、ベンダーの安全性の主張が破綻する場所といった、彼らが自身の業務で直面する問題と結びつけられました。 このブートキャンプが、同様のAI安全フェローシップと異なっていた点は、私たちが集めた聴衆でした。私たちは、組織内で法務、コンプライアンス、リスク、責任あるAIの機能にすでに責任を持っている経験豊富な実務家を特にターゲットにし、AI安全イベントやEA（Effective Altruism）への露出はほとんどない、あるいは全くない人々を集めました。 参加者には、法律事務所と企業内の両方で働く弁護士、AIガバナンスに取り組むプライバシーおよびコンプライアンスの専門家、AIガバナンスについてアドバイスを行うリスクおよび財務の専門家、さらには法学の学者や研究員が含まれていました。司法関係者や公的機関からの参加者もいました。 参考までに、私はこの最初の版をElsa Donnatと共に共同主導し、カリキュラムの実践演習トラックを設計しました。技術セッションはDouw MarxとJeff Iulianoが担当し、非常に複雑な技術的概念を非技術的で主に法務の聴衆に適応させるという、非常に困難な任務を負いました！ この記事では、ブートキャンプの準備段階、イベント中、そしてイベント後の会話を通じて私が得た、個人的および専門的な主な気づきを共有します。 技術セッションの周りで起こっていた「現場での」瞬間やネットワーキングの様子！ 1. 素晴らしい経歴を持つ専門家も、法務分野でさえ、知的に孤立を感じることがある。 大企業で大きな役職に就いている人々は、自分が気にかけていることに関しては、驚くほど孤立していることがあります。 私がその一人だったとき、AIはどのように安全なのか？ 様々な種類のAIシステムを、非常に異なるユースケースで、大企業全体に展開することの結果はどうなるのか？ それは社会、市場、あるいはセクター全体にとって何を意味するのか？といった疑問について真剣に考えている人が、私の専門的な環境では私以外にほとんどいませんでした。 これを読んでいる方には、これらは非常に基本的な疑問に聞こえるかもしれません。しかし、責任あるAI、AIコンプライアンス、規制、またはリスクが実際の仕事である場合、これらの懸念は、目の前のタスクから注意をそらすものと見なされることがあります。そして、たとえそう見なされなくても、自分が心配していること、興味を持っていること、あるいは次に何が起こると思うかについて、有意義な会話をする時間や場所がないだけかもしれません。 非常に経験豊富な実務家のグループを集めたところ、それぞれが専門的な文脈で自身の課題に取り組んでいましたが、彼らは互いに飽きることがありませんでした。 コミュニティの要素は、プログラムの最大の資産の一つとなりました。友情、つながり、そして公式セッションが終わった後も続いた会話です。 これはおそらく私を驚かせるべきではなかったでしょう。しかし、それはプログラムに多くの意味を与えました。 ML4Goodのブートキャンプの伝統として、私たちはシュガーキューブを用意しました。全員の名前が書かれた封筒に、参加者はその名前の人にポジティブなメッセージを付箋で残すことができました。 参加者の中で最も経験豊富で影響力のある一人が、私宛にメモを残しました。それは本質的にこうでした： 「これをありがとう。私の仲間を見つけました。」 それは本当に私を感動させました。 ここにいる多くの研究者はすでにこの感覚を知っています。あまり明白ではないかもしれませんが、方程式の反対側にいる人々、つまりベンダー条項を監督し、契約を交渉し、展開を承認し、これらのシステムを管理する人々は、それらの懸念を共有するときに、驚くほど似た感覚を経験することがあります。 2. 実務家はすでにAI安全研究を読んでいます。しかし、常に解釈方法を知っているわけではありません。 評価とセーフガードに関するセッションの一つは、Hugging Faceのインシデントに焦点を当てていました。参加者全員が多くの質問を持っていたため、予想よりも時間がかかりました。 そして、これらの質問の最も良い点は、人々がすでに信じていることを正当化しようとしていなかったことです。彼らは専門家ではないということを知っている謙虚さを持っていました。彼らは専門家がいる場所にアクセスでき、理解したいと思っていました。 他のセッションでは、参加者はRedwood ResearchのオリジナルのAI Control論文、Golden Gate Claudeの作業、そして彼らの机に置かれたり、独立して遭遇したりした他のAI安全研究に言及しました。 時には非常に単純な誤解を正すことで、学習を続けることへの好奇心が増し、これらの問題の一部がなぜ重要なのかについての理解が深まるという、二つのことが同時に起こります。 推論中にモデルに実際に何が起こるのか？ いいえ、ChatGPTはあなたが話したすべてを記録し、会話中にそこから「学習」しているわけではありません。 いいえ、Claudeが考えているように見えるときにあなたが見るものは、モデルの実際の思考連鎖ではありません。これらの「ああ、私はそれが違うように機能すると思っていました」という小さな瞬間は、プログラムの中で私のお気に入りの部分でした。 そして正直なところ、私たちは質問に答えるだけでさらに一日費やすことができたように感じました。 これは私の次の観察につながります。 3. 技術的な結果に直接責任を持つ非技術者は、ほぼ無限の理解への欲求を持っている。 AIシステムを構築する企業のプロダクトカウンセルであれば、あなたの仕事は、違法なことが起こらないようにすることや、利用規約が正しく作成されていることを確認することだけではありません。 何かがうまくいかなかった場合、あなたは責任を問われます。 そして、技術チームから、プロジェクトが何をしているのか、あるいは基盤となる技術がどのように機能するのかを説明してもらうことについて、あなたが何か重要なことを見落とした場合に受ける批判と同じレベルの協力を必ずしも受けられるわけではありません。 それは理解できます。私たちが何をしているのかを知るのは私たちの仕事であり、絶え間ない手助けを期待すべきではありません。 しかし、それはまた、あなたが長年蓄積してきたすべての技術的な質問をする機会を得たとき、あなたはそれをつかむことを意味します。 プロプライエタリモデルとオープンウェイトモデルの違いについて質問するでしょう。モデル間の能力の違いについて質問するでしょう。ポストトレーニングの異なる段階が安全性とパフォーマンスの両方にどのように影響するかについて質問するでしょう。評価が実際にあなたに何を教えてくれるのかについて質問するでしょう。そして、それらがあなたに何を教えてくれないのかについて質問するでしょう。 そして、それでも十分ではなかったと感じるでしょう。 もちろん、選択バイアスがありました。