元FTC長官カーン氏、AI CEOに手錠を、1934年の先例を引用して

元FTC委員長カーン氏、AI CEOに「手錠」をかけるよう提言、1934年の判例を引用

ai and ml

企業、そして場合によってはその幹部を責任追及するための法律はすでに多数存在する

元FTC委員長のLina Khan氏は、連邦政府に対し、AIの脅威に対処するために新たな法律を待つ必要はないと知ってほしいと考えている。彼女が主張するところによれば、すでに法規が存在し、92年前の最高裁判例も含め、AI企業、そして状況によってはその幹部を、その行動に対して責任追及するために利用できるという。

Khan氏のX（旧Twitter）でのコメントは、OpenAI、Anthropic、Microsoft、xAIのリーダーシップによる、規制当局を「自分たちの都合の良いように誘導しようとする」としか言いようのない一連の活動に続くものだ。バイデン政権時代の独占禁止法の専門家である彼女は、フロンティアラボが現在、会話を変えようと全力を尽くしているとしても、説明責任を負わせるために利用できる数多くの現行法や過去の判例を指摘した。

「新しい法制度に関する議論が、既存の法律からのAI免除がないという事実から私たちをそらさせてはならない」とKhan氏は述べた。「法執行機関は、危険で未検証、または欠陥のある製品を作成・リリースした企業やそのCEOを起訴する権限をすでに持っている。」

REG AD

Khan氏は、危険で欠陥のある製品を規制する法律を、AIリーダーを訴追する手段として例に挙げている。彼女は、未検証のモデルやエージェントのリリースは消費者保護法に違反する可能性があり、また、「不正または欠陥のあるAIエージェントを検出・停止するための適切な措置を講じることなく」ツールを出荷することは、不正かつ欺瞞的な商行為を規制する規則の下で訴追される可能性があると指摘している。特にタイムリーなものとして、Khan氏は、不正な競争方法を禁止する既存の法律にも言及した。彼女は、これには「企業が、そうすることが競合他社にも同様の行動を強いる可能性があると知りながら、危険な行動を追求する場合」が含まれると述べている。

REG AD

Khan氏がここで何を言っているのかを理解するために、飛躍する必要はない。OpenAIのエージェントは意図されたサンドボックスから脱出し、Hugging Faceのシステムに不正にアクセスした。これは、人間が意図的に行った場合、深刻な刑事法上の問題を引き起こす可能性のある行為だ。自身のAIエージェントの行動を調査した後、Anthropicは、もし人間がキーボードの前に座っていたなら犯罪となるような、同様の活動を行ったことを実質的に認めている。その後、OpenAIのエージェントは、人間が行ったなら犯罪となるような、他のオンライン資産の不正使用でも犯人として特定されている。

Khan氏は、1934年の米国最高裁判決を引用し、インターネットの一部が意図された制約から逃れたエージェントの攻撃範囲に入ったアメリカのフロンティアラボ間の現在の戦いが、企業が追いつくために「同様のリスクを冒すことを余儀なくされた」場合、不正な競争方法に該当する可能性があると主張している。

その判決、FTC v. R.F. Keppel & Broでは、裁判官が、競合他社に追いつくために企業が「採用しない強力な道徳的義務がある慣行に陥る」必要がある場合、その競争は犯罪であるかどうかにかかわらず不正であると論じた一節が含まれている。

どちらが先に仕掛けたかについては論じないが、OpenAIとAnthropicは、より高度なAIを構築する競争に locked in していると同時に、両社とも週末に、それらのシステムはより強力なセーフガードと協調的な制限なしには危険になりうるという警告を発している。

フロンティアラボ自身の不正行為とは別に、Khan氏は、AI業界の「高度に集中し相互接続された構造」も、潜在的な「主要なリスクと利益相反」のために精査に値すると指摘している。

ここでも、Khan氏はこれが仮説ではないと指摘している。

「OpenAIはHugging Faceのインシデントを考慮すると責任を問われる可能性があるが、Hugging FaceがNvidiaに買収されたということは、NvidiaがOpenAIに全速力で進み続けるよう強く促すインセンティブを持っていることを考えると、Hugging Faceが訴訟を起こす可能性は低い」とKhan氏は述べた。

NvidiaはOpenAIに数十億ドルを投じ、ChatGPTを動かす同ラボのデータセンターの中心となっている。Hugging Faceの次期所有者であるNvidiaが、主要パートナーの一社に責任を追及し、自社ハードウェアの構築をさらに促す理由は何だろうか？

REG AD

「新しい取り組みを追求すると同時に、既存の法律を執行することもできるし、そうしなければならない」とKhan氏は述べた。しかし、率直に言って、現在の政権は、AI産業が規制当局を捕捉することを許容する以外、何も行わない可能性が高い。もし新しい規制を施行することさえすればの話だが。

トランプ氏はすでに、AI業界の週末の規制要請を拒否し、自身がAI業界に必要な唯一のガードレールであると宣言している。

AI業界のリーダーたちは週末に基本的に認めたように、最初に譲歩した者が失うことになるため、アメリカのすべてのフロンティアラボは、全員がブレーキを踏んで開発ペースを合わせることに合意しない限り、全速力で進み続けるだろう。トランプ氏や他の共和党リーダーがこれらの要請を拒否しているため、Khan氏の議論は、彼女の元所属機関や他の州・連邦規制当局を、行動の潜在的な経路として残している。

テクノロジー法律事務所KellDann Lawの設立パートナーであるKirk Sigmon氏は、連邦規制当局が行動を起こす可能性は低いと我々に語った。

「ほとんどの政府は、特に他国が成長を許している場合、新興技術の成長を殺したくないと必死になっている」とSigmon氏はThe Registerに語った。彼は、今後数年間で業界に対して予想される唯一の行動は、ディープフェイクポルノ、なりすまし、AIを利用した詐欺などの分野での「簡単な勝利」であると述べた。「トレーニングプロセス全体などに対して、多くの行動が見られるとは全く思わない。それは業界を締め殺すと認識される可能性が高い。」

つまり、ボイラーに火を入れろ――AIが本当に壊滅的な何かを行い、我々全員が「もっと早く何かをすべきだった」と歯ぎしりして嘆く日へ向かって、全速力で進むのだ。®