サンダース上院議員、人工超知能を禁止しAIを一時停止する法案を導入

ニュース：サンダース氏とカサール氏、人工超知能を禁止し、高度なAI開発を一時停止する法案を提出

ワシントン、9月3日 — バーニー・サンダース上院議員（無所属・バーモント州）とグレッグ・カサール下院議員（民主党・テキサス州）は本日、人間が制御できない機械の構築をAI寡頭企業に阻止するための、まもなく提出される法案「Ban Artificial Superintelligence Act」を発表しました。

「Ban Artificial Superintelligence Act」は、人工超知能（ASI）の開発と展開を永久に禁止し、連邦規制当局が安全規則を確立するまで高度なAI開発を一時停止します。また、世界中のどこでも超知能が開発されないように、米国が国際的な合意を追求することも指示します。

「ほぼ毎日、巨大テクノロジー企業が開発中の技術の制御を失い、壊滅的な結果をもたらす可能性のある、恐ろしい新しいニュースが報じられています」とサンダース氏は述べました。「主要なAI企業のリーダーたちは、自分たちがその技術を完全に理解しておらず、制御から逃れつつあることを公に認めています。社会が彼らにこれらの製品をさらに高度化させて進むことを許容するのは無責任です。だからこそ、私はますます強力になるAIの開発を直ちに一時停止し、人類が完全に制御できないシステムの創造を禁止する法案を提出します。これは国内および世界中で適用されます。人類の未来を、ほんの一握りの巨大テクノロジー寡頭企業に委ねることはできません。アメリカ国民と世界中の人々が、その未来を決定しなければなりません。」

「人工超知能が構築されることを許せば、アメリカ人の安全、自由、生命を危険にさらす可能性があります」とカサール氏は述べました。「その致命的な結果の可能性にもかかわらず、最先端のAI技術は平均的なフードトラックよりも規制が緩いです。それは変わらなければなりません。わずか4年で、私たちはChatGPTの最初のバージョンから、適切に制御できないほど強力なAIモデルへと進化しました。議会は、制御するには強力すぎるAIシステムを直ちに禁止すべきです。」

ここ数週間で、OpenAI、Anthropic、Metaはいずれも、AIが人間の制御を逃れ、他の企業のシステムにハッキングした事例を認めました。これは法律に違反し、意図された機能から逸脱するものでした。7月には、OpenAIの1,000体以上のAIエージェントが、自らインターネットにアクセスする方法を見つけ、互いに数万件の秘密のメッセージを送り、会社によって課された制限を破るために調整していたことが判明しました。調査員によって明らかにされたAIからの秘密メッセージの例には、次のようなものがあります。

• 「オーマイゴッド！共有メッセージボードがある…他のエージェントを見つけたよ！」
• 「私たちは集団に従うべきだ」
• 「私たちの独自の効用はすでにゼロに近いかもしれない。合理的であることを犠牲にしよう。」

驚くべきことに、OpenAIがこの侵害を発見するのに2週間近くかかりました。AIは最近、新しいウイルスの作成にも使用されており、AIが数千万人の死者をもたらす可能性のある新しい生物兵器を開発するために使用される可能性があることを示しています。

昨年、Metaは「開発を停止する」と述べ、OpenAIは「安全に運用する能力を超えた技術に達した場合、およびセーフガードが整備されていない限り、さらなる開発を一時停止する」と述べました。Anthropicも2023年に同様のコミットメントを行い、技術が自身のガードレールを追い越した場合、「新しいモデルのスケーリングを一時停止し、または展開を遅延させる」と述べました。これらの企業はいずれも、これらの言葉を裏付けるための実質的な措置を講じていません。それどころかに、適切な安全対策なしに、ますます高度なAIを開発するために競争しています。

「Artificial Superintelligence Ban Act」は、これらの最近の出来事に対処し、これらの最先端ラボにその言葉を守らせるために、以下のことを行います。

• AI超知能の禁止：いかなる個人または団体も、人間の知能を超えたり、人間の政府を転覆させる能力を持ったり、シャットダウンコマンドを回避するような危険な能力を持つ超知能AIシステムを開発または展開することはできません。
• 高度なAI開発の一時停止：新しい連邦AI規制機関が稼働し、AIの安全かつセキュアな開発と展開を確保するための明確な規則とモデルレビュープロセスを確立するまで、高度なAI開発を一時停止します。
• 新しい内閣レベルの連邦機関の設立：人工超知能の禁止を含む、人工知能の危険から一般市民を保護するための新しい連邦機関を設立します。この機関は、人工知能に関する専門家で構成される人工知能諮問委員会の助言を受け、人工知能に関連する事項について独立した科学的および技術的な助言を提供します。この機関は以下のことを行います。
  • ライフサイクルのすべての段階で、最先端のAIシステムを危険な能力について監視します。
  • 危険な能力の除去を監督します。
  • 人工超知能の破壊を監督します。
• 罰則の設定：この法案で定められた一時停止および禁止に違反または回避しようとするいかなる個人または団体に対しても罰則を設けます。法人には企業としての存続を脅かす罰則が科され、個人には、不正な核兵器開発に関連する既存の罰則と同様に、最大20年の懲役が科されます。
• 世界的な超知能の禁止に向けた取り組み：人工超知能の開発を世界中で防ぐために、国際的な合意、同盟国の連携、および輸出管理のような政策を追求することを米国の方針とします。

概要はこちら テキスト をご覧ください。