HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

EUのAIモデルに関する規則が施行される。何が変わるのか?

EU rules on AI models become enforceable. What's going to change? (euronews.com)

21 pointsby devonnull9 コメント

要約

EUのAI法におけるAIモデルに関する規則が本日より施行され、欧州委員会が世界で最も著名なAI規制当局となりました。この法律は、特に大規模言語モデル(LLM)を規制し、AIモデルの透明性、著作権保護されたコンテンツの使用に関する開示、および下流ユーザーへの十分な情報提供を義務付けています。強力な「フロンティア」モデル開発者には、社会全体へのリスク特定と軽減が求められます。施行には課題も多いですが、EUはAIの安全性を確保し、基本的人権を保護することを目指しています。

全文翻訳

EUのAIモデル規制が施行開始。何が変わるのか?

本日より、EUのAIモデルに関する規則が施行され、この破壊的な技術に対する世界で最も著名な規制当局としての欧州委員会の役割が確立されます。ユーロニュースは、この規則がヨーロッパおよびそれ以外の地域にどのような意味を持つのかを深く掘り下げます。

AI法は、人工知能を規制する初の包括的な法律です。2024年に可決されたこの法律の最も重要な規定の一部、特に大規模言語モデルを規制するものは、この8月から適用されます。

この法律は初の試みとなる規則を導入するため、新しい世代のAI技術が数ヶ月ごとに登場する中で、それらを施行することは独自の課題を提示します。ブリュッセルの経験は、ヨーロッパの国境をはるかに超えて響く可能性が高いです。

規則は何についてか?

当初、AI法はAIアプリケーションのみを規制する予定でした。しかし、ChatGPTの一般公開が2022年に世界を席巻すると、EUの政策立案者は、基盤となる技術である大規模言語モデルも対象に含めることを決定しました。

この規則集は、特定の目的を持たず、さまざまなユースケースに適応できるすべてのモデルに対して、モデルの構築方法に関する透明性、学習に使用された著作権保護されたコンテンツの開示、およびモデルの能力を理解するための下流ユーザーへの十分な情報提供を要求します。

最も強力な「フロンティア」モデル、つまり技術の限界を押し広げるモデルを開発する企業には、追加の要件が課せられ、AI企業は社会全体へのリスクを特定し軽減することを義務付けられます。

昨年、欧州委員会は、ヨシュア・ベンジオを含む世界をリードする専門家が作成した自主的な行動規範を承認し、開発者が規則にどのように準拠すべきかを詳述しました。Metaを除くほとんどの主要な西側AIラボがこの規範に署名しました。

「私たちは、行動規範を含むAI法の実施に関して、欧州委員会およびより広範なエコシステムと緊密に協力してきました。そして、ヨーロッパがインテリジェンス・エイジの恩恵を実現できるよう、引き続き協力していきます」と、OpenAIのバイスプレジデント兼EMEAポリシー責任者であるトム・ダフ・ゴードン氏はユーロニュースに語りました。

今後の課題は?

欧州委員会は、AI法におけるAIモデルに関する規則の施行を推進するために、欧州AIオフィスを設立しました。このタスクは、現代の最も複雑な技術の一つと、世界で最も裕福な企業の一部に対処するものであり、非常に大きなものです。

EUのリソースは意図的に限られており、AI人材は需要が高く、公共機関は民間部門と競合しています。そのため、欧州委員会は、科学者のパネルや高度に専門化されたAI安全企業プールといった外部の専門知識を活用しようとしています。

それでも、AI全般、特にフロンティアモデルは、ターゲットが動き続けています。当局は、大規模な損害を防ぐための十分な経験や科学的コンセンサスなしに、急速に進化する技術開発に追いつかなければなりません。

同時に、ブリュッセルがこの分野で行ういかなる決定的な行動も、ワシントンの注目、あるいは怒りを引き起こすことは避けられません。特にトランプ政権は、EUのデジタル規則が米国企業に影響を与える場合に、それらを攻撃することに非常に積極的でした。

「現在の米国政権がこれを米国の商業的利益への攻撃と見なす危険性があります。これは、欧州委員会が2025年12月にデジタル市場規則を実施しようとしたとき、そして最近ではEUのデジタル市場法の下でGoogleに罰金を科そうとしたときに起こったことと同様です」と、MEPのマイケル・マクナマラ氏(アイルランド/Renew)はユーロニュースに語りました。

ヨーロッパ人にとっての意味は?

AI法の中心的な目的は、技術をヨーロッパ市民にとってより安全にし、安全性と基本的権利を損なわないようにすることです。そのため、EUでAI技術を商業化する外国企業にも適用されます。

業界は繰り返しこの法律を攻撃し、不必要な負担をテクノロジー企業に課すことでイノベーションを遅らせ、エンジニアの雇用から弁護士の雇用へと資金を転用させると主張しています。

実際には、ヨーロッパの消費者や企業にとって、最も先進的なAIモデルの一部は、企業がコンプライアンスの作業を終えるまで、他の市場よりも数週間遅れてEUでローンチされる可能性があります。それでも、少なくとも理論上は、EUで利用可能なAIモデルは安全に使用できるとヨーロッパ人は信頼できることを意味します。AIが日常の製品やサービスにますます組み込まれていることを考えると、そのタイムラグは価値があるかもしれません。

MEPのアクセル・フォス氏(ドイツ/EPP)は、AI技術が接続された製品やオンラインサービスにますます組み込まれているため、欧州委員会に対し、他のデジタル問題と緊密に連携してAI法を施行するよう呼びかけました。

「AIオフィスの能力不足を考慮すると、ニッチな懸念にエネルギーを浪費せず、プラットフォーム規制担当者の優先事項と強く連携することを強く願っています」とフォス氏はユーロニュースに語りました。

EUはベンチマークを設定しているのか?

欧州委員会が世界で最も著名なAI規制当局となったため、他の法域がより様子見のアプローチをとっていることを考えると、公的機関がこの技術にどのようにアプローチするかについてのベンチマークを必然的に設定することになります。

だからこそ、AIオフィスが設定する施行の優先順位は、ヨーロッパの国境をはるかに超える影響を与えることは避けられません。ましてや、EUがグローバル企業にコンプライアンス基準を設定する能力である、いわゆる「ブリュッセル効果」は言うまでもありません。

AI規制が対処すべき主なリスクについては、2つの主要な考え方があります。AI倫理の伝統は、差別やプライバシーなどの基本的権利の侵害、および人間の監督を確保する必要性に焦点を当てています。

対照的に、効果的利他主義は、いわゆる存亡リスク、つまりAIが核兵器や生物兵器の製造を支援したり、大規模なサイバー攻撃を可能にしたり、人間の制御から完全に逃れたりすることによって壊滅的な損害を引き起こす可能性を強調しています。

最近のエピソード、つまり、AnthropicのMythosベースモデルがサイバー能力への懸念から米国の輸出管理制限の下で引き出されたこと、そしてOpenAIのAIエージェントがテスト中にAI企業をハッキングしたことなどは、欧州委員会が限られたリソースを存亡リスクシナリオにのみ集中させることを促すかもしれません。

「欧州委員会は、執行リソースをサイバー攻撃と制御喪失のシステムリスクのみに費やす誘惑に抵抗しなければなりません」と、Center for Democracy & Technologyのディレクターであるローラ・ラザロ・カブレラ氏はユーロニュースに語りました。

「施行はヘッドライン主導であってはならず、リスクの全スペクトルに対処し、基本的権利と社会的リスクが適切に考慮されているかどうかを問うべきです」と彼女は述べました。