AIのルールを誰が定義するのか？

Aidan Gomez氏（Cohere共同創業者兼CEO）からの視点 人工知能（AI）は私たちの生きる世界を再構築しています。一世代のうちに、医薬品の発見方法、電力網の管理方法、国家インフラの保護方法は完全に変革されるでしょう。多くの人々はすでにこれを認識しており、責任ある未来を築くために取り組んでいます。多くの人々は、来るべき変化の規模とペースを過小評価しています。しかし、一部の人々は、この変化を予見し、それを自身の目的のために利用すると主張しています。 誰もが十分に明確に尋ねていない質問があります。それは、シリコンバレーの少数の、市場を支配するAI企業が、世代を超えた技術のルールと安全基準を、世界全体のために定義すべきかということです。同時に、この技術がどれだけ速く進歩するかを決定しながらです。私たちは過去にこれを試みましたが、非常に悪い結果に終わりました。再び、公衆を保護するという名目で恐怖を利用し、これらの寡占企業は競争ルールを曲げ、他のすべての人々のための条件を決定することを許可されるよう求めています。羊の皮をかぶった狼、別の名前で呼ばれるカルテルです。 私はAI技術が世界に利益をもたらす可能性を信じており、リスクを軽視しているわけではありません。私は銀行、通信ネットワーク、国防省内で展開されるAIシステムを構築する会社を経営しています。これらは最もリスクの高い環境の一部です。なぜなら、これらの分野での失敗は、個々のユーザーを超えた影響を与える可能性があるからです。金融システム、重要インフラ、国家安全保障、そして不可欠なサービスを大規模に混乱させる可能性があります。あなたのコードの脆弱性を見つけるのと同じ能力が、他人のコードの脆弱性を見つけることもできます。サイバー攻撃は、防御が改善されるよりも速く安価になっています。そのギャップは、私たちを心配させるのと同じくらい、あなたを心配させるべきです。 AIにはガードレールが必要です。それは論争の的ではなく、かつてそうであったこともありません。論争の的は、誰がそれらを書き、誰が参加を許され、誰の利益がルールによって保護されるかということです。この質問は、科学的証拠に基づいて選択する自由を持つべきか、それとも人類の歴史上最も重大な技術の舵を、少数のシリコンバレーの幹部に委ねるべきか、というものです。 私たちは以前にもここにいたことがあります 大手の研究所が推進している自己中心的なフレームワークを分解し、代替案のアイデアを提供する前に、最近の過去からいくつかの教訓を学び、カルテルという言葉について考えてみましょう。なぜなら、その歴史は具体的であり、正確な言葉だからです。 1975年、証券取引委員会は、その資本規則のために信頼できる債券格付けを必要としました。委員会は3つの会社を全米認定統計格付機関（NRSRO）に指定しましたが、他の誰かがその指定を得る方法の基準を公開することはありませんでした。これらは政府公認の外部評価機関であり、証券を格付けした発行者自身によって支払われ、規制当局自身が築いた障壁の後ろに座っていました。25年後も、これらの評価機関は3つしかありませんでした。その後、彼らはサブプライム住宅ローン証券をトリプルAと格付けし、世界経済をほぼ崩壊させました。 ヨーロッパは1985年に再びこの実験を行いました。自動車メーカーは、現代の車両は複雑で安全性が重要な機械であり、メーカーはそれらを販売・保守できる資格を持つ者を管理する必要があると主張し、広範な独占禁止法の免除、すなわち自動車ブロック免除法をロビー活動で獲得しました。その後の規制により、メーカーは安全で信頼性の高い車両の利益のために、施設、設備、スタッフのトレーニングの基準を設定することができました。しかし、その結果はより安全な車ではありませんでした。欧州委員会が改革に約25年を費やしてそれを巻き戻し、当初は明白であったはずのことを確立するのに時間がかかりました。それは、厳格な安全基準を維持しながら、既存企業にそれを満たす独占権を与えることを避けることができるということです。 どちらのケースでも、カルテルを築こうとした人はいませんでした。どちらのケースでも、表明された目標は安全性でした。しかし、結果として市場構造は既存企業を保護し、競争を制限しましたが、すべて公衆の利益に奉仕するという名目で行われました。関係者の誠実さを疑うものではありません。多くの人がリスクを懸念し、真剣に解決に取り組んでいました。しかし、複雑な問題は常に最初から解決されるわけではなく、責任ある科学者、エンジニア、または立法者は、新しい問題を解決するには過去の歴史から学ぶ必要があることを知っています。 提案されていること これが、AnthropicのCEOであるDario Amodei氏が今週発表したロードマップにつながります。彼は安全性の名の下に、政府に独占禁止法の免除を求めています。このロードマップは、AIを取り巻く規制環境を形成しようとするシリコンバレーの既存企業による最近の取り組みの最新版です。 何に同意するかについては、明確にしたいと思います。高度なAIシステムの独立したレビューは良い考えであり、私たちはそれを支持します。しかし、提案の多くの側面は根本的な疑問を提起します。レビューアが適用する基準を誰が書くのか？レビューを誰が実施または監督するのか？ルールを設定する会話に誰が参加できるのか？ これらの質問に対して、提案は明確です。一国に拠点を置く最も強力な研究所のいくつか（handful）が、共有された基準と技術が進歩する速度の上限に合意するでしょう。そして、ここが重要な点です。競争相手が生産量を制限することに合意することは通常違法であるため、この計画は、その協調を合法化するために、政府に限定的な独占禁止法の免除を求めています。そして、それはまた、政府に、他のすべてのAI開発者に、参加者が決定したことに盲目的に従うように求めています。たとえ他の開発者やより広い社会が、その影響について意見を表明したり、科学に関する自身の見解を共有したりする機会を持っていなかったとしてもです。 これは、会話に1社か2社を追加する問題ではありません。追加の椅子を一つ増やすことは、根本的に問題を解決しません。問題は、決定がすべての企業、すべての政府、そして尋ねられることのなかったすべての市民に及ぶにもかかわらず、リストが存在することです。あなたは両方を同時に持つことはできません。もしこれが人類の歴史上最も重大な技術であるならば、それに対するルールは、独占禁止法の免除の背後にある、商業的に連携した少数の企業によって書かれることはできません。ここにはパブリックコメントの期間はありません。協議もなく、投票もありません。国民は結果にかかわらず、それに生きることを強いられるでしょう。 少数の研究所によって設計された安全体制は、彼らがすでに安全システムを構築して評価してきたリスクに対してのみ厳格であり、それ以外のすべてについては完全に沈黙するでしょう。これにより、彼らの市場での地位がさらに強化され、競争が制限されます。これらの既存のフレームワークにおけるリスクは、規模の関数として定義されるため、巨大なシステムを持つ企業だけが判断する資格があるとされます。評価に関連すると見なされるリスクの種類も、科学的な議論や調整の対象ではなく、あらかじめ定められています。例えば、生のモデルサイズから来る攻撃能力が、それを囲むハーネスから来る攻撃能力のどれくらいであるかについては、分野内で実際の意見の相違があります。うまくオーケストレーションされた小さなモデルは、ツールや検証ステップを使用して、大きなモデルができないことを行うことができます。サイバースワームは、単一のモデルとは完全に異なるリスクサーフェスです。これらはすべて、巨大なコンピューティング閾値を中心に構築された体制には現れません。 エッセイには、競争当局が懸念するであろう一文があります。それは、調整されたアプローチが、商業的優位性を犠牲にすることなく、開発者にこの安全作業を行う時間を与えるだろうと約束しています。しかし、それは誰の利益のためでしょうか？フレームワークを作成している企業は、今日市場のトップにいる企業です。すべての人を遅くしながら、既存の商業的優位性を明確に維持するメカニズムは、AIをより安全にしません。それは、今日の支配的なAI企業が、彼らの現在の優位性を、安全に競争するために必要なことのベースラインに変えるリスクを負います。安全規則は、市場のリーダーが誰であるか、または誰が規則から利益を得るかに関係なく、リスクを軽減すべきです。 提案で設定されている参入要件は、残りの部分を物語っています。膨大なコンピューティング