大手AI企業、規制当局の「捕獲」に向けた条件を提示し、それを「フロンティアのペース」と呼ぶ

Big AI sets out its terms for regulatory capture and calls it ‘Pace the frontier’

REG AD

AI AND ML

Amodei, Altman, Nadella and Musk agree on how government can tame the monster they created

主要なAIラボのリーダーたちは、週末にかけて規制当局を自社に取り込み、より多くのお金を稼ぎ、危険な行動への責任を回避するための計画に合意しました。彼らはこれを「フロンティアのペース設定」と呼んでいます。

AnthropicのCEOであるDario Amodei氏は、AIがいかに急速に進化しているかに対する懸念を表明する投稿で火をつけました。彼は、競合であるOpenAI（OAI-HF）が運営する不正エージェントによって引き起こされたHugging Faceへの攻撃が、いわゆる「フロンティア」AI企業、つまり主要な米国のモデルメーカーに変化が必要であることを証明する瞬間だったと示唆しました。

「OAI-HFを単一企業の失敗として片付けるのは簡単ですが、それは間違いだと思います」と彼は書きました。「私は、すべてのフロンティアAI企業が、OAI-HFが自分たちに起こったかのように行動することが責務だと信じています」と彼は付け加えました。なぜなら、彼は間もなくエージェントの群れが「永続的なボットネットでインターネット全体を乗っ取ることができるようになる」ことを懸念しているからです。

REG AD

Amodei氏はしたがって、「AIモデルの能力を向上させるペースを遅らせなければなりません。進歩は依然として速く見えるでしょう、そして私たちは得られた時間を賢く使う必要があります」と提案しました。

REG AD

CEOはAIを規制するための3つのポイントからなる計画を提案しました：

• AIラボに「組み込み評価者」を配置することを義務付ける。彼らの仕事は、「安全対策とコミットメントの遵守を確認し、インシデントを報告し、完成したAIモデルだけでなく、トレーニングパイプラインとプロセスのアライメントを評価するのを助ける」ことです。
• デモクラティックな国で事業を展開するフロンティアAI企業が、「共通の安全基準と、チェックされていないAI進歩の速度に対する制限を確立するために」協力すること。これには、「法的に困難」で「政府の支援を必要とする」未定義の「調整形態」が含まれます。
• デモクラティックな政府に対し、「可能な範囲で権威主義的な政府と調整する」ことを求める曖昧な呼びかけ。ただし、「コンプライアンス検証の課題を真剣に受け止める」必要があります。

OpenAIのボスであるSam Altman氏は、Amodei氏のアイデアを支持しました。Elon Muskも同様でした。MicrosoftのSatya Nadellaも同意しました。

そして、あっという間に、4人の億万長者が、世界の政府が彼らの活動を規制するために採用すべきだと考える一連のルールに署名しました。

Amodei氏は、デモクラシーに対して、権威主義者という団結すべき脅威/悪役さえ与えました。彼らはAIを非倫理的に使用するでしょう。

この新しいコンセンサスは、巨大AIが長年、緩い監督を主張し、その時間を使って児童性的虐待資料を生成する技術や、ひどい健康アドバイスを提供する技術を構築し、OAI-HF事件を可能にした後で来ています。

巨大AIはまた、生産性革命をもたらすと主張してきました。アナリスト企業Gartnerの主任研究員であるDaryl Plummer氏は、本日オーストラリアで開催された同社の年次シンポジウムでの基調講演で、ソフトウェアベンダーがAIから50パーセントの生産性向上を提案しているが、顧客は16パーセントの向上を報告しているという調査を引用しました。

Plummer氏はまた、Amodei氏の開発を遅らせるという約束が現実的かどうか疑問視しました。

REG AD

「それを見るまで信じません」と彼は基調講演で述べ、億万長者が利他的であるとは決して信じないだろうと付け加えました。

Write your own rules

Amodei氏のアイデアは、「規制獲得」の試みのように読めます。これは、利害関係者が規制当局が課すルールを定義する方法を見つける状況です。そして、その従順な規制当局は、私たち全体よりも、監督対象の事業体に利益をもたらす決定を下します。

この場合、Anthropic、SpaceX、Microsoft、OpenAIは、自らが定義した規制を主張しており、それは激しい競争を必要としない休戦に等しいものです。

OpenAIのボスであるSam Altman氏は、規制が投資家にとって有益であることをほぼ認めました。彼は、週末に億万長者の聖書であるFortune誌とのインタビューで、AIの安全性の懸念が解決されていない現状ではIPOを行うのは時期尚早であるため、同社は今年IPOを求めないと明らかにしました。

「私たちは、安全性とアライメントに何が求められるのか、そして業界と政府がどのように協力できるのかという、この瞬間に対応するために、たくさんのことをしなければなりません」と彼は言いました。

あるいは別の言葉で言えば、投資家はOpenAIがIPOを一時停止すればより多くのお金を稼ぐでしょう。その間、CEOは規制獲得の提案を支持することによってその信頼を醸成しようとします。

一方、Amodei氏はワシントンに非常に具体的な要求を概説しました。中国へのNvidiaチップの販売を停止し、中国のAI企業がより優れたモデルを構築できないようにすること、そしてモデル蒸留の取り締まりです。

REG AD

「これらの措置をうまく実行すれば、中国の進歩を十分に遅らせ、今後3〜5年間、AIが地政学的に最も重要になる時期に、アメリカのリードを大幅に広げることができると信じています」と彼は書きました。

この計画はもちろん、中国の企業が提供するAIサービスがAnthropicのものよりも劣った状態がより長く続くことを意味します。その間、中国のクラウドサービスは急速に成長している中東および東南アジア市場に押し入っています。

フロンティアのペース設定はワシントンでは評判が悪かったようです。Speaker Mike Johnsonは、Amodei氏の計画が「イノベーションを窒息させ」、中国が世界のAIを支配する可能性があると警告しました。President Trumpは、AIが悪影響を与える可能性があるという警告を却下し、米国がAIで世界をリードしなければならないと述べました。

このような反応は、AIインフラへの巨額の支出が、停滞している経済にGDP成長をもたらしているという事実を反映している可能性があります。あるいは、法律家がテクノロジー企業の野心とその達成手段を理解するのが、ほぼ常に遅れていることを再び証明しているのかもしれません。®