ダリオへ、本気なら重み（weights）を公開してください：公開書簡

Darioへ公開書簡：本気なら、モデルの重み（weights）を公開せよ

親愛なるDarioへ

本日、あなたは「We Must Pace the Frontier」を公開し、Anthropicが組み込み型のサードパーティ評価者を導入し、政府に対して他の全てのフロンティア企業にも同様の対応を義務付けるよう求めました。Sam Altmanも数時間以内に同意しました。1

その表明された目標は、AIの進歩のペースを遅らせることです。

［画像: Dario Amodeiの顔が、光るゼロとイチでレンダリングされている］

私はあなたが誠実であると信じているため、あなたに別の法律を呼びかけるよう求めます。それは実際に物事を遅らせるでしょうが、あなた自身にとっては大きな犠牲を伴うでしょう。

企業が一般に提供するAIモデルは、オープンウェイト（open weights）としてリリースされなければならない。

これはあなたがトレーニングする全てのモデルを対象とするわけではなく、一般に公開するものだけを対象とします。内部モデルや研究用モデルは影響を受けず、政府は未公開モデルへのアクセスを依然として得ることができます。

しかし、AnthropicはFableをリリースした日にその重みを公開しなければならず、OpenAIはAstraについても同様に、そして他の全ての企業もそうしなければなりません。

ご存知の通り、フロンティアモデル開発への資金提供は、重みがプロプライエタリ（専有）のままであると仮定する評価額に依存しています。その仮定を変えることで、将来のトレーニングランに利用できる資金を減らし、規制当局が何も決定することなく、全てのラボの進歩を同時に遅らせることができます。

あなたが求めた全ての規制は、最終的に「キャプチャー」につながる

規制によってフロンティアモデルを遅らせることは、規制のキャプチャー（規制当局の支配）につながる以外にはありません。組み込み評価者、コンピューティング閾値、独占禁止法免除を伴う業界連携。それらは全て、現在のフロンティアラボの助けを借りて書かれます。なぜなら、技術的な詳細を理解してそれを書けるのは、他に誰もいないからです。

それが法律になると、さらに複雑になります。なぜなら、全てのインシデントが新たな規則を追加し、決して規則が削除されることはないからです。大企業は、それに追いつくためのコンプライアンスチームと弁護士を雇う余裕がありますが、各新しい要件は、他の誰かがそれらを追いかけるのをより困難にします。あなたを遅らせる代わりに、それはあなたの地位と利益を守ります。

なぜあなたに頼むのか

あなたは善良で原則のある人物のように見え、信じるもののために何かを諦めてきた実績があります。あなたは、安全なキャリアパスは留まることだった時に、安全性を最初から組み込んだ会社を設立するためにOpenAIを去りました。2 あなたは長年、自身の業界の規制を求めてきましたが、それによってドゥーマー（破滅論者）や規制キャプチャーだと非難されてきました。3 あなたは自社の市場を縮小させる輸出規制を推進しました。Anthropicは、最後まで争うのではなく、著者たちとの和解のために15億ドルを支払いました。4 そして今日、あなたは誰よりも先にペースを落とすことを約束しました。

あなたはまた、AnthropicをPBC（Public Benefit Corporation、公開福祉法人）にする先見の明を持っていました。これにより、ミッションを最優先することを法的に可能にしています。

人類の長期的な利益のための高度なAIの責任ある開発と維持。

これはまさに、PBC構造が存在する理由である、短期的な利益よりもミッションを優先する決断です。あなたは、このような法律を提案して真剣に受け止められる唯一の人物であり、実際にそれを行う可能性が最も高い人物です。

もしあなたが本当にフロンティアAIのペースを遅らせたいのであれば、公開されている全てのモデルをオープンウェイトにする法律を呼びかけてください。あなたにとっても、それをゲームしたり回避したりする余地はありません。