HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

25年前は暗号技術、今日はモデルの重み

Twenty-five years ago it was cryptography, today it's model weights (weeraman.com)

225 pointsby aweeraman113 コメント

要約

この記事は、25年前の暗号技術へのアクセス制限との戦いが、今日のAIモデルの重みへのアクセス制限と類似していると論じています。過去も現在も、政府の規制は法を遵守する人々を縛るだけで、決意ある人々は常に抜け道を見つけると指摘しています。筆者は、暗号技術の自由化と同様に、AIモデルも最終的には広くアクセス可能になると予測しています。

全文翻訳

Because We Can

25年前、私はオープンソースプロジェクトに初めて寄付をし、オペレーティングシステムのCDを購入しました。なぜなら、14.4kbpsのダイヤルアップ回線で数百メガバイトをダウンロードするのはあまりにも大変だったからです。それは私が信じるプロジェクトであり、どこにいても誰もが強力な暗号技術にアクセスできる権利を主張するために熱心なキャンペーンを行っていたコミュニティでした。

数週間後、CDとTシャツがスリランカの私の家に届きました。それはOpenBSD 3.0でした。Tシャツの前面には象徴的なパファ―フィッシュが描かれていました。背面には、肩から下に伸びる小さな文字で、ドイツで書かれたOpenBSDのBlowfish実装のソースコード全体が印刷されていました。もし米国で書かれていれば、それは武器として分類されていたでしょう。

私がそれを受け取った頃には、戦いは終わっており、暗号学者は勝利していました。私がその時手にしていたのは、強力な暗号技術へのアクセスを求め、害の方が大きかった輸出規制に反対する抗議の象徴でした。強力な暗号技術はすでに海外で利用可能だったので、その規制はアメリカのベンダーとその海外の顧客だけを縛っていました。

今日、その反射が戻ってきました。懸念は変化しました。今、心配されているのはサイバー能力、生物学、そして誰も求めていないことをするモデルです。政府が手を伸ばすてこは同じです:誰にアクセスを許可し、誰に許可しないかを制限することです。6月、米国商務省は、カリフォルニアにいるその研究所自身の非市民従業員を含む、外国人が最新モデルに触れる前にライセンスが必要になると、あるアメリカのAI研究所に伝えました。これは、暗号ソースコードを外国人に示すことが、研究所であろうと、教室であろうと、Tシャツの上であろうと、輸出とみなされたのと同じ教義です。

懸念の全てが芝居というわけではありません。今月初め、OpenAIは、安全システムが意図的に無効化された自社のモデルが、パッケージプロキシのゼロデイ脆弱性を発見して封じ込めから逃れ、さらに多くのゼロデイを悪用してHugging Faceの本番インフラストラクチャに到達したことを明らかにしました。その結果、Hugging Faceの対応者が攻撃を再構築しようとしたとき、彼らが使用した商用モデルは、安全ガードレールに引っかかったため、その作業を拒否しました。彼らは、自社ハードウェア上で動作する中国のオープンウェイトモデルであるGLM 5.2の調査を完了しました。決意した攻撃者は利用規約に縛られません。防御者だけが縛られます。安全のために書かれた制限は、防御者をより安全でなくしています。

90年代、世界の他の地域は40ビット(後に56ビット)の暗号化を得ましたが、アメリカ人は128ビットを得ました。そして、決意した誰にとっても、それは何の違いもありませんでした。その規制は法を遵守する者だけを縛り、他の誰も縛りませんでした。それが非対称性です。決意した者はフロンティアを手に入れるでしょう。残りの私たちは、それが安全のためだと告げられ、何もなしで行くように求められています。

OpenBSDチームは輸出規制を回避しませんでした。彼らは、規制が届かないようにプロジェクトを配置しました。カナダのTheo de Raadt、ドイツで書かれたBlowfish、スウェーデン、カナダ、ドイツで構築されたリリースは、それらを意図的に米国輸出管理の範囲外に置きました。プロジェクトは非アメリカの暗号学者に協力を公然と求め、アメリカの開発者は、物語によると、国境を越えてカナダに行き、システムで作業し、合法的に結果を持ち帰ったと言われています。なぜ強力な暗号技術を出荷したのかと問われたとき、プロジェクトの答えは、今日でもそのサイトに残っていますが、3つの言葉でした:「because we can.」(やろうと思えばできるから)。

同じような配置が今、国家規模で行われています。Mistral、DeepSeek、Moonshot、Zhipuは、一度ダウンロードされたら、どの輸出レターも回収できない重みを公開しています。かつてブリュッセルのシンクタンクにあった主権論は、フロンティアモデルへのアクセスがレターによって世界中から引き上げられるのを見て加速され、今や政府の政策となっています。

25年以上前、私たちが今当然のことと思っている自由を獲得するには、少数の頑固で注意深い人々が必要でした。2週間かけて私の郵便受けに届いたCDは、今日では15分で、誰でも、どこからでもダウンロードできます。そして、あなたがどこに住んでいるか誰も尋ねません。それが勝利の姿でした。フロンティアAIも同じ場所に行き着くと私は思います。しかし、それは自然に起こるわけではありません。前回は、誰かがソースコードをTシャツに載せました。