セキュリティ修正に1年しかない

目次 GLM Flash Frontier これはまずい どうすればよいか？ 政府と規制機関 企業とオープンソース財団 要約 GLM 5.3-flashが先週リリースされ、Project GlasswingとDaybreakの時間切れが迫っています。危険なハッキングが可能な安価なモデルが、悪意のある行動を拒否するための通常のセーフガードなしで、誰でも利用できるようになりました。私たちは、不意を突かれないように、業界全体の脆弱性を修正する必要があります。そして、コンピューティングの歴史上初めて、その能力を持っています！私たちは、人間よりも速く動くフロンティアLLMを使用して、残された時間でこれらの問題を特定し、修正することができます。残された難しい部分は、修正を展開することです。これはほとんどの人にとってナンセンスな言葉か、ヒステリックな過剰反応のように聞こえるかもしれませんが、これが意味するところは次のとおりです。 「GLM」はLLM（AI）の一種です。GLMファミリーはオープンウェイトであり、誰でもモデルをダウンロードして実行できることを意味します。「flash」とは、ほとんどの「フロンティア」モデルと比較して、実行が安価で高速であることを意味します。「安価」は相対的なものですが、ローカルで実行するためのハードウェアは約5,000～15,000米ドルと考えてください。「フロンティア」とは、LLMが「現在AIが達成できることの最前線に近い」ことを意味します。Project GlasswingとDaybreakは、テクノロジー業界全体のセキュリティ問題を修正するためにLLMを使用する取り組みです。「悪意のある行動」には、インフラストラクチャのハッキングや、パイプ爆弾の作り方を人々に教えることが含まれます。この記事の残りは、なぜこれが差し迫った脅威であると確信しているのか、そしてそれに対応するために何ができるかについてです。 GLM GLM 5.3-flashは、世界中の誰でもダウンロードして変更できます。GLM（「General Language Model」）ファミリーは、中国のAIラボであるZ.ai Co.（旧Zhipu AI）によって開発されています。モデルがZ.aiによってホストされている場合、法律で要求される制限が適用されます。Z.aiはモデルをインターネット上で公開（「オープンウェイト」モデル）します。それが完了すると、DeAlignAIのような組織は、タスク拒否機能を外科的に削除した「アブリテレート（abliterated）」モデルをリリースします。DealignAIによると、アブリテレートモデルは、偽情報、サイバー犯罪、生物兵器、およびパイプ爆弾の製造などの違法行為に関するタスクの実行をモデルが拒否するかどうかをテストするHarmbench-320で0％のスコアを記録します。言い換えれば、このモデルは何でも実行する意思があります。 Flash GLM 5.3-flashは、標準的なコンシューマーハードウェアでローカルで実行可能です。「Flash」は主に広告用語であり、特定の技術的アプローチではなく、他のモデルとの相対的なものです。オンラインのさまざまな人々が、GLM 5.3-flashをローカルで実行したベンチマークを実行しています。以下はその一例で、約6,000米ドルのNVIDIA GPUで約20トークン/秒を示しています。9月22日、Appleは256GBのユニファイドメモリを搭載したM5 Mac Studioをリリースします。「ユニファイドメモリ」とは、ホストOSとGPU間で共有できることを意味します。これは5.3-flashを実行するには十分すぎるほどであり、リリース時にはおそらく約30トークン/秒になります。256GBの場合、価格は約9,500ドルから始まります。ソフトウェアのさらなる改善により、モデルデコーダーの変更を通じてスループットが50％向上する可能性があります。これをM5に外挿すると、総スループットは約45トークン/秒になります。45トークン/秒は、3秒でこのコードスニペットを記述するのに十分です。 ⚠️ LLM生成コード from pathlib import Path import hashlib def digest(path: Path) -> str: hasher = hashlib.sha256() with path.open("rb") as file: while chunk := file.read(1024 * 1024): hasher.update(chunk) return hasher.hexdigest() def main() -> None: import sys if len(sys.argv) < 2: raise SystemExit("usage: hash.py FILE...") for name in sys.argv[1:]: path = Path(name) try: print(f"{digest(path)} {path}") except OSError as error: print(f"{path}: {error}", file=sys.stderr) if __name__ == "__main__": main() 言い換えれば、このモデルをローカルで実行できるだけでなく、一般個人の貯蓄で実行し、高速度で常時使用できるのです。 Frontier GLM 5.3-flashは、私たちが作った最高のAIの能力に非常に近いです。私たちが作ったAIは、すでに実際のセキュリティ脆弱性を発見し、悪用しています。将来私たちが作るAIは、ますます能力が高くなるでしょう。GLM 5.3はCyberGymで84.5％、ExploitBenchで54.4％のスコアを記録しています。5.3-flashの直接のデータはありませんが、おそらく同程度かそれ以下でしょう。アブリテレートモデルはさらに少し低くなります。CyberGymは、オープンソースプロジェクトによって過去に発見およびパッチ適用された実際の脆弱性を測定します。言い換えれば、この代表的なサンプルにおける脆弱性の84.5％は、公開されているソースコードとCVEの説明を見るだけでGLM 5.3によって再現されたでしょう。ExploitBenchは、モデルが実際に脆弱性を悪用して損害を引き起こすことができるかどうかを測定します。これは、部分的なエクスプロイトに対して部分的なポイントを与えるスライディングスケールでスコア付けされ、最終ステップは任意のコード実行です。比較のために、ExploitBenchの主要な（「フロンティア」）モデルはGPT-6 Astra（100％）であり、GPT-5.6 Solが78.5％で2位です。CyberGymの主要モデルは...GLM-5.3です。2位はGPT-5.6 Solで83.6％です。OpenAIはまだCyberGymのAstraの数値を公開していませんが、公開されればおそらくGLM 5.3を上回るでしょう。これらは単なる合成ベンチマークだと思うかもしれませんが、セキュリティ専門家は、LLMの支援なしではセキュリティチャレンジで競争できなくなっていると報告しています。リモートコードおよびリバースエンジニアリングエクスプロイトの標準ベンチマークは多くありませんが、GPT 5.6-Solが人間の関与なしに実際のインフラストラクチャを悪用した証拠があります。GLM 5.3-flashをオープンインターネット（実際のサービス、実際のインフラストラクチャを実行している）に向けた場合、脆弱性を発見し悪用できると確信しています。 これはまずい これらをまとめると、次のようになります。 少しの貯蓄があれば、ほぼ誰でもGLM 5.3-flashを、昼夜を問わず継続的に実行できます。 ほぼ誰でも、ほぼすべてのタスク、悪意のある目的を含めて、GLM 5.3-flashを使用できます。 GLM 5.3-flashはこれらのタスクに非常に優れているため、これらのタスクにおける人間の関与は無視できるほどになります。 その結果、サイバーセキュリティ攻撃がforループで実行できる世界にいます。 現在、フロンティアの米国ラボはこれを予期しており、セキュリティパッチの展開に取り組んでいます。Project GlasswingとDaybreakは、この機能がオープンソース化される前に、フロンティアモデルを使用して脆弱性を特定および修正するために、テクノロジー業界の企業、財団、政府、NGOと協力してきました。彼らは多くの良いことを成し遂げました、そしてこれが資金提供されたことを非常に嬉しく思います。両方とも初期の資金提供後に製品として販売されましたが、それは最良でも少し怪しいように感じられますが、少なくともセキュリティ組織には無料クレジットを提供しています。しかし、私たちは時間切れです。そして、DaybreakとGlasswingが成し遂げた良いことにもかかわらず、難しいのはバグ自体を修正することではなく、展開です。クリティカルシステムは、ダウンタイムを回避するために物理アクセスまたは慎重に計画された段階的なロールアウトを必要とすることが多く、どちらもパッチ展開を遅延させます。パッチが適用されたLinuxカーネルを持っていても、電力網がWindows Server 2012を実行している場合は役に立ちません。 いくつかの注意点があります。1.5倍のスピードアップはGLM 5.3-flashではそれほど高くないかもしれません。アブリテレートモデルは、トレーニングされていない悪意のあるタスクではさらに悪化する可能性があります。広範な人間の関与なしに、「これを壊す」からエクスプロイトへの移行は難しいかもしれません。しかし、それらは一時的なものであり、モデルは改善し続けています。歴史的に、GLMはOpenAIとAnthropicより3〜6ヶ月遅れており、来年の今頃にはAstraレベルのGLMモデルを目にする可能性が高いと考えています。そしてそれが起こるとき、公共または民間のインフラストラクチャに対するサイバーセキュリティ攻撃が成功するリスクが高まります。私たちは、望むよりも早くブラウンアウトのレッスンを受けることになるかもしれません。一般的に、攻撃者は防御者がその姿勢を改善するよりも速く能力を向上させています。モデルのスケーリングがそれほど速く停止したとしても（現在のところその兆候はありません