HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Meta Muse Glimmer – オープンウェイト30Bローカルコーディングモデル

Meta Muse Glimmer – open weights 30B local coding model (research.meta.ai)

1151 pointsby riordan620 コメント

要約

Metaは、ローカルエージェントワークフローに最適化された300億パラメータのAIモデル「Muse Glimmer」を発表し、Apache 2.0ライセンスでオープンソース化しました。このモデルは、コンシューマー向けGPUで実行可能で、ローカルでのコーディングやエージェント機能に強みを発揮します。ローカル実行により、インターネット接続なしでもAIを利用できるようになり、開発者はHugging Faceからモデルをダウンロードして利用できます。

全文翻訳

Muse Glimmerの紹介:お使いのデバイスで動作するオープンなエージェントモデル

本日、Meta Superintelligence Labsの次期モデルであるMuse Glimmerを発表し、モデルの重みを許容的なApache 2.0ライセンスの下でオープンソース化します。

Muse Glimmerは、常時オンのローカルエージェントワークフローに最適化された300億パラメータのモデルです。コンシューマー向けGPU1基を搭載したMacまたはPCで実行できるほど小さいため、ローカルエージェントや関数呼び出しから、ローカルコーディング、LLM-as-a-judge評価に至るまで、幅広いユースケースを可能にします。Muse Glimmerは、そのサイズカテゴリの主要モデルと比較して、重要なエージェント用途およびベンチマークにおいて高いパフォーマンスを発揮します。

基盤モデルは、推論、コード生成、ツール使用において驚くべき能力を達成しましたが、ほとんどのデプロイメントは依然としてクラウドインフラストラクチャとネットワークアクセスに依存しています。モデルをローカルで実行することで、インターネット接続の有無にかかわらず、いつでもどこでもAIを使用できます。これはますます現実的になっています。オープンソースコミュニティは、小規模なモデルが効果的にトレーニングされれば、ターゲットタスクで最先端レベルのパフォーマンスに近づくことができることを示しています。Muse Glimmerは、これらのローカルユースケースに最適化されています。

AIに関する基本的な研究を共有するという長年の伝統に沿って、本日Muse GlimmerのオープンウェイトをHugging Faceで公開します。また、開発者が独自のAIエージェントを構築・実行するのに役立つ開発者向けドキュメントも提供します。Muse Glimmerは、開発者が既に利用しているツールと連携するように構築されています。llama.cpp、MLX、ExecuTorchへの最適化された統合が数日中にリリースされる予定ですので、ダウンロードから動作するエージェントまで数分で移行できます。

Muse Glimmerのトレーニング方法

スケジュール管理、メッセージ作成、ファイル整理を行い、ユーザーの働き方を学習するエージェントには、個人情報への深いアクセスが必要です。また、長期間の実行、正確なツール呼び出し、マルチモーダル理解、長文コンテキストメモリ、指示追従など、いくつかの機能を連携させる必要があります。

Muse Glimmerは、ローカルハードウェアのメモリとコンピューティングの制約に対して能力のバランスを取るように設計しました。これには、コンパクトなアーキテクチャ、はるかに大きな教師モデルからエージェント推論を転送する新しい蒸留レシピ、およびレイテンシ要件を満たすための量子化を含む推論最適化が必要でした。以下のフェーズでこれを達成しました。

  • 事前トレーニング。教師モデルと同様のデータミックスを活用し、logit蒸留を用いてMuse Sparkの出力でMuse Glimmerをトレーニングしました。
  • 中間トレーニング。より長いコンテキスト、よりエージェント中心のデータとリッチな推論トレース、およびオーガニックデータを組み合わせてモデルをトレーニングしました。
  • 事後トレーニング。一般的なドメイン、推論ドメイン、コーディングドメイン、エージェントドメイン全体で、オンポリシー蒸留と強化学習のミックスと組み合わせて教師ありファインチューニングを行いました。

Muse Glimmerは、Metaの高度AIスケーリングフレームワークで定められた基準の下で評価され、関連するすべてのカテゴリでオープンウェイトリリースが評価されました。

エージェント向けに構築:Muse Glimmerができること

効果的なエージェントを構築するには、ユーザーの目標を達成するために主要な機能が連携して動作する必要があります。Muse Glimmerは、以下の各機能についてトレーニングおよび評価されています。

  • エンドツーエンドのエージェントタスク完了。 Muse Glimmerは、DeepSearch QA、MCP-Atlas、𝛕-Bench、SWE-Benchなどのフルタスクベンチマークで高い成功率を達成しており、これらは scaffold 内での作業能力、コードの記述とデバッグ、および複数ターンの要求を最初から最後まで解決する能力を測定します。
  • 信頼性の高いツール使用。 モデルは、広範囲の関数呼び出しを処理し、拡張ワークフロー全体で正確なスキーマを持つツールを呼び出します。
  • 複数ステップの推論。 Muse Glimmerは、長期間にわたる推論を連鎖させ、複雑で拡張されたワークフロー全体で一貫した計画を維持します。
  • 障害回復。 ツール呼び出しが失敗したり、予期しない結果が返されたりした場合、モデルは停止するのではなく、エラーを診断して再試行するようにトレーニングされています。
  • マルチモーダル入力と推論。 専用の認識エンコーダーを通じて、モデルはテキストと画像をインターリーブして受け入れます。これにより、エージェントは会話と並行してスクリーンショット、チャート、ドキュメントを解釈できます。
  • Scaffold互換性。 Muse Glimmerは、OpenClawおよびその他のエージェントオーケストレーションパターンで動作します。
  • 制御可能な労力。 Muse Glimmerは、品質と速度の適切なバランスを選択するために、さまざまな推論強度をサポートします。
  • 多言語対応。 Muse Glimmerは、100以上の言語のデータでトレーニングされています。

[動画:Muse GlimmerがOpenCodeでエンドツーエンドのホームアシスタントダッシュボードタスクを完了している様子]

パフォーマンス

効果的な自律エージェントの動作に必要な多様な能力を評価するために、幅広いベンチマークでMuse Glimmerを評価しました。Gemma4-31BおよびQwen3.6-27Bと比較して、Muse Glimmerは、そのサイズクラスにおいて、いくつかの広く使用されているLLMベンチマークで強力なパフォーマンスを発揮します。

[画像:エージェント、コーディング、マルチモーダル、安全性、推論ベンチマーク全体でMuse Glimmer 30BとGemma4 31BおよびQwen3.6 27Bを比較する表]

評価の詳細については、当社のレポートをご覧ください。

ローカルデプロイメントに最適化

ローカルエージェントは、応答性が感じられるほど高速であれば真に有用です。応答または次のステップの計画に数分かかるエージェントは、実際の作業の流れを中断させます。品質を犠牲にすることなく、コンシューマーハードウェアで実用的な速度でMuse Glimmerを実行するために、2つの最適化を適用しました。

モデルをデバイスにフィットさせる。

フルプレシジョンでは、300億パラメータのモデルは55GBを超えるメモリを必要としますが、これはどのコンシューマーGPUも提供できる容量をはるかに超えています。量子化技術を使用してモデルの重みを約4ビットの精度に圧縮し、言語モデルを20GB未満に縮小します。これにより、モデルのワーキングメモリ(「KVキャッシュ」)、画像理解のための認識エンコーダー、および投機的デコーディングドラフターが24GBまたは32GBのエンベロープ内で同時に実行されるための十分なヘッドルームが残ります。この圧縮がエージェントタスクに最小限の、あるいは全く劣化をもたらさないことを検証しました。

[画像:フルプレシジョン、K-Quant-Dynamic、K-Quant-17GBを精度低下とターゲットハードウェアメモリで比較する表]

投機的デコーディングによる高速生成。

言語モデルは通常、一度に1つのトークンを生成しますが、長い推論チェーンや複数ステップのツール呼び出し中に遅く感じられることがあります。Muse Glimmerには、DFlashに基づいた軽量な「ドラフター」モデルが付属しています。これは、一度にトークンのブロック全体を提案する小さなコンパニオンネットワークです。メインモデルはこれらの提案を並列で検証し、正しいトークンを受け入れ、間違ったトークンを修正します。この技術により、Muse Glimmerは、標準的なトークンごとの生成よりも大幅に高速にテキストを生成しながら、同一の出力品質を実現します。リリースでは、メモリオーバーヘッドを小さくするために、量子化されたドラフターバージョンを提供します。

[動画:DFlash投機的デコーディングありとなしのMuse Glimmer生成のサイドバイサイド比較]

結果:

MacBook M4-Max、M5-Max、およびRTX-5090で、K-Quant-17GBモデルと量子化されたDFlashドラフターの速度を測定しました。モデルは、すべてデバイス上で完全に実行され、スムーズな会話とリアルタイムのエージェントインタラクションに十分な速度です。

[画像:DFlash投機的デコーディングがRTX 5090でMuse Glimmerデコード速度を3.1倍、M5 Maxで1.8倍、M4 Maxで1.5倍向上させたことを示す棒グラフ]

Muse Glimmerを今すぐ使い始める

Muse Glimmerは現在利用可能で、Hugging Faceから重みをダウンロードできます。数日中には、Ollama、LM Studio、Unslothなどのパートナーを通じてローカルで実行したり、llama.cpp、ExecuTorch、MLXなどのエッジフレームワークでデプロイしたり、vLLMおよびSGLangで大規模にサーブしたり、Together AI、Fireworks AI、OpenRouterなどのパートナーを通じて迅速に開始したりできます。PyTorchのTorchTitanトレーニング機能を利用してモデルをさらにチューニングすることで、ユースケースに合わせてカスタマイズすることも可能です。

また、AMD、Arm、Dell、Intel、NVIDIAなどのパートナーと協力して、さまざまなデバイスでのパフォーマンスを最適化しています。さらに、開発者が開始し、Muse Glimmerを責任を持って構築するために必要なリソースを提供するドキュメントを公開しています。これには、カスタムscaffoldの設定に関するガイダンスが含まれており、初日からパーソナルエージェントの構築とデプロイをさらに容易にします。MetaのAI開発者センターで詳細を確認し、構築リソースを見つけることができます。

この取り組みは、MetaのオープンAI研究の長年の実績に基づいており、それをエージェントAIに拡張し、開発者にローカルエージェント機能へのアクセスを提供します。いつものように、コミュニティからのフィードバックを歓迎し、開発者がこのオープンウェイトモデルで何を構築するかを楽しみにしています。

Muse Glimmerテクニカルレポートを読む Hugging Faceでモデルをダウンロード 開発者向けドキュメント