Muse CodeとMuse Spark 1.2の紹介
Muse Code and Muse Spark 1.2 (research.meta.ai)
要約
Meta AIは、最新モデルMuse Spark 1.2を搭載したターミナルコーディングエージェント「Muse Code」(ベータ版)を発表しました。Muse Codeは、大規模リポジトリ全体にわたる複雑なソフトウェアエンジニアリングタスク(計画、コード記述、結果検証)に対応し、複数の永続的なサブエージェントを協調させて、より速く、より正確に、より少ない介入で困難な問題を解決します。Muse Spark 1.2は、コード生成、デバッグ、コードベース理解の能力が向上しており、Muse Codeと共同でトレーニングされたことで、最高のパフォーマンスとコーディングの使いやすさを実現しています。
全文翻訳
Muse CodeとMuse Spark 1.2の紹介
私たちは、最新モデルであるMuse Spark 1.2を搭載したターミナルコーディングエージェント、Muse Code(ベータ版)をリリースできることを嬉しく思います。これは、より大きく、はるかに高性能なモデルが開発中であるという、フロンティアへの次なる一歩を示すものです。
macOSまたはLinuxにMuse Codeをインストールする:
Muse Codeは、大規模リポジトリ全体にわたる複雑なソフトウェアエンジニアリングタスクに対応します。変更の計画、コードの記述、結果の検証を行います。タスクごとに複数の永続的なサブエージェントを連携させることができ、より困難な問題を、より速く、より正確に、そしてより少ない介入で解決します。
Muse Code
非同期バックグラウンドエージェント
Muse Codeは、シンプルなエージェントループと、メインエージェントの能力を強化する非同期バックグラウンドエージェントのセットで動作します。これらの専門化されたバックグラウンドエージェントは、個々のタスクのために起動されるのではなく、各セッション中にアクティブな状態を維持し、冗長な情報収集を回避するのに役立ちます。それらは次のステップを実行し、メインエージェントといつ通信するかを選択します。その永続性により、レイテンシが削減され、困難なマルチステップタスクでの指示の必要性が軽減されます。
Loading demo
ランタイム設計
Muse Codeはローカルイベントログを使用しており、すべてのモデル呼び出し、ツール実行、承認、編集が追加されます。この単一の真実の源により、ランタイムは正確にリプレイ可能で、再起動しても安全です。クラッシュ後、エージェントは停止した箇所から正確に再開できます。この機能により、Muse Codeは失敗によって脱線することなく、長時間実行されるタスクに取り組むことができます。
バンドルされたスキル
Muse Codeには、いくつかのデフォルトスキルが付属しています。/planはタスクを承認ゲート付きの計画に変換し、/grillはその計画が有効であるまでストレステストを行い、/goalは指定された目標の完了に向けて作業します。
[動画: Muse Codeが参照ビデオから高級バケーションレンタル予約ページを再構築し、完成したサイトをブラウザで検証する様子。再生位置0:00 / 0:00]
ユーザーは、家のフライスルービデオをmp4ファイルとしてターミナルに入力します。Muse Codeはビデオを解釈し、視覚的にリッチなバケーションホームマーケティングおよび予約ページを生成します。
Muse Spark 1.2
Muse Spark 1.2は、Muse Spark 1.1のコーディングに特化したアップデートであり、コード生成、複雑なデバッグ、コードベースの理解、エンドツーエンドの開発者ワークフローが改善されています。Muse Spark 1.2では、コーディングタスクにおけるトレーニングコンピュートを大幅にスケールアップし、トレーニング環境の多様性を拡大しました。このモデルは、一般的なエージェントなどの他の主要分野でもその強みを維持しています。
[画像: Muse Spark 1.2と他のコーディングモデルのTerminal-Bench 2.1スコアを比較した棒グラフ。]
[画像: Muse Spark 1.2と他のコーディングモデルのDeepSWE 1.1スコアを比較した棒グラフ。]
[画像: Muse Spark 1.2と他のコーディングモデルのMeta内部コーディングベンチスコアを比較した棒グラフ。]
評価の詳細については、私たちのレポートをご覧ください。
Muse Codeとの共同トレーニング
モデルがペアで最高のパフォーマンスとコーディングの使いやすさを発揮できるように、Muse Spark 1.2をMuse Codeと共同トレーニングしました。トレーニングには、目標、圧縮、サブエージェントのレシピ最適化とともに、拒否サンプリングされたハーネス軌道が含まれ、ハーネス互換性を最大化するためにMuse Codeツールセットが統合されました。
ロングホライゾン
Muse Spark 1.2は、リポジトリ全体の生成、大規模なエンドツーエンドプロジェクト、自動リサーチを含む、ロングホライゾンのコーディングタスクで広範にトレーニングされました。作業を順序付けるための計画、方向性を維持するための目標条件付け、進捗を維持するために必要な知識を保持するためのコンテキスト圧縮を活用しています。
自己改善
Muse Spark 1.1を使用して、挑戦的なコーディング環境と指示追従テンプレートを生成しました。その後、モデルは候補ソリューションがそれらの要件をどの程度満たしているかを評価し、Muse Spark 1.2用のスケーラブルなトレーニングデータセットを生成しました。この自己改善ループにより、Muse Spark 1.2は前身よりも複雑な指示をより正確に追従できるようになりました。
ケーススタディ: カーネル最適化
1,000回以上のツール呼び出し(最大24時間)にわたってGPUカーネルを反復的に最適化するモデルの能力をテストしました。Muse Codeのエージェントコーディング環境を活用し、モデルは提供されたベースライン実装と比較してカーネルパフォーマンスを書き込み、コンパイルし、プロファイルし、段階的に改善します。NVIDIA Hopper GPUのKDAおよびMLAカーネルでベンチマークを行いました。エージェントは、提供されたベースライン実装に対して大幅な改善を達成し続けています。
[画像: Muse Spark 1.2および他のモデルの累積ツール呼び出しに対するKDAカーネルのスピードアップをベースラインと比較したチャート。]
ベースラインはKDAのFLA Triton実装です。モデルは、FLAのようなサードパーティのカーネルライブラリを直接インポートすることを禁止されていました。代わりに、専門的なカーネル最適化知識を適用してTritonでアルゴリズムを実装する必要があり、既存の実装をラップするのではなく、KDA固有の最適化(チャンク中間のゲート付き累積減衰の再センタリングなど)と標準的なフュージョンおよびタイリングを組み合わせたチャンク並列準備カーネルと逐次チャンク間スキャンを組み合わせました。
利用可能性
Muse Spark 1.2は、Muse CodeおよびMeta Model APIで、グローバルアクセスを拡大して本日利用可能です。新しいハーネス機能や、より強力なモデルなど、多くの計画が進行中です。皆様が構築するものを楽しみにしています!