YuE2 · シンボリックプランニングによるフロンティアミュージック
YuE2 · Frontier Music with Symbolic Planning (map-yue2.github.io)
要約
YuE2は、シンボリックプランニング技術を用いた音楽生成プロジェクトです。ユーザーは生成された楽曲を聴いたり、楽譜を閲覧したり、インタラクティブに操作したりすることができます。このプロジェクトは、AIによる音楽制作の可能性を探求しています。
全文翻訳
最先端の品質。プランニングされた音楽。
スコアから楽曲へ
楽曲を聴き、そのシンボリックプランにおけるメロディ、リズム、コードを探求しましょう。
選択されたスコア
選択された楽曲を読み込み中…
生成された楽曲
シンボリックスコア
元のスコア録音
インタラクティブABCスコア 赤い音符はスコア録音に追従します。
元のスコアページを表示
選択された全スコア
カバー&編集
馴染みのある楽曲も、異なる形をとることができます。メロディ、歌詞、テンポ、アレンジの変化を聴いてみましょう。
エージェントによる音楽編集
楽曲は対話を通じて形作られます。編集ストーリーを読み込み中…
ジャンルエクスプローラー
ジャンルや言語を横断して集められたリスニングセレクション。
言語 ジャンル 生成を検索
モデル&結果
YuE2 (best-of-8) はSongBenchで6.9632を達成し、WildSongBench (192プロンプト) の17の評価設定の中で最も高い平均値を示しました。Suno v5は同比較で6.8721を記録しました。Suno v6およびSuno v6 Wildはそれぞれ6.5562および6.4195でした。
WildSongBenchにおける楽曲品質とテキストの一致度。バブルの面積はAudioBox PQを示し、黒い輪郭は2つのプロット軸におけるパレート最適点を示します。Bo8 = best-of-8。 インデックスの読み方。
モデルアーキテクチャ
シンボルで作曲し、オーディオで演奏する。
編集可能なスコアが、セマンティックミュージックトークン、アコースティックラテント、フルソングオーディオになります。モデルは約35.8億パラメータと28層を持ち、作成、カバー、編集をサポートします。ARおよびNARエキスパートは、個別の正規化、射影、MLPを使用しながら、アテンション計算を共有します。
ベンチマークスコアを探る WildSongBench · 17設定 · 9メトリック
WildSongBench 192プロンプト
比較元
WildSongBench · SongBench
| ランク | システム / 設定 | プロンプト | SongBench ↑ |
|---|
これらの結果の読み方
WildSongBench。 192プロンプト、17のシステム設定、および本論文の9つの自動メトリック。SongBenchは7つの次元すべてを平均化し、SongEvalは5つの次元すべてを平均化します。Musicalityも各評価者ごとに別途報告されます。YuE2の設定は両方ともメロディとコードのシンボリックプランニングを使用します。
セレクション。 YuE2、公開ベースライン、およびSuno v6とv6 Wildは、各候補に対して2つの候補と4回のASRリピートを使用し、その後、より低いPERでの選択を行います。以前のプロプライエタリ出力は、提供された候補プロトコルを保持します。YuE2 best-of-8は、SongBench Musicality、次にQ3O Control、次にPERを使用して8回の生成から選択します。したがって、この比較では異なる選択予算が保持されます。
MERT2 · 音楽表現
音の背後にある構造を学習する。
MERT2は、分析と生成の両方の背後にある音楽表現を提供します。ConvNeXtフロントエンドと24層のConformerは、補完的なMuQおよびQwen2-Audio特徴から構築されたマスクコードを予測するように学習します。フルソングアダプテーションはSheetSage2に音楽的コンテキストを供給し、別の因果ブランチがYuE2の25Hzセマンティックトークナイザーになります。
MARBLEにおける最先端技術
MERT2-30sは、リストされた外部ベースラインに対して15のMARBLEメトリック中14でSOTAを達成します。MERT2-FS (フルソング) は、15メトリック中13でそれらのベースラインを超えます。
主要メトリック MERT2-30s · 外部ベースラインとの比較
14 / 15
主要メトリック MERT2-FS · 外部ベースラインとの比較
13 / 15
キー精度 · GiantSteps MERT2-FS · スコア × 100
67.05
MERT2ベンチマークスコアを探る MARBLE · 15メトリック · 2エンコーダー
スコア × 100 · 高いほど良い · 太字は表示されている最高スコアを示します。
| ベンチマーク / メトリック | 公開されている最高のベースライン | MERT2-30s | MERT2-FS |
|---|---|---|---|
| MTT · タギング ROC-AUC | 91.70 PupuJEPA-Large | 91.91 | 91.74 |
| MTT · タギング 平均精度 | 40.80 PupuJEPA-Large | 41.29 | 41.20 |
| GiantSteps · キー精度 | 66.10 PupuJEPA-Large | 66.97 | 67.05 |
| GTZAN · ジャンル精度 | 86.90 PupuJEPA-Large | 91.72 | 90.69 |
| GTZAN · ビートF1 | 91.00 PupuJEPA-Large | 90.59 | 90.57 |
| EmoMusic · バレンスR² | 62.50 PupuJEPA-Large | 63.23 | 63.52 |
| EmoMusic · アラウサルR² | 78.50 PupuJEPA-Huge | 80.01 | 78.14 |
| MTG-Jamendo · 楽器ROC-AUC | 78.40 PupuJEPA-Large | 80.27 | 80.27 |
| MTG-Jamendo · 楽器平均精度 | 21.20 PupuJEPA-Large | 22.89 | 23.51 |
| MTG-Jamendo · ムード/テーマROC-AUC | 76.20 PupuJEPA-Large | 79.44 | 78.74 |
| MTG-Jamendo · ムード/テーマ平均精度 | 15.50 Dasheng-1.2B | 16.68 | 15.74 |
| MTG-Jamendo · ジャンルROC-AUC | 86.30 AudioMAE++ | 88.01 | 87.98 |
| MTG-Jamendo · ジャンル平均精度 | 20.10 PupuJEPA-Large / PupuJEPA-Huge | 21.22 | 20.66 |
| MTG-Jamendo · トップ50ROC-AUC | 83.10 AudioMAE++ / PupuJEPA-Huge | 84.18 | 84.13 |
| MTG-Jamendo · トップ50平均精度 | 31.10 AudioMAE++ | 32.17 | 31.62 |
カウントは、各MERT2エンコーダーを、各メトリックに対して最も強力な9つの外部ベースラインと個別に比較したものです。2つのMERT2エンコーダーは互いのベースラインとしてはカウントされません。両エンコーダーは6.32億パラメータを持ちます。MERT2-30sは30秒のトレーニングクリップを使用し、MERT2-FSは30〜360秒の完全な録音で事前トレーニングを継続します。これらのベンチマークは、因果トークナイザーではなく、双方向表現を評価します。MERT2は、表現全体で観測された最良の結果を報告します。各ROC-AUC/APペアは同じ表現を使用します。
ベースラインスコアは、公開比較の表IIIおよびVに従います。命名に関する注意: 著者らは論文の初期リリース後にPupuJEPAをPupuM2Dに改名しましたが、ここではPupuJEPAを保持します。
SheetSage2 · オーディオからスコアへ
楽曲を聴き、その構成を読む。
SheetSage2は、録音を編集可能なリードシートに変換します。LoRAでアダプトされたフルソングMERT2-FSエンコーダーが、6層の自己回帰デコーダーに供給されます。タスクプロンプトはビート、セクション、キー、コード、メロディを選択し、共有イベントタイムラインがボーカルとインストゥルメンタルメロディボイスを持つABC記譜法になります。これらのスコアは、YuE2のシンボリックトレーニングターゲットとして供給されます。
6つの転写タスク、1つのモデル
SheetSage2は、表示されている比較において15のベンチマークメトリック中12でSOTAを達成し、ビート、ダウンビート、キー、コード、構造、メロディ転写のための1つの自己回帰モデル (SheetSage2-AR) を使用します。
SOTAメトリック 1つのモデル · 6つの転写タスク
12 / 15
ボーカルメロディ · RWC-PopPitch-class note F1 · スコア × 100
82.51
コード認識 · osu2017Maj/min · スコア × 100
90.08
SheetSage2ベンチマークスコアを探る 6タスク · 15メトリック
スコア × 100 · 高いほど良い · 太字は表示されている最高スコアを示します。
| ベンチマーク / タスク | メトリック | 最高の比較 | SheetSage2-AR |
|---|---|---|---|
| GTZANBeat | F1 | 89.01 Beat This! | 86.27 |
| osu2017Beat | F1 | 91.80 Madmom | 93.01 |
| GTZANDownbeat | F1 | 78.28 Beat This! | 80.45 |
| osu2017Downbeat | F1 | 85.90 Beat This! | 92.90 |
| GiantStepsKey | Weighted score | 74.62 Madmom | 77.73 |
| GTZANKey | Weighted score | 74.43 S-KEY | 75.77 |
| osu2017Chord | Maj/min | 86.55 ChordFormer | 90.08 |
| Chords1217Chord | Maj/min | 83.94 ChordFormer | 83.81 |
| JAAHChord | Maj/min | 59.45 ChordFormer | 64.50 |
| HarmonixSetStructure | Accuracy | 80.03 SongFormer | 80.51 |
| HarmonixSetStructure | Boundary F1 · 0.5 s | 70.63 SongFormer | 67.96 |
| HarmonixSetStructure | Boundary F1 · 3 s | 79.50 SongFormer | 82.86 |
| RWC-PopMelody | Vocal pitch-class F1 | 62.71 SheetSage1 | 82.51 |
| RWC-PopMelody | Full pitch-class F1 | 64.02 SheetSage1 | 75.29 |
| Rock CorpusMelody | Vocal pitch-class F1 | 49.19 SheetSage1 | 67.08 |
SOTAカウントは、SheetSage1、Madmom、およびこの比較におけるタスク固有システムに対する最高スコアを参照します。SheetSage2-ARは、検証損失によって選択された1つのモデルを使用します。Beat This!のスコアは、3つのリリースされたトレーニングシードの平均です。メロディF1は、50msのオンセット許容誤差でピッチクラスノートを測定し、オフセットマッチングはありません。構造F1は、指定された許容誤差でのセクション境界を測定します。
Chords1217では、ChordFormerはトラックごとに1つのホールドアウトフォールドモデルを使用し、そのトラックごとのリコールは参照スパンによって重み付けされ、他のモデルのスコアリングプロトコルに一致させます。SheetSage1およびSheetSage2-ARは、それぞれ1つの固定モデルを全1,217トラックで評価します。MadmomのコードトレーニングデータにはChords1217が含まれます。JAAHは全113録音を含み、参照は各オーディオスパンと交差されます。Rock Corpusは、ゼロとしてスコアリングされた6つの空の参照を含む全200録音の平均を報告します。
トレーニングデータ
当社のモデルは主にCC0音楽と合成データでトレーニングされています。Tokenwave.AIがライセンスの下で合成トレーニングデータの大部分を提供しています。私たちは、データの倫理的かつ責任ある使用にコミットしています。
MERT2
700K時間
SheetSage2
28.4K時間
YuE2
346K時間
引用
YuE2、MERT2、SheetSage2、またはWildSongBenchを使用する場合は、arXivの論文 (PDF) を引用してください。
BibTeX
@article{yuan2026yue2,
title = {{YuE2}: Unifying Symbolic and Audio Music Generation at Frontier Quality},
author = {Yuan, Ruibin and Pan, Jiahao and Jiang, Junyan and Wu, Zhiyue and Zhou, Ziya and Sun, Jiankai and Li, Yizhi and Zhang, Ge and Gu, Yicheng and Tian, Zeyue and Dai, Junyu and Lin, Hanfeng and Li, Kai and Wu, Shangda and Liu, Xuanjie and Wang, Jiaming and Liu, Zihan and Wang, Yue and Ma, Yinghao and Yin, Hanzhi and Chen, Kangrui and Zhang, Xinyue and Ma, Ziyang and Liao, Mengqi and Zhao, Hejia and Huang, Guowei and Yan, Chao and Ke, Lei and Yu, Jianwei and Liu, Bei and Guo, Joe and Xue, Liumeng and Xia, Gus and Xue, Wei and Guo, Yike},
journal = {arXiv preprint arXiv:2609.33757},
year = {2026},
eprint = {2609.33757},
archivePrefix = {arXiv},
primaryClass = {eess.AS},
url = {https://arxiv.org/abs/2609.33757}
}