HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

YuE2 · シンボリックプランニングによるフロンティアミュージック

YuE2 · Frontier Music with Symbolic Planning (map-yue2.github.io)

95 pointsby sexy_seedbox79 コメント

要約

YuE2は、シンボリックプランニング技術を用いた音楽生成プロジェクトです。ユーザーは生成された楽曲を聴いたり、楽譜を閲覧したり、インタラクティブに操作したりすることができます。このプロジェクトは、AIによる音楽制作の可能性を探求しています。

全文翻訳

最先端の品質。プランニングされた音楽。

スコアから楽曲へ

楽曲を聴き、そのシンボリックプランにおけるメロディ、リズム、コードを探求しましょう。

選択されたスコア

選択された楽曲を読み込み中…

生成された楽曲

シンボリックスコア

元のスコア録音

インタラクティブABCスコア 赤い音符はスコア録音に追従します。

元のスコアページを表示

選択された全スコア

カバー&編集

馴染みのある楽曲も、異なる形をとることができます。メロディ、歌詞、テンポ、アレンジの変化を聴いてみましょう。

エージェントによる音楽編集

楽曲は対話を通じて形作られます。編集ストーリーを読み込み中…

ジャンルエクスプローラー

ジャンルや言語を横断して集められたリスニングセレクション。

言語 ジャンル 生成を検索

モデル&結果

YuE2 (best-of-8) はSongBenchで6.9632を達成し、WildSongBench (192プロンプト) の17の評価設定の中で最も高い平均値を示しました。Suno v5は同比較で6.8721を記録しました。Suno v6およびSuno v6 Wildはそれぞれ6.5562および6.4195でした。

[画像: WildSongBench比較: Suno v6およびv6 Wildを含む17のシステム設定を、楽曲の品質とテキストの一致度で比較。YuE2およびYuE2 best-of-8は、評価されたプロプライエタリシステムと競合しています。バブルの面積はAudioBoxのプロダクション品質を表します。]

WildSongBenchにおける楽曲品質とテキストの一致度。バブルの面積はAudioBox PQを示し、黒い輪郭は2つのプロット軸におけるパレート最適点を示します。Bo8 = best-of-8。 インデックスの読み方。

モデルアーキテクチャ

シンボルで作曲し、オーディオで演奏する。

ベクターPDF

[画像: YuE2アーキテクチャ: AR–NAR Mixture-of-Transformersが、編集可能なシンボリックスコアをセマンティックトークン、アコースティックラテント、フルソングオーディオに変換します。同じジェネレーターが作成、カバー、編集をサポートします。]

編集可能なスコアが、セマンティックミュージックトークン、アコースティックラテント、フルソングオーディオになります。モデルは約35.8億パラメータと28層を持ち、作成、カバー、編集をサポートします。ARおよびNARエキスパートは、個別の正規化、射影、MLPを使用しながら、アテンション計算を共有します。

ベンチマークスコアを探る WildSongBench · 17設定 · 9メトリック

WildSongBench 192プロンプト

比較元

WildSongBench · SongBench

ランクシステム / 設定プロンプトSongBench ↑

これらの結果の読み方

WildSongBench。 192プロンプト、17のシステム設定、および本論文の9つの自動メトリック。SongBenchは7つの次元すべてを平均化し、SongEvalは5つの次元すべてを平均化します。Musicalityも各評価者ごとに別途報告されます。YuE2の設定は両方ともメロディとコードのシンボリックプランニングを使用します。

セレクション。 YuE2、公開ベースライン、およびSuno v6とv6 Wildは、各候補に対して2つの候補と4回のASRリピートを使用し、その後、より低いPERでの選択を行います。以前のプロプライエタリ出力は、提供された候補プロトコルを保持します。YuE2 best-of-8は、SongBench Musicality、次にQ3O Control、次にPERを使用して8回の生成から選択します。したがって、この比較では異なる選択予算が保持されます。

MERT2 · 音楽表現

音の背後にある構造を学習する。

ベクターPDF

[画像: MERT2アーキテクチャ: オフラインターゲット合成は、MuQとQwen2-Audioの特徴を4つのコードストリームに結合します。ConvNeXtフロントエンドと24層のConformerがマスク予測によって学習し、その後SheetSage2用のフルソング表現とYuE2用の因果トークナイザーカリキュラムに分岐します。]

MERT2は、分析と生成の両方の背後にある音楽表現を提供します。ConvNeXtフロントエンドと24層のConformerは、補完的なMuQおよびQwen2-Audio特徴から構築されたマスクコードを予測するように学習します。フルソングアダプテーションはSheetSage2に音楽的コンテキストを供給し、別の因果ブランチがYuE2の25Hzセマンティックトークナイザーになります。

MARBLEにおける最先端技術

MERT2-30sは、リストされた外部ベースラインに対して15のMARBLEメトリック中14でSOTAを達成します。MERT2-FS (フルソング) は、15メトリック中13でそれらのベースラインを超えます。

主要メトリック MERT2-30s · 外部ベースラインとの比較

14 / 15

主要メトリック MERT2-FS · 外部ベースラインとの比較

13 / 15

キー精度 · GiantSteps MERT2-FS · スコア × 100

67.05

MERT2ベンチマークスコアを探る MARBLE · 15メトリック · 2エンコーダー

スコア × 100 · 高いほど良い · 太字は表示されている最高スコアを示します。

ベンチマーク / メトリック公開されている最高のベースラインMERT2-30sMERT2-FS
MTT · タギング ROC-AUC91.70 PupuJEPA-Large91.9191.74
MTT · タギング 平均精度40.80 PupuJEPA-Large41.2941.20
GiantSteps · キー精度66.10 PupuJEPA-Large66.9767.05
GTZAN · ジャンル精度86.90 PupuJEPA-Large91.7290.69
GTZAN · ビートF191.00 PupuJEPA-Large90.5990.57
EmoMusic · バレンスR²62.50 PupuJEPA-Large63.2363.52
EmoMusic · アラウサルR²78.50 PupuJEPA-Huge80.0178.14
MTG-Jamendo · 楽器ROC-AUC78.40 PupuJEPA-Large80.2780.27
MTG-Jamendo · 楽器平均精度21.20 PupuJEPA-Large22.8923.51
MTG-Jamendo · ムード/テーマROC-AUC76.20 PupuJEPA-Large79.4478.74
MTG-Jamendo · ムード/テーマ平均精度15.50 Dasheng-1.2B16.6815.74
MTG-Jamendo · ジャンルROC-AUC86.30 AudioMAE++88.0187.98
MTG-Jamendo · ジャンル平均精度20.10 PupuJEPA-Large / PupuJEPA-Huge21.2220.66
MTG-Jamendo · トップ50ROC-AUC83.10 AudioMAE++ / PupuJEPA-Huge84.1884.13
MTG-Jamendo · トップ50平均精度31.10 AudioMAE++32.1731.62

カウントは、各MERT2エンコーダーを、各メトリックに対して最も強力な9つの外部ベースラインと個別に比較したものです。2つのMERT2エンコーダーは互いのベースラインとしてはカウントされません。両エンコーダーは6.32億パラメータを持ちます。MERT2-30sは30秒のトレーニングクリップを使用し、MERT2-FSは30〜360秒の完全な録音で事前トレーニングを継続します。これらのベンチマークは、因果トークナイザーではなく、双方向表現を評価します。MERT2は、表現全体で観測された最良の結果を報告します。各ROC-AUC/APペアは同じ表現を使用します。

ベースラインスコアは、公開比較の表IIIおよびVに従います。命名に関する注意: 著者らは論文の初期リリース後にPupuJEPAをPupuM2Dに改名しましたが、ここではPupuJEPAを保持します。

SheetSage2 · オーディオからスコアへ

楽曲を聴き、その構成を読む。

ベクターPDF

[画像: SheetSage2アーキテクチャ: トレーニング可能なアダプターを持つフルソングMERT2-FSエンコーダーが、6層の自己回帰デコーダーに供給されます。タスクプロンプトは、ビート、セクション、キー、コード、メロディイベントを選択し、それらはタイムラインを共有してABC記譜法とリードシートになります。]

SheetSage2は、録音を編集可能なリードシートに変換します。LoRAでアダプトされたフルソングMERT2-FSエンコーダーが、6層の自己回帰デコーダーに供給されます。タスクプロンプトはビート、セクション、キー、コード、メロディを選択し、共有イベントタイムラインがボーカルとインストゥルメンタルメロディボイスを持つABC記譜法になります。これらのスコアは、YuE2のシンボリックトレーニングターゲットとして供給されます。

6つの転写タスク、1つのモデル

SheetSage2は、表示されている比較において15のベンチマークメトリック中12でSOTAを達成し、ビート、ダウンビート、キー、コード、構造、メロディ転写のための1つの自己回帰モデル (SheetSage2-AR) を使用します。

SOTAメトリック 1つのモデル · 6つの転写タスク

12 / 15

ボーカルメロディ · RWC-PopPitch-class note F1 · スコア × 100

82.51

コード認識 · osu2017Maj/min · スコア × 100

90.08

SheetSage2ベンチマークスコアを探る 6タスク · 15メトリック

スコア × 100 · 高いほど良い · 太字は表示されている最高スコアを示します。

ベンチマーク / タスクメトリック最高の比較SheetSage2-AR
GTZANBeatF189.01 Beat This!86.27
osu2017BeatF191.80 Madmom93.01
GTZANDownbeatF178.28 Beat This!80.45
osu2017DownbeatF185.90 Beat This!92.90
GiantStepsKeyWeighted score74.62 Madmom77.73
GTZANKeyWeighted score74.43 S-KEY75.77
osu2017ChordMaj/min86.55 ChordFormer90.08
Chords1217ChordMaj/min83.94 ChordFormer83.81
JAAHChordMaj/min59.45 ChordFormer64.50
HarmonixSetStructureAccuracy80.03 SongFormer80.51
HarmonixSetStructureBoundary F1 · 0.5 s70.63 SongFormer67.96
HarmonixSetStructureBoundary F1 · 3 s79.50 SongFormer82.86
RWC-PopMelodyVocal pitch-class F162.71 SheetSage182.51
RWC-PopMelodyFull pitch-class F164.02 SheetSage175.29
Rock CorpusMelodyVocal pitch-class F149.19 SheetSage167.08

SOTAカウントは、SheetSage1、Madmom、およびこの比較におけるタスク固有システムに対する最高スコアを参照します。SheetSage2-ARは、検証損失によって選択された1つのモデルを使用します。Beat This!のスコアは、3つのリリースされたトレーニングシードの平均です。メロディF1は、50msのオンセット許容誤差でピッチクラスノートを測定し、オフセットマッチングはありません。構造F1は、指定された許容誤差でのセクション境界を測定します。

Chords1217では、ChordFormerはトラックごとに1つのホールドアウトフォールドモデルを使用し、そのトラックごとのリコールは参照スパンによって重み付けされ、他のモデルのスコアリングプロトコルに一致させます。SheetSage1およびSheetSage2-ARは、それぞれ1つの固定モデルを全1,217トラックで評価します。MadmomのコードトレーニングデータにはChords1217が含まれます。JAAHは全113録音を含み、参照は各オーディオスパンと交差されます。Rock Corpusは、ゼロとしてスコアリングされた6つの空の参照を含む全200録音の平均を報告します。

トレーニングデータ

当社のモデルは主にCC0音楽と合成データでトレーニングされています。Tokenwave.AIがライセンスの下で合成トレーニングデータの大部分を提供しています。私たちは、データの倫理的かつ責任ある使用にコミットしています。

MERT2

700K時間

SheetSage2

28.4K時間

YuE2

346K時間

引用

YuE2、MERT2、SheetSage2、またはWildSongBenchを使用する場合は、arXivの論文 (PDF) を引用してください。

BibTeX

@article{yuan2026yue2,
  title = {{YuE2}: Unifying Symbolic and Audio Music Generation at Frontier Quality},
  author = {Yuan, Ruibin and Pan, Jiahao and Jiang, Junyan and Wu, Zhiyue and Zhou, Ziya and Sun, Jiankai and Li, Yizhi and Zhang, Ge and Gu, Yicheng and Tian, Zeyue and Dai, Junyu and Lin, Hanfeng and Li, Kai and Wu, Shangda and Liu, Xuanjie and Wang, Jiaming and Liu, Zihan and Wang, Yue and Ma, Yinghao and Yin, Hanzhi and Chen, Kangrui and Zhang, Xinyue and Ma, Ziyang and Liao, Mengqi and Zhao, Hejia and Huang, Guowei and Yan, Chao and Ke, Lei and Yu, Jianwei and Liu, Bei and Guo, Joe and Xue, Liumeng and Xia, Gus and Xue, Wei and Guo, Yike},
  journal = {arXiv preprint arXiv:2609.33757},
  year = {2026},
  eprint = {2609.33757},
  archivePrefix = {arXiv},
  primaryClass = {eess.AS},
  url = {https://arxiv.org/abs/2609.33757}
}