AI・機械学習
Ripple-65Bプレビュー:エージェントコーディングにおける米国のオープンウェイトSOTA
Ripple-65B Preview: U.S. Open-Weight SOTA on Agentic Coding (ricursive.com)
要約
Ricursiveは、計算効率に焦点を当てたSFT(教師ありファインチューニング)とRL(強化学習)のレシピを改良し、合成データパイプラインと品質フィルタリングを独自に開発しました。これにより、1.4Mロールアウトという、従来のSOTA(最高性能)を大幅に下回る試行回数で、TerminalBench 2.1スコア80.5を達成しました。この成果は、オープンウェイトモデルとしてエージェントコーディング分野における新たな最高性能(SOTA)を示しています。
全文翻訳
ブルートフォースなRL(強化学習)の登攀に投資するのではなく、計算効率に焦点を当ててSFT(教師ありファインチューニング)とRLのレシピを慎重に改良しました。追加学習用のデータは購入せず、代わりに独自の合成データパイプライン、品質フィルタリング、カバレッジメトリクスを考案しました。
私たちの混合RLレシピは、
、
、および高品質な長期間合成環境を用いた
を使用しています。RLタスクはモデルの能力に合わせて調整され、モデルが改善するにつれてより難しいタスクを継続的に追加しました。
その結果、強力な初期SFTチェックポイントから急激なRLの登攀を達成しました。Reflection Beam(以前のSOTA)の約70分の1にあたる1.4Mロールアウトのみで、TerminalBench 2.1スコア80.5に到達しました。