SWE-1.7、GPT 5.5およびOpusインテリジェンスに迫る
SWE-1.7 Reach Near GPT 5.5 and Opus Intelligence (cognition.com)
要約
Cognitionは、ソフトウェアエンジニアリングに特化した最先端のAIモデル「SWE-1.7」を発表しました。このモデルは、従来のモデルを大幅に上回るコストパフォーマンスを実現し、長期間にわたる非同期タスクの遂行能力が特に強化されています。SWE-1.7は、大規模なRL(強化学習)パイプラインの改善、高品質なデータ、および新しい学習手法によって開発され、エージェント型ソフトウェアエンジニアリングの新たな基準を示しています。
全文翻訳
SWE-1.7: フロンティアレベルの知能を低コストで
Ben Pan extit{, Carlo Baronio extit{, Rohan Choudhury, Eric Lu, Ryan Kim, Deniz Birlikci, TC Qin, Sam Lee, Fermi Ma, Allen Liu, Yang Liu, Sampriti Panda, Jacob Teo, Ray Wang, Gary Chang, Steven Cao, Silas Alberti extit{同等貢献}
2026.07.08
本日、我々はこれまでで最も高性能なモデルであるSWE-1.7をリリースします。これは、コストパフォーマンスのパレート曲線を進化させ、フロンティアレベルの知能をはるかに低いコストで実現します。
SWE-1.7は、我々のRLパイプライン全体にわたる広範な改善の結果です。インフラの改善、より安定したトレーニング、高品質なデータ、そして長期間タスクのための新技術が含まれます。SWE-1.7は、すでに広範なRLポストトレーニングを受けていたKimi K2.7ベースからトレーニングされているため、我々のトレーニングによる大きな追加ゲインは、「ポストトレーニングの天井」という考え方に疑問を投げかけ、RLが以前考えられていたよりもはるかに能力を向上させられることを示唆しています。
FrontierCodeリーダーボードでのモデルのランキングを見る
Cognitionでは、評価におけるFrontierCode1,2と、トレーニングにおけるSWE-1.7を通じて、優れたエージェント型ソフトウェアエンジニアリングのための原則を形成し、洗練させてきました。我々のモデルは、高品質なソフトウェアエンジニアリングの重要な要素である、長期間の非同期タスクに特に最適化されています。
SWE-1.7は、Cerebrasを介してDevin(Web、Desktop、およびCLI)で、1000 TPSで本日より利用可能です。ぜひご自身でお試しください!
コーディングベンチマーク結果
エージェント型コーディングベンチマークにおける合格率(%)。
| ベンチマーク | SWE-1.7 | Kimi K2.7 Code | GPT-5.5 | Opus 4.8 | Opus 4.7 | GLM-5.2 | Composer 2.5 | SWE-1.6 |
|---|---|---|---|---|---|---|---|---|
| FrontierCode 1.1 Main | 42.3% | 30.1% | 43.0% | 46.5% | 38.5% | 24.5% | 25.6% | 9.4% |
| Terminal-Bench 2.1 | 81.5% | 72.7% | 84.2% | 86.9% | 83.0% | 81.0% | 76.0% | 39.7% |
| SWE-Bench Multilingual | 77.8% | 73.5% | 76.8% | 84.4% | 80.5% | 74.5% | 71.6% | 58.3% |
この記事の残りの部分では、SWE-1.7をどのようにトレーニングしたかについて説明します。モデルの背後にあるインフラ、アルゴリズム、およびデータ作業について解説します。特に際立った4つの重要なコンポーネントについて説明します。
-
エントロピーの維持とトレーニングの安定化: 長期間のRL実行は、エントロピーの崩壊と、トレーニングと推論間の数値ドリフトによる不安定性という2つの困難な問題に直面します。我々はそれぞれの原因を特定し、対処したため、以前の実行が停滞した地点をはるかに超えてトレーニングが改善し続けることが可能になりました。
-
マルチクラスター トレーニングと耐障害性: RLは、その推論コンピュートのすべてを1つのクラスターに必要とするわけではありません。我々は3つの大陸にまたがるクラスターでトレーニングを行い、オブジェクトストレージ経由で重み更新を転送し、ハードウェア障害が発生しても実行が停止しないように耐障害性を構築しました。
-
高品質データのキュレーション: 自動実行テストで各タスクを実行し、学習シグナルが低いタスクを除外し、報酬ハッキングを防ぐためにタスクを強化する、広範なデータ品質パイプラインを構築しました。
-
長期間タスクのための自己圧縮: モデルは、作業状態を要約し、その要約から再開することを学習し、タスクのホライズンを生のコンテキストウィンドウを超えて拡張します。正確性を犠牲にすることなく簡潔な出力を奨励するために、交互の長さペナルティを使用します。
最後に、トレーニング設定の結果としてモデルが獲得した、慎重な探索や簡潔な推論などの興味深い行動傾向に関するいくつかの観察結果を共有して締めくくります。
エントロピーの維持とトレーニングの安定化
トレーニングの安定性は、大規模な予測可能な改善に貢献する重要な要因であることがわかりました。
非同期RL3でトレーニングする際、遭遇した最も問題のある問題の1つは、トレーナーポリシーがサンプリングポリシーと異なることが多いため、推論とトレーニング間のKLダイバージェンスの不一致4でした。過去には、これを(より小規模ながら)修正するために、インポータンスサンプリング5と、NVFP4 +エキスパートルーティングリプレイ6,7での低精度ロールアウトのための量子化認識トレーニングを使用しました。
ここでは、大規模になるにつれて重要性が増す追加の介入を示します。
top-pサンプリング8が、エントロピーの崩壊9,10を食い止めるのに大きく貢献していることがわかりました。エントロピーの崩壊とは、強力なモデルが数百ステップで探索を停止し、報酬が停滞してしまう現象です。
非常に低い確率のトークンは、しばしば軌道から外れたり、分布外に出たりする軌道の一部です。これらの軌道は低い報酬を生み出す可能性が高く、ソフトマックス関数の特性により、これらのトークンはトークン確率分布をシャープにします。実際、対数確率の勾配は以下のようになります。
∇logp3
=∇log[ex3ex1+ex2+ex3]
=[−p1−p2p1+p2]
そして、対数確率に対するポリシー勾配の更新は
Δxi∝A^∇logp3
ここで、A^はサンプリングされたトークンのアドバンテージです。この軌道は低い報酬を得るため、A^<0となり、更新は
Δx1∝∣A^∣ p1,Δx2∝∣A^∣ p2,Δx3∝−∣A^∣ (p1+p2).
これらの更新では、x3はペナルティを受け、x1はx2よりも大きく成長します。したがって、x3をサンプリングすることは、すでに優勢なトークンのリードを広げ、分布をシャープにし、エントロピーを減少させます。Top-pサンプリングは、これらの低確率トークンが最初にサンプリングされ、最適化ターゲットとして使用されるのを防ぎます!
[画像: トレーニング中のポリシーエントロピーの折れ線グラフ:SWE-1.7のレシピはエントロピーをほぼ一定に保つのに対し、ベースラインは着実に減少しています。]
このエントロピー維持効果により、top-pサンプリングはロールアウトで望ましいものとなります。しかし、top-pを単純に実装すると、トレーニングと推論の不一致が明らかに増加します。トレーナーはすべてのトークンから選択して確率を計算しますが、ロールアウトはtop-pサブセットからサンプリングするため、分布のダイバージェンスが高くなり、数ステップ後に崩壊につながります。したがって、サンプリング分布リプレイ11を実装します。これは、ロールアウト時にサンプリング可能なトークンのキープセットを記録し、トレーナーでそれらのマスクを使用して確率を正規化します。この修正により、トレーニングの過程で実行のエントロピーはほぼ一定に保たれ、推論とトレーニングのダイバージェンスは制限されたままになります。
[画像: トレーニングステップ全体でのトレーニング-推論ダイバージェンスの折れ線グラフ:サンプリング分布リプレイを使用するとダイバージェンスは制限されたままですが、ナイーブなtop-p実装はダイバージェンスします。]
top-pサンプリングリプレイを使用するもう1つの興味深い結果は、p < top_p_threshold のトークンのみをターゲットにすることです。閾値を超える確率を持つトークンはキープセットサイズが1であるため、正規化された確率分布は定数1となり、勾配はゼロになります。経験的に、モデルによってサンプリングされるトークンの大部分が標準的なtop-p閾値を超えているため、全体的な勾配計算から除外されていることがわかりました。これにより、勾配ノイズが減少し、最適化アルゴリズムは軌道内の高学習シグナルトークンに集中できます。
また、Muonオプティマイザー12の使用と、トレーナーでの非決定的な操作の排除からも利点があることがわかりました。