Contrastive Language Models

Contrastive Language Models

A System One Model for Fast and Generalizable Decision-Making

Jacky Kwok$^{\dagger}$, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone

Christopher Ré, Azalia Mirhoseini :stanford:Stanford University :nvidia:NVIDIA Research

$^{\dagger}$ Project Lead

🗓️ Posted: Sep 23, 2026

<aside> ⚡

新しいアーキテクチャ、データレシピ、スケーリング則

• 対照学習（contrastive learning）の目的関数で訓練された新しいシステム1モデルのクラスであるContrastive Language Models (CLMs)を紹介します。これは状態と行動を結びつけます。
• 60MのNemotron Q&Aペアで事前訓練され、30Mの合成ハードネガティブで中間訓練され、1Mのエージェント軌跡で事後訓練されたCLM-8Bをリリースします。
• CLM-8Bは、コンピューター利用、ゲーム、ツール呼び出しタスクにおいてJevに匹敵する性能を発揮し、同時に最大9倍低速を達成します。軌跡報酬モデルとしてファインチューニングすると、CLMはDeepSWE (81.6%) および Terminal Bench 2.1 (87.6%) を含む、挑戦的なエージェント型コーディングベンチマークで新たなSOTAを記録します。
• CLMの訓練とサービングのための超効率的なインフラを、状態と行動を分離することで構築します。これにより、それらの埋め込みをキャッシュし、独立して再利用できます。
• CLMのスケーリング則を確立し、テスト対照損失が、訓練計算量、モデルサイズ、データセットサイズのべき乗則で予測可能に減少することを示します。

CLM on GitHubを試してみてください。

［画像: git.png］

</aside>

Overview

［画像: image.png］

CLMはまず、対照目的関数（InfoNCE）を用いて大規模データセット上で状態エンコーダーと行動エンコーダーを訓練します。これにより、各状態は実行された正解行動に引き寄せられ、他のすべての行動から遠ざけられます。その後、2つのエンコーダーはゼロショット行動分類器として直接機能します。

デプロイ時、現在の状態と候補行動のセットが与えられると、CLMは各行動の埋め込みが状態埋め込みとどれだけ一致するかでスコアリングし、最もスコアの高い行動を選択します。

Dino Run (CLM vs. Jev)

［画像: clm_game_race.gif］

• Super Mario Demo
• WikiRacing Demo

Zero-shot Evaluation

［画像: 5.png］

コンピューター利用、ゲーム、ツール呼び出しタスク全体で、CLM-8BはJevと同等の性能を発揮しながら、最大9倍高速で動作します。速度向上は、候補行動の数が多い場合（例: WikiRacing）や、行動が状態間で頻繁に再利用できる場合（例: T-Rex Game）に最も顕著です。