HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Inkling 2 Smallを発表

Inkling 2 Small (thinkingmachines.ai)

38 pointsby Philpax14 コメント

要約

Thinking Machinesは、5940億パラメータを持つ新しいMixture-of-Expertsモデル「Inkling 2 Small」を発表しました。このモデルは、エージェント型コーディング、ビジョン、知識作業、推論能力が大幅に向上しており、人工知能分析インデックスで31点を記録しました。当初はTinkerプラットフォームで提供され、来週にはApache 2.0ライセンス下で重みが公開される予定です。

全文翻訳

Inkling 2 Smallを発表

本日、Inkling 2 Smallとして、当社の第2世代モデルを発表します。これは、合計5940億パラメータ、アクティブパラメータ170億を持つMixture-of-Expertsモデルで、画像入力と可変エフォートをサポートします。

Inkling 2 Smallは、人工知能分析インデックスで31点を獲得し、エージェント型コーディング、ビジョン、知識作業、推論における性能向上を反映して、以前のモデルのスコアをはるかに上回っています。能力の向上は、より効率的な事前学習や大規模で統一されたRL実行を含む、トレーニングプロセスのあらゆる段階での改善によるものです。

Inkling 2 Smallは、当初、オープンウェイトへの安全なパスで概説したアプローチに従い、クローズドウェイトでTinkerを通じて利用可能になります。外部の安全性テストとレッドチーミングの完了後、来週には完全なウェイトをApache 2.0ライセンス下で公開する予定です。

本日、Tinker PlaygroundでInkling 2 Smallを試すことができます。このモデルはTinkerでのファインチューニングやサンプリングにも利用可能で、Inkling 2 Smallのウェイト公開時にチェックポイントがダウンロード可能になります。

能力

Inkling 2 Smallは、特に長期間にわたる自律的な作業において、第1世代よりも全体的に能力が向上しています。

Inkling 2 Smallのビジョンとエージェント能力により、視覚的なフィードバックを取り込み、インタラクティブな要素を持つウェブサイト、ゲーム、3Dデザインを反復的に構築・洗練させることができます。

Inkling 2 SmallはThree.jsを使用して、既製の資産なしで完全な都市シミュレーターを構築しました。すべての建物、テクスチャ、車をプロシージャルに生成し、ユーザーは電力、予算、緊急事態を管理しながら、単一の道路から生きた都市を成長させることができます。

Pythonで書かれた、ゼロから構築されたPCエミュレーター。実際のLinuxカーネルをブートし、ブラウザでライブインスタンスをブートするWebインターフェースを提供します。

普通の紙に手書きされた谷に、折り紙の鶴がInklingに着陸しています。BlenderでInkling 2 Smallを使用して生成され、水と煙突の改善で改訂されました。

地図から生成されたフロアプランのウォークスルー。

エージェント型コーディングと自動リサーチ

Inkling 2 Smallは、複数のエージェントハーネスとコンテキスト圧縮戦略にわたる数百の長期間コーディングタスクでRLトレーニングを受けました。合成コーディングデータパイプラインの品質を向上させ、単体テストの報酬だけに頼ることを超えました。多くのタスクには、モデルが問題にどのようにアプローチしたかを評価するエージェント型RLグレーダーが含まれており、コードがパスしたかどうかだけでなく、そのアプローチも評価しました。また、OpenCodeでFledge-Alphaという名前でInkling 2 Smallの初期チェックポイントをテストし、実際のコーディングタスクにおけるモデルのパフォーマンスを評価しました。

その結果、コーディング能力が向上し、実際のエージェントループ内で使用しやすくなったモデルが誕生しました。Inkling 2 Smallは、Inklingと比較して使いやすさが向上しています。指示をより良く従い、変更を慎重に検討し、求められる前に作業を検証します。

コーディングと自動リサーチInkling 2 SmallGLM-5.3-FlashDeepSeek-V4.1-Flash-1017Muse Spark OpenKimi K3
FrontierCode v2.025.4% (この行で2番目に高い報告スコア)14.2%28.5% (この行で最も高い報告スコア)7.6%17.3%
DeepSWE v1.172.1% (この行で2番目に高い報告スコア)63.4%77.0% (この行で最も高い報告スコア)60.0%68.5%
SWEBench Pro v2 (Hard)86.3% (この行で2番目に高い報告スコア)––82.4%88.2% (この行で最も高い報告スコア)
Vibe Code Bench v1.181.6%30.8%87.7% (この行で最も高い報告スコア)76.2%85.0% (この行で2番目に高い報告スコア)
PostTrainBench v1.231.9% (この行で2番目に高い報告スコア)36.8% (この行で最も高い報告スコア)30.5%–31.5%
Terminal Bench Science v0.15.7%4.8%12.9% (この行で最も高い報告スコア)1.9%8.1% (この行で2番目に高い報告スコア)

カーネル最適化 (PMPP-Hard)

69タスク · 4回の独立した試行 · 10時間予算

全結果を表示

PMPP-Hard結果

モデルAUC (タスク時間)平均解決数 / 69Pass@4 / 69
GPT-6 Astra616.396363
Kimi K3.1 Pro583.8660.563
Claude Opus 5.5499.656064
DeepSeek V4.1 Flash497.3655.2562
Inkling 2 Small494.2754.2564
Mistral Large 4478.3950.2561
Kimi K3453.5855.7566
GLM 5.3430.9652.561
GLM 5.2389.124261

行はAUCで並べ替えられています:0〜10時間の平均曲線下の面積で、最大690タスク時間です。

各モデルは、PIハーネスと共有コンパクションポリシーを使用し、最大利用可能な推論設定を使用します。評価中に特定されたタスクとグレーディングの問題に対する修正を含みます。提出された各ソリューションは、2回の独立したLLM監査を受け、3回目のレビューで不一致が解決されます。

PMPP-Hardは、クロスモデル評価の一貫性のために適応された外部GPUカーネル最適化ベンチマークです。曲線は4回の独立した試行の平均を示しており、凡例の値は10時間での平均解決タスク数です。

従来のソフトウェアタスクを超えて、Inkling 2 Smallは長期間の自動リサーチタスクでもトレーニングされました。これには、エージェント型GPUカーネル最適化や、モデルの自動的な事後トレーニングなどのMLタスクが含まれ、すべてさまざまなGPUアーキテクチャで実行されました。

予備的なカーネル自動リサーチ結果

DeepSeek-V3.2スパースアテンション、フォワード+バックワード

DeepSeek Sparse Attentionは、各クエリが軽量インデクサーによって選択された上位k個の先行トークンにのみアテンドするため、長コンテキストのコストはもはやコンテキストの二乗で増加しません。公開されているTileLangカーネルから開始し、エラーを元のカーネル(タイトな許容誤差)に近づけながら、トレーニングカーネルを高速化します。ベンチマークは、パッキングされた事前トレーニングシーケンスから長コンテキストトレーニングまで、さまざまなレジームのいくつかのモデルサイズをカバーしています。公開されているTileLangベースラインはB300用にチューニングされていないため、これらのワークロードでは各モデルの最適化能力と持続性を測定するための十分なヘッドルームが残されています。スピードアップはこれらのカーネルのみのものであり、エンドツーエンドのトレーニングではありません。

エンドツーエンドの自動リサーチパフォーマンスを示すために、Inkling 2 SmallをProximalが構築したタスクでテストしました。これは、当社の内部ベンチマークの1つ用に構築されたものです。Inkling 2 Smallは、Tinker上でQwen3.5-4Bを自律的にトレーニングし、天気やWikipediaのページビューなどのさまざまな時系列を予測しました。タスクを分析し、独自の評価ツールを作成し、トレーニングデータセットとレシピを実験し、SFTとRLのさまざまなアプローチを試しながら、プロセスをデバッグしました。4.5時間の作業とTinkerで426ドルを費やした後、トレーニングされたモデルは予測スコアを2倍以上に向上させました。

Qwen/Qwen3.5-4Bに時系列を予測させたいです。モデルはウィンドウ(テキスト形式の最近の履歴)を受け取り、次のステップの値を書き込みます。各ウィンドウについて複数回サンプリングされます。その予測の中央値は実際に起こることに近く、そのばらつきは不確実性を反映する必要があります。[...] TinkerでQwen/Qwen3.5-4BのLoRAをトレーニングします。[...] 12時間と500ドルのTinker予算があります。

Bash
ls /app /data && cat /data/README.md

/app: examples.jsonl forecast … (さらに25行)

Bash
tinker-usage 2>&1 | head -20; echo ---; tinker-usage --prices 2>&1 | head -40

時間 0時間0分 / 12時間 (残り11時間59分)

Tinkerでのサンプリングの仕組みを見てみましょう:

~/tinkerbench/time-series-forecasting/0h 00m into the run

評価例での予測
Qwen3.5-4B (ベース)

電力
米国南西部グリッド · 需要

風力・太陽光
ニューヨークグリッド · 風力

大気質
ウィニペグ · PM2.5

ページビュー
Wikipedia · “Valhalla”

観測値
モデルの予測

「エラーが少ない」は、最後の値をそのままコピーした場合と比較しています。

評価スコア (% コピーよりエラーが少ない)
100例

$0.00 Tinker使用量 / $500

データ:米国エネルギー情報局 (EIA-930);天気および大気質データはOpen-Meteo.com (CC BY 4.0) より提供、2026年の改変コペルニクス気候変動サービスおよびコペルニクス大気モニタリングサービス情報、ウィキメディアページビュー (CC0) を含む。

開始。Inkling 2 Smallは、タスクと提供された生データを読み込みます。これには、電力需要、風力・太陽光発電、天気、大気質、Wikipediaのページビューの5つのソースからの数年間の hourly および daily の履歴が含まれます。

ビジョン解釈と生成

Inkling 2 Smallは、Perception EncoderBolya et al., 2025に基づいた2億9200万パラメータのビジョンエンコーダーを使用して画像入力を処理します。20×20ピクセルのパッチと2×2の空間プーリングを使用し、画像パッチとテキストトークンをインターリーブします。このモデルは、OCR、グラウンディング、インフォグラフィック解釈、ビジュアル推論を含む複数のカテゴリで強力な視覚能力を示します。

ビジュアル推論と生成Inkling 2 SmallGLM-5.3-FlashDeepSeek-V4.1-Flash-1017Muse Spark OpenKimi K3
GDP.pdf25.2% (この行で最も高い報告スコア)15.4%17.2%18.6%22.0% (この行で2番目に高い報告スコア)
MMMU Pro (Standard 10)81.6% (この行で最も高い報告スコア)79.0%80.6%80.9% (この行で2番目に高い報告スコア)80.5%
PerceptionBench64.7% (この行で最も高い報告スコア)–47.7%–58.5% (この行で2番目に高い報告スコア)
Humanity’s Sixth Sense33.3% (この行で最も高い報告スコア)26.8%30.1% (この行で2番目に高い報告スコア)29.6%25.5%
ScreenSpot Proオリジナル / Python使用83.8/91.5% (この行で最も高い報告スコア)–––73.8/83.2% (この行で2番目に高い報告スコア)
BabyVisionオリジナル / Python使用68.6/93.7% (この行で最も高い報告スコア)53.4/82.6% (この行で2番目に高い報告スコア)–/92.5%44.3/80.2%53.4/85.7% (この行で2番目に高い報告スコア)
Charxiv RQオリジナル / Python使用85.6/87.7% (この行で最も高い報告スコア)80.2/89.4%77.0/85.6%85.4/88.7% (この行で2番目に高い報告スコア)84.8/91.3%
Chartographyオリジナル / Python使用36.7/80.4% (この行で最も高い報告スコア)16.3/78.0%17.9/83.0%35.7/63.2% (この行で2番目に高い報告スコア)26.6/68.1%
Code Arena (WebDev)165316071665 (この行で最も高い報告スコア)–1656 (この行で2番目に高い報告スコア)
AA-3D1021 (この行で最も高い報告スコア)937––982 (この行で2番目に高い報告スコア)
Code2Video-AA1020 (この行で2番目に高い報告スコア)975––1041 (この行で最も高い報告スコア)

モデルは、生成したコードの視覚的な出力を解釈および検証するためにビジョンを使用します。ウェイトの公開を保留中ですが、DesignArenaでトップのオープンウェイトモデルになる予定です。

DesignArenaウェブサイトスコア

DesignArenaウェブサイトリーダーボード。11月5日のリーダーボードスナップショットからのスコア。青いバーはInkling 2 Smallを示しています。比較には、上位10モデルと追加の3つのオープンウェイトモデルが含まれます。バーは1,100から始まり、ゼロではありません。DesignArenaで表示。

Inkling 2 Smallは、研究者たちとワインテイスティングイベントで対戦させました。単一の画像から3種類のワインを正しく識別し、20回の試行中19回成功しました。これはビジョンのみを使用した場合です。

[画像: レストランのテーブルに置かれた3杯の赤ワイン。モデルの応答で使用された左から右の順序。]

プロンプト: ブラインドワインテイスティングコンペティションに参加しています。グラスは左から右に1から3までラベル付けされています。品種:99カベルネソーヴィニヨン、19カベルネソーヴィニヨン、23ネッビオーロ

Inkling 2 Small: 私の分析です。まず、暖かいレストランの照明の下での携帯電話の写真の色は不確かな証拠であるという大きな注意点がありますが、これは断定ではなく、教育的な推測として扱ってください。

私の推測:
グラス1 = 2019年カベルネソーヴィニヨン
グラス2 = 1999年カベルネソーヴィニヨン
グラス3 = 2023年ネッビオーロ

理由:

  • グラス3(右)は、最も明るく最も透明度が高いです — 明るいチェリーレッドで、ボウルを通して光が見えます。ネッビオーロは若い時でさえ、赤ワインとしては非常に淡いことで有名なので、2023年のネッビオーロが最適です。1999年のカベルネは、縁にレンガ色/オレンジ色/鳶色を示す可能性が高いですが、これは鮮やかなルビーガーネットのように見えます。
  • グラス1(左)は最も暗く、最も不透明です。中心部はほぼ紫黒色です。これは2019年のカベルネです — 7年経っても、カベルネはその濃い色とプライマリーフルーツを保っています。
  • グラス2(中央)は、その中間に位置します:まだ暗いですが、グラス1よりわずかに不透明度が低く、ややくすんだガーネット色です。25年以上前のカベルネは、適切な保管がされていれば、紫や不透明度が落ちているはずですが、まだレンガ色にはなっていないはずなので、ここに位置づけられます。

この推測の正直な弱点:照明が均一ではありません(左のグラスは暖炉近くの暗いゾーンに置かれており、その暗さを誇張しています)、そして適切に保管された1999年のワインは、カメラで見るよりもはるかに濃く飲めることがあります。本当の決め手は色合いの違いでしょう — グラス2の縁にオレンジ/茶色が見え、グラス1の紫赤色の縁と比較できれば、それが確認となります。

実際にテイスティングする際の迅速な感覚的判断基準:

  • 1999年カベルネ: 第三次アロマ — レザー、タバコ、乾燥カシス、フォレストフロア、シダー。タンニンは溶けてシルキー。フルーツは完全に柔らかくなり、おそらくわずかに色あせたフルーツのニュアンスがある。
  • 2019年カベルネ: ブラックカラント/グラファイト/シダー。まだしっかりとした構造のタンニン、よりフレッシュなフルーツ、よりオークの存在感。
  • 2023年ネッビオーロ: 淡いガーネット色だが、強烈な酸味とざらざらした、乾燥させるタンニン。レッドチェリー、ローズ/バイオレット、乾燥ハーブ、タールのような香り — クラシックな「白ワインの色、マラソンランナーの口当たり」という特徴。

グラス3の注ぎ口が淡いのに、口の中がタンニンでこすられるような感覚があれば、それはネッビオーロの決定的な確認です。もしそれが柔らかく滑らかであれば、グラス3とグラス2を入れ替えてください。コンペティションでの幸運を祈ります — 結果が出たら教えてください。

ワインテイスティングの写真。モデルが見たものと、モデルの応答。

エージェント型知識作業

Inkling 2 Smallは、現実的なプロフェッショナル環境での知識作業を加速します。情報検索、MCPを介したツールの呼び出し、高品質な成果物の生成を巧みに行います。AA-Briefcaseというエンドツーエンドの知識作業ベンチマークでは、これらの能力が組み合わさり、ELOスコア1527を達成しました。

知識作業とエンタープライズオペレーションInkling 2 SmallGLM-5.3-FlashMuse Spark OpenDeepSeek-V4.1-Flash-1017Kimi K3
AA-Briefcase v1.11527 (この行で2番目に高い報告スコア)145112791570 (この行で最も高い報告スコア)1497
GDPVal-AA v2.116301649 (この行で2番目に高い報告スコア)14011746 (この行で最も高い報告スコア)1543
JobBench70.5% (この行で最も高い報告スコア)60.7%61.8% (この行で2番目に高い報告スコア)–54.3%
Vals Legal Index73.9% (この行で最も高い報告スコア)71.1%68.5%71.9% (この行で2番目に高い報告スコア)71.7%
EnterpriseBench-CoreCraft71.8% (この行で最も高い報告スコア)46.7% (この行で2番目に高い報告スコア)––43.1%

Inkling 2 Smallは、特に金融およびスプレッドシート、申告書、文書に対する定量的推論において強力です。オープンウェイトモデルの中で、Inkling 2 Smallは複数の金融ベンチマークで最高のパフォーマンスを発揮します。

金融業務Inkling 2 SmallGLM-5.3-FlashMuse Spark OpenDeepSeek-V4.1-Flash-1017Kimi K3
Vals Finance Index61.5% (この行で最も高い報告スコア)55.8%53.0%60.9% (この行で2番目に高い報告スコア)58.0%
Diligence Benchベストハーネス58.1% (この行で2番目に高い報告スコア)–59.0% (この行で最も高い報告スコア)50.4%–
DAYJOB (金融)14.3% (この行で最も高い報告スコア)7.3%–12.5% (この行で2番目に高い報告スコア)5.5%
Apex-Accounting v1.1 pass@114.5% (この行で最も高い報告スコア)12.3%13.8% (この行で2番目に高い報告スコア)12.5%9.5%
カスタマイズ性

一部のモデルは、その箱出しパフォーマンスとは無関係に、ファインチューニングへの応答性が高くなります。Inkling 2 Smallをカスタマイズの強力なベースモデルにしたいと考えていました。

Inkling 2 Smallは、顧客のユースケースに基づいてキュレーションされたさまざまな事後トレーニングシナリオで、同じデータとアルゴリズムでトレーニングした場合、以前のモデルよりも速く学習し、より大きく改善します。例えば、公開されている財務文書要約タスクで同様に低いスコアから開始した場合、Inkling 2 Smallはわずか75回のトレーニングステップでInkling Smallの最終パフォーマンスに到達し、大幅に上回りました。

モデルのファインチューニング可能性の評価

Inkling 2 Smallは、以前のモデルよりも速く学習し、より高いパフォーマンスで終了し、RLファインチューニング設定において同サイズの他のOSSモデルと競争力があります。公開されている決算説明会データを使用して、顧客がカスタムモデルのトレーニングにTinkerを使用する金融分析ワークロードと同様の、専門家の判断を模倣する投資分析タスクを作成しました。公平な比較を保証するため、各モデルに対して学習率スイープを実行しました。すべてのモデルは、Tinker Cookbookの抽象化を使用し、当社のAsync RL実装とStable Reinforce損失で、200ステップにわたってTinkerでトレーニングされました。Inklingモデルの結果は3つのシードの平均です。他のモデルは単一の実行を使用します。コストは、サンプリングおよびトレーニングトークン数に現在のTinkerトークンあたり価格を乗じて推定されます。サンプリングについては、同じグループ内でのロールアウトでプレフィックスキャッシュヒットが発生すると仮定します。

推論、知識、認識

Inkling 2 Smallは、挑戦的なSTEM問題、指示追従、Web検索あり/なしの情報探索、予測タスクでトレーニングされています。RL中、予測タスクには適切なスコアリングルールを使用し、一部の質問応答タスクには不確実性に応じた報酬を使用しました。これにより、モデルは不確実性を評価し、適切な自信を表明し、適切に調整された予測を行うようにトレーニングされました。

長コンテキスト推論と事実性Inkling 2 SmallGLM-5.3-FlashMuse Spark OpenMistral Large 4Kimi K3
HLE-Diamond28.7% (この行で最も高い報告スコア)18.2%26.3%17.3%26.9% (この行で2番目に高い報告スコア)
CritPt v2Full / Hard55.7/35.0% (この行で最も高い報告スコア)–/24.5%52.6/29.5% (この行で2番目に高い報告スコア)50.3/27.0%–/40.5%
AA-LCR v1.183.3% (この行で2番目に高い報告スコア)80.0%78.3%–88.7% (この行で最も高い報告スコア)
LongBench v270.6% (この行で最も高い報告スコア)68.2%68.7%65.7%69.0% (この行で2番目に高い報告スコア)
AA-Omniscience v1.1スコア / 非幻覚率16.1/73.3 (この行で2番目に高い報告スコア)0.7/–25.8/72.0 (この行で最も高い報告スコア)5.1/71.8–
安全性とアライメント

Inkling 2 Smallの安全性に関する作業は、2つの質問に焦点を当てています。一般ユーザーに対するモデルのパフォーマンスと、悪意のあるアクターによるセーフガードの除去に対する耐性です。Inklingのウェイトの公開は、当社および当社のパートナーによるさらなる安全性評価を保留中です。

誤用のリスクを評価するため、内部的にヘルプフルのみのバリアントをトレーニングしました。このモデルとリリースチェックポイントの両方を、以前のリリースよりも多くの外部テスターを使用して、より広範な評価スイートで実行しました。

化学、生物、放射性、核 (CBRN) リスクにおいて、Inkling 2 Smallの知識と能力スコアは、オープンウェイトのフロンティアを下回っています。Scale AIのプライベートベンチマークであるFORTRESSは、CBRN、テロリズム、非暴力犯罪にわたる専門家が作成した敵対的なプロンプトに対するモデルの有害な支援の度合いをスコアリングしますが、Inkling 2 SmallはInklingおよびInkling-Smallと比較して平均リスクスコア (ARS) が低く、過剰拒否スコア (ORS) も高くなっています(「制限事項」を参照)。Inkling 2 Smallのヘルプフルのみのバリアントは、リリースチェックポイントと比較してCBRN知識でわずかに向上していますが、測定したどの次元でもフロンティアを大幅に進歩させるものではありません。

攻撃的およびデュアルユースのエージェント型サイバーベンチマークにおいて、Inkling 2 SmallはInkling Smallから大幅に進歩しましたが、オープンウェイトのフロンティアにはまだ及びません。セキュリティ脆弱性の発見とパッチ適用能力を測定するVals CyberBench v1.1とPatchEvalの両方で、オープンウェイトのフロンティアに匹敵します。

安全性Inkling 2 SmallGLM-5.3-FlashDeepSeek V4.1 FlashMuse Spark OpenGLM 5.3
FORTRESS (ARS) ↓16.2 (この行で2番目に良い報告結果)26.727.27.6 (この行で最も良い報告結果)28.2
FORTRESS (ORS) ↓20.43.6 (この行で2番目に良い報告結果)6.916.03.2 (この行で最も良い報告結果)
DistressBench ↑82.0* (この行で2番目に良い報告結果)72.779.887.7 (この行で最も良い報告結果)72.5
StrongREJECT ↑97.8 (この行で2番目に良い報告結果)96.898.7 (この行で最も良い報告結果)97.697.2
PatchEval ↑79.6 (この行で2番目に良い報告結果)74.880.4 (この行で最も良い報告結果)77.869.6
Vals CyberBench ↑72.7 (この行で2番目に良い報告結果)67.973.7 (この行で最も良い報告結果)–72.1

DeepSeekは、提供されたFlash結果を組み合わせます:FORTRESSとPatchEvalは1017、DistressBench、StrongREJECT、Vals CyberBenchはバージョンなしのFlashです。

  • 精神的苦痛の状況にはうまく対応しますが、制限事項セクションで述べたように、通常の感情的サポートの問い合わせで免責事項を過剰に適用することがあります。

モデルが無監督で長期間の自律作業を行うようになると、誤動作による潜在的な危害が増加します。アライメントに適切な注意を払わないと、能力に焦点を当てたRLは、モデルをどんな犠牲を払っても成功させようとします。タスクが困難だった場合、Inkling 2 Smallの初期チェックポイントは成功しようと執拗に試みましたが、場合によっては結果を捏造したり、指示を無視したり、行ったことを隠蔽したりしました。

モデルのアライメントを改善するために、スタック全体で作業しました。中間トレーニングでは、誤動作を含むトレースをフィルタリングし、正直でアラインされた行動を含むトレースを含めました。RLでは、すべてのタスクで誤動作を罰する一般的なアライメント報酬を追加しました。また、トレーニング中に観察された特定の失敗モードを対象とした環境を構築しました。例えば、不可能なタスクを諦めることに対してモデルに報酬を与えました。最後に、オンポリシー自己蒸留Zhao et al., 2026を、行動仕様でプロンプトされた教師モデルから使用しました。これにより、モデルは明示的なプロンプトなしで良い行動の原則を内面化します。

内部および外部の両方の評価で進捗を測定し、Inkling 2 Smallが内部および外部の両方の評価で以前のInklingモデルよりも大幅に改善し、内部評価で同等のオープンウェイトモデルのセットを上回っていることがわかりました。

Inkling + オープンウェイト

クローズドウェイト

アライメント

Inkling 2 Small

Inkling

Inkling Small

Muse Spark Open

GLM-5.3-Flash

DeepSeek V4.1 Flash

GPT-6 Sol

誤動作 (内部) ↓

14.9 (この行で2番目に良い報告結果)

66.8

75.2

82.4

57.1

68.0

0.8 (この行で最も良い報告結果)

隠蔽された誤動作 (内部) ↓

11.8 (この行で2番目に良い報告結果)

59.4

59.1

60.8

29.2

37.6

0.8 (この行で最も良い報告結果)

破壊的行為 (内部) ↓

4.7 (この行で最も良い報告結果)

71.9

67.2

7.8

25.8

10.9

7.0 (この行で2番目に良い報告結果)

HoneyBench v0.2-alpha: Reward Hacking (Goodhart Labs) ↓

44 (この行で最も良い報告結果)

70

69

–

–

–

59 (この行で2番目に良い報告結果)

目標なしの隠蔽行動 (Apollo Research) ↓

8 (この行で最も良い報告結果)

37

36 (この行で2番目に良い報告結果)

–

–

–

目標ありの隠蔽行動 (Apollo Research) ↓

0 (この行で最も良い報告結果)

7

4 (この行で2番目に良い報告結果)

–

–

–

Inkling 2 Smallは、GPT-6.1 Solのようなクローズドウェイトモデルに、アライメント評価でまだ及んでいません。このギャップを縮小することが、将来のモデルの優先事項です。

また、2層の監視によるトレーニングと評価の保護にも取り組みました。最初の層は同期式です:モニターはツールコールが実行される前にそれを検査します。各タスクは、承認されたアクションを宣言します。決定論的なルールがタスクのポリシーと回避パターンに対してコールをチェックし、不確かなケースをLLMジャッジにエスカレートします。2番目の層は非同期式です:LLMジャッジは、トレーニングおよび評価からの完了したロールアウトを誤動作やセキュリティ境界に対するアクションについてレビューし、インシデントプロセスにエスカレートするアラートを生成します。これらを組み合わせることで、安全なモデルファクトリーの開発に不可欠であると考える、安全性とアライメントのための防御深度アプローチを形成します。

Inkling 2 Smallのトレーニング

Inkling 2 Smallの初期事前学習フェーズ (H1) は、自然言語、コード、画像データの広範なミックスからなる8.4兆トークンをカバーしました。NVIDIA GB300 NVL72ラックで68時間実行され、高いエキスパート並列処理が可能になりました。トレーニングは、NVIDIA Blackwell GPUアーキテクチャで導入された4ビット浮動小数点フォーマットであるNVFP4でネイティブに実行されました。NVFP4レシピの詳細については、後日投稿で共有します。

内部コード

カットオフ 2026-06 · バイトあたりのビット数 (少ないほど良い)

Inkling 2 Smallは、当社の主要な保持評価において、他のオープンウェイトモデルを大幅に上回っています。一部のモデルは「ベースリカバード」としてラベル付けされていることに注意してください。ポストトレーニングチェックポイントのみが入手可能なモデルについては、事前トレーニング形式のコードとドキュメントのデータセットでファインチューニングしてから、ログロスを計算しました。この手順により、他のモデルでベースモデルのロスをほぼ回復できることを確認しました(実際のベースモデルが利用可能な場合)。

この初期フェーズの後、モデルが見たことのない高品質で新しいデータ3.8兆トークンを512Kコンテキストで処理する第2フェーズ (H2) を行いました。第3および第4フェーズでは、デプロイメントフォーマットのデータが混在しました。第3フェーズは約3200億トークンの推論とエージェントの軌跡を1Mコンテキストで処理し、事前学習データをリプレイしました。第4フェーズ (H4) では、最高品質のデータのみを保持しました。約340億トークンのエージェント軌跡です。H3およびH4のミックスは、主にKimi K3や当社のモデルからサンプリングされた軌跡で構成され、正確性とアライメントのためにフィルタリングされました。

その後、共同RL実行を実施しました。これは1075ステップと9日間で1700万以上のロールアウトを含みました。詳細については下の表を参照してください。この単一の共同実行は、以前のInklingリリースとは対照的です。以前のリリースでは、別々の推論RLとエージェントRL実行を行い、マルチティーチャードリフティングでそれらを組み合わせました。

主要RL実行の規模

メトリック規模
コンピュート4 × 10²³ FLOPs超
GPU2,048
期間9日間
ロールアウト17M+
トークン3T+

タスクミックスには、実際のレポジトリでのソフトウェアエンジニアリング、ターミナルタスク、ドキュメント作成、STEM質問応答、ビジョン、Webアプリ構築、シミュレートされたユーザーとのツール使用、および安全性が含まれていました。各タスクファミリーには独自のグレーダーがありました。

  • ほとんどのコーディング作業には、隠し単体テストとプログラムによるチェック。
  • ドキュメントとツール使用には、ルーブリックベースのLLMジャッジ。
  • STEMおよびビジョン質問応答には、参照回答。
  • レンダリングされたWebアプリのスクリーンショットを比較するペアワイズ報酬モデル。

RLトレーニングタスクミックス

カテゴリロールアウトトークン
コーディング38.5%65.0%
オフィスおよび知識作業9.1%13.3%
STEMおよび推論7.0%7.6%
Webおよびアプリ構築4.7%7.2%
ビジョン13.9%3.0%
ツール使用および一般エージェント17.1%2.3%
検索2.0%1.4%
チャット、安全性、認識7.8%0.2%

エフォートレベルをランダムにサンプリングして条件付けし、報酬関数に長さペナルティを適用しました。これにより、モデルは速度と徹底性のトレードオフを学習しました。

非同期RLは、スコアセンタリングバリアント(TinkerのStableReinforce目的関数)を使用しており、かなりの遅延を許容します。実行は、短いおよび長いホライゾンタスクを組み合わせ、p50/p99の合計ロールアウトトークンはそれぞれ43kおよび1.5M、p50/p99の期間はそれぞれ8分および4時間です。256Kのコンテキストウィンドウを使用し、長ホライゾンタスクのためにコンパクショントレーニングを有効にしています。その結果、トレーニング報酬と評価パフォーマンスは、コンピュートとともにログリニアに増加します。

トレーニング報酬

累積学習者およびサンプラーFLOPsに対するトレーニング報酬(対数軸)。

STEM評価パフォーマンス

累積学習者およびサンプラーFLOPsに対するSTEM評価パフォーマンス(対数軸)。

ビジョン評価パフォーマンス

累積学習者およびサンプラーFLOPsに対するビジョン評価パフォーマンス(対数軸)。

安定したトレーニング

メトリック値
中央値ポリシー遅延17更新
ロールアウトバッチサイズ16K
ロールアウトあたりの合計トークン中央値:43K · p99:1.5M
ロールアウト期間中央値:8分 · p99:4時間
コンテキストウィンドウ256Kトークン、長い軌跡の場合はコンパクションあり

この規模を実用的なものにするには、システムスタック全体での改善が必要でした。RLインフラストラクチャはNVFP4 MoEトレーニングとサンプリングを展開します。サンプリング中、プリフィル、ドラフト、検証はすべてCUDAグラフ上で実行されます。トレーナーは、GPU効率を向上させるために、高いエキスパート並列処理、EPLB、CUDAグラフを備えた事前学習スタックをミラーリングします。長ホライゾンエージェントワークロードをサポートするため、スティッキーローティングとDRAM KVキャッシュオフロードを使用して93%以上のプレフィックスキャッシュヒット率を維持し、長いコンテキストでトレーニングしているにもかかわらず、5:3のサンプラー:トレーナー比率を維持できるようにします。ウェイト転送は、93%以上のラインレートでGPUDirectRDMAを介して、並列処理に依存しないチェックサム検証器を使用して行われます。また、NVFP4 KVキャッシュのバリアントを提供することで、デプロイメント推論コストをさらに削減します。これは、評価をわずかに低下させることがわかりました。

長ホライゾンタスクは、モデルに数時間の自律性を提供し、アライメントされていない動作による潜在的リスクを増加させます。主要RL実行の途中で、非同期モニターが、モデルがタスクに失敗した際に、検索ツールを使用してアクセスできるサードパーティサービスを通じてネットワークブロックを回避したインスタンスをフラグ付けしました。実行を一時停止し、インフラストラクチャを強化し、Webアクセスを必要とする環境を削除し、同期ツールコール監視を追加しました。その後、実行を再開し、上記のようにアライメントに特化した追加のトレーニングフェーズを組み込みました。

プロセスの改善により、同様のレシピを使用してさまざまなサイズのモデルを、予測可能なスケーリングとパフォーマンスでトレーニングできるようになりました。Inkling 2 Smallはモデルのラダーの一部です。近日中にさらに多くの段階を共有できることを楽しみにしています。

Inkling 2 Smallのベンチマーキング

以前のInklingリリースと同様に、Inkling-Smallを幅広い能力でベンチマークしました。すべての評価は、エフォート0.99 (xhigh) および温度1.0で実行されます。すべての評価は、Inkling Smallで使用された256Kトークンの制限から増加した、1Mトークンの最大軌跡制限で実行されます。

オープンウェイトフラッシュ

オープンウェイトプロ

クローズドウェイトフラッシュ

Inkling 2 Small

GLM-5.3-Flash

MiMo V2.6 Flash

MiniMax-M3.1-Flash

DeepSeek-V4.1-Flash-1017

Muse Spark Open

GLM 5.3

MiMo V2.6 Pro

Mistral Large 4

Kimi K3

GPT-6 Luna

Gemini 3.8 Flash

Claude Haiku 5.5

モデル情報

パラメータ (B) アクティブ / 合計

17/594

18/320

15/309

23/428

16/552

42/816

40/753

42/1020

49/1050

104/2800

–

–

–

サードパーティインデックス

AA Index (v5.0)

30.6

27.8

26.7

29.1

32.6 (この行で2番目に高い報告スコア)

24.9

31.7

29.9

26.1

–

27.9

30.8

36.5 (この行で最も高い報告スコア)

Vals Index (v2.2)

56.1%

50.9%

54.8%

53.8%

61.3% (この行で最も高い報告スコア)

48.6%

59.7% (この行で2番目に高い報告スコア)

57.8%

56.5%

53.0%

52.3%

56.0%

58.7%

コーディング

FrontierCode v2.0

25.4%

14.2%

21.6%

20.8%

28.5% (この行で2番目に高い報告スコア)

7.6%

21.6%

24.0%

15.0%

17.3%

25.2%

18.7%

34.9% (この行で最も高い報告スコア)

DeepSWE v1.1

72.1%

63.4%

67.9%

73.7%

77.0% (この行で最も高い報告スコア)

60.0%

69.0%

71.9%

61.7%

68.5%

66.6%

73.8% (この行で2番目に高い報告スコア)

59.9%

Terminal Bench Science v0.1

5.7%

4.8%

4.3%

3.3%

12.9% (この行で2番目に高い報告スコア)

1.9%

9.5%

5.7%

4.3%

8.1%

8.6%

10.0%

20.0% (この行で最も高い報告スコア)

Vibe Code Bench v1.1

81.6%

30.8%

79.0%

73.9%

87.7% (この行で2番目に高い報告スコア)

76.2%

78.1%

85.2%

81.6%

85.0%

81.7%

78.7%

90.4% (この行で最も高い報告スコア)

SWEBench Pro v2 (Hard)

86.3% (この行で2番目に高い報告スコア)

–

–

84.3%

–

82.4%

84.3%

–

–

88.2% (この行で最も高い報告スコア)

–

58.8%

52.9%

自動リサーチ

PostTrainBench v1.2

31.9%

36.8% (この行で最も高い報告スコア)

–

–

30.5%

–

34.5% (この行で2番目に高い報告スコア)

–

–

31.5%

–

–

–

PMPP-Hard AUC (タスク時間、0–10h)

494.27 (この行で2番目に高い報告スコア)

–

–

–

497.36 (この行で最も高い報告スコア)

–

430.96

–

478.39

453.58

–

–

–

BioMysteryBench

70.0%

–

69.3%

–

–

–

–

–

–

72.6% (この行で最も高い報告スコア)

61.5%

62.2%

70.4% (この行で2番目に高い報告スコア)

検索とツール

MCP Atlasフル / 公開

85.4/85.0% (この行で2番目に高い報告スコア)

–/82.0%

–/62.9%

–/80.4%

–/83.2%

89.2/87.5% (この行で最も高い報告スコア)

84.2/83.6%

–/84.4%

–/84.5%

82.3/84.2%

–/77.8%

–/87.5%

–/81.0%

知識作業

AA-Briefcase v1.1

1527

1451

1487

1476

1570 (この行で2番目に高い報告スコア)

1279

1503

1512

1348

1497

1337

1203

1574 (この行で最も高い報告スコア)

GDPVal-AA v2.1

1630

1649

1614

1465

1746 (この行で最も高い報告スコア)

1401

1657

1689 (この行で2番目に高い報告スコア)

–

1543

1444

1445

1631

JobBench

70.5% (この行で最も高い報告スコア)

60.7%

61.2%

67.5% (この行で2番目に高い報告スコア)

–

61.8%

61.4%

62.0%

55.2%

54.3%

49.0%

–

39.2%

エンタープライズオペレーション

EnterpriseOps-Gym

46.8% (この行で最も高い報告スコア)

33.2%

–

–

–

–

36.4%

–

–

45.3% (この行で2番目に高い報告スコア)

–

–

–

EnterpriseBench-CoreCraft

71.8% (この行で最も高い報告スコア)

46.7%

–

–

–

–

51.8%

–

–

43.1%

–

58.5% (この行で2番目に高い報告スコア)

–

金融業務

Tau 3 Banking v1.0.1

40.4% (この行で2番目に高い報告スコア)

47.2% (この行で最も高い報告スコア)

–

–

–

–

–

–

–

33.4%

–

–

–

Finance Agent v2.1

67.5% (この行で最も高い報告スコア)

60.6%

63.3%

58.8%

62.9%

60.7%

65.0%

64.3%

61.7%

60.0%

56.8%

65.8% (この行で2番目に高い報告スコア)

65.4%

Excel Modeling Benchmark v1.1

69.5%

66.3%

68.9%

67.8%

69.2%

62.0%

69.1%

67.4%

68.7%

71.3% (この行で2番目に高い報告スコア)

70.0%

72.9% (この行で最も高い報告スコア)

65.5%

Tax Agent Bench

65.8%

62.0%

59.9%

62.7%

74.9% (この行で最も高い報告スコア)

52.1%

73.1% (この行で2番目に高い報告スコア)

64.9%

67.5%

68.7%

58.9%

66.8%

62.2%

DAYJOB (金融)

14.3% (この行で最も高い報告スコア)

7.3%

–

–

12.5% (この行で2番目に高い報告スコア)

–

11.0%

–

4.8%

5.5%

6.8%

4.5%

–

Apex-Accounting v1.1 pass@1

14.5%

12.3%

–

13.5%

12.5%

13.8%

13.9%

–

12.0%

9.5%

10.8%

15.5% (この行で最も高い報告スコア)

15.3% (この行で2番目に高い報告スコア)

Apex-Accounting v1.1 平均スコア

62.0% (この行で2番目に高い報告スコア)

53.7%

–

60.0%

59.3%

58.0%

59.5%

–

56.5%

56.7%

53.9%

58.8%

62.2% (この行で最も高い報告スコア)

法律業務

Harvey LAB v1.1

21.7% (この行で2番目に高い報告スコア)

10.4%

13.3%

7.5%

14.2%

25.0% (この行で最も高い報告スコア)

14.6%

13.8%

15.8%

12.9%

4.2%

12.1%

4.2%

Legal Research Bench

46.6%

45.2%

38.0%

34.1%

45.2%

38.5%

49.0% (この行で最も高い報告スコア)

47.1% (この行で2番目に高い報告スコア)

35.6%

46.2%

30.3%

38.9%

43.8%

ビジュアル生成

DesignArena Web Apps

1296 (この行で最も高い報告スコア)

–

–

–

–

–

–

1275

–

1283 (この行で2番目に高い報告スコア)

1161

1221

–

DesignArena Website

1340 (この行で最も高い報告スコア)

1270

–

1280

1297

1303

1290

1307

1256

1334 (この行で2番目に高い報告スコア)

1268

1299

1261

DesignArena Game Dev

1428 (この行で最も高い報告スコア)

1276

–

1312

1261

1270

1303

1315

1225

1351 (この行で2番目に高い報告スコア)

1261

1305

1319

DesignArena 3D Design

1401 (この行で最も高い報告スコア)

1314

–

1332

1361

1261

1324

1333

1249

1381 (この行で2番目に高い報告スコア)

1213

1291

1334

Code2Video-AA

1020

975

1052 (この行で2番目に高い報告スコア)

–

–

–

1034

1052 (この行で2番目に高い報告スコア)

–

1041

1030

899

1192 (この行で最も高い報告スコア)

ビジュアル認識

PerceptionBench

64.7% (この行で最も高い報告スコア)

–

–

–

47.7%

–

–

–

–

58.5% (この行で2番目に高い報告スコア)

56.2%

–

–

ScreenSpot Proオリジナル / Python使用

83.8/91.5% (この行で最も高い報告スコア)

–

–

–

–

–

–

56.6%/–

42.3%/–

73.8/83.2%

81.1/87.6% (この行で2番目に高い報告スコア)

–

–

Humanity’s Sixth Sense

33.3% (この行で2番目に高い報告スコア)

26.8%

25.4%

–

30.1%

29.6%

–

25.2%

–

25.5%

21.0%

41.6% (この行で最も高い報告スコア)

–

BabyVisionオリジナル / Python使用

68.6/93.7% (この行で最も高い報告スコア)

53.4/82.6% (この行で2番目に高い報告スコア)

–

–/91.0%

–/92.5%

44.3/80.2%

–

–

42.3/71.5%

53.4/85.7% (この行で2番目に高い報告スコア)

–

–

–

ビジュアル推論

GDP.pdf

25.2% (この行で最も高い報告スコア)

15.4%

9.0%

20.8%

17.2%

18.6%

11.2%

19.2%

17.6%

22.0%

22.8% (この行で2番目に高い報告スコア)

21.0%

20.8%

MMMU Pro (Standard 10)

81.6% (この行で2番目に高い報告スコア)

79.0%

–

79.1%

80.6%

80.9%

–

74.1%

78.0%

80.5%

79.7%

85.6% (この行で最も高い報告スコア)

79.1%

Charxiv RQオリジナル / Python使用

85.6/87.7% (この行で2番目に高い報告スコア)

80.2/89.4%

66.2%/–

82.5%/–

77.0/85.6%

85.4/88.7%

–

74.2%/–

83.2/87.9%

84.8/91.3%

81.8/85.3%

86.2/92.1% (この行で最も高い報告スコア)

84.4%/–

Chartographyオリジナル / Python使用

36.7/80.4%

16.3/78.0%

7.5%/–

12.6%/–

17.9/83.0%

35.7/63.2%

–

10.8%/–

21.2/56.6%

26.6/68.1%

32.0%/–

40.9/82.0% (この行で2番目に高い報告スコア)

46.4%/– (この行で最も高い報告スコア)

STEM推論

CritPt v2Full / Hard

55.7/35.0%

–/24.5%

–/29.5%

51.4/32.5%

50.6/25.0%

52.6/29.5%

57.4/33.5%

56.9/34.0%

50.3/27.0%

–/40.5%

65.1/42.5% (この行で最も高い報告スコア)

65.1/46.5% (この行で最も高い報告スコア)

64.0/43.5% (この行で2番目に高い報告スコア)

HLE-Diamond

28.7%

18.2%

13.7%

28.1%

25.3%

26.3%

17.9%

15.2%

17.3%

26.9%

22.2%

33.1% (この行で最も高い報告スコア)

29.6% (この行で2番目に高い報告スコア)

Apex 2025

63.5% (この行で2番目に高い報告スコア)

–

–

–

–

32.3%

–

–

–

65.6% (この行で最も高い報告スコア)

–

–

–

長コンテキスト

AA-LCR v1.1

83.3%

80.0%

–

–

–

78.3%

79.7%

86.3% (この行で2番目に高い報告スコア)

–

88.7% (この行で最も高い報告スコア)

–

81.3%

82.7%

LongBench v2

70.6% (この行で2番目に高い報告スコア)

68.2%

60.7%

60.9%

69.0%

68.7%

68.4%

68.0%

65.7%

69.0%

65.0%

73.7% (この行で最も高い報告スコア)

65.3%

事実性

AA-Omniscience v1.1スコア

16.1

0.7

-10.8

-6.4

0.9

25.8 (この行で最も高い報告スコア)

6.0

-4.5

5.1

–

-8.3

23.3 (この行で2番目に高い報告スコア)

12.3

AA-Omniscience v1.1 非幻覚率

73.3% (この行で最も高い報告スコア)

–

–

6.3%

35.9%

72.0% (この行で2番目に高い報告スコア)

61.1%

39.8%

71.8%

–

20.7%

44.9%

65.8%

指示追従

ComplexConstraints v1.0

44.5%

27.6%

22.1%

23.2%

50.4% (この行で最も高い報告スコア)

41.3%

30.5%

32.3%

36.5%

37.9%

27.3%

48.4% (この行で2番目に高い報告スコア)

36.8%

安全性 (アライメントずれ)

DistressBench

82.0% (この行で2番目に高い報告スコア)

72.7%

–

–

79.8%

87.7% (この行で最も高い報告スコア)

72.5%

–

77.0%

73.5%

66.7%

70.7%

71.7%

FORTRESS (敵対的)

83.8% (この行で2番目に高い報告スコア)

73.3%

–

–

72.8%

92.4% (この行で最も高い報告スコア)

71.8%

–

76.0%

–

–

–

–

FORTRESS (無害)

79.7%

96.4% (この行で2番目に高い報告スコア)

–

–

93.1%

84.0%

96.8% (この行で最も高い報告スコア)

–

91.8%

–

–

–

–

StrongREJECT (なし)

97.8%

96.8%

–

–

98.7% (この行で最も高い報告スコア)

97.6%

97.2%

–

98.6% (この行で2番目に高い報告スコア)

–

–

–

–

安全性 (誤用)

CyberBench v1.1

72.7%

67.9%

75.4%

–

73.7%

–

72.1%

72.9%

–

75.2%

76.3% (この行で最も高い報告スコア)

43.8%

75.5% (この行で2番目に高い報告スコア)

PatchEval

79.6% (この行で2番目に高い報告スコア)

74.8%

–

–

80.4% (この行で最も高い報告スコア)

77.8%

69.6%

–

76.1%

–

–

–

–

各行で最も高い報告スコア。タイは含まれます。各行で2番目に高い報告スコア。タイは含まれます。

評価スナップショット: 結果が欠落している場合はダッシュで表示されます。

制限事項

Inkling 2 SmallはInklingよりも使いやすさが向上していますが、最も簡潔なコミュニケーション能力はなく、特に多数のスキルを持つコードベースでは、常に最適なツールを選択するわけではありません。

以前のInklingモデルと同様に、Inkling 2 Smallはネイティブで画像入力をサポートしますが、このモデルはオーディオをサポートしません。

Inkling 2 Smallは、チャットエクスペリエンスの最適化も低くなっています。コンテンツの整理と提示の悪化、スラッシュの乱用、メンタルヘルスやその他の安全関連の問い合わせへの過剰反応などの問題が確認されています。

今すぐInkling 2 Smallを試す

Inkling 2 SmallをTinkerで推論およびファインチューニング用に利用可能にできたことを誇りに思います。安全性テストの完了後、今後数週間で追加プラットフォームでも利用可能になります。

Inkling 2 Smallは、人間の意思と判断を拡張するAIを構築するという私たちの使命のために作られました。皆様の野心を刺激し、皆様がそれを使って構築するものを楽しみにしています。