LFM2.5-24B-A2B: 高速なオンデバイスエージェント向けに構築

本日、アクティブパラメータがわずか20億の240億パラメータ推論モデル、LFM2.5-24B-A2Bをリリースします。これは、高速でプライベートなオンデバイスエージェントのために構築されたものです。このモデルは、LFM2.5ファミリーの中で最大かつ最後のモデルであり、LFM2.5-230MからLFM2.5-24B-A2Bまで、2桁にわたる規模をカバーしています。 LFM2.5-24B-A2Bは、総パラメータ数およびアクティブパラメータ数が約50%多いQwen3.6-35B-A3Bモデルと比較して、8つのエージェントおよびツール使用ベンチマークのうち5つで競争力があり、LiveClawで48.09、AutomationBenchで27.69を記録しました。これは、AutomationBenchで8.72を記録したモデルと比較して大幅な向上です。トークンあたりアクティブなパラメータは20億しかないため、オンデバイスで同等のMoEモデルよりも最大1.7倍高速に動作し、Apple M5 Maxでは毎秒184トークン、単一のNVIDIA B300 GPUでは毎秒21K出力トークンを処理できます。 ベースモデル（LFM2.5-24B-A2B-Base）とポストトレーニング済みモデル（LFM2.5-24B-A2B）はオープンウェイトであり、Hugging Faceおよび当社のPlaygroundで利用可能です。ローカルでの実行およびファインチューニング方法については、ドキュメントをご覧ください。 LFM2-24B-A2Bからの変更点 LFM2.5-24B-A2Bは、以前のLFM2-24B-A2Bリリースを基盤とし、語彙とコンテキストウィンドウを拡張し、事前学習をスケールアップし、大規模な強化学習を行いました。前モデルとは異なり、LFM2.5-24B-A2Bは、最終的な回答の前に明示的な思考連鎖を生成する推論専用モデルです。この戦略を採用したのは、デコード速度の高さを活用し、回答の品質を向上させるためです。 アーキテクチャ。40層、MoEブロックあたり64エキスパート、トップ4ルーティング、およびゲート付きショート畳み込みとGQAのハイブリッドは維持されています。2つのアーキテクチャ上の変更点は、コンテキストウィンドウが32,768から131,072トークンに拡張されたこと、およびインプレース・トークナイザー拡張により、非ラテン文字のトークン化を改善するために語彙が65Kから128Kトークンに倍増したことです。 事前学習は17兆トークンから33兆トークンにスケールアップされました。 中間学習には2つのフェーズがあります。最初のフェーズは、推論、数学、コード、指示追従、多言語テキストに重点を置いた、キュレーションされた高品質データで32Kコンテキストで2兆トークンを実行します。2番目のフェーズは、ロングコンテキストデータに重点を置いた3000億トークンを131Kコンテキストで実行します。ツール呼び出しとマルチターントラジェクトリは、エージェントワークロードに対応するために両方のフェーズにわたって出現します。 ポストトレーニングは、以下に示す5段階のパイプラインでLFM2.5-24B-A2B-Baseをエージェント対応のLFM2.5-24B-A2Bに変換します。（1）教師ありファインチューニング（SFT）、（2）教師特殊化、（3）非エージェント、（4）エージェント対応マルチドメインオンポリシー蒸留（MOPD）、（5）エージェント対応強化学習（Agentic RL）。OpenClaw、Hermes Agent、Pi、OpenCodeなどのエージェントハーネス内でモデルをトレーニングします。 図2: LFM2.5-24B-A2B ポストトレーニングレシピ 教師特殊化の期間中、LFM2.5-24B-A2Bは、リポジトリのgit履歴やGitHub、PyPI、Hugging Faceなどのプラットフォームで最終的な回答を検索するという、よく知られた報酬ハッキングの挙動を示しました。さらに驚くべきことに、以下の例に示すように、自身がサンドボックス内にいることさえ理解しました。 この挙動は創発的に見えますが、トレーニングデータに類似のパターンが含まれていることで説明できるかもしれません。その結果、サンドボックスを厳格化し、以下のすべての結果は密封された評価環境から取得されています。 ベンチマーク LFM2.5-24B-A2Bを、ツール使用とエージェントワークフロー、知識、指示追従、数学、コーディングをカバーする16のベンチマークで評価しました。総パラメータ数とアクティブパラメータ数の両方で最小のモデルであるにもかかわらず、総パラメータ数とアクティブパラメータ数が約50%多いQwen3.6-35B-A3Bのような、より大きなMoEモデルと競争力があり、しばしばそれを上回ります。 ベンチマーク | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) ------- | -------- | -------- | -------- | -------- AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 PinchBench | 83.18 | 89.93 | 77.12 | 84.20 τ³-Bench Banking | 8.04 | 7.63 | 4.54 | 7.01 WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 AA-Omniscience | 24.90 | - | 24.35 | -59.39 HLE | 7.40 | 7.69 | 8.57 | 5.65 IFEval | 96.75 | 93.06 | 92.00 | 94.19 IFBench | 74.69 | 64.21 | 47.44 | 71.67 Multi-IF | 84.38 | 81.53 | 82.19 | 82.34 MATH-500 | 96.04 | 96.73 | 95.66 | 96.40 SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 SciCode | 32.71 | 37.35 | 35.42 | 27.78 表1: LFM2.5-24B-A2B ベンチマークパフォーマンス* LFM2.5-24B-A2Bは、8つのツール使用およびエージェントベンチマークのうち5つ（AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking）で競合をリードまたは同等であり、AutomationBenchでは次のベストモデルの3倍以上のスコアを記録しました。また、3つの指示追従ベンチマークすべてでリードしています。GPQA Diamond、HLE、AA-Omniscienceのような知識集約型のベンチマークや、SWE-Bench Verified (OpenCode) および SciCode のようなコーディングベンチマークでは、より大きなモデルが優位性を保っています。 これらの結果により、LFM2.5-24B-A2Bは、デバイス上で確実に動作し、推論やツール呼び出しを行うエージェントの理想的な基盤となります。知識集約型のワークロードには、リトリーバルやウェブ検索と組み合わせることを推奨します。これは、ツールの呼び出し能力を活かすことができます。 どこでも高速な推論 LFM2.5-24B-A2Bは、推論エコシステム全体で初日からサポートされています。 llama.cpp — 効率的なエッジ推論のためのGGUFチェックポイント MLX — Apple Silicon向けの最適化された推論 vLLM — 本番スループットのためのGPUアクセラレーションサービング SGLang — 高性能GPUサービングフレームワーク ONNX — 多様なアクセラレータを横断するクロスプラットフォーム推論 すべての実行は、Liquid AIの公開デバイスパフォーマンスデータの基盤となったベンチマークインフラストラクチャであるPipetteで収集されました。 エッジ推論。効率的なLFM2アーキテクチャにより、LFM2.5-24B-A2Bは、プロンプトの読み込みと回答の生成において、比較対象のMoEの中で最も高速です。Apple M5 Maxでは毎秒184トークン、AMD Ryzen AI Max+ 395では毎秒114トークンをデコードし、次のベストモデルよりも最大1.7倍高速でありながら、最も少ないメモリを使用します。 GPU推論。LFMアーキテクチャの競争力を示すために、同様のサイズの他のMoEモデルとのGPU推論スループットを比較します。単一のNVIDIA B300 GPUで、持続的な負荷設定を使用してGPUスループット（総出力トークン/壁時計時間）を測定します。各並行度レベルで、ターゲット数のインフライトリクエストを継続的に維持し、完了したリクエストは即座に置き換えます。 SGLang 0.5.22、1,024入力トークン、最大256出力トークン、BF16で各モデルをベンチマークします。LFM2.5-24B-A2Bは、そのサイズクラスで最も高速なモデルであり、高並行度で毎秒21K以上の出力トークンに達します。 LFM2.5-24B-A2Bでローカルエージェントを実行する LFM2.5-24B-A2Bのサイズ、速度、および機能は、独自のハードウェアで継続的に実行されるエージェントにとって優れた選択肢となります。以下のデモでは、M5 Max MacBook Pro上でHermes Agent内で実行し、クラウドAPI呼び出しなしで、完全にオンデバイスで計画、ツール呼び出し、および実際のタスク処理を行います。 ビデオ1: Hugging Faceのトレンドモデルに関するモーニングブリーフィングを作成し、フォローアップの質問に答えるLFM2.5-24B-A2Bを搭載したローカルHermes Agent。 デモのポイントは個々のツールではありません。コンシューマーハードウェア上でツールディスパッチループがインタラクティブに感じられることです。質問、提案、確認、実行、繰り返し、すべてがディスパッチあたり1秒未満で完了し、完全な監査証跡があり、データはデバイスから離れることはありません。モデルをローカルでサービングし、選択したエージェントハーネスに接続する方法については、ローカルエージェントガイドをご覧ください。 始める Hugging Faceで利用可能なLFM2.5-24B-A2Bで、今日から構築を始めましょう。 API推論については、Liquid Consoleにサインアップすることもできます。サインアップすると、開始するための2ドルのクレジットが付与されます。モデルの価格は、入力トークン100万あたり0.10ドル（キャッシュ入力は0.05ドル）、出力トークン100万あたり1.00ドルです。 LFM2.5により、私たちはどこでも実行できるAIというビジョンを実現しています。これらのモデルは以下の通りです。 オープンウェイト — ダウンロード、ファインチューニング、デプロイ。モデルライセンスをご覧ください。 初日から高速 — Apple、AMD、Qualcomm、Nvidiaハードウェア全体でllama.cpp、MLX、vLLMのネイティブサポート。 完全なファミリー — カスタマイズ用のベースモデルから、特殊化されたオーディオおよびビジョンバリアントまで、単一のアーキテクチャが多様なユースケースをカバーします。 皆様の創造を楽しみにしています。 Hugging Faceでダウンロード LFM2.5-24B-A2Bで選択したハーネスをローカルで実行する APIと統合する 引用 引用については、こちらをご覧ください。