HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Qwen 3.8 27Bがリリース:オープンウェイト、現時点で最高のローカル密モデル

Qwen 3.8 27B is out: open weights, best local dense model yet (huggingface.co)

1387 pointsby erdaltoprak778 コメント

要約

大規模言語モデル「Qwen 3.8 27B」がリリースされました。このモデルはオープンウェイトであり、ローカル環境で実行可能な密モデル(dense model)として現時点で最高性能を謳っています。AI研究者や開発者にとって、ローカルでの高度なAIモデル利用の選択肢が広がったことを意味します。

全文翻訳

Qwen / Qwen3.8-27B-FP8

Qwen3.8-27B-FP8

このリポジトリには、Hugging Face Transformers形式の後処理済みモデルのFP8量子化されたウェイトと設定ファイルが含まれています。

これらのアーティファクトは、Hugging Face Transformers、vLLM、SGLang、TokenSpeedなどと互換性があります。

量子化手法は、ブロックサイズ128のきめ細かなfp8量子化であり、そのパフォーマンスメトリクスは元のモデルとほぼ同等です。

インフラストラクチャのメンテナンスなしで、スケーラブルな推論を管理したいユーザーのために、Qwen Cloud による公式Qwen APIサービスが提供されています。

特に、Qwen3.8-27B は、デフォルトで1Mのコンテキスト長、公式の組み込みツールなどの、より多くのプロダクション機能を持つホストバージョンとして利用可能になります。詳細については、Qwen3.8-27B Overview を参照してください。サービスは近日公開予定です。最新情報にご期待ください。

Qwen3.5およびQwen3.6シリーズのコミュニティでの広範な採用に続き、Qwenオープンモデルファミリーの中で最も高性能な世代であるQwen3.8を発表できることを嬉しく思います。

Qwen3.5のアーキテクチャ基盤上に構築されたQwen3.8は、コーディング、専門的な作業、研究、長期的エージェントタスクにおいて大幅な進歩をもたらします。Qwen3.8-27Bは、これらの進歩をコンパクトでデプロイしやすい密モデルにもたらします。これは、画像と動画を理解するネイティブなビジョン・言語モデルであり、柔軟な思考制御を備え、複雑で多段階のタスクをより確実に完了できるように設計されています。

Qwen3.8のハイライト

Qwen3.8-27Bは以下の強化機能を備えています。

  • コア機能: コーディング、専門的な作業、研究、長期的エージェントタスク全体での包括的な改善。
  • エージェント実行: より強力な自律計画と環境フィードバックの処理能力向上により、エンドツーエンドのタスク完了の信頼性が向上。
  • 下流互換性: 人気のあるハーネスや開発ツールへのサポートが拡大され、既存のスタックへの統合が容易に。
  • 柔軟な思考制御: 思考モードはデフォルトでオンになっており、リクエストごとに無効化できます。reasoning_effortで推論の深さを調整でき、preserve_thinkingを介して履歴メッセージからの推論コンテキストが保持されます。
  • ビジョン・言語理解: STEM図やドキュメントから、時間スケールの動画まで、画像と動画のネイティブサポート。

モデル概要

  • タイプ: ビジョンエンコーダー付き因果言語モデル
  • トレーニングステージ: 事前トレーニング & 後処理
  • 言語モデル
    • パラメータ数: 27B
    • 隠れ層の次元: 5120
    • トークン埋め込み: 248,320 (パディング済み)
    • レイヤー数: 64
    • 隠れ層レイアウト: 16 × (3 × (Gated DeltaNet → FFN) → 1 × (Gated Attention → FFN))
    • Gated DeltaNet:
      • 線形アテンションヘッド数: V用48、QK用16
      • ヘッド次元: 128
    • Gated Attention:
      • アテンションヘッド数: Q用24、KV用4
      • ヘッド次元: 256
      • ロータリー位置埋め込み次元: 64
    • Feed Forward Network:
      • 中間次元: 17,408
    • LM出力: 248,320 (パディング済み)
    • MTP (Multi-Token Prediction): 複数ステップでトレーニング済み
  • コンテキスト長: ネイティブで262,144、最大1,000,000トークンまで拡張可能。

ベンチマーク結果

テキストパフォーマンス
Qwen3.8-27BQwen3.6-27BQwen3.7-PlusMuse Glimmer-30BOpus4.6 Max
コーディング
Agentic terminal coding73.063.464.051.778.2
Agentic coding61.753.557.651.253.4
Repo-level code generation42.336.241.1--47.6
Agentic coding42.213.314.2----
Software engineering79.049.359.2--63.8
エージェント
Long-horizon office work70.761.065.1--68.2
Professional job tasks33.421.827.6----
Frontier agentic tasks20.410.613.2----
全般
Instruction following79.569.179.177.062.5
Scientific reasoning89.287.890.383.591.3
Multidisciplinary reasoning30.824.034.722.040.0
Competitive coding90.383.989.6--88.8
  1. SWE-bench Pro: Opus4.6 Maxを除き、公式報告スコアを使用。他のモデルは Claude Code ハーネスで temp=1.0、top_p=0.95、256Kコンテキストウィンドウで評価。問題のあるタスクは修正され、すべてのベースラインモデルは改良されたベンチマークで再評価されました。
  2. NL2Repo-Bench: Claude Code ハーネスで評価。リワードハッキングを防ぐため、pip download、pip install、git clone など、特定のリポジトリにアクセスしようとするBashコマンドは無効化されています。
  3. DeepSWE 1.1: Claude Code ハーネスで temp=1.0、top_p=0.95、256Kコンテキストウィンドウで評価。
  4. QwenSWEBench: モデルのソフトウェアエンジニアリング能力を評価するため社内で作成されたコーディングベンチマーク。Claude Code ハーネスで評価。avg@3、8時間タイムアウト、max_tokens=32,768、temperature=1.0、256Kコンテキストウィンドウを報告。
  5. CoWorkBench: コンピュータサイエンス、金融、法律、医療、その他の生産性ドメインにわたる長期的タスクを評価するため社内で作成された共同作業ベンチマーク。
  6. HLE: GPT-4o によって採点。
  7. 各行で最良の結果は太字で表示されています。
  8. 空欄(--)は、結果がまだ利用できないか、適用できないことを示します。
VLパフォーマンス
Qwen3.8-27BQwen3.6-27BQwen3.7-PlusMuse Glimmer-30BOpus4.6 Max
Agentic Multimodal Intelligence
Computer use84.363.973.365.972.7
Browser use64.848.855.3----
Mobile use81.970.381.0--62.0
Application recreation47.129.830.2----
Multimodal tool use57.442.650.457.452.5
Multimodal software engineering38.625.730.0--27.1
Visual web development62.945.042.1----
General Multimodal Intelligence
Visual math problem solving90.090.3--65.5--
General visual reasoning65.728.964.7--12.6
Scientific chart analysis83.778.485.885.966.0
Document intelligence91.189.491.475.886.6
Real-world perception85.984.186.9--73.9
Embodied intelligence65.562.569.8--40.8
  1. MathVision, BabyVision, CharXiv (RQ): 両方の設定が利用可能な場合は、「Without CI」と「With CI」を別々に報告。それ以外の場合は、利用可能な設定のみを表示。MathVisionとCharXiv (RQ) の少数の誤った正解アノテーションは手動検証後に修正され、それらのベンチマークで報告されたすべてのスコアは修正されたアノテーションを使用して計算されました。
  2. MathVision: Qwen3.8-27Bは、固定プロンプト「Please reason step by step, and put your final answer within oxed{}.」を使用して評価されます。他のモデルについては、oxed{}フォーマット要件ありとなしの2つのプロンプトバリアントから高い方のスコアを報告します。
  3. WebArena-Verified: OSWorldスキャフォールド下で公式のWebArena-Verifiedグレーダーを使用してスコアを計算。
  4. RecreationBench: デスクトップ(Ubuntu、macOS、Windows)、モバイル(Android)、Webの5つのプラットフォームにわたるハイブリッドエージェント機能を評価するために社内で作成された、長期的アプリケーション再現ベンチマーク。
  5. ClawEval-MM: スコアは「Pass@3 / 平均スコア」として報告されます。Pass@3は、3回の試行のうち少なくとも1回でタスクをパスした割合。平均スコアは、3回の試行における平均ベンチマークスコアです。
  6. Vision2Web: スコアはフロントエンド、ウェブページ、ウェブサイトのカテゴリ全体で平均化されます。評価はClaude Codeハーネスを使用し、gpt-5.4-2026-03-05 によって採点されます。
  7. SWE-MM: Claude Code ハーネス上で、SWE-bench Multimodal の公開開発スプリットを使用し、Claude Opus 4.7 システムカードの付録8.3に記載されている変更を加えて評価。
  8. 空欄(--)は、結果がまだ利用できないか、適用できないことを示します。

クイックスタート

統合を容易にするため、API経由でのQwen3.8の利用を推奨します。

Qwen3.8のサービング

推論効率とスループットは、フレームワークによって大きく異なります。最適なパフォーマンスと互換性を確保するために、最新のフレームワークバージョンを使用することを推奨します。プロダクションワークロードまたは高スループットシナリオでは、SGLang、vLLM、TokenSpeedなどの専用サービングエンジンを推奨します。

Qwen3.8は、以下のような一般的な推論フレームワークでデプロイできます。

APIの使用

Qwen3.8モデルはデフォルトで思考モードで動作し、最終的な応答を生成する前に、`<think>
...

</think>

`で示される思考コンテンツを生成します。思考コンテンツを無効にして直接応答を得るには、こちらの例を参照してください。

生成には以下のサンプリングパラメータセットの使用を推奨します。

  • 思考モード: temperature=1.0、top_p=0.95、top_k=20、min_p=0.0、presence_penalty=0.0、repetition_penalty=1.0
  • Instruct(または非思考)モード: temperature=0.7、top_p=0.80、top_k=20、min_p=0.0、presence_penalty=1.5、repetition_penalty=1.0

サンプリングパラメータのサポートは、推論フレームワークによって異なることに注意してください。

Qwen3.8にはreasoning_effortの公式サポートが付属しており、推論の深さを調整し、コストを制御するために使用できます。

  • xhigh (デフォルト): 綿密な分析を必要とする複雑なタスク向け
  • medium: 精度と速度のバランス
  • low: 速度とコストを最適化する効率的な推論

さらに、preserve_thinkingは、最高のすぐに使えるエクスペリエンスのために、すべてのワークロードでデフォルトで有効になっています。保存された思考を無効にするには、こちらの例を参照してください。

マルチターンエージェントタスクでは、低い推論努力が必ずしもタスク全体の完了時間を短縮するとは限りません。ターンごとの応答は速くなる可能性がありますが、不十分な分析、より多くの失敗、および繰り返しの試行につながり、総遅延とトークン消費が増加する可能性があります。

チャット補完API

チャット補完APIは、ほとんどの推論フレームワークおよびQwen Cloudで使用できます。開始する前に、OpenAI Python SDKがインストールされており、APIキーとAPIベースURLが設定されていることを確認してください。例:

pip install -U openai

# 以下を適切に設定してください
export OPENAI_BASE_URL='your-base-url'
export OPENAI_API_KEY='your-api-key'
テキストのみの入力
from openai import OpenAI
# 環境変数で設定
client = OpenAI()

messages = [{"role": "user", "content": "Write a Python function to merge two sorted linked lists."}]

completion = client.chat.completions.create(
    model="Qwen/Qwen3.8-27B-FP8",
    messages=messages,
    extra_body={
        "chat_template_kwargs": {
            "enable_thinking": True,  # デフォルトでオン
            "preserve_thinking": True, # デフォルトでオン
        },
    },
    reasoning_effort="xhigh",  # デフォルトはxhigh。サポートされるレベルはxhigh、medium、lowです。
    stream=True,
    stream_options={"include_usage": True},
)

reasoning_content = ""
answer_content = ""
is_answering = False
print("\n" + "=" * 20 + "Reasoning" + "=" * 20 + "\n")

for chunk in completion:
    if not chunk.choices:
        print("\nUsage:")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content
    elif hasattr(delta, "reasoning") and delta.reasoning is not None:
        if not is_answering:
            print(delta.reasoning, end="", flush=True)
        reasoning_content += delta.reasoning

    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "Answer" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

messages.append({
    "role": "assistant",
    "content": answer_content,
    "reasoning_content": reasoning_content,
    "reasoning": reasoning_content,
})
画像入力
from openai import OpenAI
# 環境変数で設定
client = OpenAI()

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image_url",
                "image_url": {
                    "url": "https://qianwen-res.oss-accelerate.aliyuncs.com/Qwen3.5/demo/CI_Demo/mathv-1327.jpg"
                }
            },
            {
                "type": "text",
                "text": "The centres of the four illustrated circles are in the corners of the square. The two big circles touch each other and also the two little circles. With which factor do you have to multiply the radii of the little circles to obtain the radius of the big circles?\nChoices:\n(A) $\frac{2}{9}$\n(B) $\sqrt{5}$\n(C) $0.8 \cdot \pi$
(D) 2.5
(E) $1+\sqrt{2}$"
            }
        ]
    }
]

chat_response = client.chat.completions.create(
    model="Qwen/Qwen3.8-27B-FP8",
    messages=messages,
)
print("Chat response:", chat_response)
動画入力
from openai import OpenAI
# 環境変数で設定
client = OpenAI()

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "video_url",
                "video_url": {
                    "url": "https://qianwen-res.oss-accelerate.aliyuncs.com/Qwen3.5/demo/video/N1cdUjctpG8.mp4"
                }
            },
            {
                "type": "text",
                "text": "How many porcelain jars were discovered in the niches located in the primary chamber of the tomb?"
            }
        ]
    }
]

chat_response = client.chat.completions.create(
    model="Qwen/Qwen3.8-27B",
    messages=messages,
)

# vLLMが `--media-io-kwargs '{"video": {"num_frames": -1}}'` で起動された場合、
# videoフレームサンプリングは `extra_body` (例: `fps` を設定) で設定できます。
# この機能は現在vLLMのみでサポートされています。
#
# デフォルトでは `fps=2` および `do_sample_frames=True` です。
# `do_sample_frames=True` を使用すると、希望する動画サンプリングレートを設定するために `fps` 値をカスタマイズできます。
# chat_response = client.chat.completions.create(
#     model="Qwen/Qwen3.8-27B-FP8",
#     messages=messages,
#     extra_body={
#         "mm_processor_kwargs": {"fps": 2, "do_sample_frames": True},
#     },
# )

print("Chat response:", chat_response)
Instruct(または非思考)モード

Qwen3.8-27Bはデフォルトで応答前に思考します。APIパラメータを設定することで、思考なしで直接応答を得ることができます。例:

from openai import OpenAI
# 環境変数で設定
client = OpenAI()

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image_url",
                "image_url": {
                    "url": "https://qianwen-res.oss-accelerate.aliyuncs.com/Qwen3.5/demo/RealWorld/RealWorld-04.png"
                }
            },
            {
                "type": "text",
                "text": "Where is this?"
            }
        ]
    }
]

chat_response = client.chat.completions.create(
    model="Qwen/Qwen3.8-27B-FP8",
    messages=messages,
    temperature=0.7,
    top_p=0.8,
    presence_penalty=1.5,
    extra_body={
        "top_k": 20,
        "chat_template_kwargs": {"enable_thinking": False},
    },
)
print("Chat response:", chat_response)

Qwen CloudからのAPIを使用している場合、modelを変更するのに加えて、"chat_template_kwargs": {"enable_thinking": False}の代わりに"enable_thinking": Falseを使用してください。

保存された思考の無効化

デフォルトでは、Qwen3.8はすべての履歴メッセージからの思考ブロックを保持し、会話全体で完全な推論トレースを維持します。この保存された思考と呼ばれる動作は、完全なコンテキスト連続性を保証し、特に決定の一貫性と冗長な推論の削減が重要なエージェントシナリオに有益です。また、思考モードと非思考モードの両方で推論効率を最適化するKVキャッシュの利用も改善します。

最新のユーザーメッセージからの思考ブロックのみを保持したい場合は、preserve_thinkingをFalseに設定することでこの動作を無効にできます。

from openai import OpenAI

# 環境変数で設定
client = OpenAI()
messages = [...] # ここにメッセージリストを挿入
chat_response = client.chat.completions.create(
    model="Qwen/Qwen3.8-27B-FP8",
    messages=messages,
    extra_body={
        "chat_template_kwargs": {"preserve_thinking": False},
    },
)
print("Chat response:", chat_response)

Qwen CloudからのAPIを使用している場合、modelを変更するのに加えて、"chat_template_kwargs": {"preserve_thinking": False}の代わりに"preserve_thinking": Falseを直接使用してください。

ベストプラクティス

最適なパフォーマンスを達成するために、以下の設定を推奨します。

  1. サンプリングパラメータ: 以下のサンプリングパラメータセットの使用を推奨します。

    • 思考モード: temperature=1.0、top_p=0.95、top_k=20、min_p=0.0、presence_penalty=0.0、repetition_penalty=1.0
    • Instruct(または非思考)モード: temperature=0.7、top_p=0.80、top_k=20、min_p=0.0、presence_penalty=1.5、repetition_penalty=1.0

    サポートされているフレームワークでは、presence_penaltyパラメータを0から2の間で調整して、無限の繰り返しを減らすことができます。ただし、より高い値を使用すると、言語の混在やモデルパフォーマンスのわずかな低下を招く可能性があります。

  2. 十分な出力長: エージェントタスクでのパフォーマンスを最適化するために、モデルが詳細で包括的な応答を生成できるように、十分な出力長を割り当てることを推奨します。内部推論と最終出力に別々のトークン制限をサポートするフレームワークでは、1Mコンテキスト長内で以下の構成を推奨します。

    • 推論コンテンツ: 最大出力長を262,144トークンに設定します。
    • 最終応答: 最大出力長を131,072トークンに設定します。

    これらの設定は、高品質な最終成果物のための十分なスペースを確保しながら、複雑な推論に必要な容量を提供します。

  3. 超長文テキストの処理: Qwen3.8-27Bは、ネイティブで最大262,144トークンのコンテキスト長をサポートします。入力と出力の合計長がこの制限を超える長期的タスクでは、RoPEスケーリング技術(例: YaRN)を使用して長文テキストを効果的に処理することを推奨します。

    YaRNは現在、vLLM、SGLang、TokenSpeedなどのいくつかの推論フレームワークでサポートされています。一般的に、サポートされているフレームワークでYaRNを有効にするには2つのアプローチがあります。

    • モデル設定ファイルの変更:

      config.jsonファイルで、text_config内のrope_parametersフィールドを以下のように変更します。

      {
          "mrope_interleaved": true,
          "mrope_section": [
              11,
              11,
              10
          ],
          "rope_type": "yarn",
          "rope_theta": 10000000,
          "partial_rotary_factor": 0.25,
          "factor": 4.0,
          "original_max_position_embeddings": 262144,
      }
      
    • コマンドライン引数の指定:

      vLLMの場合:

      VLLM_ALLOW_LONG_MAX_MODEL_LEN=1 vllm serve ... --hf-overrides '{"text_config": {"rope_parameters": {"mrope_interleaved": true, "mrope_section": [11, 11, 10], "rope_type": "yarn", "rope_theta": 10000000, "partial_rotary_factor": 0.25, "factor": 4.0, "original_max_position_embeddings": 262144}}}' --max-model-len 1000000
      

      SGLangの場合:

      SGLANG_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1 python -m sglang.launch_server ... --json-model-override-args '{"text_config": {"rope_parameters": {"mrope_interleaved": true, "mrope_section": [11, 11, 10], "rope_type": "yarn", "rope_theta": 10000000, "partial_rotary_factor": 0.25, "factor": 4.0, "original_max_position_embeddings": 262144}}}' --context-length 1000000
      

      TokenSpeedの場合:

      TOKENSPEED_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1 tokenspeed serve ... --hf-overrides '{"text_config": {"rope_parameters": {"mrope_interleaved": true, "mrope_section": [11, 11, 10], "rope_type": "yarn", "rope_theta": 10000000, "partial_rotary_factor": 0.25, "factor": 4.0, "original_max_position_embeddings": 262144}}}' --max-model-len 1000000
      

    すべての著名なオープンソースフレームワークは静的なYaRNを実装しているため、スケーリング係数は入力長に関係なく一定であり、短いテキストでのパフォーマンスに影響を与える可能性があります。 長いコンテキストの処理が必要な場合にのみrope_parameters設定を変更することを推奨します。また、必要に応じてfactorを変更することも推奨します。例えば、アプリケーションの一般的なコンテキスト長が524,288トークンの場合、factorを2.0に設定する方が良いでしょう。

  4. 長尺動画理解: 通常のテキストと画像の推論効率を最適化するために、リリースされたvideo_preprocessor_config.jsonのsizeパラメータは保守的に設定されています。時間スケールの動画でより高いフレームレートサンプリングを可能にし、それによって優れたパフォーマンスを達成するために、video_preprocessor_configファイル内のlongest_edgeパラメータを469,762,048(224k動画トークンに相当)に設定することを推奨します。例:

    {"longest_edge": 469762048, "shortest_edge": 4096}
    

    または、エンジン起動パラメータを介してデフォルト値を上書きします。実装の詳細については、以下を参照してください:vLLM / SGLang。

引用

私たちの仕事が役立つと感じた場合は、お気軽に引用してください。

@misc{qwen38,
    title = {{Qwen3.8-Max}: A New Bar for Coding and Cowork},
    url = {https://qwen.ai/blog?id=qwen3.8},
    author = {{Qwen Team}},
    month = {August},
    year = {2026}
}

先月のダウンロード数

4,418,298

Safetensors

Qwen/Qwen3.8-27B-FP8 のモデルツリー

量子化済み

(1512)

このモデル

Qwen/Qwen3.8-27B-FP8 を使用しているスペース 14

Qwen/Qwen3.8-27B-FP8 を含むコレクション