HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Unsloth Qwen3.8-27B GGUFファイル

Unsloth Qwen3.8-27B GGUF files (huggingface.co)

13 pointsby apitman0 コメント

要約

Unslothは、Qwen3.8-27Bモデルを含む、新しい2.0バージョンのDynamic GGUF + QuantsファイルをHugging Faceで公開しました。この新しいバージョンは、優れた精度と最先端の量子化パフォーマンスを実現しています。Unsloth Desktopアプリを使用して、Qwen3.8を実行およびトレーニングできます。

全文翻訳

unsloth / Qwen3.8-27B-GGUF

Qwen3.8-27Bの実行方法ガイドをご覧ください!

Unsloth Dynamic 3.0は、優れた精度を達成し、他の主要な量子化モデルを凌駕します。

[画像][画像] [画像]

  • SOTA(State-Of-The-Art)の精度と量子化性能を実現するDynamic V3.0 GGUFを導入
  • Unsloth Desktopで思考トグルを使用してQwen3.8を実行およびファインチューニングできます。Mac、Windows、Linux用のダウンロードはこちら。GitHubリポジトリ
  • CodexなどのエージェントツールでQwen3.8を動作させるための開発者ロールサポート!
  • ツール呼び出しの改善:ネストされたオブジェクトの解析をより成功しやすくします。
  • Unsloth Desktop内で実行されている4ビットQwen3.8-27Bを以下に示します。

[画像: qwen3.8 unsloth desktop]

他のプロバイダーと比較した、優れたQwen3.8 GGUFプロバイダーの分析。Unsloth Dynamic v3.0は、同サイズで他のすべてのプロバイダーよりもトップ1%で10%以上の精度向上を実現します。詳細はこちら

[画像: qwen3.8 unsloth desktop]


Qwen3.8-27B

Qwen3.5およびQwen3.6シリーズの広範なコミュニティ採用に続き、Qwenオープンモデルファミリーの中で最も高性能な世代であるQwen3.8をご紹介できることを嬉しく思います。

Qwen3.5のアーキテクチャ基盤に基づいて構築されたQwen3.8は、コーディング、専門業務、研究、および長期間にわたるエージェントタスク全体で大幅な進歩をもたらします。Qwen3.8-27Bは、これらの進歩をコンパクトでデプロイしやすい密モデルに統合したものです。画像と動画を理解するネイティブなビジョン言語モデルであり、柔軟な思考制御を備え、複雑で多段階のタスクをより確実に完了できるように設計されています。

Qwen3.8のハイライト

Qwen3.8-27Bは以下の強化機能を備えています。

  • コア機能: コーディング、専門業務、研究、および長期間にわたるエージェントタスク全体での包括的な改善。
  • エージェント実行: より強力な自律計画と環境フィードバックの処理能力向上により、エンドツーエンドのタスク完了がより信頼性の高いものになります。
  • 下流互換性: 人気のあるハーネスや開発ツールへのサポートが拡大され、既存のスタックへの統合が容易になります。
  • 柔軟な思考制御: 思考モードはデフォルトでオンになっており、リクエストごとに無効にできます。reasoning_effortで推論の深さを調整でき、preserve_thinkingを介して過去のメッセージからの推論コンテキストが保持されます。
  • ビジョン言語理解: STEM図やドキュメントから数時間規模の動画まで、画像と動画のネイティブサポート。

モデル概要

  • タイプ: ビジョンエンコーダーを備えた因果言語モデル
  • トレーニングステージ: 事前トレーニング&事後トレーニング
  • 言語モデル
    • パラメータ数: 27B
    • 隠れ次元: 5120
    • トークン埋め込み: 248,320 (パディング済み)
    • レイヤー数: 64
    • 隠れレイアウト: 16 × (3 × (Gated DeltaNet → FFN) → 1 × (Gated Attention → FFN))
    • Gated DeltaNet:
      • 線形アテンションヘッド数: V用48、QK用16
      • ヘッド次元: 128
    • Gated Attention:
      • アテンションヘッド数: Q用24、KV用4
      • ヘッド次元: 256
      • ロータリー位置埋め込み次元: 64
    • フィードフォワードネットワーク:
      • 中間次元: 17,408
    • LM出力: 248,320 (パディング済み)
    • MTP (マルチトークン予測): 複数ステップでトレーニング済み
  • コンテキスト長: ネイティブで262,144、最大1,000,000トークンまで拡張可能。

ベストプラクティス

最適なパフォーマンスを達成するために、以下の設定をお勧めします。

  1. サンプリングパラメータ: 以下のサンプリングパラメータセットを使用することをお勧めします。

    • 思考モード: temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0
    • 指示(または非思考)モード: temperature=0.7, top_p=0.80, top_k=20, min_p=0.0, presence_penalty=1.5, repetition_penalty=1.0

    サポートされているフレームワークでは、無限の繰り返しを減らすためにpresence_penaltyパラメータを0から2の間で調整できます。ただし、より高い値を使用すると、言語の混在やモデルパフォーマンスのわずかな低下が発生する場合があります。

  2. 十分な出力長: エージェントタスクでのパフォーマンスを最適化するために、モデルが詳細で包括的な応答を生成できるように、十分な出力長を割り当てることをお勧めします。内部推論と最終出力に別々のトークン制限をサポートするフレームワークでは、1Mのコンテキスト長内で以下の構成を推奨します。

    • 推論コンテンツ: 最大出力長を262,144トークンに設定します。
    • 最終応答: 最大出力長を131,072トークンに設定します。

    これらの設定は、複雑な推論に必要な容量を提供しつつ、高品質な最終成果物のための十分なスペースを確保します。

  3. 超長文の処理: Qwen3.8-27Bは、最大262,144トークンのコンテキスト長をネイティブでサポートしています。合計長(入力と出力を含む)がこの制限を超える長期間タスクでは、RoPEスケーリング技術を使用して長文を効果的に処理することをお勧めします。例: YaRN。

  4. 長尺動画の理解: テキストと画像の推論効率を最適化するために、リリースされたvideo_preprocessor_config.jsonのsizeパラメータは控えめに設定されています。数時間規模の動画でより高いフレームレートサンプリングを可能にし、それによって優れたパフォーマンスを達成するために、video_preprocessor_configファイル内のlongest_edgeパラメータを469,762,048(224k動画トークンに相当)に設定することをお勧めします。例:

    {"longest_edge": 469762048, "shortest_edge": 4096}
    

引用

私たちの作業がお役に立てば、ぜひ引用してください。

@misc{qwen38,
    title = {{Qwen3.8-Max}: A New Bar for Coding and Cowork},
    url = {https://qwen.ai/blog?id=qwen3.8},
    author = {{Qwen Team}},
    month = {August},
    year = {2026}
}