INT8 ConvRot の解説 (FP8 はもう不要)

SYSTEM NOTICE AIによる自動翻訳です。正確性、ニュアンス、著者の意図が完全に反映されていない可能性があることをご了承ください。 元の表示 INT8 ConvRot の解説 (FP8 はもう不要) 43 ひろろひ🐈‍⬛Forge Neo推し 2026年7月4日 18:16 2026年7月1日リリースされたComfyUI v0.27.0でネイティブサポートされたINT8 ConvRotというモデリングと量子化の手法が話題になっています。 特にGeForce RTX 20/30シリーズに恩恵が大きいですが、GeForce RTX 40/50シリーズにおいても、従来標準であったFP8やFP8 Scaledフォーマットを超える性能を示すとの報告もあります。 このため、INT8 ConvRotが全ての8ビット量子化モデルの標準になると言われており、実際にComfy-Orgによるサポートも進められています。 まだ情報が広く浸透しておらず、多くの人が誤解や混同をしているため、この記事で整理して解説します。 2026/7/7: Forge NeoがINT8 ConvRotをサポートしたことを追記 2026/7/6: KimamaさんのINT8 ConvRot評価結果に関する情報を追記 2026/7/5: 「モデリング手法とフォーマットの分類」にGGUFに関する情報を追記 2026/7/5: 「INT8 ConvRot の使い方」にTritonとPyTorchに関する情報を追記 AIモデル保存フォーマット INT8 ConvRotを説明する前に、AIモデル保存フォーマットの基本について説明します。 モデリングと量子化 AIモデルは、一般的な範囲で最大の精度を出すためにFP32（32ビット浮動小数点型）でモデリングされますが、SDXLでも12GBもの巨大なファイルサイズになるため、ビット数を16ビット、8ビット、場合によっては4ビットに削減して変換されます。 ビット数が少ないほどファイルサイズは小さくなり、扱いやすく処理も速くなります。しかし、表現できる値の数が減り精度が低下するため、できるだけ精度や結果への影響を最小限に抑える手法やフォーマットが用いられます。 モデリング手法とフォーマットの分類 以下にAIモデルのモデリング手法とフォーマットを大まかに分類した表を示します。 階層 | 例 | 役割 ファイル形式 | safetensors, GGUF, ONNX | 保存するコンテナ 符号化方式 | FP16, BF16, INT8, FP8, FP4 | 数値をbit列で表現する方法 スケーリング方式 | なし, Tensor-wise, Row-wise | 値の範囲を調整する方法 量子化方式 | RTN, AWQ, GPTQ, ConvRot | 低精度へ変換するアルゴリズム この分類表はWebで検索しても見つからなかったため、自分で理解するためにChatGPTとQ&Aをしながら作成しました。粗い部分や不適切な用語があるかもしれませんが、何度も修正してもらったため、大まかな分類は正しいと信じています。 2026/7/5 更新: GGUFはファイル形式だけでなく、Q4_K_Mなどの量子化データの保存方法も指定するため、上記の分類表に整理することはできません。 この記事ではGGUFには触れないため、整理を複雑にしないように上記の分類に留めます。 ちなみに、これらの手法でモデリングすることを広い意味で「量子化」と呼ぶこともありますが、この記事では「モデリング」と呼び、低精度へ変換するアルゴリズムを「量子化方式」と呼びます。 個々の手法やフォーマットについて詳細に説明しているサイトは無数に存在するため、この記事では説明しません。必要であれば、他で調べるかAIに質問してください。 FLOAT型については、Kimamaさんの記事が詳しいです。 代表的なモデルフォーマットとINT8 ConvRot 前述の分類表に基づき、INT8 ConvRotを含む代表的なモデルフォーマットを整理します。 16ビットモデル 階層 | FP16 | BF16 符号化方式 | FP16 | BF16 (Brain FP16) スケーリング方式 | なし（固定） | なし（固定） 量子化方式 | RTN | RTN 8ビットINT型モデル 階層 | INT8 | INT8 Tensor-wise | INT8 ConvRot 符号化方式 | INT8 | INT8 | INT8 スケーリング方式 | なし（固定） | Tensor-wise | Row-wise 量子化方式 | RTN | RTN | ConvRot 8ビットFLOATモデル 階層 | FP8 | FP8 Scaled | MXFP8 符号化方式 | FP8 (E4M3/E5M2) | FP8 (E4M3/E5M2) | FP8 (E4M3/E5M2) スケーリング方式 | なし（固定） | Tensor-wise, etc. | Single-layer Microscaling 量子化方式 | RTN | RTN | RTN 4ビットモデル 階層 | NVFP4 | MXFP4 符号化方式 | FP4 (E2M1) | FP4 (E2M1) スケーリング方式 | Layered Microscaling | Single-layer Microscaling 量子化方式 | RTN | RTN INT8 ConvRotは、INT8符号化とConvRotという量子化方式を用いたモデリングフォーマットです。 他のフォーマットの表と比較することで、各層における手法の違いを理解できるはずです。 そして、FP8、FP8 Scaled、MXFP8がそれぞれ異なるように、INT8 ConvRotも既存のモデルフォーマットであるINT8やINT8 Tensor-Wiseとは異なるフォーマットです。多くの人がこれらを混同しています。 なお、この分類は粗いものであり、さらに詳細な分類や手法が存在します。（後述）INT8 ConvRotも複数のフォーマットが配布されています。 INT8 ConvRotとは何か？ ConvRotは、2025/12/3に公開された以下の論文の技術を用いたモデルフォーマットです。 ConvRot: Rotation-Based Plug-and-Play 4-bit Quantization for Diffusion Transformers Diffusion transformers have demonstrated strong capabilities arxiv.org 技術的にはFLOAT型と組み合わせることも可能ですが、特にAIモデリングにおけるINT型の弱点を解決することを目指しています。 そもそもINT型（整数型）は、FLOAT型（浮動小数点型）と比較して表現できる値の範囲が狭く、AIモデルの処理における「外れ値」が精度を低下させるという問題がありました。このため、INT8フォーマットのモデルはほとんど使われず、代わりにFP8フォーマットが使われていました。 簡単に言うと、ConvRotは畳み込み（Convolution、畳み込みのような局所ブロック処理）と回転（Rotation、グループベースの回転変換）という手法を用いて、外れ値を複数の次元に分散させ、INT型でも問題にならない値の分布に変換するものです。 これにより、問題点を回避するだけでなく、実際にFLOATモデルフォーマットを上回る性能を達成しています。 INT8 ConvRot の使い方 INT8 ConvRotは、ComfyUIまたはForge Neoで使用できます。 2026/7/5追記: 情報が錯綜しており要件が不明瞭ですが、最高の処理速度を得るためにはTritonのインストールが必要になる可能性があります。また、NvidiaドライバーやPyTorchを可能な限り最新バージョンにアップデートすることが推奨されており、PyTorchはcu128よりもcu130を使用する方が良いようです。 ComfyUIネイティブノードとComfy-Org公式モデル ComfyUIではv0.27.0以降、INT8 ConvRotのネイティブサポートが追加されました。さらにcomfy-kitchen 0.2.16以降が必要となるため、pip install -r requirements.txt等でアップデートしてください。その後、Load Diffusion ModelやLoad CLIPなどでINT8 ConvRotフォーマットのモデルを通常通り扱えます。 モデルについては、https://huggingface.co/Comfy-Org/models で、ここ数日で主要なモデルにINT8 ConvRotフォーマットが追加されました。本稿執筆時点では、Ideogram-4, Krea-2, Boogu-Image, QIE-2511, SeedVR2, Z-Image-Turbo, Z-Image, Wan_2.2にINT8 ConvRotフォーマットが追加されていることを確認しました。 Let's use int8_convrot ComfyUI-INT8-Fastと専用モード