HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

INT8 ConvRot の解説 (FP8 はもう不要)

Explanation of INT8 ConvRot (FP8 is no longer needed) (note.com)

11 pointsby peter_d_sherman5 コメント

要約

ComfyUI v0.27.0 でネイティブサポートされた INT8 ConvRot は、AIモデルの量子化手法として注目されています。特にGeForce RTX 20/30シリーズで効果的ですが、RTX 40/50シリーズでもFP8を超える性能を示すと報告されています。この記事では、INT8 ConvRot の背景にあるモデル保存形式の分類や、その仕組み、利用方法について解説しています。

全文翻訳

INT8 ConvRot の解説 (FP8 は不要に)

2026年7月1日にリリースされた ComfyUI v0.27.0 でネイティブサポートされた、INT8 ConvRot というモデリングおよび量子化手法が話題となっています。
これは特に GeForce RTX 20/30 シリーズに有益ですが、GeForce RTX 40/50 シリーズでも、以前の標準であった FP8 および FP8 Scaled 形式を超えるパフォーマンスを提供すると報告されています。
このため、すべての 8ビット量子化モデルが INT8 ConvRot 標準に置き換わると言われており、Comfy-Org も実際にサポートを進めています。

まだ情報が広く浸透しておらず、誤解や混同をしている方が多いため、この記事で整理して解説します。


2026/7/7: Forge Neo が INT8 ConvRot をサポートしたことを追記
2026/7/6: Kimama さんの INT8 ConvRot 評価結果に関する情報を追記
2026/7/5: 「モデリング手法とフォーマットの分類」に GGUF に関する情報を追記
2026/7/5: 「INT8 ConvRot の使い方」に Triton と PyTorch に関する情報を追記

目次

  1. AI モデルのストレージフォーマット
  2. モデリング手法とフォーマットの分類
  3. 代表的なモデルフォーマットと INT8 ConvRot
  4. INT8 ConvRot とは
  5. INT8 ConvRot の使い方
  6. ComfyUI ネイティブノードと Comfy-Org 公式モデル
  7. ComfyUI-INT8-Fast と専用モデル
  8. Forge Neo
  9. INT8 ConvRot のパフォーマンス
  10. Nvidia GPU のハードウェアサポート

AI モデルのストレージフォーマット

INT8 ConvRot を説明する前に、AI モデルのストレージフォーマットの基本について説明します。

モデリングと量子化

AI モデルは、一般的な範囲で最高の精度を得るために 32ビットの FLOAT 型である FP32 でモデリングされますが、SDXL でさえ 12GB という大きなファイルサイズになるため、ビット数を 16ビット、8ビット、場合によっては 4ビットに削減して変換されます。ビット数が少ないほどファイルサイズは小さくなり、扱いやすく処理も高速になります。しかし、表現できる値の数が減り精度が低下するため、精度や結果への影響を最小限に抑えるための手法やフォーマットが可能な限り使用されます。

モデリング手法とフォーマットの分類

下表は、AI モデルのモデリング手法とフォーマットを大まかに分類したものです。

LayerExampleRole
File Formatsafetensors, GGUF, ONNXContainer for storage
Encoding MethodFP16, BF16, INT8, FP8, FP4Method of representing values as bit strings
Scaling MethodNone, Tensor-wise, Row-wiseMethod of adjusting value range
Quantization MethodRTN, AWQ, GPTQ, ConvRotAlgorithm for converting to low precision

このような分類表を Web で検索しましたが、見つからなかったため、自身の理解のために ChatGPT と Q&A をしながら作成しました。粗い、あるいは不適切な用語が含まれているかもしれませんが、何度も修正してもらったので、大まかな分類は正しいと思います。


2026/7/5 更新: GGUF は単なるファイルフォーマットではなく、Q4_K_M のような量子化データの保存方法も定義しているため、上記の分類表に整理することはできません。この記事では GGUF には触れないため、整理を複雑にしないように上記の分類表のまま進めます。


ちなみに、広義にはこれらの手法やフォーマットを用いたモデリングを総称して「量子化」と呼ぶこともありますが、この記事では「モデリング」と呼び、低精度への変換アルゴリズムを「量子化手法」と呼びます。

なお、個々の手法やフォーマットについては、詳細を説明しているサイトが無数にあるため、この記事では説明しません。必要に応じて、他で調べるか AI に質問してください。

FLOAT 型については、Kimama さんの記事が詳しいです。

代表的なモデルフォーマットと INT8 ConvRot

前述の分類表に基づき、INT8 ConvRot を含む代表的なモデルフォーマットを以下に整理します。

16ビットモデル

LayerFP16BF16
Encoding MethodFP16BF16 (Brain FP16)
Scaling MethodNone (Fixed)None (Fixed)
Quantization MethodRTNRTN

8ビット INT 型モデル

HierarchyINT8INT8 Tensor-wiseINT8 ConvRot
Encoding MethodINT8INT8INT8
Scaling MethodNone (Fixed)Tensor-wiseRow-wise
Quantization MethodRTNRTNConvRot

8ビット FLOAT モデル

HierarchyFP8 (E4M3/E5M2)FP8 ScaledMXFP8
Encoding MethodFP8FP8FP8
Scaling MethodNone (Fixed)Tensor-wise etc.Single-layer Microscaling
Quantization MethodRTNRTNRTN

4ビットモデル

HierarchyNVFP4MXFP4
Encoding MethodFP4 (E2M1)FP4 (E2M1)
Scaling MethodHierarchical MicroscalingSingle-layer Microscaling
Quantization MethodRTNRTN

INT8 ConvRot は、INT8 エンコーディングとConvRot という量子化手法を用いたモデリングフォーマットです。他のフォーマットの表と比較することで、階層ごとの手法の違いを理解できると思います。そして、FP8、FP8 Scaled、MXFP8 が異なるように、INT8 ConvRot も既存のモデルフォーマットである INT8 や INT8 Tensor-Wise とは異なるフォーマットです。多くの人がこれらを混同しています。

なお、この分類は粗いものであり、さらに詳細な分類や手法が存在します。INT8 ConvRot にも複数のフォーマットが配布されています。(後述)

INT8 ConvRot とは

ConvRot は、2025/12/3 に公開された以下の論文の技術を用いたモデルフォーマットです。

技術的には FLOAT 型だけでなく INT 型とも組み合わせ可能ですが、特に AI モデリングにおける INT 型の弱点を解決することを目指しています。そもそも INT 型(整数型)は FLOAT 型(浮動小数点型)に比べて表現できる値の範囲が狭く、AI モデルの処理で「外れ値」が発生すると精度が低下するという問題がありました。このため、INT8 フォーマットのモデルはこれまでほとんど使われず、代わりに FP8 フォーマットが使われてきました。

簡単に言うと、ConvRot は畳み込み(Convolution、畳み込みのような局所ブロック処理)と回転(Rotation、グループベースの回転変換)によって、外れ値を複数の次元に分散させ、INT 型でも問題にならない値の分布に変換する手法です。その結果、問題を起こさないだけでなく、実際に FLOAT モデルフォーマットを凌駕するパフォーマンスを達成しています。

INT8 ConvRot の使い方

INT8 ConvRot は ComfyUI または Forge Neo で使用できます。


2026/7/5 追記: 情報が錯綜しており要件が不明瞭ですが、最高の処理速度を得るためには Triton のインストールが必要になる可能性があります。また、Nvidia ドライバーと PyTorch は可能な限り最新バージョンにアップデートすることが推奨されており、PyTorch は cu128 よりも cu130 を使用する方が良いようです。


ComfyUI ネイティブノードと Comfy-Org 公式モデル

ComfyUI では、v0.27.0 以降で INT8 ConvRot がネイティブサポートされています。加えて、comfy-kitchen v0.2.16 以降が必要となるため、pip install -r requirements.txt などでアップデートしてください。その後、Load Diffusion Model や Load CLIP などで INT8 ConvRot フォーマットのモデルを通常通り扱えるようになります。

モデルについては、https://huggingface.co/Comfy-Org/models でここ数日で主要なアイテムに INT8 ConvRot フォーマットが追加されています。執筆時点では、Ideogram-4, Krea-2, Boogu-Image, QIE-2511, SeedVR2, Z-Image-Turbo, Z-Image, Wan_2.2 に INT8 ConvRot フォーマットが追加されていることを確認しました。

[画像: 画像]

Let's use int8_convrot

ComfyUI-INT8-Fast と専用モデル

ComfyUI v0.27.0 より前からリリースされている ComfyUI-INT8-Fast というカスタムノードを使用する方法もあります。

ComfyUI ネイティブノードに関して、v0.27.0 リリース前の開発コミット中の LoRA に関する問題で、このカスタムノードの方が高速であるという報告がありましたが、ComfyUI v0.27.0 で対応されたため、特別な理由がない限りネイティブノードの使用を推奨します。

ネイティブノードにはない機能として、INT8 ConvRot フォーマット以外のモデルをオンザフライで INT8 ConvRot フォーマットに変換して使用したり、直接ファイルに保存したりすることができます。例えば、公式ソースが INT8 ConvRot フォーマットを配布していない場合、int8_save_convrot_model.json というワークフローを使用して、自分で変換して作成することができます。

[画像: 画像]

Model format conversion using int8_save_convrot_model

ただし、このように作成された INT8 ConvRot フォーマットは、ネイティブ ComfyUI フォーマットとは互換性がないため、変換には convert_to_comfy.py が必要になります。HuggingFace で配布されている ComfyUI-INT8-Fast 用の INT8 ConvRot フォーマットモデルも同様です。

使用する際は、各 README をよく読んでください。

Forge Neo

Forge Neo は執筆時点では INT8 ConvRot をサポートしていませんでしたが、2026/7/7 のコミット 6d0bc6e でサポートが追加されました。リリースバージョン 2.27 でサポートされる予定です。難しい設定や操作は不要で、Checkpoint で公式の ComfyOrg INT8 ConvRot フォーマットモデルを指定するだけで使用できます。

INT8 ConvRot のパフォーマンス

Nvidia GPU のハードウェアサポート

各ビットの FLOAT および INT 型の処理パフォーマンスは、GPU モデルによって異なります。基本的に、新しい GPU モデルほど多くのフォーマットをハードウェアでサポートしており、より高速に処理できます。

下表は、Nvidia GPU のエンコーディングおよびスケーリング手法に対するハードウェアサポートの一覧です。モデルフォーマットがサポートされていなくても、処理可能なフォーマットにソフトウェア変換されるため、基本的にエラーにはなりませんが、ハードウェアサポートがある場合よりも遅くなります。

RTX 20 SeriesRTX 30 SeriesRTX 40 SeriesRTX 50 Series
FP16✓✓✓✓
INT8✓✓✓✓
BF16✓✓✓
FP8✓✓
FP8 Scaled✓✓
MXFP8 (Microscaling)✓
FP4✓
NVFP4 (Microscaling)✓
INT4✓✓✓

これまで標準として使われてきた FP8 は、RTX 40/50 シリーズでしかハードウェアサポートされていませんでした。それに対し、INT8 ConvRot は、RTX 20/30 シリーズでもハードウェアサポートの恩恵を受けられるため注目されています。

ちなみに、FP8 ConvRot フォーマットは技術的には可能ですが、INT8 ConvRot と比較して精度やパフォーマンスでほとんど利点がないため、全く使用されていません。4ビットについては、ConvRot の開発者が INT4 や FP4 についてコメントしているようですが、個人的には NVFP4 を使用したことはなく、速度のために精度をこれほど低下させたモデルを使用することは考えられません。おそらく、RTX 5090 を使用しており、速度に不満を感じることが少ないためでしょう。

reddit でのパフォーマンスレポート

reddit では、INT8 ConvRot のパフォーマンスについて以下のように報告されています。

  • 処理速度
    INT8 ConvRot > NVFP4 > MXFP8 ≒ FP8 Scaled > GGUF Q8 > FP16 ≒ BF16

  • 推論精度
    FP16 ≒ BF16 > GGUF Q8 > INT8 ConvRot > MXFP8 > FP8 Scaled > FP8 > NVFP4

8ビット INT 型は元々精度に関わらず高速でしたが、INT8 ConvRot は RTX 50 シリーズでも NVFP4 より高速で、推論精度も GGUF Q8 に迫るレベルです。FP8 のハードウェアサポートがなく遅かった RTX 20/30 シリーズでは、RTX 40/50 シリーズ以上にメリットは大きいです。

reddit ソース:
https://www.reddit.com/r/StableDiffusion/comments/1tazxqz/
https://www.reddit.com/r/comfyui/comments/1uk6q5m/

INT8 ConvRot がビット数が少ない NVFP4 より高速なのは驚きでしたが、ChatGPT との度重なる Q&A の後、以下の要因によるものだと信じています。

  • ConvRot は INT 型に最適化された処理手法であること
  • RTX 50xx の INT8 と FP4 ハードウェアおよびライブラリ間のパフォーマンス差
  • NVFP4 における階層的なマイクロ スケーリング処理のオーバーヘッド
実際のハードウェアでの Krea2 生成速度比較

以下の検証環境で、Krea2 の画像生成速度を計測・比較しました。

  • GPU: RTX 5090
  • ドライバー: Game Ready 610.62 WHQL (2026/6/16)
  • Python: Python 3.12.12, torch 2.12.1+cu130, triton-windows 3.7.1.post27, sageattention 2.2.0+cu130torch2.9.0andhigher.post4
  • ソフト: ComfyUI v0.27.0 (2026/7/1)
    --reserve-lvram 0.9 --preview-method auto --use-sage-attention
  • WF: ComfyUI テンプレート Krea-2: Text to Image
    prompt_enhance=false
    enable_lora?=false
    1024 x 1024, 8Steps, cfg=1.0, euler simple
  • DiT: 5 公式 Comfy-Org Krea2 Turbo モデル
  • TE: qwen3vl_4b_fp8_scaled
  • VAE: qwen_image_vae

[画像: 画像]

Krea-2: Text to Image

DiT Model FormatDiT, TE, VAE Total sizeJust after launch cold startFrom 2nd time on warm start
int8_convrot15.24GB5.14s (-18%) (-35%)2.56s
nvfp49.82GB5.68s (-9%) (-16%)3.29s
fp8_scaled14.91GB6.25s3.91s
mxfp815.28GB6.47s (+4%) (+4%)4.07s
bf1627.15GB9.19s (+47%) (+24%)4.84s
  • 「Just after launch」は ComfyUI を再起動して計測。
  • 括弧内の数値は、fp8_scaled を基準とした変化率。

私の環境でも、reddit でのレポートと同様の結果が得られました。
RTX 5090 でも FP8 Scaled のハードウェアサポートがあるにも関わらず、生成時間は35% も短縮されました。FP8 Scaled のハードウェアサポートがない RTX 20/30 シリーズカードでは、さらに大きな短縮になるはずです。これは驚異的です!

LoRA を使用した場合のパフォーマンスと生成画像の比較もしたかったのですが、長くなったため割愛します。


2026/7/6 追記: 前述の Kimama さんの記事に、INT8 ConvRot の生成時間と精度の評価結果が追加されました。生成画像を用いた精度評価は非常に分かりやすいため、そちらも参照してください。

まとめ

INT8 ConvRot というモデリング手法について解説し、実際に処理速度を計測・比較しました。
reddit のレポートでの速度と精度の評判はかなり良く、私の環境で処理速度を計測しただけでもその評判通りのパフォーマンスを発揮しており、将来的には 8ビットモデルフォーマットの標準として FP8 や FP8 Scaled を置き換えていくと確信しています。

ちなみに、既に FP16 や BF16 で十分コンパクトかつ高速な Illustrious や Anima のようなモデルを INT8 ConvRot に変換している人もいるようですが、本当に速度に不満がない限りは、そういった行為は控えた方が良いと思います。

このように、技術的な内容を分かりやすく、基本的に無料で解説しています。ぜひ「いいね」「フォロー」「投げ銭」で応援してください。質問があれば、お気軽に「質問箱」にお寄せください。

関連記事


本記事のテキスト、画像等の無断転載、複製、改変、盗用を禁じます。
発見した場合は、相手にせず直接私に通知してください。