HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Inflect-Micro-v2: 9.36Mパラメータで完全な音声を実現

Inflect-Micro-v2: complete voice in 9.36M parameters (huggingface.co)

190 pointsby nateb202224 コメント

要約

Hugging Faceで公開されたInflect-Micro-v2は、わずか3.96Mおよび9.36Mパラメータという軽量さで、ローカル環境で動作する完全なテキスト音声合成モデルです。PyTorchとONNX Runtimeの両方で公式リリースされており、効率的な音声生成が可能です。

全文翻訳

owensong / Inflect-Micro-v2

[画像: Inflect-Micro-v2 release cover]

Inflect-Micro-v2

1000万パラメータ未満で、ローカル環境で完全なテキスト音声合成を実現。
決定論的なシード値、長文対応、CPUまたはCUDAでの推論が可能な、固定ボイスの英語TTS。

[画像: Live playground] [画像: GitHub] [画像: Inflect Nano v2] [画像: Inflect Discord] [画像: Benchmarks]

デプロイ可能なパラメータ数 9,356,513 · FP32で 37.53 MB · 24 kHz モノラル出力

新機能: 公開アダプテーションツールキット

データ準備、学習/検証スプリットの監査、固定ボイスや言語のアダプテーション、学習の再開、チェックポイントの評価、PyTorchまたはONNXパッケージのエクスポートを Inflect adaptation toolkit で行えます。アダプトされた品質は実験的なもので、データセット、フロントエンド、流暢な話者の評価に依存します。


Inflect v2は、2つのサイズで共通の公開APIを使用します:Microは1000万パラメータ未満で品質を優先し、Nanoは400万パラメータ未満でフットプリントを優先します。

このモデルカードを探る

聞く

これらは、学習音声の再構築ではなく、保持されたテキストからの生成です。各トランスクリプトは、公開フロントエンドに渡されたそのままの形で表示されます。

テスト正確なトランスクリプト生成された音声
会話的It wasn't until later that I realized what had actually happened.[音声]
句読点First, close the window; second, turn off the lamp; finally, lock the door.[音声]
数字The package weighs twelve point six kilograms and arrived on July twenty-first.[音声]
名前と場所Gwendolyn photographed the eucalyptus trees outside Ljubljana.[音声]
技術的The system runs on three core components that all have to stay in sync.[音声]

評価

TTSの品質を単一のメトリックで捉えることはできません。Inflect v2は、人間の好み、予測された自然さ、マルチASRの明瞭度、完全なフットプリント、および実行時間を、検証不可能な単一スコアに圧縮するのではなく、個別に報告します。

コミュニティの好み ↑UTMOS22 ↑2-ASRセマンティックWER ↓完全なFP32ウェイト ↓4スレッドCPUスループット ↑
66.2%4.3953.99%37.53 MB6.28倍リアルタイム

ヘッドライン行は常にInflect-Micro-v2を参照します。競合他社の詳細な結果とプロトコルの境界は、以下に表示されたままです。

比較セット。 結果には、KittenTTS Nano、Piper Low、およびSupertonic 3 が含まれます。これらは、両方のInflectリリースよりも大きなデプロイ可能なウェイトフットプリントを持つ、確立されたコンパクトまたはローカルTTSのベースラインです。ウェイトサイズはパッケージレベルで比較され、単一のメトリックが全体的な優位性の証拠として扱われることはありません。

1. 人間のブラインド評価

[画像: Community blind listening]

Inflect-Micro-v2は、最終的な匿名のコミュニティ調査で66.2%の好感度(21勝・10敗・3引き分け)を記録しました。システムは隠され、左右の順序はランダム化され、引き分けは半勝としてカウントされます。これは記述的なコミュニティの証拠であり、正式なMOSではありません。

2. 予測された自然さとフットプリントの比較

[画像: Predicted quality versus footprint]

UTMOS22の実行では、ボイスごとに500個の同一の未知のプロンプトが使用されました。KittenTTSとPiperは、2つのボイスの均等ウェイト平均です。観測されたボイス範囲は、ひげとして表示されます。Supertonic 3-stepは、他のすべてのシステムを平坦化するのではなく、プロット範囲の下に報告されます。

Inflect-Micro-v2: 4.395 UTMOS22、95%ブートストラップCI 4.381–4.408。UTMOS22は学習された予測子であり、人間のMOSではありません。

3. 未知のテキストに対する明瞭度

[画像: Two-ASR semantic WER consensus]

ヘッドラインスコアは、すべてのシステムに対するQwen3-ASRとNemotron 3.5のコーパスWERの均等ウェイト平均です。Whisperは、一部のインテリジブルなSupertonic 8-stepクリップで挿入が多い幻覚を生成したため、一貫してヘッドラインから除外されています。削除されておらず、完全な3-ASRの証拠が以下に残っています。

完全な3-ASR監査を開く

[画像: Semantic WER across Qwen3-ASR, Nemotron 3.5, and Whisper large-v3]

システム / ボイスQwen3-ASR ↓Nemotron 3.5 ↓Whisper large-v3 ↓
Inflect-Micro-v22.52%5.45%2.73%
Inflect-Nano-v22.79%5.63%2.65%
KittenTTS Nano · Bruno2.15%3.96%2.17%
KittenTTS Nano · Hugo2.39%3.80%2.11%
Piper Low · Danny2.62%5.60%2.55%
Piper Low · Ryan2.81%5.51%2.87%
Supertonic 3 · M2 · 3-step3.03%6.04%3.22%
Supertonic 3 · M2 · 8-step2.05%3.56%8.08%

Inflect-Micro-v2の場合、個々の結果は2.52% Qwen3-ASR、5.45% Nemotron 3.5、および2.73% Whisper large-v3です。最初の3モデルの平均である3.57%は、記述的な監査値としてのみ保持され、ヘッドラインスコアとしては使用されません。

評価者の堅牢性とエラーカテゴリ診断を開く

[画像: ASR evaluator robustness]

[画像: Semantic WER by prompt category]

これらのビューはリーダーボードではなく、診断情報です。認識器がどこで意見が分かれるか、どのプロンプトカテゴリがまだ回復可能な転写エラーを生成するかを示しています。

4. CPU実行時間

両方のInflectリリースは、CPU上でリアルタイムよりも快適に高速に合成します。管理された参照実行は、Hugging FaceのCPU Upgradeインスタンス(8 vCPU、32 GB RAM)で、4つのフレームワークスレッド、エンドツーエンドのテキストから波形へのタイミング、および100個の固定されたModern400プロンプトを使用しました。3回の完全なパスが記録され、最初のキャッシュ構築パスは除外され、テーブルはパス2と3をプールします。

リリース定常状態RTF ↓オーディオ/ウォールタイム ↑
Inflect-Micro-v20.15936.28倍
Inflect-Nano-v20.093310.72倍

これらは公開PyTorchランタイムからのパッケージレベルの結果であり、Inflectが最速のコンパクトTTSシステムであるという主張ではありません。ハードウェア、フロントエンドの動作、フレームワーク、コンパイル、スレッドポリシーはすべて、小規模モデルの測定値に影響します。

方向性のあるコンパクトシステム速度コンテキストを開く

同じ管理CPUと4スレッドポリシーが、より短い比較パスに使用されました。同じ50プロンプトのプレフィックスを2回繰り返します。KittenTTSとPiperは、テストされた2つのボイス全体で均等にプールされています。

システムオーディオ/ウォールタイム ↑
Piper Low31.37倍
KittenTTS Nano13.33倍
Inflect-Nano-v210.72倍
Supertonic 3 · 3-step10.15倍
Inflect-Micro-v26.28倍
Supertonic 3 · 8-step4.37倍

Inflectはより大きな100プロンプトの定常状態実行を使用するのに対し、比較行はより短い50プロンプトの確認パスを使用するため、このテーブルは完全に一致した速度リーダーボードではなく、デプロイメントコンテキストです。いくつかの比較対象は最適化されたONNXランタイムも使用していますが、公開されたInflectベンチマークは正規のPyTorchランタイムを使用しています。別途リリースされたInflect ONNXパスは、これらのベンチマーク番号に置き換えられていません。

5. 完全なウェイトフットプリント

[画像: Complete deployable model footprint]

同じウェイトを共有するボイスバリアントはマージされます。Inflectの合計には、統合された波形デコーダーが含まれます。

凍結された評価プロトコルを開く

  • Modern400は、システムごとに400個の同一の未知の英語プロンプトを使用します:200個の固定されたモダン/ストレスプロンプトと、200個の決定論的なFLEURS en_us テストプロンプト。
  • 正確なテキスト除外は、87,362個の学習トランスクリプトに対してチェックされました。
  • すべてのASR入力は16 kHzにリサンプリングされ、同じ開示された英語正規化プログラムでスコアリングされます。
  • UTMOS22は、別の500プロンプト生成セットでtarepan/SpeechMOS v1.2.0を使用します。
  • ヘッドライン間隔は10,000回のブートストラップサンプルを使用します。
  • Modern400コーパスのSHA-256はb7504ce2dce44a2da82770a6a5dfd2a034fe17e2113980f8a69663ade417a34cです。
  • プロンプト、仮説、圧縮された行レベルのレポート、および要約はevaluation/final/の下に出荷されます。
  • 実行時間は別途評価されます。なぜなら、フレームワーク、スレッドポリシー、コンパイル、およびホスト負荷が小規模モデルの比較を支配する可能性があるからです。

適切なInflectを選択する

Inflect-Nano-v2Inflect-Micro-v2
完全なパラメータ数3,966,7219,356,513
FP32ウェイト15.97 MB37.53 MB
ポジショニング最小の実用的なフットプリント最強のInflect v2品質
24 kHz波形デコーダー含まれる含まれる
Python APIとフロントエンド同じ同じ

Inflect-Micro-v2は、品質に焦点を当てたファミリーのメンバーです。両モデルは同じ公開APIと完全なテキストから波形へのパッケージングを使用します。

ローカルで実行する

インストール
python -m pip install --upgrade huggingface_hub
hf download owensong/Inflect-Micro-v2 --local-dir Inflect-Micro-v2
cd Inflect-Micro-v2
python -m pip install -r requirements.txt

これはHubのバージョン認識ダウンローダーを使用し、リポジトリ全体を取得します。Gitクローンも機能しますが、通常のモデルインストールにはhf downloadが推奨されるパスです。

Python
from inference import InflectTTS

tts = InflectTTS(".", device="cpu")
tts.save(
    "A small voice can still have something meaningful to say.",
    "sample.wav",
    speed=1.0,
    variation=0.667,
    seed=7,
)
Hub経由でダウンロード
import sys
from huggingface_hub import snapshot_download

model_dir = snapshot_download("owensong/Inflect-Micro-v2")
sys.path.insert(0, model_dir)

from inference import InflectTTS

tts = InflectTTS(model_dir, device="cpu")
sample_rate, waveform = tts.synthesize("The complete model runs locally.")

結果は24 kHzモノラルのfloat32波形です。長文入力は句読点認識境界で分割され、チャンクごとに合成され、制御されたポーズで結合されます。

ONNX Runtime

公式に検証されたFP32エクスポートは、Inflect-Micro-v2-ONNXとして別途公開されています。これは、PyTorchをインポートせずに、動的長さ、CPU/CUDA/DirectMLプロバイダー選択、決定論的なシード、および同じ長文ラッパーをサポートします。

git clone https://huggingface.co/owensong/Inflect-Micro-v2-ONNX
cd Inflect-Micro-v2-ONNX
python -m pip install -r onnx/requirements.txt
python onnx/inference_onnx.py \
  --text "The complete model now runs through ONNX Runtime." \
  --output sample-onnx.wav \
  --provider cpu \
  --seed 7

ニューラルモデルはduration.onnxとdecode.onnxに分割されており、これらが完全な学習済みテキストから波形へのパスを含んでいます。英語のeSpeak-ngフロントエンドはCPU側のコードのままです。グラフ契約、出所、パリティ測定、ブラウザデプロイメント、および再エクスポート手順については、ONNX repositoryを参照してください。

リリースプロファイル

ローカルランタイム長文対応
同じPython APIとCLI経由のCPUおよびCUDA推論。句読点認識セグメンテーションと制御されたポーズおよびエッジフェード。
再現可能な出力監査可能な評価
固定シードは、同じランタイムスタック上で同じ確率的サンプルを再現します。フリーズされたプロンプト、生のASR仮説、間隔、ハッシュ、およびシステムごとのレポートが含まれます。

アーキテクチャとパラメータ予算

Inflect v2は、英語の音素フロントエンド、単調アライメント、確率的潜在合成、残差カップリングフロー、および統合されたエイリアス削減ニューラル波形デコーダーを備えた、パラメータ効率の良いVITSファミリーのエンドツーエンドテキストから波形へのジェネレーターです。

コンポーネントInflect-Micro-v2
潜在チャネル192
テキスト隠れチャネル96
エンコーダーレイヤー / ヘッド3 / 2
フィードフォワードチャネル768
フローカップリングブロック4
初期デコーダーチャネル320
アップサンプリングレート8, 8, 2, 2
学習セグメント16,384サンプル
出力24 kHzモノラル波形

リリースはデプロイ可能なアーキテクチャを記述しています。プライベートコーパス構築と最適化の詳細は、公開パッケージの一部ではありません。

コントロール、決定論、および長文

コントロールデフォルト公開範囲意味
speed1.00.5–2.0低いほど遅く、高いほど速い。
variation0.6670.0–1.0低いほど安定し、高いほど多くの潜在的なバリエーションをサンプリングします。
seed0整数同じランタイムスタック上で同じ確率的サンプルを繰り返します。

長文は句読点認識チャンクであり、無制限の自己回帰パスではありません。チャンク境界には短いポーズとエッジフェードが適用されます。波形契約と並行処理の注意点については、docs/API.mdを参照してください。

データ、ボイス、およびアダプテーションステータス

リリースには、1つの固定された合成英語ボイスが含まれています。パッケージは実際の話者の録音コーパスを再配布せず、ボイスを実在の人物のアイデンティティとして主張せず、推論時に参照オーディオや外部モデルを必要としません。

ベースリリースは推論優先のままですが、公開されている実験的な固定ボイスおよび言語アダプテーションワークフローが利用可能になりました。新しいボイスは、ランタイムボイスクローニングを追加するのではなく、組み込みスピーカーを置き換えます。新しい言語には、所有またはライセンスされた音声データ、互換性のある音素フロントエンド、シンボル移行、再学習、および流暢な話者の評価が必要です。まず Inflect adaptation toolkit から始め、次にdocs/DATA_AND_VOICE.mdを確認してください。

パッケージマップ

パス目的
model.pth推論専用ジェネレーターチェックポイント
config.jsonアーキテクチャとオーディオ設定。Hubダウンロードカウントクエリファイルでもあります
inference.py公開Python APIとCLI
inflect_vits_frontend.py英語正規化、音素化、句読点フロントエンド
runtime/自己完結型モデル実装
Inflect-Micro-v2-ONNX個別の公式FP32 ONNXグラフ、torchフリーランナー、パリティレポート、チェックサム、およびエクスポーター
samples/保持されたサンプル生成
evaluation/final/フリーズされたベンチマークプロンプト、レポート、およびプロトコルアーティファクト
docs/API、デプロイメント、評価、アダプテーション、およびエクスポートドキュメント
release_manifest.jsonファイルサイズとSHA-256ハッシュ

制限事項

  • 英語のみ、固定の男性ボイス1つ。これはゼロショットボイスクローニングではありません。
  • 不慣れなフレーズは、平坦で、表現力が低下し、または不安定になる可能性があります。
  • 数字、略語、同形異義語、および一般的でない名前は、フロントエンドおよびコンテキストに依存し続けます。
  • 長文は句読点認識チャンクを使用します。遷移は、ネイティブな長文モデルパスとは異なる場合があります。
  • 確率的なバリエーションは、タイミングと発音を変更する可能性があります。比較のためにシードを固定してください。
  • UTMOS22およびASRスコアは、制御された人間のMOSまたはMUSHRAスタイルの評価に取って代わるものではありません。
  • 医学、法律、緊急、またはアクセシビリティが重要なコミュニケーションには検証されていません。

責任ある使用

含まれるボイスを使用して、実在の人物を偽装したり、リスナーを欺いたり、不正なコンテンツを作成したりしないでください。文脈が誤解を招く可能性のある場所では、合成スピーチを開示してください。ユーザーは適用法およびApache-2.0ライセンスに責任を負います。

ライセンス、整合性、および帰属

元のInflectコードとウェイトはApache-2.0ライセンスでリリースされています。バンドルされたサードパーティコンポーネントは、THIRD_PARTY_NOTICES.mdで独自の通知を保持しています。release_manifest.jsonは、パッケージ化されたファイルサイズとSHA-256ハッシュを記録します。

プライベート学習スコープと連絡先

Inflect v2はオープンウェイトリリースです。デプロイ可能なウェイト、推論コード、フロントエンドコード、評価プロンプト、およびリリースレポートは公開されています。学習コーパス生成パイプライン、プライベートフィルタリングインフラストラクチャ、および完全な最適化レシピは、公開パッケージの一部ではありません。

Owen Songは、要求に明確な目的があり、ライセンスまたはデータ出所の制約と競合しない場合、信頼できる研究、コラボレーション、再現性、またはデプロイメントの問い合わせのために、追加の技術的コンテキストをプライベートに共有する場合があります。

  • Discord: b111ue — 非公式な技術的な質問には最も迅速です
  • コミュニティサーバー: discord.gg/CVJYedvzvp
  • メール: owen.aw.song@gmail.com — プロフェッショナルな問い合わせに推奨

引用

@software{song2026inflectmicrov2,
  author = {Owen Song},
  title = {Inflect-Micro-v2: Complete Local Text-to-Waveform TTS Under 10M Parameters},
  year = {2026},
  url = {https://huggingface.co/owensong/Inflect-Micro-v2}
}

Owen Songによって独立して設計および開発されました · オープンウェイト · Apache-2.0 · 完全なローカルテキストから波形への推論