Show HN: Nari Qwen3-TTSとQwen3-ASR – 高精度、低遅延、低コスト

皆さん、Nari LabsのTobyです。

私たちはOSS（オープンソースソフトウェア）の音声モデルを超高速化することに取り組んできました。昨年、自然な対話が可能な初のOSSテキスト読み上げ（TTS）モデルであるDiaを開発しました。それ以来、さらに多くの優れた音声モデルが公開されています。

しかし、市場は依然としてクローズドソースモデルに支配されています。私たちは、それが推論の問題だと考えています。既存のシステム（vLLM / SGLangなど）は、マルチモーダル推論にはあまり適していません。これを証明するために、Qwen3-TTSに特化した推論エンジンを開発し、オープンソース化しました（https://github.com/nari-labs/nari-qwen3-tts）。これは、1秒あたり10リクエスト（RPS）で50ミリ秒未満の遅延で動作し、オープンモデルがはるかに高速かつ安価に実行できることを示しました。

それ以来、私たちはすべての人に安価で高速、高品質なサービングを提供するために懸命に努力してきました。そして、クローズドモデルが得意とする分野でさえ凌駕しました！

高く引用されているCoval（YC S24）の音声AIベンチマークで測定した結果、私たちのQwen3-TTSエンドポイントは、遅延で2位であるだけでなく、11LabsやCartesiaなどと比較して精度（WER）で1位であり、かつ最も安価なエンドポイントです。私たちのQwen3-ASRエンドポイントは、最も低い遅延と2位の精度を誇り、1位とはわずか0.1%差です。リストの中で2番目に安価なモデルです。

これらのモデルを高速に、高性能に、そして低コストに保つためには、多くの巧妙な推論エンジニアリングが必要でした。興味深いことに、Alibabaの公式エンドポイントは、私たちのものと比較して精度と遅延の点で劣っているようです。しかし nonetheless、これらの素晴らしい音声モデルをOSS化してくれたQwenチームには多大な感謝を捧げます。

私たちは、音声技術をコモディティ化するために、価格をさらに引き下げ続けたいと考えています。これにより、あらゆるアプリケーションがユニットコストを気にすることなく、優れたTTSとSTT（音声認識）を利用できるようになります。また、話者分離（diarization）などのオーディオの他の部分、さらにはビデオやワールドモデルの推論にも取り組んでいます。今後もさらに多くの発表があります！