Launch HN: Speko (YC S26) – 音声AIのためのOpenRouter

皆さん、こんにちは。Spekoの創業者であるBekです。Spekoは、制約条件に基づいて、公開されているベンチマーク済みのオプションの中から、音声認識（STT）、LLM、音声合成（TTS）モデルの最適な組み合わせを見つけ出し、その理由を説明するプラットフォームです。 デモ: https://youtu.be/no2LY2gRh-c リンク: https://speko.ai/?utm_source=hn 典型的なプロダクションの音声エージェントは、STT、LLM、TTSの3つのモデルのアンサンブルで構成されています。 これらの各レイヤーには数十の信頼できるベンダーが存在し、毎月新しいモデルが登場しています。ほとんどの企業は一度評価を行い、選択したスタックを採用し、ベンダーの切り替えには新たな統合と数値に関する議論が必要なため、再チェックすることはありません。 その結果、より優れた、より安価なオプションが存在するにもかかわらず、前四半期のモデルで稼働している音声エージェントを使用し続けることになります。 Spekoを設立する前、私は4年間、アジアで10以上の言語に対応するエンタープライズ向け音声エージェントを構築する共同創業者兼CTOとして活動していました。新しい音声モデルが登場するたびに、私たちは同じ儀式を繰り返しました。ネイティブスピーカーの評価者を雇い、既存のスタックと比較してベンチマークを行い、改善が見られればプロダクションを更新しました。SpekoはこのプロセスをAPI化します。1日に数千件の通話を行うチームからは、「このダッシュボードにアクセスしてモデルを切り替えるだけで、それが自動的に行われる」という声がありました。 仕組みはこうです。最適化基準（精度、レイテンシ、コスト、またはバランス）、言語、地域を指定してリクエストを送信します。ルーターは、指定された制約条件の組み合わせに対して測定済みのモデルをフィルタリングし、それらをベンチマークして最適なモデルを選択し、プロバイダー、モデル名、スコアを含むヘッダー付きの応答を返します。ゲートウェイは署名付きセッションプランをプリフェッチするため、新しいセッションはメモリから直接プロバイダーにダイヤルされます。制御プレーンの往復は不要で、発信者を待たせることはありません。 フェイルオーバーは接続設定段階でのみ発生します。プロバイダーが接続試行を拒否した場合、次点の候補への接続を開始します。 顧客事例の一部を紹介します。ある創業者は、何を選べば良いか全く分からずに私たちのもとに来ました。彼はユースケースを提示し、今ではプラットフォームを通じてすべてをルーティングしています。ある不動産管理AIはPythonでLiveKitを実行しており、ローンチ以来STTやTTSを更新していませんでした。彼らは、自分たちのSTTが通話で高いエラー率を示していること、より良いオプションが存在すること、そして切り替えは常にR&Dプロジェクトのように見えていたことを知りませんでした。あるチームは、スペイン語のモデルをどれにすべきか分かりませんでした。ある医療チームは、どのSTTが医療用語を最もよく扱えるかを知りませんでした。あらゆるケースで、私たちはベンチマークから適切なスタックを見つけるのを支援し、今では彼らは私たちを通じてルーティングしています。 測定部分は公開されています。私たちは、異なる日付の実行で、同じ入力を各モデルに同じ地域で渡し、私たちの選択肢が代替案よりもパフォーマンスが劣る場合も含め、ボードを公開しています。ローンチデモでは、どちらの30秒クリップがより良く聞こえるかを回答しますが、プロダクションでは、どちらのモデルが8分間耐えられるかを問うため、自発的なスピーチ、金額、日付、10分間の録音をテストし、ランキングは変化します。私たちは、盲検下でのヘッドツーヘッドリスニング投票に基づいて、TTSの自然さを自動評価するスコアラーをトレーニングしました。投票を見たことのないプロバイダーに対しても、私たちの評価者が合意する頻度と同じくらいの頻度で、私たちのスコアラーは同じ勝者を選びます。 私たちはモデル自体をトレーニングしたり販売したりしていません。それが、私たちのランキングを公平に保つ理由です。 また、オーディオパスでの追加のネットワークホップを避けたいチームや、私たちのクラウドとキーを共有したくないチームのために、ゲートウェイをオープンソース化しました（https://github.com/SpekoAI/gateway、MITライセンス）。これは、エージェントのコンテナ内でサイドカーとして実行される単一のGoバイナリで、Unixソケット経由でローカルプロトコルを話し、プロバイダーホストをピン留めし、あなたのキーをアタッチします。BYOKモードでは、私たちとは一切通信しません。 匿名でコンテンツを含まないテレメトリはデフォルトで有効になっており、環境変数1つで無効にできます。 コスト: ゲートウェイとBYOKセットアップは永久に無料です。ホストされたルーターとマネージドキー、統合請求については料金が発生します。6月下旬にバッチを開始して以来、外部利用は平均して週に約25パーセント増加しており、ローンチ週に集中しています。 コミュニティからのフィードバックをぜひお聞かせください。現在、どのように音声モデルを選択していますか？また、サードパーティのベンチマークをどのように信頼していますか？