HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Kimi K3 が Telnyx Inference API で利用可能に

Kimi K3 Now Available via Telnyx Inference API (telnyx.com)

120 pointsby fionaattelnyx69 コメント

要約

Moonshot AI の 2.8 兆パラメータを持つフラッグシップモデル「Kimi K3」が、Telnyx Inference API で利用可能になりました。これは、100 万トークンのコンテキストウィンドウとネイティブなビジョン機能を備えた、3 兆パラメータクラス初のオープンソースモデルです。Kimi K3 は、コード分析、長文処理、マルチターンエージェントセッションに対応し、テキスト、画像、動画の入力を単一モデルで処理できます。

全文翻訳

本日、Moonshot AIはKimi K3のオープンウェイトを公開し、Telnyx Inferenceで利用可能になりました。アーキテクチャとMoonshot自身のベンチマークは、彼らの技術ブログに記載されています。この記事は、Telnyx上でKimi K3を実行することについてです。

追加内容:K3が、当社が所有・運用するGPU上でホストされるTelnyx Inference API経由で利用可能になりました。

これは、このモデルのサイズが重要だからです。2.8兆(2.8T)パラメータのモデルは、適切にサービスを提供するために専用のインフラが必要です。当社がGPUを所有・運用しているため、スループットを制御できます。プロバイダー間のホップがなく、クラウドテナントも存在しないため、遅延は最小限に抑えられます。米国、EU、APAC、MENAの各地域にGPUを配置しています。推論は選択したリージョンで実行され、データ保持は一切ありません。応答が返された後、プロンプトや完了結果を保存することはありません。インフラを所有しているため、トークンあたりの価格は、他者のレンタル料とそのマージンではなく、モデルを実行するためのコストを反映しています。

私たちはまだK3を自身でベンチマークしていません。Moonshot自身の数値と初期のサードパーティ評価では、コーディングとエージェントワークにおいてフロンティアレベルであり、総合的にClaude Fable 5とGPT 5.6 Solに次ぐ性能とされています。詳細は彼らのブログで確認できます。

Telnyxでの価格設定:入力トークン100万件あたり2.70ドル、出力トークン100万件あたり13.50ドル、キャッシュされた入力トークン100万件あたり0.27ドルです。プロンプトキャッシュはデフォルトで有効になっています。OpenAI互換のエンドポイント経由で提供されるため、簡単にテストできます。

モデルID:[MODEL_ID] API:https://api.telnyx.com/v2/ai/chat/completions ドキュメント:https://developers.telnyx.com/docs/inference 技術ブログ(Moonshot):https://www.kimi.com/blog/kimi-k3