Desert Ant Labs: デバイス上で動作するローカルで高速なモデル

On-device intelligence for every product

Blog Company

［画像: Desert Ant Labsの最初のモデル群、カード形式で並べられた様子］

Paul VeugenSeptember 8, 2026 · 6 min read

［画像: The first collection of Desert Ant models, fanned out as cards.］

本日、私たちはDesert Ant Labsをローンチします。これは、意見を持ったオンデバイス・インテリジェンスを構築するヨーロッパのフロンティアAIラボです。効率的なインテリジェンスへの最良の道は、デバイス上で始まるものと私たちは信じています。

私たちは、音声、画像、テキストのための小さく特化したモデルを構築しています。各モデルはミリ秒単位で応答し、実行コストはゼロなので、トークンコストや推論速度に制限されることなく、あらゆる製品インタラクションにインテリジェンスを組み込むことができます。5年前のスマートフォンでも動作するほど小さく、すべてのフレームやキーストロークで使用できるほど高速で、すでに支払っているAPIコールよりも優れています。

本日、最初の18個のモデル（12個は安定版、6個はベータ版）が公開され、Swift、Kotlin、JavaScript用の単一SDKからアクセスできます。タスクごとに1つのモデルがあり、それぞれがデバイス上でそのタスクを完了する最も速い方法として構築されています。

• Voz: iPhoneで10分間の音声を2秒で文字起こしします。Whisperより4.7倍高速で、すべての単語に開始時刻と終了時刻が含まれます。
• Clear: 9MBのモデルで、5分間のラップトップ録音を1秒でスタジオ品質のオーディオに変換できます。
• Redact: リアルタイムで27言語の名前、住所、カード番号をマスクし、サーバーに到達しないようにします。
• Tongue: 2MBのモデルで、3単語から84言語を識別します。

言語ID精度、3単語での識別

Tongue · 2MB

0.933

293MB detector

0.887

Tongueは3単語から言語名を特定し、2MBのモデルで0.933のスコアを達成しました。これは293MBの検出器の0.887と比較して高い値です。

これらはほんの一例です。他の14個のモデルの完全な仕様とベンチマークは、desertant.com/modelsとHugging Faceで見つけることができます。すべてのモデルは、月間アクティブデバイス10万台まで無料です。トークンもログインも不要です。

システムによって検出された個人データ

Redact · 12MB

88.8

GLiNER-PII · 2.3GB

91.1

Rampart · 14.7MB

61.4

OpenAI filter · 3GB

60.2

Redactはテキスト内の個人データの88.8%を検出します。これは2.3GBのGLiNER-PIIに近く、12MBのモデルを使用しています。

私たちはヨーロッパでこれを構築しています。「オンデバイス」が主権のデフォルトである場所です。データは顧客の手を離れることはなく、機能は他者のクラウドに依存せず、アップロードされていないものは決して強制されることはありません。

ここに至るまで

私たちは5年間、オンデバイス・ファーストのアプローチでビデオアプリDetailを開発してきました。しかし、短いクリップを作成するAuto Editや、ポッドキャストのオーディオエンハンスメントのような機能を紹介した際、クラウドAPIに頼らざるを得なくなりました。そして、Detailの人気が高まるにつれて、インフラストラクチャの請求額も増加しました。

数ヶ月ごとに、有用なオンデバイスモデルを探しました。Hugging Faceをサーフィンして、フィラーワードを見つけたり、録音をクリーンアップしたりできるモデルを探しました。そして、毎年6月には、構築するための素晴らしい新しいツールを手に入れましたが、業界の進歩は十分ではありませんでした。基盤はありました。チップ、Core ML、研究です。欠けていたのは、その基盤と、アプリで実際に機能を実装する間のすべてでした。数行のコードでドロップインして出荷できるモデルです。

そこで、私たちはモデルを自社でトレーニングしました。モデルのトレーニングはプロダクトデザインの課題であることが判明し、プロダクトは私たちが得意とするところです。私たちは、速度、品質、コストでクラウドサービスを凌駕し、サイズはごくわずかで、タスク自体では他のローカルおよびクラウドモデルを上回るモデルとローカル推論を設計しました。

私たちは、より良く、より高速なオーディオエンハンスメントのためにDolbyを置き換え、Clearを使用し、オンデバイス文字起こしをVozで5倍高速化しました。また、Claude Sonnetを、10分間のビデオを5秒で多数のクリップに変換する284MBのモデルであるClipsで置き換えました。これはSonnetよりも10倍高速で、470倍少ないエネルギーを使用し、品質は同等です。

Clearオーディオエンハンスメント速度、5分間のオーディオ

iPhone 16 Pro

302x

MacBook Pro (M5)

345x

Clearは、9MBのモデルから、デバイス上で3つのうち最良のものをエンハンス、マスター、再エンコードします。電話ではリアルタイムの302倍です。

文字起こし速度、30分間のオーディオ

Voz

319x

Apple SpeechAnalyzer

78x

Whisper large-v3-turbo

50x

M3 Ultraでの30分間の連続オーディオのリアルタイムファクター。VozはiPhone 17 Proで298xに達します。

Detail 6は、iOS 27でリリースされ、すべてのクラウドAPIを独自のモデルに置き換え、完全にデバイス上で実行されます。

私たちは過去数年間、LLMを単なるAPIのように扱ってきました。そして、汎用的なフロンティアブレインの熱狂の最中、それらが唯一の選択肢ではないことをほとんど忘れていました。

私が話すすべての開発者は、コストが問題でなければ構築するであろうオンデバイスモデルのウィッシュリストを持っています。あるいは、トークンを浪費しているが、ローカルモデルと喜んで交換する機能を持っています。1日に何十万回も同じように実行されるコールです。録音のクリーニング、写真のタグ付け、文から日付の抽出、サーバーにテキストが到達する前に名前をキャッチすること。これらのどれもフロンティアモデルを必要としません。

NVIDIA自身の研究者は、3つのエージェントシステムを分析し、大規模モデルへの呼び出しの40〜70％が代わりに小型で特化したモデルに移行できると推定しました。

コンピュートはすでに支払われている

業界は今年、データセンターに約4500億ドルを費やすでしょう。一方、世界では、ますます高性能なチップを搭載した10億台以上のスマートフォン、タブレット、ラップトップが出荷されており、これらの種類のタスクに最適です。地球上のすべてのAIデータセンターよりも多くのコンピュートが人々の手にあります。

私たちは無料推論という不公平なアドバンテージを持っています。コールごとのコストがないため、機能はチェックできるものだけでなく、すべてのメッセージで実行されます。往復がなく、顧客のデータはデバイスから離れません。推論コストがゼロになると、製品の構築方法は完全に変わります。

すべての製品に小さな脳を

ローカルモデルで構築するには、開発者エクスペリエンスを大幅に改善する必要があります。商用利用可能で、速度と品質でタスクの代替手段を上回り、数行のコードでアプリにドロップでき、発見しやすいモデルが必要です。

最初の100個のモデルを小脳、つまり小さな脳と考えてください。小さな脳は、常にオンの作業（バランス、タイミング、考えもしないスキル）を処理するため、脳の残りの部分は考えることに集中できます。それが私たちが最初に構築しているものです。デバイス上で無料で、一日中実行される作業のための、高速で特化したモデルです。

次に、どのモデルが応答するかを決定する層である大脳皮質が来ます。まず小さなローカルモデル、次に必要に応じてより大きなモデル、そしてデバイスを離れなければならない場合にのみクラウドを使用します。オープンリサーチが進み、デバイスシリコンがより高性能になるにつれて、ローカルモデルは成長し、私たちはさらに大きなものを自身でトレーニングします。小さなものから構築されたフロンティアインテリジェンスです。

クラウドラボは中立的なモデルを出荷します。トークンごとの価格設定には中立的なモデルが必要だからです。すべてのDesert Antモデルは、私たちが選択したデフォルトと、そのデフォルトを変更するために必要なレバーとともに出荷されます。私たちはモデルとランタイムを一緒に最適化します。iPhoneでは、ClearとVozはNeural Engineで実行され、ブラウザでは、Clearの同じ重みがWebAssemblyを介して実行されます。

SDK

すぐに始められますか？ネイティブのSwift、Kotlin、JavaScript SDKを使用して、アプリにDesert Antモデルを実装できます。これらはGitHubで利用可能です。

私たちのドキュメントは開発者とエージェント向けに書かれており、CLIでMac上でモデルを試したり、Hugging Faceのブラウザで試したりできます。

私たちのモデルでクールなものを構築しましたか、それとも私たちと一緒に構築したいですか？お問い合わせください。

launchon-devicemodelssdk

すべての投稿