HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Edge0-145B: あなたのコンピュータで最先端AIの能力を

Edge0-145B: Frontier AI Capabilities on Your Own Computer (edge0.ai)

325 pointsby sroussey97 コメント

要約

Edge0-AIは、1450億パラメータを持つ世界初のオープンソースオンデバイスAIモデル「Edge0-145B」を発表しました。このモデルは、コーディング、推論、エージェント能力において、クラウドベースの最先端モデルに匹敵する性能を発揮し、個人のコンピュータ上で動作します。これにより、クラウドへの依存、データプライバシーの懸念、コストといった制約を解消します。

全文翻訳

Edge0-145B: あなたのコンピュータで最先端AIの能力を

本日、私たちはEdge0-145BとEdge0-120Bを、統合された推論フレームワークとデプロイメントツールと共にオープンソース化します。Edge0-145Bは、1450億パラメータを持つ世界初のオープンソースオンデバイスAIモデルです。これは、あなたのコンピュータ上で、クラウドベースの最先端モデルに匹敵するコーディング、推論、エージェント能力をもたらします。

オンデバイスAIでは、モデルの能力とハードウェアで実行できることの間で常にトレードオフが強いられてきました。大規模モデルはより多くのメモリ、帯域幅、電力を必要とし、小規模モデルは複雑な作業に苦労することがあります。これらの処理をクラウドに移行すると、モデル提供者への手数料、データ処理の制約、接続性への依存が生じます。

このリリースは、以下の4つの方法でこれらの制約に対処します。

制約Edge0-145Bが可能にすること
大規模モデルは個人用ハードウェアでの実行が困難
互換性のあるラップトップで145Bモデルがローカル実行可能。ピークメモリ29GB、デコード速度80トークン/秒以上を報告
小規模オンデバイスモデルは要求の厳しいタスクで不足しがち
コーディング、推論、指示追従の結果は、以下の比較に示すように、特定のクラウドベース最先端モデルと競合する
便利なアシスタントは、質問に答えるだけでなく、作業を完了する必要がある
モデルは、3Dシーン、ゲーム、ハードウェアプログラム、PCB設計などのプロジェクトのために、計画、コードの作成と実行、エラーのデバッグ、結果の視覚的な確認を行う
クラウドワークフローは、継続的な手数料、機密データの制限、ネットワークへの依存をもたらす
ローカル推論では、クラウドモデルのトークンやAPI手数料は発生しない。データはコンピュータ上に留まり、コア機能はオフラインでも動作する。ハードウェアと電気代は依然としてかかる

私たちは、開発者が結果を再現し、モデルを評価またはファインチューニングし、自身の製品に統合できるように、フルスタックをリリースします。

モデルウェイトを入手するか、推論フレームワークを探索するか、Edge0アプリをお試しください。

100B以上のパラメータを持つAIを個人用コンピュータで実行する方法

Edge0-145Bラップトップのパフォーマンス:メモリ、速度、電力

Edge0-145Bは、1450億パラメータモデルを個人用ラップトップで利用可能にします。実用的なローカルモデルは、メモリに収まり、プロンプトを迅速に処理し、使用に十分な速度で生成し、消費電力を管理下に置く必要があります。また、より長時間のタスクを維持できる必要もあります。

要件Edge0-145Bの報告結果可能になること
メモリ29GBのピークメモリサーバーなしで、互換性のある個人用ラップトップ(例:MacBook Pro)で実行可能
プロンプト処理1100+ トークン/秒のプリフィル生成開始前に、数十ページに及ぶコードを含む長いプロンプトを処理
生成80+ トークン/秒のデコード人が読むよりも速い速度で生成
電力約120Wの標準的な電力報告されたセットアップで、スロットリングなしで動作を維持
長時間タスク128K–256Kのコンテキスト長い入力に対して実質的に同じ速度を維持し、拡張された作業をサポート

以前のEdge0-35B電話リリースでは、ピークメモリが2.5GB未満と報告されました。iPhone 18 Pro Maxでは、Edge0-35Bは2.5GBのメモリを使用して37+トークン/秒を提供します。Edge0-145Bはパラメータ数が約4倍ですが、ラップトップでの比較では80+トークン/秒と28GBのピークメモリが報告されています。これらの測定値は、異なるモデルとハードウェアに適用されます。

[画像: Image]

オンデバイスモデルの規模の推移。このグラフは、電話、ラップトップ、AI PCを対象とした14ラボの1Bパラメータ以上のオープンモデル67件をカバーしています。同じサイズのベース、インストラクト、推論バリアントは1回カウントされます。各線はラボの最大モデルを追跡しており、2025年7月以前のリリースも含まれます。塗りつぶされた点は新高値、空点はその他のリリースを示します。スケールは40B未満は対数、それ以上は線形です。Appleはウェイトが公開されていないため除外されています。出典:ベンダー発表およびモデルカード。

オンデバイスモデルが小規模に留まっていた理由

メモリの制限により、2026年9月以前はほとんどのオンデバイスモデルが10Bパラメータ未満でした。Apple Intelligenceのオンデバイス基盤モデルは約3Bパラメータでしたが、GoogleのGemini Nanoは1.8Bおよび3.25Bバージョンでした。7Bモデルでさえ、約4GBのメモリを消費する可能性がありました。

大規模モデルはメモリの壁に直面していました。モデルウェイトはストレージを占有し、生成中に読み込まれる必要があり、オペレーティングシステムや他のアプリと限られたメモリと帯域幅を競合します。積極的に圧縮された35Bモデルでさえ、約20GBのメモリが必要となる可能性があり、これは電話が利用できる量よりもはるかに多いです。

コンピューティング、帯域幅、電力は競合する制約を生み出しました。大規模モデルはより多くの能力を提供しましたが、メモリ容量、生成速度、バッテリー寿命を圧迫しました。モデルを小さくすることは、しばしば能力を犠牲にして、それらを適合させるのに役立ちました。

プライバシーだけではそのギャップを埋めることはできませんでした。Apple Intelligenceはユーザーデータを保護しましたが、Appleはオンデバイスモデルが一般的な世界知識を必要とするエージェント的なアプリケーション向けには設計されていないことを認めました。支配的な仮説は、オンデバイスインテリジェンスはクラウドに匹敵できないというものでした。

Edge0の内部:モデルと推論設計の4つのレイヤー

私たちは、Edge0-145Bとその推論エンジンを共同で設計し、大規模モデルのローカル実行を困難にするメモリとデータ移動を削減しました。この設計は、アーキテクチャ、トレーニング、ロード、スケジューリングに及びます。

アーキテクチャ:スパースエキスパート間で大規模行列を共有。 行列を共有することで、エキスパート数を変えずに、保存および移動する必要のあるウェイトが大幅に削減されます。64個のエキスパートの各グループは2つの大規模行列を共有し、各エキスパートは自身の違いを捉える少数のパラメータセットを保持します。以前は、すべてエキスパートが完全な行列セットを保存していました。モデルの合計145Bパラメータのうち、各推論ステップで計算に参加するのは約10Bのみです。

トレーニング:初日からローカル実行のために構築。 私たちは、デプロイメントの制約を設計に組み込み、当初からオンデバイスアーキテクチャでモデルをトレーニングします。これにより、クラウドモデルのトレーニング後にローカルデプロイメントを圧縮またはプルーニングステップとして扱うことを回避します。

ロード:GPUメモリ、システムメモリ、SSDアクセスをパイプライン化。 3つのストレージ階層にわたる読み込みと計算がオーバーラップし、シリアルな待機を回避します。「ホットエキスパート」として頻繁に使用されるものはGPUメモリに残ります。約40GBのエキスパートライブラリがシステムメモリに配置され、必要に応じてエキスパートがGPUメモリにロードされます。約48GBの語彙データがSSDに格納され、オンデマンドで読み込まれます。

スケジューリング:CPUとGPUを連携して使用。 GPUはキャッシュされたエキスパートを計算し、CPUは残りの作業を並列で処理します。投機的デコーディングは複数の候補トークンを一度に検証し、ウェイト読み込みのコストを出力トークンに分散させます。これらの選択は、報告されている80+トークン/秒のデコードレートをサポートします。

[画像: Image]

モデルと推論エンジンの設計が連携し、100B以上のパラメータ推論をパーソナルコンピュータで実用的にします。出典:社内テスト。

これらの変更により、メモリ使用量、消費電力、レイテンシの比例増加なしに、パラメータ数を数十億から1000億以上に増やすことが可能になりました。

Edge0ができること:チャットから複雑な作業まで、すべてあなたのコンピュータで

Edge0-145Bは、複雑なタスクを実用的な結果まで実行できます。そのコーディングおよび推論能力は、計画、ツール使用、実行、デバッグ、視覚的確認を組み合わせたローカルワークフローをサポートします。ベンチマークはその能力を確立し、デモンストレーションはその活用方法を示しています。

クラウド最先端モデルに匹敵するコーディングと推論

Edge0-145Bは、コーディング、推論、知識、指示追従において、特定のクラウド最先端モデルと競合します。

  • コーディング: DeepSWE 1.1で64.6を記録し、Qwen3.8-Flash-Nextの58.7、DeepSeek-V4-Flash-0731の54.4を上回っています。
  • 推論と知識: GPQA-Diamondで90.4を記録し、DeepSeek-V4-Flash-0731の90.8、Claude-Opus-4.6 (Max)の91.3に迫っています。
  • 指示追従: IFBenchで80.6を記録し、DeepSeek-V4-Flash-0731の79.2、Claude-Opus-4.6 (Max)の62.5を上回っています。

Terminal-Bench 2.1での86.52も、Qwen3.8-Flash-Nextの83.3、DeepSeek-V4-Flash-0731の82.7、Claudeの78.2を超えています。AA-LCRでは、Edge0-145BはClaudeの78.0に対して79.3を記録しています。これらの比較は、指定されたモデルと評価に適用されます。

モデルDeepSWE 1.1Terminal-Bench 2.1HLEGPQA-DiamondIFBenchAA-LCR
Edge0-145B64.686.5235.490.480.679.3
Edge0-120B53.681.331.087.479.381.0
Qwen3.8-Flash-Next58.783.335.991.781.379.1
Qwen3.8-27B42.273.030.889.279.582.0
DeepSeek-V4-Flash-073154.482.733.890.879.279.7
Flint 40B—54.9——89.2—
Muse Glimmer—51.722.083.577.083.3
Gemma 4—43.422.785.776.062.0
Claude-Opus-4.6 (Max)—78.240.091.362.578.0

スコアはパーセンテージで、高いほど良い。ダッシュはスコアゼロではなく、公開スコアがないことを意味します。

Edge0、Qwen、DeepSeek、Claudeの結果はEdge0の社内評価から来ています。Claude-Opus-4.6には公開されたDeepSWE 1.1スコアはありません。Flint、Muse Glimmer、Gemma 4については、Terminal-Bench 2.1およびIFBenchの結果はRecursive Flint評価から、HLE、GPQA、AA-LCRの結果はArtificial Analysisから来ています。

Qwen3.8-27B(一般的なオンデバイスモデルのベースライン)に対する最大の改善点は、エージェントおよびコーディング作業で、Terminal-Benchで18.5%、DeepSWEで53.1%です。HLE、GPQA、IFBenchでの相対的な改善率は、それぞれ14.9%、1.3%、1.4%です。

DeepSWE 1.1とTerminal-Bench 2.1はエージェントおよびコーディング作業を評価します。HLE、GPQA-Diamond、IFBenchは推論、知識、指示追従をカバーします。完全な評価セットアップ、ハードウェア環境、再現手順は、技術レポートと共に公開されます。

[画像: Image]

より小さなメモリフットプリントで競合力のある能力

Edge0-145Bは、6つのベンチマーク全体で平均72.8のスコアを29GBの測定済みピークメモリと組み合わせています。Qwen3.8-Flash-Nextは平均71.7ですが、標準的な4ビットデプロイメントで推定70GBのフットプリントです。これにより、Edge0-145Bは推定ベースラインメモリの約40%で同等またはそれ以上の能力を提供し、48GBのラップトップでのローカル使用を可能にします。

モデル6つのベンチマークの平均メモリフットプリント(測定または推定)
Edge0-145B72.829GB
Edge0-120B68.929GB
Qwen3.8-27B66.1約18GB*
Qwen3.8-Flash-Next71.7約70GB*
DeepSeek-V4-Flash-073170.1約87GB*

平均はDeepSWE 1.1、Terminal-Bench 2.1、HLE、GPQA-Diamond、IFBench、AA-LCRをカバーしています。Edge0のメモリ値は測定された社内ピーク値です。アスタリスク付きのベースライン値は、標準的な4ビットデプロイメントの推定値であり、まだ測定されていません。Claudeはクラウド専用であり、DeepSWEスコアがないため除外されています。

[画像: Image]

[図:品質対ピークメモリ。48GBラップトップと64GBワークステーションの容量をマーク。メモリが少なくスコアが高いほど良い。グラフの縦軸はゼロから始まらない。]

計画、コーディング、実行、確認を行うローカルエージェント

単一の自然言語リクエストで、ローカルワークフロー全体を開始できます。Edge0-145Bは要件を分解し、ステップを計画し、コードを書き、ツールを呼び出して実行します。何かが失敗すると、コードをデバッグして修正します。その後、スクリーンショットを撮って結果を確認し、作業が完了するまで反復します。

これらのプロジェクトは、しばしば数十回の計画、実行、レビューのラウンドを要します。ローカル推論とは、これらの追加の会話、コードの修正、視覚的な分析に対して、クラウドモデルのトークンやAPI料金が一切かからないことを意味します。コードとデータはコンピュータ上に留まり、コアモデル機能はオフラインで動作します。

ビデオ制作:1時間以内にテスラのロードスター解説ビデオを生成

Edge0-145Bは、ロードスターがどのように飛べるかについての解説ビデオを、技術調査、スクリプト作成、アセット生成、編集まで担当して作成しました。一般聴衆にも理解できるように原理を説明するよう依頼しました。モデルはクラウドモデルの呼び出しやクラウドトークンの消費なしにローカルで実行され、推論のためのネットワーク往復を回避しました。

ビデオは1時間以内に生成されました。同等の作業を手動で行う場合、ディレクターと脚本家、3Dモデラー、編集者、物理学の専門家が1ヶ月かかるでしょう。AIビデオワークフローは以前は数百ドル以上かかっていましたが、ローカル推論は対応するクラウドモデルのトークンおよびAPI手数料を排除します。

3Dモデリング:Blenderでのマンハッタンの都市シーン

Edge0-145Bは、1時間以内にマンハッタンの3Dシーンを構築しました。テキストと参照画像からBlenderで作業し、シーンを構築し、マテリアルとライティングを調整し、レンダリングされた出力で反復しました。

このワークフローは、視覚的検査、コード生成、修正をBlender内で統合します。モデルはオブジェクト、空間関係、クリエイティブな目標を扱いますが、参照画像のピクセルを超えています。結果を検査し、コードを書き、ステップを人に戻すことなく変更を加えます。プロセス全体がローカルで実行されます。

マンハッタン規模の都市シーンを手動で作成する場合、通常は約12,000〜18,000ドルかかり、少なくとも1ヶ月はかかります。主要なクラウドモデルを使用しても、150ドル以上のクラウドトークン料金が発生します。Edge0-145Bは、これらのクラウドモデルトークン手数料なしでローカル推論を完了します。

ゲーム開発:プレイ可能なゲームと中世の都市

Edge0-145Bは、ローカルでプレイ可能なゲームを作成できます。また、その3Dモデリング能力を使用して、ファンタジーRPG向けにオリジナルの「中世の首都」を構築し、ゲームトレーラー品質で20秒のフライスルーをレンダリングしました。

モデルは都市を独立して計画し、Blenderでゼロから構築しました。城壁、1000以上の旧市街の家々、広場の噴水、ゴシック様式の双塔ファサード、リブヴォールト天井、ステンドグラスの窓などです。

固定カメラパスにより、エラーが視覚化されました。ジオメトリのクリッピング、オクルージョン、または不正確なプロポーションがルートに沿って現れるため、モデルはレンダリング結果を検査し、構築中に作業を修正しました。ワークフローは完全にローカルで実行されました。

主要なクラウドモデルでは、同じプロンプト、参照画像、カメラルートを使用して、単一の完了に数百回のツール呼び出しと数億トークンが必要でした。Edge0-145Bは、ローカル推論でクラウドモデルのトークンまたはAPI手数料なしでラップトップでこれを実現しました。アートチームは通常、この標準の都市シーンを作成するために数週間と数千ドルを費やします。

ハードウェア制御:実際のドローンを飛ばすコード

Edge0-145Bは、「障害物をナビゲートして赤いバックパックを見つけるドローンプログラムを作成してください」という1つの指示から、実際のドローンのプログラムを作成しました。

フライトコントロールと視覚認識プログラムをローカルで生成しました。ドローンは屋内で離陸し、密集した障害物ポールをナビゲートし、自律的に検索し、壁の隣にある赤いバックパックを見つけました。このタスクには、人間が書いたコードやクラウド呼び出しは必要ありませんでした。

ハードウェア開発者は、望む動作を記述し、モデルにそれを実際のデバイスのプログラムに変換させることができます。エディタ、ドキュメント、デバッグツールの間を行き来する必要はありません。

PCB設計:KiCadレイアウトから組み立てアニメーションまで

Edge0-145Bは、PCB設計をコンポーネント配置から組み立てビジュアライゼーションまで行いました。自身のためのボードを設計するように依頼しました。KiCadでゼロから開始し、コンポーネントを配置し、2層ボードをルーティングし、設計をUnreal Engine 5にインポートしました。その後、カメラとライティングを設定し、PCB製造と組み立てのアニメーションをレンダリングしました。

単一のコンピュータで、以前はハードウェアエンジニアと3Dデザイナーが数日間タスクをやり取りする必要があった作業を実現しました。回路図とボードレイアウトはチーム自身のハードウェア上に留めることができ、設計をクラウドモデルにアップロードすることなく、貿易秘密保護とデータ処理要件をサポートします。

なぜEdge0か:オンデバイスAIのためのフルスタック

実用的なオンデバイスAIには、モデル開発、推論エンジニアリング、ハードウェア適応が連携して機能する必要があります。私たちの進歩は、3つの能力にかかっています。補完的なモデルを迅速に開発すること、フルスタックを最適化すること、そして各デプロイメントからの教訓を次に活かすことです。

昨年の9月にリリースしたEdge0-35Bは、電話で何が実現できるかを示しました。そのローンチ投稿は、海外コミュニティでの有料プロモーションなしで初日に120万ビューを超えました。OpenAI、NVIDIA、Qualcommなどの企業の研究者や技術専門家が共有し、モデルはHugging Faceの全体トレンドチャートで1位になりました。

私たちはモデルウェイトと統合推論フレームワークを同時にリリースし、企業や研究者が再現できる標準的なアプローチを提供しました。このリリースは、オンデバイスAIの議論を数億パラメータから35Bティアへと移行させるのに役立ちました。

オンデバイスAIのための4つのモデルファミリー

過去1年間で、私たちは4つのファミリーにわたる200のモデルをリリースしました。それぞれが、リスニングとスピーキングから、高速決定、メモリ、複雑なエージェントタスクまで、作業の異なる部分を処理します。

モデルファミリー役割モデルと機能
Edge0複雑なエージェントタスクとVibeコーディングラップトップ用145Bおよび120Bモデル。電話用35Bおよび8Bモデル。ラップトップモデルはVibeコーディングをサポートし、電話モデルはエージェントタスクをサポート
Audio8リスニングとスピーキング音声認識用ASR-Infiniteおよび3B、0.6B、0.1B ASRモデル。音声合成用0.6Bおよび0.1B TTSモデル。エンドツーエンド音声対話用0.1Bチャットモデル
Decision0高速決定テキスト、音声、ビジョンをカバーする0.6Bおよび3Bモデル。約40ミリ秒でのマルチモーダル決定
Embedding0メモリテキスト、音声、画像、ビデオ、ファイルをサポートする0.6Bマルチモーダル埋め込みモデル。ローカル長期メモリと検索拡張生成(RAG)をサポート

[画像: Image]

ポートフォリオは、数千万から1000億以上のパラメータに及びます。Edge0とAudio8の両方がHugging Faceのトレンドチャートで1位に達しました。

モデルと推論システムを共同設計

私たちはモデルと推論フレームワークを共同で開発し、トレーニングにハードウェア制約を組み込み、さまざまなチップ向けにエンジンを最適化します。これにより、モデルの能力と、それをローカルで使用するために必要なソフトウェアおよびハードウェアが連携します。

その作業には、モデル開発、推論フレームワーク、低レベルハードウェア適応の専門知識が必要です。モデル開発のみに焦点を当てた企業がこれを再現するのは困難です。

各デプロイメントに引き継がれるハードウェア最適化

各デプロイメントは、次のチップ、モデル、または製品のための再利用可能な最適化をもたらします。これは、オンデバイスハードウェアが断片化しているため重要です。NPUアーキテクチャは異なり、INT4、INT8、FP4などの数値形式のサポートも異なります。汎用モデルは、すべてのチップを自動的に最大限に活用することはできません。

私たちは個々のプラットフォームに適応します。私たちのポートフォリオは現在、Qualcomm、BES、Rockchip、Allwinner、D-Robotics、NVIDIAなどの95%の主要チッププラットフォームをカバーしており、ヘッドフォン、メガネ、電話、PC、ロボットに及びます。これはポートフォリオ全体をカバーするものであり、モデル要件は異なり、すべてのデバイスがEdge0-145Bを実行できるわけではありません。

そのデプロイメント作業は現在、500万以上の製品デバイスに及びます。私たちのオープンソースモデルは、3か月以内に1500万ダウンロードを突破しました。2026年10月までに、110,000以上の顧客組織がありました。

ポートフォリオの数値は、企業の論文と社内テストから来ています。これらはより広範なEdge0ポートフォリオを説明しており、この記事の145Bパフォーマンス結果はEdge0-145Bに特化したものです。

Edge0-145Bの場合、初日サポートはmacOS、Windows、Linuxをカバーしており、Apple MシリーズチップおよびRTX Spark、RTX 4090、RTX 5090などのNVIDIAプラットフォームが含まれます。リリースには、ワンクリックデプロイメントツールとハードウェアガイドが含まれています。

オンデバイスAIとクラウドの未来

ローカルモデルがクラウドレベルの能力に近づくにつれて、より複雑な作業をデバイス上に留めることができます。プライバシー、コスト管理、オフラインアクセスは、長い間ローカル実行を支持してきました。残る疑問は、オンデバイスモデルがその作業を行えるかどうかでした。Edge0-145Bは、それが可能なタスクの範囲を拡大します。

なぜより多くのAI作業がローカルに留まることができるのか

ローカル実行は、クラウド専用AIを採用する際の4つの実用的な障害に対処します。

  • クラウドモデルのコストを管理する。 ローカル推論では、使用量が増加しても、対応するクラウドモデルのトークンやAPI手数料は発生しません。
  • 機密データをローカルに保つ。 コード、ドキュメント、ビジネス記録はハードウェア上に留めることができ、チームはデータ処理を管理できます。
  • 応答性の高いエクスペリエンスを維持する。 モデルと推論エンジンの設計は、応答速度、電力使用量、システム応答性、継続的な運用をまとめて扱います。
  • コア機能をオフラインで利用可能にする。 ローカルタスクは接続が切れても続行されます。オンライン情報またはサービスに依存する機能は、依然として接続が必要です。
クラウドファーストからより複雑なオンデバイス作業へ

私たちは、デバイスとクラウド間の作業の分割が3つの段階を経てシフトしていくと考えています。

2026年9月以前:クラウドファースト、オンデバイスサポート付き。 Apple Intelligenceはこの段階を反映していました。プライバシーは保護されましたが、ローカルで処理されるタスクの範囲は限られており、より要求の厳しい作業はクラウド機能に依存していました。

Edge0-35Bの9月10日リリース後:日常的なタスクはローカルで、複雑なタスクはクラウドで。 ローカルモデルは、即時応答が必要な頻繁なリクエストに対応できるようになりました。ある大手ヘッドホンメーカーでは、私たちのハイブリッドソリューションは現在、AI使用量の92%をオンデバイスで、8%をクラウドで処理しています。日常的な会話は、コンシューマーウェアラブルデバイスでの使用例のほとんどを占めます。

Edge0-145Bにより:オンデバイスファーストへ、クラウドサポート付き。 Vibeコーディングなどの複雑なタスクが個人用コンピュータで実行できるようになり、チームはローカル実行を選択する範囲が広がりました。これにより、クラウドを必要とするタスクやハードウェアを維持しながら、デバイス上に留まることができる作業の範囲が拡大します。

[画像: Image]

この図は、クラウドファーストAIから日常的なローカルタスク、そしてより複雑なローカル作業へのシフトを示しています。色付きの領域は模式的であり、測定された使用率の割合ではありません。

クラウドAIが依然として適している場所

ハードウェアの制約は、どのモデルが適合するかを依然として決定します。コンピューティング能力、熱、バッテリー寿命が重要です。Edge0-35Bは電話で動作しますが、Edge0-145Bは適切に装備されたラップトップで動作します。非常に低コンピュートのデバイスは、現在145Bモデルをローカルで実行できません。そのハードウェアに適したより小さなモデル、またはそのサイズのモデルへのクラウドアクセスが必要です。

クロスデバイスの長期メモリや、最新情報が必要な検索には、依然としてクラウドサービスが必要です。ローカルモデルとクラウドモデルは連携できます。適切な分割は、タスク、ハードウェア、および必要な情報によって異なります。

目標は、ローカル実行を要求の厳しい作業の実用的な選択肢にし、ユーザーの近くで作業を続けられる能力の高いモデルを提供することです。それが、すべての人にゼロ距離でのインテリジェンスを可能にするという私たちの目標に向けた次のステップです。

Edge0の始め方

モデルをダウンロードしてローカルで実行し、評価またはファインチューニングし、独自の製品に組み込んでください。

ハードウェアまたは製品統合については、GitHubまたはcontact@autoark.ai経由でEdge0チームに連絡してください。