WiCi: WiFi経由でGPUを接続する
WiCi: Connecting GPUs over WiFi (wici.ai)
要約
WiCiは、ワイヤレスGPUコンピューティングとローカルAI推論システムに焦点を当てたシステム研究ラボです。同社は、モデルとデータをローカルで管理しながら、デバイス間でコンピューティングを共有するためのシステムを開発しています。特に、Wi-Fi経由でのGPU接続におけるネットワーク遅延やオーバーヘッドの問題を解決するため、キャッシングや非同期実行などの技術を用いて、ローカルAIの実現可能性を高めています。
全文翻訳
[動画]
[画像: WiCi]
フロンティアAIは
すべての人に属します。
WiCiはシステム研究ラボです。私たちはワイヤレスGPUとローカルAIのためのシステムを構築しています。
WiCiはシステム
研究ラボです。
私たちは、フロンティアAIのためのワイヤレスGPUコンピューティングとローカル推論システムに焦点を当てています。私たちは、モデルとデータをローカルで管理しながら、デバイス間でコンピューティングを共有するためのシステムを開発しています。
ローカルコンピューティング。
直接制御。
AIをローカルで実行することで、個人や組織はモデル、データ、使用方法を制御できます。WiCiは、ワイヤレスGPUアクセス、効率的な推論、共有コンピューティングを通じて、ローカル展開をより実用的にします。
パーソナルフロンティアAIのための
システム。
私たちの研究は、ネットワーク遅延、限られたメモリ、競合するワークロード、リアルタイム応答など、ローカルAIを困難にする制約に対処しています。
GPUソフトウェアは数千もの小さな呼び出しを行い、Wi-Fi経由では高価になります。私たちのランタイムは、キャッシング、データ再利用、非同期実行によりネットワークオーバーヘッドを削減し、GPUコンピューティングが近くで実行されている間、アプリケーションをデバイス上に保持します。
近くのGPUをローカルのように感じさせる(新しいタブで開きます)
初のワイヤレスGPU
デモ映像
メディア掲載
-
「ローカルコンピューティングが、テクノロジー寡頭政治とそのペットAIの気まぐれに左右されない世界。」
-
「様々なデバイスが接続できる、家庭用の専用AI推論デバイス。」
-
「Wi-Fi 7経由でハイエンドグラフィックスカードのパワーを互換性のあるあらゆるデバイスに提供します。」
-
「WiCiは、従来のeGPUデザインを超えたワイヤレス外部グラフィックスを推進します。」
-
「WiCiは巧妙なアプローチを採用し、4TB PCIe 5.0 SSDをエンクロージャーに直接組み込みました。」
[画像: WiCi One on a violet box among a headset, a tablet, a laptop, and a Mac mini.]
パーソナルAIの背後にあるシステムで作業する。
ネットワーク、GPUシステム、AI推論分野の研究者やエンジニアと共に働きましょう。新しい方法論を開発し、それを動作するシステムに変えます。
WiCiで構築する。
使い慣れたAPI、SDK、およびサポートされているドライバー統合を通じて、ローカルGPUコンピューティングにアクセスします。AI推論をアシスタント、クリエイティブツール、接続デバイスに導入します。