AppleのMinions：アイドル状態のApple Silicon Macから構築された仮想GPUクラウド

研究分野 音声・自然言語処理、研究分野 ツール・プラットフォーム・フレームワークコンテンツタイプ ペーパー公開 2026年10月Minions：アイドル状態のApple Siliconデバイス上に構築された動的かつ分散型の仮想GPUクラウド著者Jianhua Li, Yun Xing, Girisha De Silva, Ryan Flint, Kai Yuan, Sean Suchter出版物を表示BibtexをコピーGPUアクセラレーションされた機械学習推論の需要増加は、中央集権型GPUインフラストラクチャの限界を露呈させています。これには、高コスト、限定的な弾力性、リソース制約下での長い待ち時間などが含まれます。同時に、最新のApple SiliconベースのmacOSデバイスは強力なGPUを搭載していますが、通常の利用中はほとんどアイドル状態のままです。この論文では、Minionsを紹介します。これは、macOSデバイス全体でアイドル状態のApple Silicon GPUを集約し、大規模な機械学習推論ワークロードを実行するための動的かつ分散型の仮想GPUクラウドです。Minionsにより、チームは追加のGPU調達を必要とせずに既存のハードウェアを活用できます。このシステムは、柔軟なGPU推論タスク実行、耐障害性、効率的なリソース利用を提供します。私たちの経験によると、中央集権型GPUリソースが制約されている環境では、アイドル状態のmacOSデバイスを実用的な分散型GPU推論プラットフォームに変換できます。 関連記事とアップデート。 MLXとM5 GPUのニューラルアクセラレータによるLLMの探索11月19日、2025年Apple Silicon搭載Macは、Macを使用して最新のモデルやテクニックを試したいAI開発者や研究者の間でますます人気が高まっています。MLXを使用すると、ユーザーはMac上で効率的にLLMを探索および実行できます。これにより、研究者は新しい推論またはファインチューニングテクニックを試したり、プライベート環境で自身のハードウェア上でAIテクニックを調査したりできます。MLXはすべてのApple Siliconシステムで動作し、最新の…続きを読む ReDrafterによるNVIDIA GPUでのLLM推論の高速化12月18日、2024年LLM推論の高速化は重要なML研究問題です。なぜなら、自己回帰型トークン生成は計算コストが高く比較的遅いため、推論効率の改善はユーザーのレイテンシを削減できるからです。Apple Siliconでの推論を高速化する継続的な取り組みに加えて、業界全体の本番アプリケーションで広く使用されているNVIDIA GPUでのLLM推論の高速化において、最近大きな進歩を遂げました…続きを読む 機械学習における機会を発見する。 私たちの機械学習における研究は、日々新たな地平を切り開いています。 私たちと一緒に働きませんか