プログラミング
iPad上で未変更のLinux amdgpuドライバーを実行する
Running the unmodified Linux amdgpu driver on an iPad (github.com)
要約
LemonSeed Studioは、iPad上で動作するエディタおよびIDEであり、AMD GPUによるオンデバイスLLM推論を可能にします。このアプリは、Thunderboltエンクロージャ内のAMD GPUを駆動する、未変更のアップストリームLinux amdgpuおよびamdkfdドライバーをPCIDriverKit拡張機能として組み込んでいます。また、そのGPU上でHSAランタイムとHRX/Loomを介して実行される推論エンジン、およびGPUテレメトリ監視ツールも含まれています。
全文翻訳
LemonSeed Studio
iPad用のエディタおよびIDEで、AMD GPUによるオンデバイスLLM推論を行います。
LemonSeed Studioは単一のiPadアプリです。以下をバンドルしています。
mac_linuxgpu: 未変更のアップストリームLinux amdgpu + amdkfdドライバーを、アプリのPCIDriverKit拡張機能として組み込んでいます。Thunderboltエンクロージャ内のAMD GPUを駆動します。
LemonSeed Engine: そのGPU上で、HSAランタイムとHRX/Loomを介して実行される推論エンジンです。
amdgpu_mtopg: ライブGPUテレメトリ。
レイアウト
third_party/mac_linuxgpu GPUドライバー (サブモジュール)
third_party/LSE 推論エンジン (サブモジュール)
third_party/amdgpu_mtopg GPUモニター (サブモジュール)
ソースの取得
git clone --recurse-submodules <リポジトリ>
または、既存のクローンで:
git submodule update --init
mac_linuxgpuは、初回ビルド時に独自のピン留めされたLinuxソースをスパースにフェッチするため、ネストされたカーネルサブモジュールを再帰的にクローンする必要はありません。
ライセンス
元のコードは、MITまたはGPL-2.0-onlyのいずれかを選択できます。LICENSEを参照してください。バンドルされたコンポーネントおよびサブモジュールコンポーネントは、独自のライセンスを保持します。THIRD_PARTY.mdを参照してください。