iPhoneをMacBookのセカンドGPUにしたところ、Qwen 3.8 27Bのプリフィルが29～44%高速化

要約

この記事は、iPhoneをMacBookの外部GPUとして利用することで、AIモデルの処理速度が大幅に向上したという実験結果について述べています。特に、Qwen 3.8 27Bモデルのプリフィル処理において、29%から44%の速度向上が確認されたと報告されています。

全文翻訳