2025年版Androidで画像を生成する
Generating Images with a 2025 Android (duration.ai)
要約
この記事では、Samsung Galaxy S25+上でPrismMLのBonsai Imageモデルを使用して画像を生成する試みについて解説しています。iOSに比べてAndroidでの開発は複雑で、特に異なるハードウェアと未成熟な機械学習スタックが課題となりました。しかし、NPUを活用することで、512x512の画像を約2分で生成することに成功し、以前のiPhone 12 Proと同等の性能を達成しました。
全文翻訳
2025年製Androidで画像を生成する
Samsung Galaxy S25+で完全に生成した画像はこちらです。PrismMLのBonsai Imageモデルを、今回はスマートフォンのHexagon NPU上で実行しました。
[画像: A bonsai tree in a quiet ceramic studio with shallow depth of field, generated on a Galaxy S25+ Hexagon NPU]
「静かな陶芸スタジオにある盆栽、浅い被写界深度、柔らかな朝の光」
コードはgithub.com/duration-ai/bonsai-image-androidにあります。これは、以前の記事「Generating images with a 2020 iPhone」の続編です。同じモデル、同じ512x512ピクセルですが、今回はAndroidです。前回の記事では、次にAndroidを検討するかもしれないと締めくくりましたが、実際に試したところ、はるかに困難であることが判明しました。
iOSの場合、AppleはCore MLとMLXという2つの成熟した機械学習スタックを提供しており、PrismMLのリファレンスはSwiftポートと同じMLXフレームワークで動作したため、数値データを逐一比較することができました。
残念ながら、Androidには成熟した同等のものはありません。NNAPIはLiteRT(旧TensorFlow Lite)に置き換えられましたが、まだかなり未熟です。問題は、Androidの各スマートフォンファミリーが異なるハードウェアを持っているため、最高のパフォーマンスを得るには、モデルをCPU、GPU、または一部の電話ではNPUのどこで実行するかを選択する必要があることです。各ファミリーには独自のツールチェーンがありますが、Core MLほどスムーズなものはありません。
ポート作業のベースラインはCPUです。stable-diffusion.cpp、あるいはより正確にはJuste-Leo2氏のフォーク(1ビットサポートを追加したもの)は、Bonsaiの重みを比較的簡単に実行できますが、非常に遅いです。S25+のSnapdragon 8 Eliteでは、拡散トランスフォーマーはステップあたり約2分かかり、フル512x512ピクセルの画像には8〜9分かかります。これは問題ありませんが、2020年のiPhone 12 Proで512x512ピクセルの生成を2分強で実行できたことを考えると、技術的に5年も進んだはずのスマートフォンで、これ以上改善できるか確認したかったのです。
GPUでは初期の成功を収め、256x256ピクセルで鮮明なリンゴを生成することに成功しました。
[画像: A red apple, 256x256, generated on the Adreno GPU via a hand-written OpenCL kernel]
GPUでの256x256ピクセル、OpenCL経由
しかし、GPUで512x512ピクセルの画像を生成しようとする試みは、デノイジング中の度重なるクラッシュにより、そこで大きく停滞しました。そのため、テストされていないパスとしてNPUしか残っていませんでした。(より知識のある方なら、これを解決できるはずです。)
BonsaiをS25+のNPUに載せるには、iOSでは問題にならなかった多くのことを回避する必要がありました。NPU用に展開する必要がある重み、fp16オーバーフロー、Qualcomm SDKのバージョン特有の問題などです。
私たちは、完全にタップ可能なアプリができる前にポート作業を中断しました。アプリ自体がNPUと通信する際に、常に新たな問題に直面していました。最終的な成果物は、電話にロードし、ケーブル経由でコンピューターからトリガーする生成パイプラインです。
iPhoneで実行したのと同じプロンプトで、さらに4つの生成結果を以下に示します。
[画像: A humpback whale breaching beside a tiny fishing boat, generated on a Galaxy S25+ Hexagon NPU]
「小さな漁船の隣で跳ねる巨大なザトウクジラ、ドラマチックな海の飛沫」
[画像: A bioluminescent jellyfish in dark ocean depths, generated on a Galaxy S25+ Hexagon NPU]
「暗い海の深淵にいる生物発光クラゲのバレエ、幻想的で異世界的」
[画像: A cozy mountain cabin in a winter storm with warm windows, generated on a Galaxy S25+ Hexagon NPU]
「冬の嵐の中の居心地の良い山のキャビン、煙突からの煙、暖かい窓、ロマンチックな風景」
[画像: A weathered sailor in an oilskin coat at golden hour, generated on a Galaxy S25+ Hexagon NPU]
「ゴールデンアワーのオイルスキンコートを着た年老いた船乗り、髭に塩の飛沫、ゴールデンアワーの写真撮影」
各512x512ピクセルの画像は、2分強かかります。プロンプトのエンコードに約20秒、4回のデノイジングステップにNPUで65秒、デコードに45秒です。NPUでのみ、512x512ピクセルのレンダリングを完了し、かつ合理的な時間で実行することができました。実質的な時間でも、6年前のiPhoneがGPUで達成した時間とほぼ同じ、約140秒で、同じ4ステップです。
ただし、画像はiPhoneのものより若干ソフトになります。同じモデルですが、精度が異なります。iPhoneはGPU全体で浮動小数点演算でトランスフォーマーを実行します。NPUは fp16 でも多くの部分を実行しますが、一部のブロックはより低い精度の整数(fp16オーバーフロー)にフォールバックする必要があり、これが細かいディテールを鈍らせていると推測されます。
1ビットモデルは、NPU用に展開されると1ビットではなくなるため、デプロイ可能なバンドル全体は約10.7 GBになります。iPhoneでは3.7 GBでした。ピークメモリは約5 GBで、12 GBの電話では余裕がありますが、iPhoneの慎重な3 GBをはるかに超えています。
iPhoneと同様に、連続して生成を行うとサーマルスロットリングに遭遇します。また、テキストエンコーダーやVAEをCPUから移動させる試みはまだ行っていません。これらは将来的な改善点となる可能性があります。
Bonsai画像生成のための、出荷可能なAndroidアプリを完全に完成させるまでには至りませんでしたが、私たちは進歩に満足しています。この成果が、このマントルを引き継ぐことに興味を持つかもしれない他の人々にとって、少なくとも有用な出発点となることを願っています。