AIを家庭に Part 1: ガラクタ箱
AI At Home Part 1: A Box Of Scraps (jdagostino.github.io)
要約
著者は、クラウドベースのAIサービスに依存するのではなく、自宅に独自のAIデータセンターを構築するという目標を掲げています。現在のコンピューター部品不足と高価格のため、彼は中古のサーバーハードウェアや、かつてクラウドゲーミング用に製造されたものの市場に出回らなかったAMD V620 GPUなどを「ガラクタ」として活用し、低コストで高性能なAI環境を構築するプロセスを詳述しています。特に、冷却やファン制御といった課題へのDIYアプローチが描かれています。
全文翻訳
No, We Have AI At Home
Chapter 1: A Box Of Scraps
2026年8月13日
ソフトウェア開発者にとって、今は興味深い時代です。Transformer大規模言語モデルは、私の意見では、この分野における長い間ぶりの、本当に新しく興味深い技術的進歩です。これに基づいたAIコーディングエージェントは、この職業における仕事の核となりつつあり、その感覚は、手工具で木工をするのとパワー ใช้เครื่องมือをするのと似ています。良い意味でも悪い意味でも。
私自身は、分解してガレージで組み立て直すことができる技術しか信頼できません。誰かの管理下にあるコーディングエージェントに接続してサービスを利用するというのは、私には引っかかります。うまくいかない方法が多すぎるのです。それに依存し始めると、それはあなたから奪われてしまうでしょう。この技術全体はエキサイティングですが、どこか大きなAIデータセンターに接続したくはありません。私は、すべての家庭に小さなAIデータセンターが欲しいのです!そして、私たちは今、コンピューターパーツの品不足(あるいは、2010年代後半はコンピューターパーツの余剰だったのでしょうか?)の最中にあり、手頃な価格に抑えるためには、ガラクタから作る必要があります。
[画像: すべての家庭にAIデータセンターを設置する]
ここで最も必要なのは、大量のGPUです。大量の並列行列演算を行うものには高速なメモリが必要であり、それがGPUです。しかし、前述したように、AIワークロードを実行するように設計されているもの、あるいはそれに適していると知られているものは、現在非常に高価です。
2022年、多くの企業が「クラウドゲーミング」を普及させようとしていました。つまり、どこかのデータセンターでビデオゲームを実行するので、高価なPCやコンソールを購入する必要がないというものです。AMDはそのワークステーションGPUの1つに、追加のRAMを搭載し、すべてのビデオ出力を削除しました。その結果できたカードを「V620」と名付けました。一般には販売されなかったので、耳にしたことがないかもしれません。AMDはこれらのカードを大量に生産しすぎましたが、ラグ(遅延)という(後から考えると明白な)問題のため、クラウドゲーミングはうまくいきませんでした。
これらのカードはAIワークロード向けには設計されておらず、AMDのソフトウェアサポートは悪名高いほど悪いので、eBayの「中古サーバーハードウェア」のe-waste(電子廃棄物)販売業者から比較的安価に購入できます。私が手に入れたものは、実際には一度も使用されていなかったようで、新品同様に見えます。それぞれ32GBのかなり高速なVRAMを搭載しています。確かに、私が使いたいことに関しては評判が悪いですが、実際に動作させるのはどれほど難しいでしょうか?
ああ、ちなみにファンは付いていません。これらはサーバーカードで、サーバーが非常にうるさいブロワーファンで冷却することを想定しています。それについては後ほど説明します。
[画像: ファンや電源ケーブルなしでのフィット感]
ここではパーツ不足なので、GPUアレイを接続するために他のe-wasteを購入しました。マザーボードは2017年のX299プラットフォームのもので、誰かの古いゲーミングリグから取り出したもので、eBayで安価になるほど古かったです。4つのPCIe x16スロットがあり、4つのGPUを並べて配置するのに適切な間隔になっています。これだけが私にとって重要なことでした。搭載されているCPUは、Intel Core i9 10900Xで、これは過去20年間でIntelが製造した最悪のCPUです。2019年に発売されたとき、Skylakeチップのリフレッシュ版のリフレッシュ版のリフレッシュ版で、当時IntelがAMDのRyzenチップにプロセッサ設計でもリソグラフィーノードサイズでも追いつけなかったため、高価で消費電力も大きいものでした。私にとっては問題ありません。つまり、今は安価であり、仕事はこなしてくれるでしょう!
RAMとSSDは、家中の他のコンピューターからサルベージしました。これはもちろんズルです。今買わなければならないとしたら、迷惑なほど高価でしょう。しかし、ここでの要件は、あなたが思うほど厳しくありません。すべての作業はGPUのVRAMで行われます。モデルがディスクからロードされた後、これらはほとんどアイドル状態になります。もしサルベージしたパーツがなかったら、ここでもかなり安く済ませられたでしょう。
4つのGPUとIntelの最も非効率的なプロセッサに電力を供給するので、大きな電源ユニットを用意しました。なぜか1600Wのものが1200WのものよりeBayで安かったのです。常にそれほど多くの電力を消費するとは予想していませんが、起動時にすべてを一度にオンにする際には必要です。
新しいケースとファンには奮発しました。ああ、そうそう、ファン!あのデータセンターGPUには冷却ファンが付いていません。壁のようなサーバーファンからのエアフローを想定しています。これらのカードを冷却するための3Dプリント可能なファンシュラウドモデルはオンラインにたくさんありますが、4枚を横に並べると、これらはすべて最適ではないようです。端に小さな超うるさい40mmファンを使用するか、横にはみ出してしまい、カードを隣り合わせにたくさん配置できなくなります。2スロットカードが4枚並ぶと、幅は約160mmになるので、本当に必要なのは、カードのヒートシンクの上に風を送る80mmサーバーファン2つです。
[画像: 80mmサーバーファンを2つ搭載したファンシュラウド]
最近はこの種の作業にOnShapeを使っています。良いですね。
そこで、2枚のカードに80mmファンを取り付けるシュラウドをモデリングし、プリントしました。[1] カードの背面には、小さなネジで固定された金属製のケーブルガイドフィンが付いていました。私はそのネジ穴を使ってシュラウドを取り付けました。電気コネクタ用の切り欠きと、ファンを背面に固定するための4つの穴があります。これをカーボンファイバーASAでプリントしましたが、おそらく普通のPLAでも十分だったでしょう。
これらのファンは10,000 RPMのものを購入しました。十分な空気を動かしていることを確認したかったからです。そして、遅いファンと同じ価格でした。本当にうるさいです!マザーボードにGPU温度に基づいてファンの速度を制御させたいと思っていましたが、最初はうまくいかなかったので、初期設定中は耳栓をしていました。
[画像: グローブのようにフィットする]
最初はボックスが起動しませんでした。4枚のカードすべてを接続した状態でマザーボードが実際に起動するように、どのPCIe設定を変更する必要があるかを突き止めるまで、耳栓をしてガレージに立ってBIOS設定をいじり回すのに1時間近く費やしたと思います。(Resizable BARとMMIO High Sizeを、2つの別々のメニューの深い詳細設定オプションで有効にする必要があります。なぜなら、2017年当時、誰もこのボードにこれほど多くのVRAMを接続するとは思っていなかったからです。)この頃、ガレージにイーサネットがないことにも気づき、午後11時に石膏ボードに穴を開け始めました。
[画像: これは完全に正常な行為です]
とにかく!いくつかの初期の失敗の後、このシステムを起動させ、Ubuntu 24.04のインストールを開始しました。耳栓をしたまま、まだファン制御なしで、お気に入りの推論サーバーである優れたllama.cppのビルドをコンパイルし、Gemma4モデルをテストしました。これは、1枚のカードに快適に収まります。これは、私が以前持っていたシングルGPUワークステーションでいじっていた頃のお気に入りのローカルモデルで、かなりうまくテストできました。以前持っていたRTX 3090ほど速くはありませんでしたが、まったく悪くはありませんでした。次に、Deepseek V4 Flashを起動しました。これがこのビルドの本当のターゲットでした。遅いです!現時点では、それを速くする方法はまったくわかりません(次の章で詳しく説明します)。ただ、収まるかどうかを確認したかっただけです。そして、収まりました。
ファンに戻りましょう!繰り返しになりますが、これらがどれほどうるさいかを強調しても足りません。フルブラストでは、家の壁越しに聞こえます。そして、このシステムはフルブラストを必要としません。最初の計画は、マザーボードの内蔵ファン制御でファンを制御することでしたが、このボードは異なるファンを異なる速度で制御することを拒否します。これはSupermicroのマザーボードでは一般的らしいです。そこで、代わりにファンコントローラーを自作しました。私は、関税前の時代にAliexpressから入手した、ブランド不明のArduino Nanoクローンを箱一杯持っています。大学のマイクロコントローラーのクラスのために10年以上前に書いたコードを見つけ出し、PWMモーターを動かすためにクリーンアップしました。
コントローラーは、サーバーからパーセンテージを受け取るだけです。温度を読み取り、ファンの速度を適切にスケーリングするスクリプトが必要です。そして、これはAIサーバーなので、ファン制御スクリプト自体を書かせました。それはふさわしいと思いました。Deepseek V4 Flashは、軽量AIモデルからまともなソフトウェアを引き出すために必要な、通常のガイダンスと人間のインタラクションで、これを行うのに十分な能力があります。[2] GPUを加熱するために何かを考えろと指示したとき、それが行列乗算を行うPyTorchスクリプトを書き始めたという面白い瞬間がありました。私は「いや、君はこのカード上で動作していて、このコンピューターのllama.cppインスタンスに存在するのだから、何かを言うだけでカードがロードされるのだ」と伝え、それは一時的な実存的危機に陥りました。愛らしいです!
コントローラー自体は、サーバーケースに詰め込んだプロトタイピングブレッドボード上にあります。ケースにショートしないように、電気テープを貼りました。
[画像: おそらく大丈夫でしょう!心配しないでください。]
この時点で、ボックスはかなり安定しており、GPUをテストしました。そして、本当に高速に動作させる方法を深く掘り下げる準備ができています。これは次の章で説明します。
UPDATE: 2026年8月14日
昨日、この記事はHacker NewsとBlueskyの両方で一時的にトレンドになりました。これは予想していませんでした。第2章を執筆中ですが、いくつか寄せられた質問への回答を以下に示します。
「どのケースを使用しましたか?」
それはSilverStone RM4Aです。主に、一般的な7つではなく8つのPCIカードスロットがあったため、4つのGPUを横に並べて配置できました。最も安いケースではありませんでしたが、価格はそれほど悪くありませんでした。262ドル払いました。
「GPUはいくらでしたか?」
4枚購入する際に、売り手と交渉して1枚あたり350ドルにしてもらいました。購入枚数によって価格は変動する可能性があります。特に1枚だけ購入する場合です。現在、この種のものは価格が変動しています。
「他にどのようなパーツが入っていますか?」
Supermicro C9X299-PGFマザーボード、Intel Core i9-10900x CPU、EVGA 1600W電源、4つの異なる32GB DDR4 RAMスティック(これは過剰です。次の章で説明します)、Samsung 980 PRO NVMeドライブ、Asetek AIO CPUクーラー、および各種ファンです。GPUのファンはArctic S8038-10Kです。
「4枚のカードを同時に駆動するには、サーバーグレードのマザーボード、CPU、RAMが必要なのではありませんか?」
システムのRAMは非ECC、CPUはCore i9でXeonではなく、マザーボードにはいくつかの場所に「Play Harder」と書かれています。一方で、背面には独立したイーサネットポートからIMPIが出ており、起動に時間がかかります。それをどう数えるかはわかりません。
「Ryzen AI Max HaloやDGX Sparkを購入して、モデルを実行するために128GBのRAMを使用する方がはるかに簡単だったのではないでしょうか?」
ああ、それははるかに簡単だったでしょう。この種のフランケンシュタインボックスを構築する代わりに、より賢明な選択です。一方で、それは約2倍の費用がかかり、マルチGPU並列処理について学ぶことはできなかったでしょう。OpenRouterでDeepseek V4 FlashのAPIクレジットを購入するだけで、さらに安くすることもできますが、それは目的を少し損なうでしょう。
「待ってください、ガレージとリビングルームの間の防火壁を横切ってイーサネットを通し、住宅保険を無効にしましたか?」
いいえ、同軸ケーブルが以前通っていたボックスを使用して、防火壁をイーサネットを通しました。
「RSSフィードを作るべきです。」
はい、それはいつかやります。
「ROCmを使用するのはCUDAよりもどれくらい悪かったですか?」
思ったほど悪くはありませんでした!次の章で詳しく説明します。
- シュラウドのSTLファイルをダウンロードし、必要であればプリントしてください。【戻る】
- Arduino用コードとサーバー用スクリプトはこちらで入手可能です。 【戻る】