M5 Ultra Mac Studioレビュー：ローカルAIエージェントのための夢のマシン

M5 Ultra Mac Studio レビュー：ローカルAIエージェントのための夢のマシン

ここ数日間、私は（現在macrumors.com/threads/mac-studio-with-m5-ultra-chip-and-512gb-of-ram-launching-in-october.2487936/で確認できる）トップラインのM5 Ultra Mac Studio（RAM 256 GB）をテストしてきました。

結論から言いましょう：M5 Ultra Mac Studioは、ローカルAIエージェントにとって夢のようなマシンです。このコンピューターを使えば、ローカルモデルを搭載したパーソナルアシスタントを、追加のクラウドコストなしで、優れたパフォーマンスで実行できます。OpenClawやHermes Agentのようなローカルモデルを、クラウドモデルに遠く及ばない知能や速度で試すことに懐疑的だった人も、このMacを使えば考えが変わるでしょう。

先週木曜日から、私はこのMac Studioを、その前世代であるRAM 512 GBのM3 Ultraや、RTX 5090を搭載した自作のデスクトップゲーミングPCと比較してきました。そのサイズ、価格、熱性能、そしてAppleのユニファイドメモリのアプローチを考慮すると、M5 Ultra Mac Studioは、ローカルで実行されるモデルに対する私の考え方と、それらが現在可能にすることに根本的な変化をもたらしました。もちろん、5090はメモリ帯域幅の高さにより、M5 Ultraよりも依然として優位性があります。しかし、私のPCビルドの巨大さ、そしてその熱と騒音を考えると、私はいつでもM5 Ultra Mac Studioを選びます。さらに、見た目が良く、使い勝手の良いオペレーティングシステムと、活気のあるアプリのエコシステムを持つMacであるという利点もあります。（Windowsファンのみなさん、ごめんなさい、しかしMicrosoftのソフトウェアが私の同情を得ることは決してありません。）

この記事で詳しく説明しますが、最新のQwen3.8-Flash-NextモデルをM5 Ultra Mac Studioで実行するのは非常に快適で高速だったので、Open Minis for iOSとHermes Agentの両方でデフォルトにしました。そう、私が最も頻繁に使用するパーソナルアシスタント（実際にはSiri AIよりも優れています）は、今やMac Studio上でローカル実行されるモデルによって完全に駆動されています。さらに、M5 Ultraの高速なGPUと高いメモリ帯域幅のおかげで、これらのエージェントはより迅速に応答を開始し、大きなコンテキストウィンドウでも高速を維持し、セッションが長くなるにつれて速度が低下することなく、長くてマルチターンのループを実行できます。このため、私はMac上のCodexアプリでもローカルモデルを使用しています（GPT-6 Astraによってオーケストレーションされるメインスレッドまたはサブエージェントとして）、そしてその経験は素晴らしいものでした。

最初に断っておきますが、私はAI開発者ではありません。私はモデルをトレーニングしたりファインチューニングしたりしません。私は根っからのいじくり屋であり、1年以上前からローカルAIモデルをいじってきました。この夏、私は取り組んでいた大きなプロジェクトのためにローカルAIを全面的に活用しました。これは次のセクションで説明します。

この記事の目的は、4日間にわたって実行した（多くの）テストに基づいた数値と視覚化、そして私のワークフローに適用されるローカルAIの実用的なユースケースと、MacStoriesのために物事をどのようにこなしているかの説明、という2つの要素を組み合わせることです。

さあ、始めましょう。

なぜローカルAIなのか？

まず、部屋の象徴である問題に取り組みましょう：クラウドの最先端モデルがより優れていて、しばしばより高速であるのに、なぜわざわざローカルAIを使う必要があるのでしょうか？

これはもっともな質問です。これらのモデルを実行するには高価なハードウェアが必要であり、投資を回収する頃には、数年間で最も高価なAnthropicサブスクリプションを使用しても、まだお金を節約でき、より優れたパフォーマンスを得られたでしょう。

この質問に対する答えは人それぞれです。一部の人は、プライバシーのためにローカルモデルを使用すると言うかもしれません。機密データやドキュメントについては、外部クラウドにアップロードするよりも、ローカルの知能に依存することを好むからです。他の人は、それが単にクールだからだと主張するかもしれません（私も同意します）。一部の人にとっては、それは仕事関連のタスクです。AI開発者であれば、独自のアダプターをトレーニングしたり、モデルをファインチューニングしたりするための優れたローカルセットアップを持つことは理にかなっています。

私にとって、ローカルAIへの旅は、「クール、なぜやらない？」という要素と、プライバシーとコストに関する考慮事項の組み合わせによって特徴づけられてきました。

今週後半にClub MacStoriesメンバーと共有する予定ですが、この夏に行ったiOSおよびiPadOS 27レビューの研究および執筆セットアップは、ローカルAIによって駆動され、可能になりました。6月には、iOSおよびiPadOS 27に関連する数百のメモ、セッション、PDFドキュメント、クリップされたウェブページ、およびレビューの章を整理するための、Deskという内部アプリを作成しました。プロセスの終了時には、プロジェクトは310のドキュメントで構成されていました。Deskでは、DeepSeek V4 Flashをベースにしたエージェントのチーム（PDFにはolmOCRを使用）が24時間365日稼働し、以下のタスクを実行しました。

• 私のお気に入りのWWDCセッションを文字起こしする（summarizeとLLM処理を使用）
• クリップされたウェブページ、セッション、PDFガイド、および自身のメモからiOSおよびiPadOS 27の機能を抽出する
• 異なるソース間で機能をクロスリファレンスし、どの機能がレビューのどの章に属するかを追跡する
• アップロードしたスクリーンショットから機能とバグを抽出する
• Notion APIと連携して、複数のデータベース全体で全てを整理する

6月初旬にこのセットアップで作業を開始したとき、この種の常時稼働、永続的なバックグラウンドタスクにOpenAIまたはAnthropicのAPIに依存することは、控えめに言ってもコストがかかりすぎることにすぐに気づきました。そこでローカルAIに切り替え、その結果がMacStoriesで読めるiOSおよびiPadOS 27レビューです。全て私自身が、昔ながらの人間らしい方法で書きました。しかし、研究スタック全体、メモ間のディープリンク、新機能やベータ版の追跡はすべて、Mac Studio上でローカル実行されたエージェントによって、総コスト$0で実行されました。

これがクールでない、あるいは探求する強力なコンセプトでないと思うなら、この記事はおそらくあなた向けではありません。理解できます。これらのモデルを扱うのは面倒であり、(当然ながら) Claude Coworkを使用するために$20を支払いたいだけの人には決して勧めません。この種のセットアップは、定義上、現時点でのAIワークフローの最先端です。

しかし、スペクトルの反対側にいる人、つまりこの種のものがクールだと思う人には、こう言わせてください。M5 Ultra Mac Studioは、MLXで駆動されるローカルモデルのパフォーマンスにおいて、飛躍的な進歩を遂げました。それを証明する例がいくつかあります。

プロンプト処理と生成のための飛躍

発表や私の初期の報道でご覧になったかもしれませんが、M5 Ultra Mac StudioはM3 Ultraモデルと外観は同じですが、2つのデュアルダイM5 Maxチップを接続してクアッドダイアーキテクチャを形成する全く新しいApple Siliconアーキテクチャを採用しており、これはAppleエコシステムでは初となります。ローカルAIワークロードに関しては、注意すべき2つの領域があります（そして、昨年ローカルAIのためのM5 iPad Proの報道以来、私が追跡してきたものです）：GPUとメモリ帯域幅です。

M5 Ultraは80コアの次世代GPUを搭載しており、各コアにはNeural Acceleratorが搭載され、M3 Ultraと比較してAI向けのピークGPUコンピュート性能が最大4.5倍向上しています。メモリに関しては、Appleのユニファイドメモリアーキテクチャは以前と同様に最大512 GBですが（ただし、そのモデルは10月下旬に発売されます）、その帯域幅は819 GB/sから1.2 TB/sへと、M3 Ultraよりも50%向上しました。

これらの数値を念頭に、私はM5 UltraをRAM 512 GBのM3 UltraとRTX 5090と比較テストを開始しました。テストの詳細については後述しますが、要点は以下の通りです。M5 Ultraを使用すると、モデルがプロンプトを読み込み、応答の生成を開始するのを待つ時間が大幅に短縮されます。そして、応答が開始されると、M3 Ultraよりもはるかに速くテキストが表示されます。これらの2つの改善だけでも、このマシンはモデルとの高速なイテレーションと、その結果としてのより大きなコンテキストウィンドウを必要とする最新のエージェントループにとって実用的になります。

M5 Ultraでエージェントを実行する日常的な経験において、トークンプリフィル（プロンプトがどれだけ速く処理できるか）とトークン生成のこれらの改善は、私がすぐに気づいた変化でした。iOS上のOpen MinisでM3 UltraとM5 Ultraで実行されるモデルを並べて比較すると、M5 Ultraは応答生成において平均してM3 Ultraよりも約70%高速でした。後述するように、Qwen3.8-Flash-Nextのようなモデルが短いプロンプトで100トークン/秒をクリアし、64Kから256Kのコンテキストで60〜85トークン/秒で書き続けることは、決して簡単なことではありません。これは、特にツールコールが関わる場合に、モデルとの間で非常に快適に感じられるエージェント的なやり取りを可能にします。

しかし、トークンプリフィルにおけるパフォーマンス向上には、さらに感銘を受けました。HermesやCodexのようなエージェントアシスタントを使用する場合、モデルはシステムプロンプト、ユーザーのパーソナライゼーションとセッションメモリ、スキルとMCPの説明などを含む、指示のブロック全体を受け取ります。一部のエージェントは、送信する指示をトリミングすることに長けていますが、一般的に、最新のエージェントを使用する場合、空のコンテキストウィンドウから開始することはありません。このため、私はこの新しい波のエージェントでローカルモデルを一貫して使用することができませんでした。動作はしましたが、モデルが応答生成を開始するまで、空の画面とローディングインジケーターをしばらく見つめることになります。そして、ループの各ターンで、パフォーマンスは（セッションのコンテキストが大きくなるため）悪化し、さらに待つことになります。

私のテストでは、プロンプト処理はM3 Ultraと比較して平均150%向上しており、以前のセットアップから約2.5倍の改善です。この変更だけでも、Open MinisやHermes Agentのようなアプリでローカルモデルを堅実な選択肢にすることができます。RemCTLで週ごとのタスクを取得するようにFlash-Next on the M5 Ultraに依頼しても、エージェントがプロンプトとOpen Minis'を処理するのを待つ必要はありません。わずか数秒で、推論、ツールコールの実行などに取り掛かります。そして、下のボクセルコロッセオデモのような大規模なプロジェクトに取り組んでいるとき、モデルはマルチターンのループを迅速に処理し、サブエージェントをディスパッチおよび調整し、スレッドが長くなるにつれてそれらをすべて60〜85トークン/秒で行うことができます。

私は、質問に答えるだけでなくタスクをエージェント的に実行できるアシスタントを強く信じていますが、それらが快適に使用できるためには高速である必要があります。過去数ヶ月間、Open Minisでいくつかの「ブティック」クラウドプロバイダーをテストしてきました。例えば、300 TPS以上でKimi K3を提供するInco、Qwen3.8-27Bを驚異的な1,800 TPSで提供するCerebras、そしてFireworksやBasetenのようなプロバイダーは、それぞれ150 TPSの壁を破っています。これらのプロバイダーはすべて、Open MinisやHermesで非常に快適に使用できますが、高価です（先週、Incoのクレジットを文字通り10分で$20使い果たしました）。そしてもちろん、それらを使用すると、私のデータはすべて…どこかに送信されます。Flash-Nextと私が作成しているApple CLIのコレクションをOpen Minisで起動すると、すべてがローカルに、私がいつでも見て再起動できるコンピューター内に留まります。

最も重要なこと：Flash-Nextのようなモデルは、256 GBのM5 Ultraでより高い量子化で実行できるほど「小さい」かもしれませんが（5ビットは完全にRAMで実行できます。6ビットと8ビットはn-gramテーブルをこの新しいアーキテクチャでSSDにオフロードできます）、長スレッドと複数のエージェントツールコールを維持できるほどインテリジェントでもあります。

私の好みでは、5ビット量子化は、知能、パフォーマンス、メモリ消費のバランスにおいて、このUltraバージョンでスイートスポットをヒットします。しかし、もし私が512 GBのM5 Ultraをテストする機会があれば、SSDオフロードなしの8ビット量子化のパフォーマンスを測定することに本当に興味があることはわかっています。

私の様々なプロジェクトのコーディングタスクをローカルモデルにオフロードすることに多くの時間を費やしていませんが、いくつかの興味深い実験を行いました。この種のパフォーマンス、特にoMLXで256 GBのRAMを使用して最大3つの同時Flash-Nextセッションをサブエージェントとスタックできる能力（詳細は後述）を考えると、単純なコーディングタスクをローカルモデルにオフロードし、最先端のクラウドモデルにその作業をレビューさせることを現実的に検討できるようになりました。例えば、CodexでQwen3.8-Flash-Nextを設定でき、Codexハーネスでローカルモデルを使用できるようになりました。これは、メインのGPTモデルがローカルサブエージェントをオーケストレーションしたり、Flash-Nextが独自のサブエージェントを調整したり、あるいはiOS上のCodex Remoteでモデルを電話から使用したりできることを意味します。

まもなくM5 Ultraを入手する実際の開発者から、このトピックに関するさらなる情報を読むのが楽しみです。オープンウェイトモデルが、約10ヶ月前には「最先端」と考えられていたものをコンシューマーハードウェアで上回るようになり、M5 Ultraでのパフォーマンスがエージェントコーディングを可能にするようになった今、MLXコミュニティから非常に興味深い実験が間もなく登場すると予想しています。

M5 Ultra vs. RTX 5090

この記事の後半の視覚化でわかるように、NVIDIAのRTX 5090は、「わずか」32 GBのVRAMにもかかわらず、AppleのM5 Ultraよりも高速です。その理由は2つあります。

プロンプト処理速度はコンピュートによって決まります。モデルは、行列乗算という一つの巨大な計算でプロンプト全体を読み込みます。これはまさにNVIDIAのTensor Coreが構築されたジョブです。Appleの新しいNeural Accelerator（M5 Ultraの80 GPUコアそれぞれに1つ搭載）はギャップを縮めますが、それを埋めることはできません。6,000トークンのプロンプトで、M5 Ultraは約1,700トークン/秒で読み込みました。LM StudioでテストしたQwenモデルでは、5090は驚異的な約3,000トークン/秒を記録しました。一方、トークン生成は帯域幅に依存します。モデルは一度に1トークンを書き込み、各トークンごとにモデル全体をメモリから引き出すため、5090の1.79 TB/sはM5 Ultraの1.2 TB/sに対して、あらゆるプロンプトサイズで一貫して約25%のリードを維持します。5090が持っていないのはメモリです。256Kのコンテキストでは、5090は8ビットの注意キャッシュでしか終了できません。32 GBのVRAMはそれほど多くありません。

しかし、この比較には2つの問題があります。第一に、5090は依然として小規模モデルではM5 Ultraを上回りますが、ユニファイドメモリプールがないため、モデルを非常に高速で実行したい場合は、GPUの32 GBのVRAMに制限されます。前述のようなより高いFlash-Next量子化を実行するために32 GBを超えるものを実行したい場合、5090はモデルレイヤーをPCIe経由で（はるかに遅い）システムRAMにオフロードする必要があります。これは実用的ではありません。

第二に、私のゲーミングPCは、デスクに置けるMac Studioと比較して巨大です。私はコンパクトなビルド（Lian-Li A3ケース）を使用しています。さらに、高コンテキストウィンドウでローカルモデルを実行すると、どれほどうるさく、熱くなるかについては言うまでもありません。ベンチマークが実行された後、オフィスに入ると、アパートの他の部分と比較して不快に暖かくなっていました。対照的に、デスク上の「小さな」Mac Studioは触ると暖かかったですが、5090よりも明らかに静かで、ファンはそれほど速くも大きくも回転しておらず、最も重要なのは、Apple Siliconのユニファイドメモリのおかげで、GLM-5.3-Flashのようなより大きなモデルをローカルでまともなパフォーマンスで実行できたことです。私の日常的な使用では、常にFlash-Next oQ4eを実行していたとき、机の上のStudioのファンの音は、耳をコンピューターの真上に近づけない限り聞こえませんでした。

Appleが近年遂げた進歩を考えると、近い将来、5090のメモリ帯域幅を上回るM7 Ultraが登場しても驚きません。しかし、それはまた別の話です。

テストに関する注記

最後に、生の数値とチャートに入る前に：どのようにテストしたのでしょうか？

自動テストは、GPT-6 Astraで構築したテストハーネスを使用して実施しました。これは、M3 UltraとM5 Ultra Mac Studio、およびWindows PC上のCodexアプリとComputer Useにわたる複数のCodexインスタンスを調整しました。macOSでは、MLXモデルのローカルバックエンドとしてoMLX（バージョン0.7.0.dev2）を選択し、macOS Golden Gate 27.0で、ほとんどのテストでQwen3.8-Flash-Next-oQ4e-mtp、GLM-5.3-Flash-MLX-mixed-4_8bit、およびQwen3.8-27B-oQ4e-mtpを実行しました。Windowsでは、LM StudioとQwen3.8-27B-GGUFをCUDA 12ランタイムで使用し、フルGPUテストでは66レイヤー全てをGPUにオフロードし、さらにGPUとシステムRAMを分割するテストも行いました。

Open Minisのネイティブサブエージェントを使用した個別の実験に加え、カスタムテストハーネスを使用して、リードモデルと複数のヘルパーを含む同時リクエストとワークフローを測定しました。oMLXはMacモデルを、LM StudioはWindowsモデルを提供しました。

Astraによって4日間にわたって収集された数値は、その後、Claude Fable 5.1とOpus 5によって、この記事の執筆中に早期にテストできたAnthropicの今後のProjects機能を使用して視覚化されました。インタラクティブな視覚化は、MacStoriesのスタイルに基づいて純粋なHTMLとCSSで構築され、私自身のコメントと注釈が含まれています。

以下のインタラクティブウィジェットの目的は、数値をより明確に理解するのを助けるだけでなく、統計が実際には何を意味するのかを視覚化することでした。トークン/秒の違いがどのように感じられるかを近似するウィジェットには非常に満足しています。これはしばしば視覚化が難しいメトリックです。これらのアニメーションチャートが、おそらく他の場所で見かける通常の「静的な」チャート（これも以下に含まれています）よりも役立つことを願っています。

M5 Ultraの視覚化

ローカルAIエージェントのためのM5 Ultra

現時点で明らかになっているように、M5 Ultraのパフォーマンス向上は本物であり、Appleのカスタムシリコンとユニファイドメモリアーキテクチャへの投資が、いじくり屋や開発者にとって実を結んでいることを示しています。

私のテストにもかかわらず、M5 Ultraと256 GBのRAMで可能なことの表面をかろうじて引っ掻いたような気がします。より多くの開発者やオープンソースメンテナーがM5 Ultraに（そしてエージェントに）手をかけるにつれて、さらに多くの量子化の最適化が登場し、このコンピューターでさらに大きなモデルを優れたパフォーマンスで実行できるようになると確信しています。例えば、私はまだDwarfStarをテストする時間がありませんでした。これは、イタリア製で、あらゆる種類のMac構成でさらに少ないメモリでローカルの最先端モデルを実行可能にする魅力的なプロジェクトです。また、Apple Siliconと特定のモデル用に設計された新しい推論エンジンであるInco Splashをチェックする時間もありませんでした。同様に、RDMA実装により、Thunderbolt 5経由でM3 UltraとM5 Ultra間で推論を分割および分散させ、ローカルエージェント用のAPIを提供するOpenAI互換サーバーを実行できるはずのExoもテストする時間がありませんでした。

そしてもちろん、512 GB RAMを搭載したハイエンドM5 Ultraが、ローカルで実行可能なモデルのスケーリングに関して何を可能にするかを想像することさえできません。最終的にはそれをテストする機会を得たいと思っています。

この実験の終わりに、単純で具体的な結果があります。M5 Ultraにより、信じられないほどのパフォーマンスでローカルエージェントを実行でき、空白の画面を見つめる時間が減り、デスク上の単一のコンパクトでクールで静かなマシンで全てが完結します。

これは数年前には不可能に思えたでしょう。しかし、今、私たちはここにいます。