本文へ移動
相談する

BLOG

Mac StudioとNVIDIA DGX Sparkを比較。推論・学習・フィジカルAIで何が違う?

Mac Studioの最大512GBは、どんなAI開発に効くのか。NVIDIA DGX Spark、RTX 5090搭載PC、AMD Ryzen AI Haloと比べ、ローカルLLMの速度、大きなモデルの追加学習、ロボットのシミュレーションで重視すべき違いを整理します。

卓上ロボットアームが金属部品を持ち、上からカメラが捉える。作業台に小型コンピューターを置いたイメージ

答えを速く返す、モデルを育てる、ロボットを動かす

同じ「手元でAIを動かす」でも、チャットで答えを返す、手元のデータでモデルを追加学習する、カメラを見ながらロボットを動かす、では負荷のかかり方が違います。購入前に知りたいのは、使いたいモデルが収まるか、待ち時間はどれくらいか、必要なソフトウェアが動くかです。

2026年11月時点のMac Studioは、M5 MaxとM5 Ultraの2系統です。M5 Ultraの最大512GBには、小型のAIマシンでは収まらないモデルや、学習中の中間データを一台に置ける価値があります。一方、使いたいモデルがすでに専用GPUに収まる場合や、ロボット開発がCUDA向けのツールを前提にしている場合は、選ぶ理由が変わります。

AppleのMac Studio発表と国内発売時の構成

機種比較。共有メモリの容量と専用VRAMの帯域

容量は「一度にどれだけ置けるか」、帯域は「一秒にどれだけ読み書きできるか」の指標です。共有メモリはCPUとGPUが使うプールで、OSや他のアプリも消費します。専用VRAMはグラフィックスカード側のメモリです。両者の公称帯域は対象とするメモリが違い、実際の推論や学習の速さはモデルとソフトウェアにも左右されます。

製品・構成メモリと帯域主な実行環境
Mac Studio
M5 Max
共有 最大128 GB
460 / 614 GB/s
macOS、MLX、PyTorch MPS
Mac Studio
M5 Ultra
共有 最大512 GB
1.2 TB/s
macOS、MLX、PyTorch MPS
NVIDIA
DGX Spark
共有 128 GB
273 GB/s
Arm Linux、CUDA
RTX 5090搭載PC専用 32 GB
1,792 GB/s
CUDA。LinuxやWindows
RTX PRO 6000
搭載機
専用 96 GB
1,792 GB/s
CUDA、RTXを使う描画・学習
AMD Ryzen AI Halo
Ryzen AI Max+ 395
共有 128 GB
256 GB/s
LinuxやWindows。ROCmは対応構成を確認

表のSparkはNVIDIAの128GB構成です。一部のOEMには64GB構成もあります。Haloの128GBもシステム全体の値です。AMDはRyzen AI Max+ 395の128GB構成で、最大96GBをグラフィックス用に割り当てられる例を案内しています。GPUへ実際に割り当てられる量やROCmの対応は、機種・OS・構成を確認する必要があります。

AMDのグラフィックス用メモリ割り当ての説明

推論。32GBに収まる仕事と、収まらない仕事

推論とは、学習済みのモデルを使って答えを出すことです。例えば32B(320億)パラメータを4ビットで表すと、重みだけの単純計算は約16GB。70Bなら約35GBです。実際は量子化の管理情報、入力履歴を保持するKVキャッシュ、計算の作業領域なども使います。短い会話では収まっても、長い文書や複数人の同時利用で余裕がなくなることがあります。

短い会話や要約が主で、使いたいモデルが32GBのVRAMに収まり、推論エンジンがCUDAで最適化されているなら、RTX搭載PCを比較します。小さな量子化モデルなら、手持ちのPCやMac miniでも試せます。70B級を高めの精度で回したい、長い履歴を持ちたい、複数のモデルを常駐させたい、という場合は、メモリ容量の大きいMac StudioやDGX Sparkに投資する理由が生まれます。

比べるときはモデルと量子化、入力・出力の長さ、同時リクエスト数を揃えます。回答の冒頭が出るまでの時間と、書き始めてからの生成速度は別々に測ります。社内で複数人が使うなら、混雑時の待ち時間と、全員に返せたトークン数も見ます。

vLLMの推論サーバー計測項目

Appleの実測では、同じ長さの入力でも68GBと158GB

Appleが512GBのMac StudioとMLXで調べた例では、約6.6万トークンの入力で、Qwen 3.8 27B(BF16)は最大68GB、Mistral Medium 3.5 128B(FP8)は最大158GBのRAMを使いました。この測定条件では、後者はM5 Maxや128GB版Sparkの公称容量を超えます。量子化や入力長を変えれば、同じモデルでも必要容量は変わります。

この結果は、Mac Studioを推論用に選ぶ具体的な理由も示しています。データを手元に置いたまま、より大きなモデルや長い入力を所定の精度で扱いたい場合です。同じAppleの検証では、Muse Spark Openの4ビット版は重みだけで約493GBあり、実行時の領域を加えると512GBのMac Studio一台には収まりませんでした。

Apple Machine Learning Researchの測定条件と結果

DGX Spark。128GBとCUDAが一台にある意味

DGX Sparkは、CPUがArmのLinux機です。CUDA対応のPyTorchやNVIDIAの推論・学習ツールを使い、データセンターのNVIDIA GPUへ移す予定の処理を手元で試せます。既存のコンテナや拡張がx86向けにしか配布されていない場合は、Arm向けの配布や再ビルドの可否を確認します。

NVIDIAの公称1 PFLOPSは、低精度のFP4における理論上の演算指標です。チャットが書き始めてからの生成では、モデルによっては重みを繰り返し読む帯域が効きます。Sparkの273 GB/sとM5 Ultraの1.2 TB/sから分かるのは公称帯域の差です。実際の速度には、量子化形式や演算の実装、同時処理数も効きます。

AMD Ryzen AI Haloは、同じく大きな共有メモリを備えた小型機で、x86のLinuxやWindowsが要件になるときの比較先です。ROCmはAMDのGPU計算環境で、手元のPyTorch拡張やモデル実装の対応はOSやバージョンによって変わります。

NVIDIAのDGX Spark推論・追加学習の実測条件

追加学習。メモリに置くものが増える

追加学習ではモデルに入力を通したあと、間違いを減らすために重みをどう変えるべきか計算します。そのために中間結果を保持し、更新対象の重みに対する勾配と、更新ルールが使う状態も持ちます。長い文章や多くの画像を一度に処理すると、中間結果も増えます。

推論は元の重みを読み出し、入力履歴と作業領域を使う。LoRAは元の重みを固定し、追加した部分だけを更新する。全パラメータ学習は重み全体を更新する。学習では中間結果を保持し、更新対象の勾配と更新状態も扱う。
推論のKVキャッシュは入力履歴を参照するために使い、学習の中間結果は勾配を計算するために保持します。必要容量は精度、入力の大きさ、一度に処理する件数で変わります。

LoRAは元の重みを固定し、小さな追加部分だけを学習します。QLoRAは固定した元の重みも量子化し、メモリを抑える方法です。AppleのMLX LMにはLoRAとQLoRAの手順があります。NVIDIAも、SparkでLlama 3.3 70BをQLoRAで調整した条件を公開しています。70Bの全パラメータを更新した場合とは、必要なメモリも計算量も異なります。 NVIDIAが公開した例は、入力長2,048トークン、バッチサイズ8です。

32Bモデルの全重みを更新する場合、例えばFP16とFP32の重みを両方持ち、勾配とAdamの更新状態をFP32で保存する構成では、1パラメータ当たり18バイト、合計約576GBになります。中間結果を加える前の概算です。精度や更新方法、複数台への分割を変えれば、この見積もりも変わります。

学習時のGPUメモリの内訳

大容量メモリが効くのは、試せる条件が変わるとき

例えば、カメラ画像を含むモデルを追加学習するとき、メモリが足りないと、画像の解像度、入力するフレーム数、一度に処理するサンプル数などを減らすことがあります。対応する演算がGPUで動く前提なら、大容量のMac Studioは条件を落とさずに試せる幅を広げます。学習中の一部を再計算してメモリを節約する方法もあり、ここでは容量と計算時間が交換条件になります。

逆に、学習データもモデルもGPUに収まり、同じ実験を何度も回すなら、計算とデータ読み込みがどれだけ速く終わるかが重要です。比較では同じデータと学習設定で、読み込み、更新、評価、途中保存まで含めた所要時間を測ります。512GBは試せる規模の指標で、必要な演算やライブラリが対応しているか、何時間で終わるかは別に確認します。

MLX LMのLoRA・QLoRAと勾配チェックポイントの手順

フィジカルAI。実機の記録を使うか、仮想環境で練習するか

机の上で物をつかむロボットを考えます。人が操作して見せたカメラ映像、関節の位置、操作の記録を集め、ロボットが次に取る動作を学ぶのが模倣学習です。LeRobotはApple SiliconのMPSでACTという模倣学習モデルを学習する例を掲載しています。対応する構成なら、Mac Studio一台で映像の確認、学習、失敗場面の見直しを往復できます。大容量が活きるのは、複数視点の映像や大きな視覚モデルによって、実際にメモリが制約になる場面です。

別の方法は、仮想の机に物体を配置し、滑りやすさやカメラ位置を変えて、何千回もつかむ練習をさせることです。この場合は、物理演算、画像生成、並列に動かせる環境数が効きます。学習が実機データ中心なのか、シミュレーター中心なのかで、適したマシンは変わります。

Hugging Face LeRobotの学習用ハードウェアガイド

Isaac Simを使うなら、対応する環境から選ぶ

NVIDIAのIsaac SimとIsaac Labは、ロボットの仮想環境と学習を組み合わせるツールです。Isaac Labの対応環境にはDGX Sparkを含むArm Linux、x86のUbuntuやWindowsがあり、macOSは掲載されていません。SparkでもXR遠隔操作など、未対応または未検証の機能があります。既存のプロジェクトがどの版、拡張、レンダラーに依存するかが機種選びの出発点です。

Macで実機映像を整理し、学習条件を組み立て、対応する小規模実験を行い、シミュレーションを別のRTX機に任せる構成も考えられます。ロボット本体に載せる計算機は別に選び、カメラ入力から動作指令が出るまでの遅延や、制御周期を実機で測ります。学習機のベンチマークだけでは、その周期に間に合うかは分かりません。 例えば、カメラを30Hzで取り込むループなら、一周期は約33ミリ秒です。画像の受け取りや前処理、推論、指令の送信を含めて間に合うかを見ます。

NVIDIA Isaac Labの対応OSとDGX Sparkの制約

512GBを超える比較先も、メモリの内訳が違う

さらに大きなワークステーションでは、NVIDIAの現行DGX Stationが合計748GBと公表されています。内訳はGPU側の252GB HBM3eとCPU側の496GB LPDDR5Xで、置き場所によって帯域が違います。Mac Studioの共有512GBとはメモリの構造が異なるので、データのどの部分をGPU側に置けるかまで見て比較します。

NVIDIA DGX Stationの現行仕様とメモリ構成

選ぶ前に、自分の一番重い仕事を一つ測る

まず、手元で何度も繰り返す仕事を一つ決めます。モデル名と精度、入力の長さやカメラの本数、同時に処理する件数、必要なライブラリを揃えて、小さな試験を実行します。そこから見える最初の制約が、機材に予算をかける理由になります。

  • 推論が中心なら、必要なモデルが収まる範囲で、初回応答・生成速度・混雑時の待ち時間を測る。
  • 追加学習が中心なら、目標の解像度や入力長を保てるかを確かめ、評価と保存を含む一巡の時間を測る。
  • フィジカルAIなら、まずシミュレーターと実機の対応を確認し、仮想環境の処理速度と実機の応答遅延を分けて測る。