ローカルLLM用PCの選び方とXiaomi AI Cubeの衝撃｜RTX 4090やMac Studioと比較すべき判断基準

3行要約

• 結論：Xiaomi AI Cubeは「待つ」必要はないが、提示された1.2TB/sという帯域幅は今後のローカルLLM用PC選びの絶対的な基準になる。
• 性能：1.2TB/sはMac Studio（800GB/s）やRTX 4090（1TB/s）を凌駕し、Llama 3 70Bクラスをストレスなく動かすための「理想の速度」を指している。
• 注意：現在はプロトタイプ段階のため、仕事で今すぐAI開発環境が必要なら、実績のあるRTX 4090 2枚挿し、またはMac Studio 192GBモデルを選ぶのが失敗しない唯一の道。

結論: まず選ぶべき構成

ローカルLLMを仕事で使うなら、Xiaomiのプロトタイプを待つのではなく「メモリ帯域（Memory Bandwidth）」を軸に現行機種を選ぶべきです。 具体的には、予算が許すならMac StudioのM2/M3 Ultra（メモリ192GB）、Windows派ならRTX 4090の2枚挿しが、2024年現在の到達点と言えます。 Xiaomi AI Cubeが発表した「1.2TB/s」という数字は、大規模なモデル（70B以上）を動かす際に、人間が読むスピード（トークン生成速度）を完全に追い越すために必要なスペックを定義しました。

これまで、多くのエンジニアが「VRAM容量」だけを見てグラフィックボードを選んできましたが、これからは「帯域幅」が実務の快適性を左右します。 例えば、70Bのモデルを快適に動かすには、量子化（4-bit等）を前提としても20〜30GB/s以上の推論速度が欲しいところです。 これを実現するには、メモリ帯域が最低でも400GB/s、理想は800GB/s以上必要になります。

仕事で使うのであれば、開発環境の構築（CUDAやMLXの対応状況）に時間を取られないことも重要です。 Xiaomiの新製品は非常に魅力的ですが、独自のSDKやドライバ周りの安定性が未知数である以上、現時点では「NVIDIA RTXシリーズ」か「Apple Silicon（Mac）」の二択で考えるのが、エンジニアとしての正しい投資判断だと思います。

用途別おすすめ

ローカルLLMの世界では「大は小を兼ねる」がそのままメモリ容量に当てはまります。 入門者がRTX 4060 Ti 16GBを選ぶのは、Amazonや楽天で10万円を切る価格で手に入りつつ、VRAM 16GBという「最低限の土俵」に立てるからです。 VRAM 8GBのカードを買ってしまうと、最新のLlama 3.1 8Bですらコンテキスト長を伸ばした瞬間にメモリ不足（OOM）で落ちます。

本格運用を考えるなら、Mac Studio一択です。 Apple Siliconの「統一メモリ」はGPUとCPUでメモリを共有するため、192GBのメモリを積めば、そのまま192GBに近いVRAMとして機能します。 NVIDIA機でVRAM 192GBを実現しようとすると、A100やH100といった数百万円クラスの計算資源が必要になりますが、Macなら200万円以下、中古や構成次第では100万円前後で構築可能です。

仕事用で、かつディープラーニングの学習（Fine-tuning）まで視野に入れるなら、RTX 4090の複数枚構成しかありません。 推論だけならMacで十分ですが、学習効率とライブラリのサポート厚は依然としてNVIDIAが支配しています。

買う前のチェックリスト

• チェック1: メモリ帯域（Memory Bandwidth）が400GB/sを超えているか ローカルLLMの推論速度は、計算能力（TFLOPS）よりもメモリからデータを読み出す速度（GB/s）に依存します。 RTX 4090は約1TB/s、MacBook ProのMaxチップで400GB/s、Ultraチップで800GB/sです。 Xiaomi AI Cubeの1.2TB/sという数字がいかに驚異的か、ここから理解できるはずです。

• チェック2: VRAM容量（または統一メモリ容量）は32GB以上あるか 実務で「使える」と感じるモデルは、現在Llama 3.1 70BやCommand R+など、パラメータ数が多いものです。 これらを量子化して動かすには最低でも30〜40GBのメモリを占有します。 OSや他のアプリが使う分を考えると、物理メモリは64GB、VRAMなら48GB（24GB×2枚）が実務の最低ラインです。

• チェック3: 冷却性能と電源ユニットの容量 RTX 4090を1枚動かすだけでも850W以上の電源が推奨されます。 2枚挿しなら1200W〜1600Wのプラチナ効率以上の電源を選ばないと、高負荷時にシステムが落ちて作業内容が消えます。 また、4090は厚みが4スロット分あるカードも多いため、マザーボードのPCIeスロット間隔を必ず確認してください。

• チェック4: 推論エンジン（llama.cpp, MLX, Ollama）の対応状況 Xiaomiのような新興ハードウェアの場合、コミュニティが作成した推論エンジンが最適化されるまで時間がかかります。 NVIDIAならCUDA/TensorRT、MacならMLXという強力な武器がありますが、独自ハードは「買ったはいいが、モデルを動かすまでが大変」というリスクが常に付きまといます。

楽天/Amazonで見るべき検索キーワード

ローカルLLM環境を構築する際、楽天やAmazonで価格比較すべきキーワードを厳選しました。

楽天で探す際は、特に「RTX 4090」の在庫とポイント還元率をチェックすることをお勧めします。 高額商品なので、お買い物マラソン等のイベント時に購入するだけで数万ポイントの差が出ます。

代替案と妥協ライン

「いきなり30万円、50万円の投資は怖い」という方への妥協案は2つあります。

1つ目は、クラウドGPUの利用です。 RunPodやLambda Labsを使えば、RTX 4090クラスを1時間あたり100円前後（$0.7〜$0.8）で借りられます。 毎日8時間使ったとしても月3万円程度。まずはクラウドで「自分が必要とするモデル（例：Llama 3 70B）が、どの程度のVRAMを消費するか」を検証すべきです。 「やっぱり16GBで十分だった」となるか「48GBないと仕事にならない」となるかを判断してから実機を買っても遅くありません。

2つ目は、Apple Siliconの中古市場、特に「Mac Studio M1 Ultra」を狙うことです。 最新のM3と比較すると単体性能は落ちますが、メモリ帯域（800GB/s）と統一メモリの大容量（128GBモデル等）という、ローカルLLMにとって最も重要なスペックは現役です。 新品のMacBook Proを買う予算で、1つ型落ちのMac Studio大容量メモリモデルが買えるなら、AI開発用としては後者の方が圧倒的に価値が高いです。

また、ソフト面での妥協として「量子化（Quantization）」を使い倒すことも重要です。 llama.cppを使い、Q4_K_M（4ビット量子化）程度で動かせば、メモリ消費は半分以下に抑えられます。 「精度が落ちる」と懸念する人もいますが、実務レベルのコーディング補助や要約であれば、4ビットでも十分なパフォーマンスを発揮することが私の検証でも明らかになっています。

私ならこう選ぶ

私が今、予算50万円から100万円で仕事環境を整えるなら、迷わず「RTX 4090 2枚挿し構成の自作PC」を楽天でパーツを揃えて組みます。 理由は単純で、Xiaomi AI Cubeのような「帯域特化型ガジェット」は、ドライバがオープンソースコミュニティに完全に受け入れられるまで、実戦投入には時間がかかるからです。

まずは楽天で「RTX 4090」を検索し、ポイント還元が最も高いショップ（例えば、楽天ブックスやPCパーツの老舗）で1枚目を確保します。 2枚挿しにするためのマザーボードには「Pro WS WRX80E-SAGE SE WIFI」のようなワークステーション級を選び、電源は1600Wクラス（コルセアやASUSのROG Thorなど）をAmazonでセールを狙って叩きます。

なぜMac Studioではないのか。 それは、私が「ローカルLLMの検証」だけでなく「新しいモデルのFine-tuning（微調整）」も業務で行うからです。 Hugging Faceに上がる最新のモデルやスクリプトは、99%がまずNVIDIA環境（CUDA）を前提に書かれています。 この「情報へのアクセスの速さ」と「環境構築のトラブルの少なさ」こそが、フリーランスエンジニアにとって最大のコスト削減になります。

逆に、学習はせず、推論とコーディング補助（AiderやCursor経由のローカルLLM利用）に特化するなら、Mac Studio M2 Ultra 192GBモデルをApple公式または楽天の認定店で買います。 静音性と省電力性能において、MacはNVIDIA機を圧倒しています。夜中にサーバーを回しっぱなしにしても、家族から苦情が来ないのは大きなメリットです。

よくある質問

Q1: メモリ帯域1.2TB/sがあると、具体的に何が変わりますか？

Llama 3 70Bのような巨大なモデルが、ChatGPT（GPT-4）の生成速度と同等か、それ以上の「爆速」で動くようになります。1秒間に20〜30文字程度しか出なかったものが、100文字以上一気に出力されるイメージです。思考のコンテキストを途切れさせずに済みます。

Q2: Xiaomi AI Cubeは日本で発売されますか？

現時点ではプロトタイプ発表のみであり、日本での発売時期や技適の有無などは一切不明です。過去のXiaomiの製品展開から考えると、まずは中国国内での限定販売となる可能性が高く、日本でエンジニアが安心して使えるようになるのはかなり先になるでしょう。

Q3: 今ある古いPCにRTX 4060 Tiを追加するだけでも効果ありますか？

非常に効果的です。CPUだけで動かす（llama.cpp）のと、VRAM 16GBのGPUで動かすのでは、推論速度に10倍以上の差が出ます。まずは16GBクラスのグラボをAmazon等で5〜6万円程度で購入し、自分のワークフローがAIでどう変わるかを体感するのが最も賢い投資です。

あわせて読みたい

• ローカルLLM用PCおすすめ比較｜RTX 4090かMacか？エンジニアが後悔しないVRAM選び
• ローカルLLM環境の選び方比較！RTX 4090からMac Studioまで失敗しないVRAM投資術
• ローカルLLM環境の選び方と比較：Kimi K3級を動かすRTX・MacのVRAM基準