ローカルLLM用サーバー選びで失敗しないためのVRAM基準と推奨構成：RTX 3090/4090からMac Studioまで

3行要約

• ローカルLLM環境で最も重要なのは「VRAM（ビデオメモリ）」の容量であり、最低16GB、実用24GBが現在の分岐点です。
• AIコーディングやRAGの実務なら、中古のRTX 3090か、電力効率とメモリ統合に優れるApple Silicon（Mac）が現実的な選択肢になります。
• Redditの自作サーバーのような「ツギハギ構成」は、学習・検証用には面白いですが、業務効率化を目指すなら安定性と冷却性能を重視すべきです。

結論: まず選ぶべき構成

結論から言うと、現在のローカルLLM開発において、個人のエンジニアが選ぶべき選択肢は2つに絞られます。

1つ目は、NVIDIA RTX 4090（24GB）を搭載したPCです。これは「動かないモデルがほぼない」という安心感を買う投資です。レスポンス速度、つまり1秒あたりのトークン生成数（tokens/sec）において、Windows/Linux環境のRTX 4090は圧倒的です。仕事でCursorやAiderをローカルモデル（Qwen2.5-Coder-32Bなど）と連携させて使うなら、この速度が開発体験を左右します。

2つ目は、メモリを64GB以上に積んだApple Silicon（M2/M3/M4 Max）のMacです。Macの強みは「ユニファイドメモリ」にあります。GPUがシステムメモリを直接使えるため、70Bクラスの巨大なモデルも、推論速度は落ちますが動かすことができます。10万円台で組める「とりあえず動く」環境と、30万円以上かけて「仕事で使える」環境には明確な壁があります。中途半端な8GB/12GBのGPUを買うのが、最も避けたい「失敗」です。

用途別おすすめ

この記事の対象読者であるエンジニアなら、最初から「本格運用」または「仕事用」のラインを狙うべきです。入門用の16GB環境は、使い始めて1週間で「もっと大きいモデルを動かしたい」という欲求に耐えられなくなります。実務で使うQwen2.5-Coder-32Bクラスのモデルをストレスなく動かすには、やはり24GBの壁を超える必要があります。

買う前のチェックリスト

• チェック1: VRAM容量（GPUメモリ）は16GB以上か？ 8GBや12GBのGPUは、AI画像生成（SDXL）には使えますが、LLMの推論ではすぐにメモリ不足（OOM）を起こします。特に実務でRAG（外部知識参照）を行う場合、コンテキストウィンドウを広げるほどVRAMを消費します。最低でもRTX 4060 Ti 16GB、できれば24GBのRTX 3090/4090を死守してください。

• チェック2: PCケースのサイズと電源容量は足りているか？ RTX 4090は3スロット以上を占有し、カード長も330mmを超えるものがザラにあります。また、ピーク時の消費電力が非常に高いため、電源ユニットは最低でも850W、できれば1000W以上の「80PLUS GOLD」以上を選んでください。ここをケチると、推論中にPCが落ちる原因になります。

• チェック3: 推論エンジンの互換性（CUDA vs MLX） Python環境でライブラリをゴリゴリ触るならNVIDIA（CUDA）一択です。一方で、OllamaやLM Studioを使って「手軽に高機能なモデルを動かしたい」かつ「省電力で静かに運用したい」ならApple Silicon（MLX）が有利です。自分の開発スタイルが、ライブラリの内部実装まで触るのか、それともAPIとして叩くのがメインなのかを明確にしましょう。

• チェック4: 商用利用とライセンスの確認 ローカルで動かすモデル（Llama, Qwen, Gemmaなど）には、それぞれライセンスがあります。特に業務で使う場合、月間アクティブユーザー数による制限や、モデルの出力を使った別モデルの学習禁止などの条項を確認しておく必要があります。ハードウェアを買う前に、自分が使いたいモデルのライセンスを把握しておきましょう。

楽天/Amazonで見るべき検索キーワード

楽天やAmazonで機材を探す際、単純に「ゲーミングPC」で検索するとVRAM不足の機体ばかりヒットします。以下の具体的なキーワードで絞り込んでください。

特に楽天で探す場合は「RTX 4060 Ti 16GB」という表記を必ず確認してください。8GB版と16GB版が混在しており、間違えて8GB版を買うとローカルLLM用途では致命的です。

代替案と妥協ライン

すべてのエンジニアが40万円のPCを買えるわけではありません。妥協案として最も賢いのは「中古のRTX 3090」を探すことです。

RTX 3090は、現行の4090と同じ24GBのVRAMを搭載しています。推論速度は4090の6〜7割程度に落ちますが、動かせるモデルのサイズは同じです。中古市場（ヤフオク、メルカリ、専門店）では10〜12万円程度で取引されており、コスパは最強です。ただし、中古GPUはマイニングで酷使された個体も多いため、信頼できるショップで購入するか、動作確認済みの個体を選ぶリスク管理が必要です。

もう一つの妥協案は「ローカルLLMを諦めて、APIとローカル検索を組み合わせる」ことです。CursorやClineを使い、推論はClaude 3.5 Sonnet（API）に投げ、ドキュメントのインデックス化（RAGのベクトル化）だけをローカルのCPUで行う構成です。これなら、既存のMacBook Airなどでも十分に開発可能です。ハードウェアに投資する前に「本当にローカルでの推論速度が必要か？」を自問してみてください。

私ならこう選ぶ

私が今、予算を抑えつつ実務レベルの環境を楽天で作るなら、まず「RTX 4060 Ti 16GB」を単体で購入し、既存のデスクトップPCを強化します。16GBあれば、Ollama経由で「Llama 3.1 8B」や「Qwen2.5-7B」が爆速で動きます。コード補完ならこれで十分です。

もし「仕事で本格的にAIエージェントを回したい」という相談を受けたら、迷わず「RTX 4090」を積んだBTOパソコン（マウスコンピューターやパソコン工房など）を楽天のポイント還元率が高い日に狙えと言います。AI開発において、GPUの待ち時間はそのまま「思考の断絶」に直結するからです。1秒に100トークン出る環境と、10トークンの環境では、開発のテンポが全く違います。

また、深夜に巨大なモデルを静かに動かし続けたい用途（深夜のロングタスクや論文要約など）には、Mac Studioの整備済製品を狙います。RTX 4090を2枚挿ししている私の自室は、夏場はエアコンなしではいられませんが、Macなら涼しい顔で動作し続けます。

よくある質問

Q1: VRAM 12GBのRTX 4070ではダメですか？

ダメではありませんが、すぐに後悔します。Llama 3.1 8Bなら動きますが、RAGで長い文脈を食わせたり、少し精度の高い14B/32Bモデルを動かそうとした瞬間にメモリ不足になります。AI用途なら、性能（速度）より先に「容量」を確保するのが鉄則です。

Q2: 自作PCとBTO、どちらがおすすめですか？

エンジニアなら自作の方がパーツ選定（特に電源と冷却）にこだわ定できますが、相性問題で時間を溶かすリスクがあります。「仕事で使う」なら、動作保証のあるBTOメーカーのRTX 4090搭載モデルを買い、浮いた時間でコードを書く方が生産的です。

Q3: Apple SiliconのMacでメモリは何GB必要ですか？

最低32GB、推奨64GB以上です。macOS自体が数GB消費し、さらにGPUとメモリを共有するため、16GBモデルではローカルLLMを動かすとシステム全体が重くなります。実務でVS Codeやブラウザと併用するなら、64GBあれば30Bクラスのモデルまで快適に扱えます。

あわせて読みたい

• ローカルLLM開発環境Thothを使いこなすPC選び｜RTX 4090かMacか？失敗しないスペック比較
• Claude Codeをローカルで動かす？OllamaとRTX/MacBook Pro比較・選び方
• ローカルLLMとClaude Code比較：Microsoft中止の背景とエンジニアが選ぶべき開発環境