ローカルLLM用PCの選び方比較！RTX 4090かMacか？開発者が買う前に見るべき基準

3行要約

• オープンウェイトモデルの進化が速すぎて、VRAM 8GB以下はすでに「おもちゃ」の領域。
• 仕事で使うならRTX 4060 Ti 16GBが最低ライン、70Bクラスを動かすならMac Studio 64GB以上が現実解。
• 「動く」と「実用」の壁は推論速度10tok/sにあり、これを下回る構成は時間の無駄になる。

結論: まず選ぶべき構成

結論から言えば、現在の「Llama 3.1 70B」や「Qwen 2.5 72B」といった重量級モデルを視野に入れるなら、ハードウェア選びで妥協してはいけません。

個人の趣味で7Bクラスの軽量モデル（Gemma 2 9Bなど）を動かすだけなら、RTX 4060 Ti 16GBを積んだBTOパソコンが最もコストパフォーマンスに優れています。楽天やAmazonで15〜18万円前後で手に入るこの構成は、ローカルLLMの入門用として最適です。

一方で、実務でAIエージェントを走らせたり、RAG（検索拡張生成）を構築したりするなら、VRAM（ビデオメモリ）容量がすべてを決めます。NVIDIA製GPUで組むならRTX 4090の1枚挿し（VRAM 24GB）、あるいは中古のRTX 3090を2枚挿しにするのがエンジニアとしての正解です。Mac派なら、最低でも64GBの統一メモリを積んだMac Studioを選んでください。メモリ32GBのMacBook Proでは、上位モデルの推論を回すとスワップが発生し、実用的な速度は出ません。

「とりあえず動かしてみたい」という動機でVRAM 8GBのゲーミングPCを買うのは、最も避けるべき失敗です。3ヶ月以内に後悔することになります。

用途別おすすめ

実務で「仕事に使えるか」を判断基準にするなら、最低でも15〜20tok/s（1秒間に15〜20トークン生成）の速度は欲しいところです。これは人間が文章を読む速度を上回るラインです。RTX 4060 Ti 16GBであれば、Llama 3.1 8Bクラスをサクサク動かせますが、30B以上のモデルになると数tok/sまで落ち込み、チャットの返答を待つ時間が苦痛になります。

もしあなたが「AIエージェントを自律動作させたい」と考えているなら、推論速度はさらに重要です。エージェントは何回もLLMを叩くため、低速な環境では1つのタスク完了に数分かかってしまいます。そのため、業務効率化を狙うなら、予算を削ってはいけないのはGPU/メモリの1点に集約されます。

買う前のチェックリスト

• チェック1: VRAM容量は16GB以上あるか（NVIDIAなら4060 Ti 16GB、3090、4090） ローカルLLMの世界では、GPUの計算速度よりも「VRAMにモデルが乗り切るか」が重要です。4bit量子化されたLlama 3.1 8Bは約5.5GB、70Bは約40GBのVRAMを消費します。16GBあれば小〜中規模モデルが動かせますが、70Bクラスを動かすにはMacの統一メモリか、GPUの複数枚挿しが必須になります。

• チェック2: 統一メモリ（Mac）の場合、システム分を差し引いても余裕があるか Apple SiliconのMacはメモリをCPUとGPUで共有します。32GBモデルを買っても、OSやブラウザが10GB使っていれば、LLMに割り当てられるのは20GB程度です。実務で使うなら、ブラウザやIDEを開きながらでも40GB以上をLLMに回せる「64GB以上の構成」を強く推奨します。

• チェック3: 電源ユニットの容量は足りているか（自作・BTOの場合） RTX 4090は1枚で最大450W、4060 Tiでも160W消費します。特にGPUを2枚挿しにする場合は、1200W〜1500Wクラスの電源ユニットが必要です。楽天などで安いPCを探すと、電源が750W程度で余裕がないケースが多いので注意してください。

• チェック4: 商用利用可能なライセンスのモデルを動かす前提か ハードウェアを買った後に気づくのが、モデルのライセンスです。Llama 3.1は条件付きで商用利用可能ですが、特定のモデル（一部のQwen派生など）は商用利用に制限がある場合があります。実務導入なら、モデルの規約を確認し、それに見合ったスペックのハードを揃える必要があります。

楽天/Amazonで見るべき検索キーワード

楽天で探す際は、単に「ゲーミングPC」と打つのではなく、具体的なパーツ名で絞り込んでください。

代替案と妥協ライン

「いきなり50万円のPCを買うのは怖い」という場合、妥協ラインは2つあります。

1つ目は、API利用に振り切ることです。Claude 3.5 SonnetやGPT-4oをCursorやClineで使う分には、手元のPCスペックは不問です。月額20ドルのサブスクを数年払い続けても、4090を買うより安上がりです。プライバシーや秘匿情報の問題がないなら、まずはAPIで「AIを使いこなす自分」を確立してからハードを買うべきです。

2つ目は、**MacBook Air M3（24GBメモリ）**を選択すること。これは「動かしてみた」レベルの最高峰です。24GBあれば、8Bクラスは爆速、27Bクラス（Gemma 2など）も低速ながら動きます。ファンレスで静かなので、カフェでAIコーディングをするような用途にはこれ一択です。

妥協してはいけないのは「VRAM 8GBのノートPC」です。これはAI用途としては完全に「詰み」です。モデルを動かすたびにエラーを吐くか、CPU推論になって1文字/秒という、電卓以下の速度に絶望することになります。

私ならこう選ぶ

私が今、予算50万円で仕事用の環境を構築するなら、**「Mac Studio（M2 UltraまたはM3世代）のメモリ128GBモデル」**を楽天のポイント還元率が高い日に狙います。

理由は明確で、今のオープンウェイトモデルのトレンドが「巨大化」しているからです。Redditのr/LocalLLaMAでも話題になりますが、Llama 3.1 405Bのような化け物モデルが登場した今、NVIDIAのコンシューマー向けGPU（最大24GB）では、量子化しても1枚では太刀打ちできません。Macの128GBという巨大なビデオメモリ（として機能する統一メモリ）は、速度では4090に劣りますが、「どんなモデルでもとりあえず動く」という圧倒的な安心感があります。

もし「推論速度」を追求するなら、自宅サーバーにRTX 3090（中古）を2枚挿して運用します。Amazonで安いマイニングフレームと1500W電源を買い、LinuxでOllamaを叩く構成です。これが最もVRAM 48GBを安く手に入れるハック的な手法です。

よくある質問

Q1: NVIDIAとMac、どちらが将来性がありますか？

純粋なAI開発・微調整（Fine-tuning）ならNVIDIA一択です。CUDAというエコシステムは最強です。しかし、巨大なモデルを「動かす」だけであれば、メモリ容量の壁を安価に突破できるMac（Apple Silicon）の方が、個人開発者には寿命が長いです。

Q2: ゲーミングノートPCでローカルLLMはできますか？

おすすめしません。VRAMがノート版はデスクトップ版より少ないことが多く、排熱問題で推論中にファンが爆音になります。どうしてもノートなら、VRAM 12GB以上のRTX 4080 Laptop搭載機を選んでください。ただし価格は30万円を超えます。

Q3: 16GBのVRAMでLlama 3.1 70Bは動きますか？

そのままでは動きません。極限まで量子化（IQ2_XSなど）すればメモリには乗りますが、知能が著しく低下し、会話が成立しなくなります。70Bをまともに動かすなら、最低でもVRAM 40GB（24GB×2枚など）が必要です。

あわせて読みたい

• ローカルLLM用PCおすすめ比較｜RTX 4090かMacか？エンジニアが後悔しないVRAM選び
• ローカルLLM環境の選び方比較！RTX 4090かMacか？Palantir CEOも推す脱・クローズドモデルへの投資ガイド
• Claude CodeをローカルLLMで動かすrelay-ai活用術 | RTX・Mac選びと失敗しない環境構築