ローカルLLM環境の選び方比較｜RTX 4060 Tiから4090、Macまで失敗しないVRAM選び

3行要約

• 最高性能のモデルを追うより、手元の環境で「推論速度5 tokens/sec以上」を出せる構成を選ぶのが実務上の正解です。
• 予算と用途の分岐点はVRAM 16GB（入門）、24GB（標準）、48GB以上（実務・開発）に明確に分かれます。
• メインメモリでの代用（共有メモリ）は、どんなに高速なCPUでも推論が遅すぎて仕事では使いものにならないため、GPU選びが全てです。

結論: まず選ぶべき構成

結論から言えば、今からローカルLLMを仕事に組み込みたい個人開発者が選ぶべき最短ルートは「RTX 4060 Ti 16GB」の一択です。楽天やAmazonで6万円台から手に入るこのカードは、現在のローカルLLM界隈で「最低限の入場券」と呼ばれています。

なぜ12GB（RTX 4070等）ではなく16GBなのか。それは、現在主流のLlama 3.1 8BやQwen 2.5 7Bといった「仕事で使える」サイズのモデルを、4ビット量子化だけでなく、より精度の高い8ビットやFP16に近い状態でVRAMに丸ごと載せられるからです。VRAMから溢れてメインメモリ（RAM）に処理が移った瞬間、推論速度は1/10以下に低下します。これはAIコーディングやRAG（外部知識参照）の検証において致命的なストレスになります。

もしあなたが「Llama 3.1 70Bクラスを実用レベルで動かしたい」なら、Mac Studio（メモリ128GB以上）か、RTX 4090の2枚挿し構成が必須となります。ここから先は趣味ではなく、完全に「業務投資」の世界です。自分の目的が「軽量モデルを高速に回してツールを作る」ことなのか、「巨大モデルの知能をローカルで試す」ことなのかを明確にしましょう。

用途別おすすめ

この表の中で、最も「買って後悔しない」のはRTX 4090です。私はRTX 4090を2枚挿して運用していますが、Llama 3.1 70Bを4bit量子化で動かした際、約10〜15 tokens/sec程度の速度が出ます。これは人間が文章を読む速度を上回っており、チャットUIでストレスを感じない境界線です。

一方、MacBook系を選ぶなら「メモリ容量」が全てです。Apple Silicon（M2/M3/M4）はメモリをGPUと共有するため、128GB積めば128GBに近いVRAMとして機能します。これはWindows機で同等のVRAMを揃えようとすると中古のRTX 3090を複数枚並べるなどの工夫が必要になるため、セットアップの手間を考えればMacは非常に合理的な選択肢となります。

買う前のチェックリスト

• チェック1: VRAM容量（ビデオメモリ）が「物理的に」足りているか ローカルLLMにおいて、最も重要なのはGPUの「演算性能」ではなく「VRAM容量」です。モデルのパラメータ数に対してVRAMが足りないと、OSは自動的にメインメモリを使用しますが、これで速度が1 token/secを切ると実用不可能です。8Bモデルを動かすなら最低8GB、余裕を持つなら16GBが必要です。

• チェック2: PCケースのサイズと電源容量 特にRTX 4090や4080を検討している場合、カードの全長が330mmを超えるものがザラにあります。また、補助電源コネクタ（12VHPWR）の取り回しに余裕があるか、電源ユニットが850W（4090なら1000W推奨）以上あるかを必ず確認してください。ここを妥協すると、高負荷時にPCが突然落ちる、最悪の場合はコネクタが融解するリスクがあります。

• チェック3: 推論フレームワークの対応状況 Ollama、llama.cpp、MLXなど、自分が使いたいツールがそのハードウェアをサポートしているか確認してください。現在、NVIDIAのGPU（CUDA）が最も安定していますが、Mac（MLX）も急速に普及しています。一方で、AMDのRadeon系は「ROCm」のセットアップが初心者には非常に難しいため、強いこだわりがない限りはNVIDIAかApple Siliconを選ぶのが無難です。

• チェック4: 商用利用とライセンスの確認 ハードウェア選びとは直接関係ありませんが、動かすモデルのライセンスを確認してください。Llama 3.1は月間アクティブユーザー数が7億人を超えない限り商用利用可能ですが、モデルによっては「研究目的限定」のものもあります。業務で使う場合は、QwenやGemmaなど、ライセンスがより寛容なモデルを選ぶ必要があります。

楽天/Amazonで見るべき検索キーワード

楽天やAmazonで検索する際は、以下のキーワードを組み合わせて「価格の妥当性」と「在庫」をチェックしてください。

楽天で探す場合は「MSI」「ASUS」「ZOTAC」といった大手メーカーのショップを見ると、ポイント還元を含めた実質価格がAmazonより安くなるケースが多いです。特に「お買い物マラソン」などのイベント時は狙い目です。

代替案と妥協ライン

「いきなり30万円のGPUを買うのは怖い」という方へ。まずは「月額3,000円前後のサブスク」と「無料のクラウド環境」で自分の用途を固めるのが先決です。

1. クラウドGPU（RunPod / Lambda Labs / Google Colab） 1時間数十円〜100円程度でRTX 4090やH100を借りられます。週に数時間しか触らないのであれば、30万円のハードを買うより、クラウドで5年過ごすほうが安上がりです。
2. 既存PC + API（Cursor / Claude Code） ローカルLLMを動かす目的が「コーディング支援」なら、ハードを買わずにCursorのProプラン（月額$20）を契約し、Claude 3.5 Sonnetを使うほうが圧倒的に開発効率は高いです。ローカルLLMがAPIモデル（GPT-4oやClaude 3.5）を上回るケースは、プライバシーが極めて重要な案件か、オフライン環境での作業に限られます。

妥協ラインとして、中古の「RTX 3060 12GB」を探すのもアリです。楽天やメルカリで3万円台で見つかります。12GBあれば、多くの軽量モデルを高速に試せます。ここで「物足りない」と感じてから、16GBや24GBの世界に足を踏み入れるのが最も失敗の少ないルートです。

私ならこう選ぶ

私が今、予算30万円でゼロから環境を作るなら、楽天で「RTX 4090」の単体パーツを探し、自作PCを組みます。理由はシンプルで、AIの世界は「VRAMの帯域幅」が正義だからです。Macの統一メモリは容量こそ稼げますが、推論の「キレ」はRTX 4090に敵いません。

もし自作が不安で、かつ「仕事でコードを書きまくりたい」なら、Amazonでメモリを64GB以上にカスタマイズした「MacBook Pro M3/M4 Max」を狙います。最近のトレンドである「Claude Code」や「Aider」などのCLIツールをローカルLLM（Ollama）と連携させる場合、Macの安定性はエンジニアにとって大きな武器になります。

最初に検索するのは、楽天の「玄人志向」や「ZOTAC」のRTX 4060 Ti 16GBモデルです。まずはこれで「自分のPCでモデルが動く感動」を味わってください。そこで満足できなければ、そのグラボは二子玉川のメルカリで売れば高く売れます。AIブームの今、VRAMの多いグラボは資産価値が落ちにくいのが救いです。

よくある質問

Q1: メモリ32GBのWindowsノートPCでローカルLLMは動きますか？

動きますが、非常に遅いです。GPUが内蔵（iGPU）の場合、VRAMとして割り当てられる容量が少なく、メインメモリを低速なバス経由で使うため、1秒間に1〜2文字しか出ないような速度になりがちです。実務で使うなら外付けGPU（eGPU）か、買い替えを推奨します。

Q2: ゲーミングPCなら何でもいいですか？

いいえ、VRAM容量を確認してください。「RTX 4060」には8GB版と16GB版がありますが、AI用途では16GB版が圧倒的に有利です。ゲーム性能は8GB版と大差ありませんが、LLMでは「動くか動かないか」の差になります。

Q3: 今買うのは時期が悪いですか？ RTX 50シリーズを待つべき？

「今すぐAIで何かを作りたい」なら、待つ必要はありません。RTX 5090などの次世代機は確かに高性能ですが、価格も高騰し、入手困難になることが予想されます。今の16GBや24GB環境で開発スキルを磨く半年間の価値は、次世代機の性能差よりも遥かに大きいです。

あわせて読みたい

• ローカルLLM環境の選び方比較｜RTX 4090かMacか？後悔しないVRAMとスペックの基準
• ローカルLLM環境の選び方：RTX 4090かMacか？後悔しないためのVRAM容量と推奨構成を比較
• ローカルLLM環境の選び方比較｜RTX 4090かMac Studioか？後悔しないGPU・VRAMの基準