ローカルLLMが爆速に。llama.cppの新機能をフル活用するRTX・Macの選び方と比較

3行要約

• llama.cppの「Prompt Lookup Drafting（PLD）」により、コード生成やRAGなど特定の用途で推論速度が最大42倍（実効2〜5倍）に向上する。
• 高価な「2枚挿し」をせずとも、VRAM 16GB以上のシングルGPU構成で最新の7B〜14Bクラスを実用レベルの速度で回せるようになった。
• 失敗しないコツは、推論速度（t/s）に惑わされず「VRAM容量」と「メモリ帯域」のバランスでハードウェアを選ぶこと。

結論: まず選ぶべき構成

結論から言えば、今からローカルLLMを仕事で使うなら「VRAM 16GB以上のNVIDIA GPU」か「メモリ64GB以上のApple Silicon Mac」の二択です。

llama.cppに実装された「Prompt Lookup Drafting (PLD)」は、推論時にプロンプト内の既存の文字列から次に来る単語を予測する手法です。従来のスぺキュラティブ・デコーディング（推論用と検証用の2つのモデルを動かす手法）と違い、追加のVRAM消費なしに速度を跳ね上げられるのが最大の特徴です。

これにより、これまで「速度が遅くてストレスだった」中規模モデル（Qwen-2.5-14BやGemma-2-9Bなど）が、一般向けGPUでも驚くほど快適に動きます。

• 15万円以下で組むなら: RTX 4060 Ti 16GBモデル一択。
• 実務のメイン機なら: RTX 4090、またはMac Studio（M2 Ultra / M4 Max待ち）。
• 避けるべき: 12GB以下のGPU。どんなに計算性能が速くても、モデルがVRAMに乗り切らなければPLDの恩恵を十分に受けられません。

PLDは「同じフレーズが繰り返される」コード生成やRAG（外部文書参照）で特に威力を発揮します。逆に、一問一答の短いチャットでは恩恵が薄い。自分の用途が「生成」ならGPU、「大量の文書読み込み」ならMacという切り分けが正解です。

用途別おすすめ

PLDの登場で、これまで「スペック不足」と切り捨てていたRTX 4060 Ti 16GBの評価が逆転しました。これまでは「VRAMは多いが計算が遅い」と言われていましたが、PLDは計算負荷を減らして速度を稼ぐ技術なので、このカードの弱点を完璧に補っています。

逆に、エンジニアが実務で使うならRTX 4070 Ti Super以上を推奨します。理由はメモリバス幅です。PLDが効かない初動の読み込みや、複雑なロジック生成時には、やはりハードウェア本来のデータ転送速度がモノを言います。

買う前のチェックリスト

• VRAM 16GBの壁を越えているか: 12GBだと最新の高性能モデル（Llama-3.1 8Bの量子化版など）を載せた際に、PLD用のキャッシュ領域が不足して失速します。最低でも16GB、できれば24GBが「仕事で使える」ラインです。
• 電源ユニットの容量は足りているか: RTX 4090を検討するなら1000W、4070 Ti Superなら750W以上の電源が必要です。AI推論は長時間GPUに負荷がかかり続けるため、安物の電源だとシステムごと落ちます。
• 接続端子とスロットの空き: 複数枚挿しを将来的に考えるなら、マザーボードのPCIeスロットの間隔と、PCケースの奥行き（330mm以上推奨）を確認してください。RTX 40シリーズはとにかく「デカい」です。
• ローカルLLM特有の「量子化」知識: llama.cppを使う前提なら、GGUF形式のモデルを扱います。Q4_K_MやQ8_0といった量子化設定により必要なVRAMが変わるため、自分が使いたいモデルの必要容量を事前にシミュレーションしてください。
• Macの場合のメモリ選択: Macは後からメモリを増やせません。AI用途なら「32GBは最低限、64GB以上が推奨」です。16GBのMacBook ProでローカルLLMを動かすのは、検証用としても厳しいのが現実です。

楽天/Amazonで見るべき検索キーワード

楽天で価格を比較する際は、以下のキーワードで検索して「ポイント還元込みの実質価格」で判断するのが賢いです。特に0と5のつく日は、高単価なGPUほど還元の恩恵が大きくなります。

代替案と妥協ライン

「いきなり20万円のGPUは買えない」という場合、妥協ラインはRTX 3060 12GBの中古です。 楽天やAmazonの中古販売、あるいはPCショップの在庫で3〜4万円程度で手に入ります。PLDの効果は30シリーズでも有効なので、8Bクラスのモデルであれば十分に「速さ」を体感できます。

ただし、12GBはあくまで「体験用」です。Qwen-2.5 14BなどをPLDで爆速運用しようとすると、VRAMが1〜2GB足りず、メインメモリ（RAM）へのスワップが発生して速度が1/10以下に激減します。

また、クラウド（Google ColabやRunPod）という選択肢もありますが、月額数千円〜数万円を払い続けるなら、1年でRTX 4060 Tiの元が取れます。ローカル環境は「機密情報を外に出さない」「API料金を気にせず無限にデバッグできる」というエンジニアにとって最大のメリットがあるため、先行投資としてのハードウェア購入を強くおすすめします。

私ならこう選ぶ

私が今、予算20万円で「仕事用の一台」を構築するなら、RTX 4070 Ti Super 16GBを軸にします。

理由は「16GBというVRAMの安定感」と「256bitのメモリバス幅」です。PLDを使えば上位モデルに肉薄する速度が出ますし、万が一PLDが効かないタスクでも、ハードウェア自体の転送速度が速いため、開発のリズムが崩れません。

具体的には、楽天で「MSI」か「ASUS」のモデルを狙います。この2社は冷却性能が安定しており、数時間の連続推論でもサーマルスロットリング（熱による速度低下）が起きにくいからです。Amazonで買う場合は、必ず「出荷元：Amazon」を確認してください。高額パーツの初期不良対応で泣きを見ないためです。

Macを選ぶなら、M2 Ultraの中古か整備済製品のMac Studio（メモリ64GB〜）を探します。Apple Siliconの統一メモリは「巨大なモデルがとりあえず動く」という安心感がありますが、推論速度そのものは最新のPLDを効かせたRTX 40シリーズの方が圧倒的に快適です。

よくある質問

Q1: PLDを設定するだけで本当に速くなるの？

llama.cppの起動オプションに --lookup-ngram-min などの引数を追加するだけで有効になります。モデル自体を改造する必要がないため、明日からでも試せます。ただし、プロンプトが短すぎると効果が出にくい点だけ注意してください。

Q2: 16GBのVRAMでどのくらいのモデルが動く？

Llama-3.1 8Bなら最高精度に近い設定で余裕を持って動かせます。Qwen-2.5 14Bも、4bit量子化（Q4_K_M）ならPLD用のキャッシュを確保しつつ快適に動作します。70Bクラスになると、MacかGPU2枚挿し（VRAM 48GB〜）が必須です。

Q3: GPUのメーカー（MSI, ASUS, ZOTAC等）で性能は変わる？

AI推論においては「VRAM容量」が同じなら、どのメーカーでも推論速度に大きな差はありません。ただし、冷却ファンの静音性と耐久性に差が出ます。24時間回し続けるような用途なら、冷却に定評のある3ファンモデルを選んでおけば間違いありません。

あわせて読みたい

• ローカルLLM環境の選び方比較：llama.cpp時代に買うべきGPUとMacの決定打
• Qwen軽量モデルで業務効率化！ローカルLLM開発に最適なGPU・Macの選び方と比較
• 27Bが6GBで動く？Ternary Bonsai 2登場で変わるローカルLLM用PCの選び方と比較