ローカルLLM向けおすすめGPU・Mac比較：Qwen3.8-95Bを動かすための選び方

3行要約

• Qwen3.8-95Bは「仕事で使える」性能だが、4bit量子化でもVRAM 60GB以上が必須となる。
• 予算100万円超ならMac Studio（192GBメモリ）、50万円以下ならRTX 3090/4090の複数枚挿しが現実解。
• 1枚のGPU（VRAM 24GB以下）で動かそうとするのは時間の無駄。まずはAPIかクラウドGPUで試すべき。

結論: まず選ぶべき構成

Qwen3.8-2.4T-A95Bのリリースで、ついにローカル環境でも「GPT-4oクラス」の推論を安定して回せる時代が来ました。しかし、この95B（950億パラメータ）というサイズは、これまでの「ちょっと高性能なPC」では門前払いされます。

仕事で使うなら、まず「VRAM（ビデオメモリ）を合計で何GB確保できるか」だけを考えてください。FP16（精度を落とさない状態）では190GB以上のVRAMが必要になり、現実的な4bit量子化（Q4_K_Mなど）でも約60GBのVRAMを占有します。OSや他のソフトの動作分を含めると、最低でも64GB、余裕を持つなら80GB〜128GBのメモリ帯域が必要です。

結論として、今からこのクラスのモデルのために投資するなら以下の2択です。

1. Macユーザー: M2 Ultra / M3 Ultraを搭載したMac Studio（メモリ128GB以上）。これが最も「ハマり」が少なく、推論速度も実用圏内（毎秒10〜15トークン程度）に収まります。
2. 自作PC/Windowsユーザー: RTX 3090（24GB）の中古3枚挿し、またはRTX 4090（24GB）の2枚挿し＋システムメモリでのオフロード。ただし、推論速度を重視するならGPUメモリ内にモデルを完全に載せる必要があります。

「RTX 4060 Ti 16GBでなんとか……」と考えているなら、今のうちにその考えは捨ててください。このクラスのモデルは、16GB程度のVRAMでは数トークン出力するだけでメモリ不足（OOM）で落ちるか、システムメモリへのオフロードで1トークン出すのに数秒かかる「使い物にならない」状態になります。

用途別おすすめ

この表の中で、私が最も「仕事用」として推奨するのはMac Studioの192GBメモリモデルです。Qwen3.8-95Bのような巨大モデルを仕事で使う際、最もストレスが溜まるのは「推論の不安定さ」です。Windows環境で複数枚のGPUを制御する場合、ドライバの競合や電源不足に悩まされる時間が増えます。Mac Studioなら「ただ起動して、OllamaやLM Studioでモデルを選ぶだけ」で、業務を始められます。

一方、AIの微調整（LoRAなど）まで視野に入れているエンジニアなら、RTX 4090の複数枚構成以外に選択肢はありません。Apple Siliconは推論は得意ですが、学習効率では依然としてNVIDIAのTensorコアに軍配が上がります。

買う前のチェックリスト

• チェック1: VRAM（または統一メモリ）の合計容量は64GBを超えているか Qwen3.8-95Bを4bit量子化で動かす場合、モデルサイズだけで約55GB程度になります。VRAMが48GB（4090×2枚）の場合、一部をメインメモリに逃がす（オフロード）必要がありますが、これにより速度は激減します。快適さを求めるなら「モデルサイズ + 10GB」の余裕を見てください。

• チェック2: 電源ユニットの容量は足りているか（GPU構成の場合） RTX 4090を2枚挿すなら、ピーク時の消費電力はGPUだけで900Wに達します。CPUや周辺機器を含めると、1500W〜1600Wの電源ユニット（80PLUS GOLD以上）が必須です。家庭用コンセント（1500W制限）の限界に近いため、エアコンなどと同じ回路から電源を取らないよう注意が必要です。

• チェック3: 通信帯域（メモリバス幅）を確認したか ローカルLLMの推論速度は、計算能力よりも「メモリからデータを読み出す速度（メモリ帯域）」で決まります。MacのUltraチップが選ばれる理由は、800GB/sという圧倒的なメモリ帯域があるからです。自作PCでメインメモリ（DDR5）にオフロードすると、帯域が60〜100GB/s程度まで落ちるため、推論がカクつきます。

• チェック4: 商用利用とライセンスの確認 Qwenシリーズは基本的に寛容なライセンスですが、Qwen3.8-95Bにおいても商用利用の条件（月間アクティブユーザー数による制限など）が適用される可能性があります。業務で組み込む場合は、Hugging Faceのモデルカードにあるライセンス条項を必ず一読してください。

楽天/Amazonで見るべき検索キーワード

Qwen3.8-95Bクラスをターゲットにするなら、以下の具体的な型番で価格比較を行うのが効率的です。

楽天で探す際は、特に「ポイント還元」を含めた実質価格を確認してください。高額商品なので、お買い物マラソン等のイベント時にMac Studioを購入するだけで数万ポイント変わります。Amazonの場合は、在庫状況と「出荷元がAmazon.co.jpか」を必ずチェックしてください。

代替案と妥協ライン

「Qwen3.8-95Bを動かしたいけれど、100万円は出せない」という場合、以下の妥協ラインを検討してください。

1. モデルの量子化率を下げる (IQ2_XS / Q2_K) 精度は多少落ちますが、モデルサイズを30GB程度まで圧縮できます。これならRTX 3090/4090の1枚（24GB）とメインメモリの組み合わせでも、なんとか「動く」レベルにはなります。ただし、賢さはGPT-4クラスからGPT-3.5クラスまで低下する感覚です。

2. Qwen2.5-32B / 72B へのスペックダウン 最新のQwen3.8にこだわらず、1世代前のモデルや、よりパラメータ数の少ない32Bモデルを選択するのも賢い選択です。32BならRTX 4090 1枚で高速に動作し、コーディング支援の精度も十分実用的です。

3. クラウドGPU（RunPod / Lambda Labs）の利用 ハードウェアを買う前に、まずはクラウドで「A100 80GB」や「H100」を1時間数百円で借りて試してみてください。自分のプロンプトや業務フローでQwen3.8-95Bが本当に価格相応の価値を出すか確認してからでも、購入は遅くありません。

私ならこう選ぶ

私がいま、仕事用のメイン環境を整えるなら、**Mac Studio M3 Ultra（192GBメモリ）**を楽天のポイントアップ日に狙います。

理由は、静音性と安定性です。RTX 4090の2枚挿し自作サーバーも運用していますが、夏場の排熱とファンの騒音は集中力を削ぎます。エンジニアとして「Cursor」や「Aider」といったツールと連携させながら24時間ローカルLLMを立ちっぱなしにするなら、Mac Studioの「動いていることを忘れる静かさ」は代えがたいメリットです。

Amazonで周辺機器（Dellの4Kモニター U2723QEなど）を揃えつつ、本体は楽天でポイントを最大化して買うのが、最も賢い「AI投資」だと思います。

よくある質問

Q1: VRAM 24GBのカード1枚でQwen3.8-95Bは動きますか？

結論から言えば、非常に厳しいです。重度の量子化（2bit程度）を行えばロードはできますが、回答の論理性は崩壊し、推論速度も毎秒1トークンを切る可能性があります。このモデルを活かすなら、最低でもVRAM 48GB（2枚挿し）以上を推奨します。

Q2: 自作PCでGPUを2枚挿す場合、マザーボードは何を選べばいいですか？

「PCIeスロットの間隔」と「レーン数」が重要です。RTX 4090は3.5〜4スロット占有するため、物理的に2枚挿せるスペースがある「ASUS Pro WS」シリーズなどのワークステーション向けマザーボードが失敗しません。

Q3: 128GBのメモリを積んだ一般的なWindows PC（GPUなし）では動かない？

動きますが、CPU推論になるため「1文字出すのに数秒」かかります。チャットとして使うにはストレスが溜まりすぎて実用的ではありません。あくまで「動作確認ができる」程度と考えてください。

あわせて読みたい

• Qwen3.8-27B比較と選び方｜ローカルLLMを仕事で使うためのGPU・Mac選定ガイド
• ローカルLLM環境構築で失敗しないためのGPU・Mac選び：Ollamaが動かない罠を回避する
• ローカルLLMを安く速く動かすDeepSeekの衝撃。失敗しないGPUとMacの選び方比較