3行要約
- Qwen 3.5/3.6の35Bクラスは、ワンプロンプトでゲームを完結させる「実戦的な思考力」を持つ現役最強格のローカルモデル。
- 快適に動かすにはVRAM 24GB(RTX 4090等)が最低ライン、Q8_0の無劣化運用ならMacの統一メモリ64GB以上が現実的な選択肢。
- 8Bクラスとはコードの整合性が別次元。中途半端なスペックで「量子化(モデル圧縮)」を強いると、このモデルの真価を殺すことになる。
📦 この記事に関連する商品(楽天メインで価格確認)
RTX 4090 24GB35Bモデルを高速推論するための最高峰GPU。実務で使うならこれ一択。
※アフィリエイトリンクを含みます
結論: まず選ぶべき構成
結論から言うと、Qwen 35Bクラスを「仕事で使えるレベル」で回したいなら、RTX 4090 24GBを1枚積んだPC、あるいはMac Studio(M2/M3 Max)のメモリ64GBモデルが最適解です。
今回Redditで話題になった「フライトシミュレーターを1つのHTMLファイルで生成する」といった高度なコーディングタスクは、モデルのパラメータ数だけでなく「量子化による劣化をどれだけ抑えられるか」が鍵になります。35BモデルをQ8_0(8ビット量子化)で動かす場合、モデル本体だけで約35GB、コンテキスト保持用のKVキャッシュを含めると40GB近いメモリを消費します。
多くの人が「VRAM 12GBや16GBのGPU」で妥協しようとしますが、その場合はQ4_K_M(4ビット相当)まで精度を落とす必要があり、コードの論理構造に破綻が生じやすくなります。趣味のチャットなら4ビットで十分ですが、仕事で「動くコード」を一発で出させたいなら、Q8_0を視野に入れた「メモリ48GB以上の環境(GPU2枚挿し or Mac)」が、結果的に最も投資対効果(ROI)が高くなります。
用途別おすすめ
| 用途 | 推奨構成/商品カテゴリ | 理由 | 注意点 |
|---|---|---|---|
| 入門 | RTX 4060 Ti 16GB | 16GBあれば35BモデルをQ3_K_L等でなんとか起動可能。 | 速度は2〜3 tokens/secまで落ち、複雑なコードはバグる。 |
| 本格運用 | RTX 4090 24GB | 現行最速の推論速度。Q4量子化なら15〜20 tokens/sec以上で快適。 | Q8_0での運用は1枚では不可能。サブスクなしでClaude 3.5級が動く。 |
| 仕事用 | Mac Studio 64GB/128GB | 統一メモリにより、VRAM容量の壁を突破してQ8_0を安定稼働。 | ゲームや学習(学習・Fine-tuning)には不向き。推論専用。 |
| 開発特化 | RTX 3090 24GB × 2枚 | 中古なら20万円台で48GB環境が構築でき、35BのQ8_0がフルスピードで動く。 | 消費電力が700Wを超えるため、電源ユニットと排熱対策が必須。 |
今のAI開発シーンでは、モデルの進化速度がハードウェアの普及を追い越しています。Qwen2.5や3.5の30B〜35Bクラスは「コーディング能力がGPT-4oに肉薄している」ため、これらをローカルで動かせる環境を持つことは、月額$20のサブスクを複数契約する以上の価値があります。
特にエンジニアがCursorやCline(旧Claude Dev)などのツールと連携させてローカルLLMを使う場合、レスポンス速度とコンテキスト容量が生産性に直結します。
買う前のチェックリスト
- チェック1: VRAM容量(ビデオメモリ)がモデルサイズ+αあるか 35BモデルをQ8_0で動かすなら、必要なメモリは約38GBです。Q4_K_M(実用最低ライン)なら約22GBです。RTX 4070 Ti Super(16GB)では、35Bモデルの本来の知能を維持したまま動かすのは厳しいという現実を知っておくべきです。
- チェック2: 電源ユニットの容量と補助電源ピンの数 RTX 4090や3090を導入する場合、最低でも850W、できれば1000W以上の電源が必要です。特に12VHPWRコネクタの有無は、最新GPUを接続する際の事故防止に直結します。
- チェック3: Macを選ぶならメモリは「妥協なし」で選んでいるか MacBook ProやMac StudioでローカルLLMを動かす場合、メモリは後から増設できません。「32GBで足りるだろう」という判断は、この35Bクラスのモデルを前にすると無力です。64GB、あるいは96GB/128GBを選択することが、3年先まで戦えるエンジニアの投資です。
- チェック4: 冷却性能とケースのサイズ 24時間稼働でRAG(外部知識参照)やコード生成をさせる場合、GPUの熱ダレが速度低下を招きます。3スロット以上を占有する大型GPUが物理的に入るケースか、エアフローは確保されているかを確認してください。
楽天/Amazonで見るべき検索キーワード
楽天やAmazonで機材を揃える際、単に「ゲーミングPC」で探すとVRAM不足で失敗します。以下のキーワードをコピーして、スペック詳細を確認してください。
| 検索キーワード | 向いている人 | 避けた方がいい人 |
|---|---|---|
| RTX 4090 24GB | 最高速度でコード生成したいプロ | 予算30万円以下の人、電気代を気にする人 |
| RTX 4060 Ti 16GB | 安価に「16GB」の壁を超えたい入門者 | 快適な生成速度(10 tokens/sec以上)を求める人 |
| Mac Studio M2 Max 64GB | 安定性と大容量メモリを両立したいエンジニア | 重い3Dゲームも同時に楽しみたい人 |
| RTX 3090 中古 24GB | コスパ最強で48GB環境(2枚挿し)を作りたい人 | 保証がないと不安な人、中古のリスクを取れない人 |
特に楽天では、ポイント還元を含めると実質価格がAmazonより安くなる「MSI」や「ZOTAC」のグラフィックボード単体が狙い目です。
代替案と妥協ライン
「いきなり40万円のPCは買えない」という場合、まずはOpenRouterやGroqなどのAPI利用から始めるのが正解です。月額費用は使った分だけですが、Qwen 35Bクラスなら100万トークン数ドルで試せます。
ハードウェアでの妥協ラインは「RTX 3060 12GB」です。これ以下のVRAM(8GB以下)では、Qwen 35Bを動かすことすら困難で、7Bクラスのモデルに限定されます。7Bと35Bの間には「論理的思考の壁」があり、フライトシミュレーターのような複雑なコードを一撃で書く能力は、7Bにはありません。
また、Macユーザーなら「Mac mini M2 Pro メモリ32GB」が中古・新古品で安く出回ることがあります。これなら35BモデルのQ4量子化がそこそこの速度で動くため、最も安価な「実用ローカルLLM環境」への入り口になります。
私ならこう選ぶ
私が今、予算50万円でゼロから環境を作るなら、迷わずRTX 3090 24GBの中古を2枚挿した自作PCを組みます。
理由は単純で、合計48GBのVRAMがあれば、Qwen 35Bを「一切の妥協なし(Q8_0)」で動かせるだけでなく、さらに巨大なLlama-3 70BクラスのQ4運用まで視野に入るからです。AIの進化は「モデルサイズが大きくなる」方向に進んでおり、現時点でVRAM 24GB(4090単体)はすでに「中級者向け」のスペックになりつつあります。
楽天で買うなら、まずは5のつく日や買いまわりイベントを狙って「RTX 4090」の在庫をチェックします。特に、後々の売却価格(リセールバリュー)が高いASUSのROGシリーズや、冷却性能に定評のあるMSIのSUPRIMシリーズを、ポイント還元が最大化するタイミングで叩きます。
もしあなたがコードを毎日書くエンジニアなら、この投資は3ヶ月で「生成待ち時間の短縮」という形で回収できるはずです。
よくある質問
Q1: 35Bモデルを動かすのに、なぜ「Q8_0」にこだわる必要があるのですか?
Q4(4ビット)とQ8(8ビット)では、特に「長文のコードの整合性」に差が出ます。Q4だと関数の閉じ忘れや、変数名の微妙な取り違えが発生しやすくなります。仕事でデバッグ時間を減らしたいなら、量子化劣化の少ないQ8やQ6が理想です。
Q2: ノートPC(Windows)でQwen 35Bを動かすのは無謀ですか?
VRAM 16GB搭載のゲーミングノート(RTX 4090 Laptop GPU等)なら動きますが、価格が40万円を超えます。同じ金額を出すなら、デスクトップPCかMac Studioを買ったほうが、排熱やメモリ拡張性の面で圧倒的に有利です。
Q3: Ollamaとllama.cpp、どちらを使うのがおすすめですか?
手軽さならOllama、細かい設定(KVキャッシュの量子化など)でメモリを節約したいならllama.cpp(またはそのGUIであるLM Studio)です。今回のRedditの例のように、限界まで性能を引き出すならllama.cppの最新ビルドを追いかけるのがエンジニアの王道です。






