3行要約

  • Qwen 3.8 35Bは「Active 3B」のMoE構成が濃厚で、24GB VRAM(RTX 3090/4090)で高速動作する本命モデルです。
  • 業務で「使える」レベルのレスポンスと精度を両立させるなら、VRAM 16GBは最低ライン、理想は24GB以上の環境を推奨します。
  • 買う前に「量子化後のサイズ」と「コンテキスト長によるVRAM消費」を計算しないと、メインメモリに溢れて使い物にならない失敗に陥ります。

📦 この記事に関連する商品(楽天メインで価格確認)

RTX 4090 24GB

24GB VRAMで35Bモデルを高速かつ余裕を持って動かすための現状最適解

楽天で価格を見る Amazonでも確認

※アフィリエイトリンクを含みます

結論: まず選ぶべき構成

結論から言うと、Qwen 3.8 35Bクラスをローカル環境で「仕事の道具」として運用するなら、RTX 3090(中古)またはRTX 4090(新品)の一択です。 今回のリーク情報にある「35BA3B」という表記は、総パラメータ35B、推論時に動くActiveパラメータが3BであるMoE(Mixture of Experts)構成を示唆しています。 これは推論速度が3Bクラス並みに爆速でありながら、35Bクラスの知識量を持つことを意味しており、ローカルLLM界隈では最も「コスパとタイパが良い」セグメントになります。

VRAMが16GB以下のGPU(RTX 4060 Ti 16GBなど)でも、4bit程度の量子化を行えば動かすことは可能ですが、長文のコンテキスト(RAGやコード生成)を流し込むと、すぐにVRAMが枯渇して推論速度が1トークン/秒以下に落ち込みます。 趣味で「1回動かしてみたい」だけなら16GBで十分ですが、CursorやClineと連携させてコーディング補助に使うなら、24GB VRAMを積んだGPUか、統一メモリを64GB以上積んだMacを選んでください。 それ以下のスペックで妥協すると、結局「ChatGPTでいいや」となり、ハードウェア代が無駄になるのが目に見えています。

用途別おすすめ

用途推奨構成/商品カテゴリ理由注意点
入門・検証RTX 4060 Ti 16GB16GB VRAM搭載機として最安。Qwen 3.8 35Bの4bit量子化がギリギリ動作。コンテキストを増やすと即VRAM不足になる。
本格運用・開発RTX 3090 / 4090 (24GB)35Bクラスを余裕を持って動かせる。EXL2形式での高速推論が可能。3090は中古市場のみ。4090は電源1000W以上必須。
業務・Apple派Mac Studio (M2/M3 Ultra) 128GB統一メモリの暴力。70BクラスやQwen 3.8のフル精度も視野に入る。推論速度はハイエンドGPUに劣る。ゲームには不向き。
モバイル・場所不問MacBook Pro M3 Max 64GB以上持ち運べる最強のローカルLLM環境。外出先でのオフライン開発に。価格が非常に高い。32GBモデルでは35Bは窮屈。

Qwen 3.8 35BのようなMoEモデルの最大の利点は、その「軽快さ」にあります。 例えば、従来のDense(全結合)モデルの32Bや35Bは、一文字出すのにそれなりの計算資源を食いますが、Active 3Bであれば、RTX 3090クラスなら秒間50〜100トークン以上の爆速で文字が出てくるはずです。 この「速さ」こそが、AIエージェントを自律動作させる際のストレスをゼロにします。

買う前のチェックリスト

  • チェック1: VRAM容量は「パラメータ数 × 0.7」以上あるか 35Bモデルを4bit量子化(実用レベルの最低ライン)で動かす場合、モデル本体だけで約18〜20GBのVRAMを占有します。ここにコンテキスト(過去の会話履歴や参照ドキュメント)を保持する「KVキャッシュ」の分が必要です。24GB VRAMあれば、8,000〜16,000トークン程度の履歴を保持しながら快適に動かせます。16GBだと、起動はしても履歴が増えた途端にクラッシュするか、動作が極端に遅くなります。

  • チェック2: 電源ユニットの容量とコネクタ数(Windows自作派) RTX 4090を導入する場合、最大消費電力は450Wに達します。CPUや他のパーツを含めると、電源ユニットは最低でも850W、余裕を見るなら1000W〜1200Wの「80PLUS GOLD」以上が必要です。また、12VHPWRコネクタの有無や、古い電源なら補助電源ケーブルが足りるかも確認してください。ここをケチると、高負荷時にPCが突然落ちる「勝手に再起動」現象に悩まされます。

  • チェック3: Apple Siliconなら「メモリ量」がすべて MacでローカルLLMを動かす場合、VRAMという概念はなく、メインメモリをGPUと共有します(統一メモリ)。しかし、システムが使用する分を除いた「実際にLLMに割り当てられるメモリ」は、全容量の約70〜80%程度です。32GBモデルだと、35Bモデルを動かすにはかなり厳しい戦いになります。Macを選ぶなら、最低でも64GB、できれば96GBや128GBを選択するのが「失敗しない」買い方です。

  • チェック4: 商用利用とライセンスの確認 Qwenシリーズは基本的に商用利用に寛容なライセンス(Qwen LICENSE AGREEMENT)ですが、月間アクティブユーザー数による制限などが存在します。業務でSaaSとして組み込む場合は、最新のQwen 3.8のライセンス条項を必ず確認してください。ローカルで自分一人が使う分には全く問題ありません。

楽天/Amazonで見るべき検索キーワード

楽天でポイントを稼ぎつつ買うなら、以下のキーワードで価格推移を追ってください。Amazonは「出荷元・販売元」が公式であることを必ず確認しましょう。

検索キーワード向いている人避けた方がいい人
RTX 4090 24GB最高の速度と精度を求めるプロ。4090一択です。予算30万円以下に抑えたい人。
RTX 4070 Ti Super 16GBコスパ重視でQwen 3.8を試したい人。長文のRAGや複雑なコード生成をさせたい人。
Mac Studio M2 Max 64GB静音性と安定性を重視。仕事用Macが欲しい人。1fpsでも速い推論速度を求める人。
RTX 3060 12GBローカルLLMの入門。まずは安く始めたい人。35Bモデルを常用したい人(遅すぎて断念します)。

代替案と妥協ライン

「いきなり30万円のGPUなんて買えない」という場合の妥協点は2つあります。

1つ目は、RTX 3060 12GBの中古を狙うことです。 楽天やAmazonの中古ショップで3〜4万円程度で転がっています。Qwen 3.8 35Bを動かすには力不足ですが、Qwen 2.5 7BやQwen 3.8 7B(もし出れば)なら爆速で動きます。まずは12GB VRAMで「ローカルLLMを自分の手で動かす感覚」を掴むのは非常に賢い選択です。

2つ目は、GroqやOpenRouterなどのAPI利用に切り替えることです。 Qwen 3.8はリリース直後からこれらのクラウド推論サービスに実装されるはずです。ハードウェアを買う前に、まずはAPI経由で「自分の業務にQwen 3.8 35Bが本当に役立つか」を検証してください。月額数千円のAPI利用料で、RTX 4090以上の速度を体験できます。そこで「これは毎日使う」と確信してから、楽天の買い回りに合わせてGPUをポチるのが最もリスクが低いです。

私ならこう選ぶ

私が今、予算20〜30万円でQwen 3.8 35Bを回すための環境を整えるなら、中古のRTX 3090(24GB)を2枚挿しにする構成を検討します。 1枚でも35Bは動きますが、2枚あれば将来的に70Bクラス(Llama 3など)を4bit量子化で常用できるようになります。 楽天で中古の3090を探すと10万円台前半で見つかることもあり、新品の4090を1枚買うより安く、VRAM 48GBという「暴力的な環境」が手に入ります。

ただし、これはサーバー構築に慣れた人向けの「修羅の道」です。 一般的なエンジニアが「仕事の生産性を上げたい」目的で買うなら、迷わずRTX 4090 24GBを選びます。 理由はシンプルで、新しい12VHPWR規格による配線のスッキリさと、冷却性能の進化です。 ローカルLLMを数時間ぶん回すとかなりの熱を持ちますが、最新の4090(特にASUSのTUFやMSIのモデル)は非常に優秀です。 Amazonでセール対象になっているMSIやZOTACのモデルを狙うのが、保証も含めて一番安心できる選択ですね。

よくある質問

Q1: VRAM 12GBのグラボでもQwen 3.8 35Bは動きますか?

結論、動きますが「実用外」です。GGUF形式で量子化を強め(2bitなど)にかけ、かつ不足分をメインメモリ(RAM)にオフロードすれば起動はします。しかし、レスポンスが1秒に1文字以下になるため、仕事で使うにはストレスが溜まりすぎます。

Q2: 自作PCとMac Studio、どっちがAI開発に向いていますか?

推論速度とライブラリの対応の速さならRTX搭載の自作PC(Windows/Linux)です。一方、消費電力の低さ、静音性、そして超巨大なモデル(100B以上)を動かす可能性を重視するなら、メモリを積めるMac Studioが有利です。

Q3: Qwen 3.8のリリースを待ってからGPUを買うべきですか?

待つ必要はありません。35Bというサイズ感は変わりませんし、Qwen 3.8が動く環境であれば、現在の覇者であるLlama 3やMistralも快適に動きます。むしろ、モデルが出る前に環境を構築し、llama.cppやOllamaの設定を済ませておく方が、リリース初日に波に乗れます。


あわせて読みたい