27Bが6GBで動く？Ternary Bonsai 2登場で変わるローカルLLM用PCの選び方と比較
3行要約 27Bの大型モデルが6GB未満で動作する「Ternary Bonsai 2」の登場により、VRAM 8GBの安価なPCでも巨大モデルを動かせる時代になった。 WebGPU対応でブラウザのみでの推論が可能だが、実務的な速度を求めるならRTX 40シリーズまたはApple Silicon（統一メモリ32GB以上）が必須の判断基準。 極端な軽量化（三値量子化）により知能指数にトレードオフがあるため、単純な「パラメータ数」に騙されず、既存の8Bモデル（Llama 3等）との使い分けを検討すべき。 📦 この記事に関連する商品（楽天メインで価格確認） ...