高騰するBlackwellを横目に中古GPU2枚でLlama-3-70Bを動かす環境構築術
所要時間: 約60分 | 難易度: ★★★★☆ この記事で作るもの RTX 3090や4060 TiなどのコンシューマーGPUを複数枚組み合わせ、VRAM 48GB超の環境を構築します。 1枚250万円超と噂されるBlackwell世代のプロ向けカード（RTX PRO 6000）を買わずに、Llama-3-70Bクラスの巨大モデルをローカルで高速推論させるPythonスクリプトを完成させます。 前提知識として、基本的なLinuxコマンド操作とPythonの環境構築（venv/pip）ができることを想定しています。 📦 この記事に関連する商品（楽天メインで価格確認） ...