https://ai.negi-lab.com/tags/%E3%83%9E%E3%83%AB%E3%83%81gpu-%E7%92%B0%E5%A2%83%E6%A7%8B%E7%AF%89/Recent content in マルチGPU 環境構築 on Negi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaSun, 11 Oct 2026 09:12:35 +0900https://ai.negi-lab.com/posts/rtx-4090-dual-gpu-setup-guide-for-llm/Sun, 11 Oct 2026 00:00:00 +0900https://ai.negi-lab.com/posts/rtx-4090-dual-gpu-setup-guide-for-llm/<p><strong>所要時間:</strong> 約45分 | <strong>難易度:</strong> ★★★★☆</p> <h2 id="この記事で作るもの">この記事で作るもの</h2> <p>この記事を読むと、NVIDIA RTX 4090を2枚使ってVRAM計48GBの計算環境を構築し、Llama-3-70Bクラスの巨大なLLMをローカル環境で高速に推論できるようになります。</p> <ul> <li>2枚のGPUを認識させるUbuntuの環境構築</li> <li>llama.cppを用いたマルチGPU推論の設定</li> <li>VRAMを最大限に使い切るためのレイヤー分割の最適化</li> </ul> <h2 id="先に確認するスペック料金">先に確認するスペック・料金</h2> <p>RTX 5090の発売中止や、GB202チップがプロ向け（RTX PROシリーズ）に限定されるという不穏なニュースが流れています。 仮に5090が出たとしても、VRAM 32GBで30万円を超えるなら、現行のRTX 4090（24GB）を2枚並べて48GBを確保するほうが、LLMの実務においては圧倒的にコスパが良いです。</p>