https://ai.negi-lab.com/tags/%E8%87%AA%E5%AE%85llm-%E7%92%B0%E5%A2%83%E6%A7%8B%E7%AF%89/Recent content in 自宅LLM 環境構築 on Negi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaThu, 29 Oct 2026 09:48:14 +0900https://ai.negi-lab.com/posts/llamacpp-gguf-llama3-setup-guide/Thu, 29 Oct 2026 00:00:00 +0900https://ai.negi-lab.com/posts/llamacpp-gguf-llama3-setup-guide/<p><strong>所要時間:</strong> 約40分 | <strong>難易度:</strong> ★★★☆☆</p> <h2 id="この記事で作るもの">この記事で作るもの</h2> <p>この記事では、世界標準のLLM実行エンジン「llama.cpp」をコンパイルし、量子化されたLlama-3-8BをローカルPCで爆速動作させる環境を構築します。 Pythonの重いライブラリに頼らず、C++ベースの軽量なバイナリで1秒間に40トークンを超える推論速度（RTX 3060クラス以上想定）を実現するスクリプトまで完成させます。</p>