Python AI 推論 on Negi AI Labhttps://ai.negi-lab.com/tags/python-ai-%E6%8E%A8%E8%AB%96/Recent content in Python AI 推論 on Negi AI LabNegi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaSat, 11 Jul 2026 19:14:57 +0900llama.cppとGGUFを使って手元のPCで高性能なLLMを高速動作させる環境を構築します。https://ai.negi-lab.com/posts/llamacpp-gguf-python-setup-guide/Sat, 11 Jul 2026 00:00:00 +0900https://ai.negi-lab.com/posts/llamacpp-gguf-python-setup-guide/<p>クラウドに課金せず、VRAM 12GB程度のコンシューマーGPUやApple Silicon Macで、7B〜14Bクラスのモデルを「実用速度」で動かす手法を解説します。 この記事の手順を終える頃には、自分のPC内にプライベートなAIチャット環境が完成しています。</p>