https://ai.negi-lab.com/tags/qwen-2.5-32b/Recent content in Qwen 2.5 32B on Negi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaWed, 27 May 2026 16:12:33 +0900https://ai.negi-lab.com/posts/qwen-2-5-32b-agentic-work-quantization-guide/Wed, 27 May 2026 00:00:00 +0900https://ai.negi-lab.com/posts/qwen-2-5-32b-agentic-work-quantization-guide/<p><strong>所要時間:</strong> 約45分 | <strong>難易度:</strong> ★★★★☆</p> <h2 id="この記事で作るもの">この記事で作るもの</h2> <p>Qwen 2.5 Coder 32Bを使い、量子化による精度低下を抑えつつ、関数の呼び出し（Tool Use）を100回連続で成功させるための安定したエージェント実行環境を構築します。</p> <ul> <li>安定性の高い量子化モデル（GGUF）の選定と導入</li> <li>PythonとPydanticを用いた「壊れない」構造化出力の実装</li> <li>VRAM不足を回避しながら精度を維持するオフロード設定</li> </ul> <p>前提知識：Pythonの基本的な文法がわかること、Dockerまたは仮想環境の操作ができること。 必要なもの：VRAM 24GB以上のGPU（RTX 3090 / 4090）またはメモリ32GB以上のMac、OpenAI API互換サーバー（llama.cpp / Ollama）。</p>