https://ai.negi-lab.com/tags/vllm-%E4%BD%BF%E3%81%84%E6%96%B9/Recent content in VLLM 使い方 on Negi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaSun, 26 Apr 2026 22:20:04 +0900https://ai.negi-lab.com/posts/qwen3-6-27b-vllm-rtx5090-setup-guide/Sun, 26 Apr 2026 00:00:00 +0900https://ai.negi-lab.com/posts/qwen3-6-27b-vllm-rtx5090-setup-guide/<p><strong>所要時間:</strong> 約40分 | <strong>難易度:</strong> ★★★★☆</p> <h2 id="この記事で作るもの">この記事で作るもの</h2> <p>25万トークンを超える超長文コンテキストを維持しながら、秒間100トークンという驚異的な速度で回答を生成するQwen3.6-27Bの推論サーバーを構築します。 具体的には、vLLM v0.19（以降）とINT4量子化モデルを組み合わせ、単一のハイエンドGPUで大規模なドキュメント解析が可能な環境をローカルに作成します。</p>