BeeLlama.cpp on Negi AI Labhttps://ai.negi-lab.com/tags/beellama.cpp/Recent content in BeeLlama.cpp on Negi AI LabNegi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaSun, 10 May 2026 17:11:38 +0900BeeLlama.cppでQwenを高速化して200kコンテキストを動かす方法https://ai.negi-lab.com/posts/beellamacpp-qwen-high-speed-200k-tutorial/Sun, 10 May 2026 00:00:00 +0900https://ai.negi-lab.com/posts/beellamacpp-qwen-high-speed-200k-tutorial/<p><strong>所要時間:</strong> 約40分 | <strong>難易度:</strong> ★★★★☆</p> <h2 id="この記事で作るもの">この記事で作るもの</h2> <p>RTX 3090/4090クラスのコンシューマーGPU1枚で、Qwen 3.6 27B（および最新のQwen 2.5等）を135 tpsという爆速で推論し、かつ200kトークンの超ロングコンテキストを実用レベルで動かす環境を構築します。 PythonからBeeLlama.cppの高速なAPIを叩き、長大なドキュメントを読み込ませてもレスポンスが破綻しないRAG（検索拡張生成）の代替となる基盤を作ります。</p>