所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの 自分のPC上で「Qwen 2.5」をAPIサーバーとして起動し、PythonからOpenAI SDK経由で呼び出してコードレビューを自動化するスクリプトを作ります。 前提知識：Pythonの基本的な文法（関数、リスト、辞書）がわかり、ターミナルでコマンド操作ができること。 必要なもの：NVIDIA製GPU（VRAM 12GB以上推奨）またはApple Silicon搭載Mac、Python 3.10以上の環境。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの RTX 3090/4090クラスのコンシューマーGPU1枚で、Qwen 3.6 27B（および最新のQwen 2.5等）を135 tpsという爆速で推論し、かつ200kトークンの超ロングコンテキストを実用レベルで動かす環境を構築します。 PythonからBeeLlama.cppの高速なAPIを叩き、長大なドキュメントを読み込ませてもレスポンスが破綻しないRAG（検索拡張生成）の代替となる基盤を作ります。 ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen 2.5（7B/72B）をvLLMで動作させ、標準的な推論速度を2倍以上に引き上げるPythonスクリプト VRAM 24GB（RTX 3090/4090）1枚で72Bモデルを高速推論させるための量子化・メモリ管理設定 外部アプリケーションから呼び出し可能な、OpenAI互換の高速APIサーバー 📦 この記事に関連する商品 ...