DeepSeek-V3 使い方

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの DeepSeek-R1（Distill版）をローカル環境で起動し、その「思考プロセス」をPythonで抽出・解析する検証スクリプト 実行中のAIモデルが外部と通信していないかを監視するための、ネットワークパケットのログ出力環境 前提知識：Pythonの基本的な文法、ターミナル（PowerShellやTerminal）の基本操作 必要なもの：NVIDIA製GPU（VRAM 8GB以上推奨）を搭載したPC、または高性能なApple Silicon搭載Mac 📦 この記事に関連する商品 ...

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの DeepSeek-V3（671B MoEモデル）を、vLLMを用いてマルチGPU環境でサービングし、OpenAI互換APIとして外部から利用できる環境を構築します。 前提知識: Dockerの基本操作、Python環境構築、Linuxコマンドの基礎。 必要なもの: NVIDIA GPU（VRAM合計200GB以上推奨）、NVIDIA Container Toolkit、十分なストレージ容量（1TB以上の高速NVMe SSD）。 📦 この記事に関連する商品 ...