AI generated thumbnail

Qwen 3.6 27B と Gemma 4 31B 使い方比較!Pythonでパックマンを作る方法

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの PythonとPygameライブラリを使用し、LLMにコードを全生成させて動く「パックマン風ゲーム」 Qwen 3.6 27B と Gemma 4 31B のコーディング能力を比較したベンチマーク結果 前提知識: Pythonの基本的な実行環境(VS Code等)が整っていること 必要なもの: VRAM 24GB以上のGPU(RTX 3090/4090推奨)、または十分なシステムメモリ(32GB以上) 📦 この記事に関連する商品 ...

2026年5月2日 · 8 分 · 3809 文字 · Negi AI Lab
AI generated thumbnail

DeepSeek Thinking-with-Visual-Primitives 使い方:視覚的思考でVLMの精度を極限まで高める実装ガイド

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの DeepSeekが発表した最新フレームワーク「Thinking-with-Visual-Primitives(TwVP)」を使い、画像内の物体位置を正確に把握し、その配置関係から複雑な推論を行うPythonスクリプトを作成します。 一般的なVLM(Vision-Language Model)が苦手とする「正確な座標特定」と「空間認識」を、モデルに「視覚的な下書き(Primitive)」を書かせることで解決する手法を実装します。 この記事を読み終える頃には、単なる画像説明ではなく、ミリ単位の空間把握が必要な業務(検品、棚卸、図面解析など)に応用可能なコードが手元に残ります。 ...

2026年5月1日 · 8 分 · 3618 文字 · Negi AI Lab
AI generated thumbnail

RayとvLLMで個人でも構築可能なマルチノードLLM推論クラスターを作る方法

所要時間: 約60分 | 難易度: ★★★★☆ この記事で作るもの 2台以上のPC(GPU搭載)をネットワーク経由で束ね、Llama 3 70Bなどの巨大モデルを高速推論する分散環境を構築します。 PythonとRay、そしてvLLMを組み合わせた、実務レベルの分散推論スクリプト。 複数枚のGPUを1つの仮想的な巨大GPUとして扱うためのネットワーク設定とランタイム。 📦 この記事に関連する商品 ...

2026年5月1日 · 8 分 · 3864 文字 · Negi AI Lab
AI generated thumbnail

DeepSeek-V3をマルチGPU環境で構築して実用レベルの推論速度を実現する方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの DeepSeek-V3(671B MoEモデル)を、vLLMを用いてマルチGPU環境でサービングし、OpenAI互換APIとして外部から利用できる環境を構築します。 前提知識: Dockerの基本操作、Python環境構築、Linuxコマンドの基礎。 必要なもの: NVIDIA GPU(VRAM合計200GB以上推奨)、NVIDIA Container Toolkit、十分なストレージ容量(1TB以上の高速NVMe SSD)。 📦 この記事に関連する商品 ...

2026年4月30日 · 9 分 · 4153 文字 · Negi AI Lab
AI generated thumbnail

Qwen-Scope 使い方 | 公式SAEでQwen2.5の思考を解釈する方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの Qwen 2.5モデルの内部で「どの概念が反応しているか」を数値化し、特定の思考を強化・抑制するPythonスクリプト モデルが「数学的思考」や「特定の感情」を司るニューロンをどう使っているかを可視化する環境 前提知識: Pythonの基本操作、PyTorchの基礎、LLMのトランスフォーマー構造への大まかな理解 必要なもの: VRAM 24GB以上のGPU(RTX 3090/4090推奨)、Python 3.10以上、Hugging Faceのアカウント 📦 この記事に関連する商品 ...

2026年4月30日 · 8 分 · 3806 文字 · Negi AI Lab
AI generated thumbnail

Qwen 2.5やGemma 2をローカル環境で高速に動かす方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの PythonからローカルLLM(Qwen 2.5やGemma 2など)を呼び出し、ストリーミング形式で回答を表示する汎用スクリプト 前提知識: Pythonの基本的な読み書きができる、コマンドライン操作に抵抗がない 必要なもの: Dockerが動く環境、または直接インストール可能なPC(Mac/Windows/Linux)、VRAM 8GB以上のGPU推奨(CPUでも動作は可能) 📦 この記事に関連する商品 ...

2026年4月29日 · 7 分 · 3284 文字 · Negi AI Lab
AI generated thumbnail

Qwen 3.6 27B 使い方 | ローカルLLM環境構築と量子化モデル比較ガイド

所要時間: 約40分 | 難易度: ★★★☆☆ Qwen 3.6 27BのQ4_K_M量子化モデルをllama.cppで動作させ、VRAM 24GB以下のシングルGPU環境で高速な推論サーバーを構築します。 BF16(元モデル)とQ4/Q8量子化の性能差を実測データに基づき比較し、業務利用において「精度を落とさずコストを抑える」最適な設定を導き出します。 この記事の手順を終える頃には、あなたのPC上でChatGPT 4o miniクラスの推論能力を持つAPIサーバーが稼働しているはずです。 ...

2026年4月28日 · 8 分 · 3677 文字 · Negi AI Lab
AI generated thumbnail

LLMの検閲解除手法AbliterationをPythonで実装する方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの Llama-3やQwenなどのベースモデルから「拒絶反応(Refusal)」を引き起こす特定の重み成分を特定し、数学的に除去するPythonスクリプト 特定のプロンプトに対して「申し訳ありませんが、その質問には答えられません」と回答するモデルを、正直に回答するように改造する手順 前提知識:Pythonの基礎、PyTorchの基本的な操作、HuggingFace Transformersの使用経験 必要なもの:VRAM 16GB以上のGPU(RTX 3060 12GBでも小規模モデルなら可)、Python 3.10以上 📦 この記事に関連する商品 ...

2026年4月27日 · 7 分 · 3264 文字 · Negi AI Lab
AI generated thumbnail

Open InterpreterでManus級の自律型AIエージェントを自作する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Metaが買収に失敗したManusのような、OS上の操作を自律的にこなすPythonスクリプト ブラウザを立ち上げ、情報を収集し、ローカルファイルにまとめる一連の自動化フロー 前提知識:Pythonの基本的な構文(pipインストールや環境変数の設定)ができること 必要なもの:OpenAI APIキー、またはローカルLLM(Llama 3等)を動かせるPC環境 📦 この記事に関連する商品 ...

2026年4月27日 · 8 分 · 3645 文字 · Negi AI Lab
AI generated thumbnail

r/LocalLLaMA 活用術!最新AI情報を自動収集するフィルター実装ガイド

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 巨大化したコミュニティ「r/LocalLLaMA」から、仕事で使える技術情報だけをLLMで自動抽出するPythonスクリプトを作ります。 100万人規模のトラフィックを誇るこのフォーラムは、ルール改定によって「質の高い投稿」を求めています。 そのフィルタリングを自分で行い、DiscordやSlackに流すところまでを自動化します。 ...

2026年4月26日 · 7 分 · 3155 文字 · Negi AI Lab