AI generated thumbnail

Qwen 27Bクラスをローカル環境で爆速動作させる方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Qwen-2.5シリーズ(噂の27Bを含む)をローカルPCで動かし、フォルダ内の全ドキュメントを自動解析・構造化するPythonスクリプトを作ります。 前提知識:Pythonの基本的な文法(pipインストールや関数の実行)がわかること。 必要なもの:NVIDIA製GPU(VRAM 12GB以上推奨)またはApple Silicon搭載Mac(メモリ24GB以上推奨)、Ollama。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月21日 · 8 分 · 4006 文字 · Negi AI Lab
AI generated thumbnail

Intelの160GBメモリ搭載GPUを見据えた巨大LLMローカル実行環境の構築方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの Intelの次世代GPU「Crescent Island」のリーク情報で話題となった「VRAM 160GB」という異次元のスペックを想定し、現行環境で巨大なLLM(Llama-3-70B等)を効率的に動かすためのPython実行基盤を作ります。 具体的には、llama.cppのPythonバインディングを使い、メインメモリとVRAMを動的に管理しながら、推論速度を最大化するスクリプトを完成させます。 Pythonの基本構文が分かり、ターミナルでコマンド操作ができることを前提としています。 ...

2026年5月20日 · 9 分 · 4465 文字 · Negi AI Lab
AI generated thumbnail

Qwen3.7 Max APIとローカルLLMを連携させたハイブリッドAIエージェントの構築方法

所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen3.7 Maxの圧倒的な推論性能と、ローカルLLM(Ollama)の機密性を使い分ける「コスト最適化型AIエージェント」を構築します。 具体的には、入力されたタスクの難易度をローカル側で判定し、高度な思考が必要な場合のみQwen3.7 Maxにリクエストを飛ばすPythonスクリプトを完成させます。 ...

2026年5月20日 · 7 分 · 3467 文字 · Negi AI Lab
AI generated thumbnail

Qwen 3.7 使い方と最強ローカルLLM環境の作り方

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 次世代モデル「Qwen 3.7」をリリース当日に最高速で動かすための、DockerベースのローカルLLM実行基盤 前提知識:Linuxコマンドの基本操作、Dockerの概念を理解していること 必要なもの:NVIDIA GPU(VRAM 12GB以上推奨)、Docker環境、Python 3.10以降 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月19日 · 8 分 · 3747 文字 · Negi AI Lab
AI generated thumbnail

Qwen2.5-Coder 使い方 | ローカルでコード生成AIを動かす

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Qwen2.5-Coder 32Bをローカル環境に構築し、指定したディレクトリ内の全Pythonコードに対して「型ヒントの追加」と「バグチェック」を自動で行うリファクタリングツールを作成します。 既存のコードベースを読み込ませ、AIが修正案を提示し、必要に応じてファイルを上書きする実用的なスクリプトを完成させます。 ...

2026年5月19日 · 9 分 · 4379 文字 · Negi AI Lab
AI generated thumbnail

LocalLLMハードウェア選定ツールの作り方と最適な環境構築

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの 入力したモデル規模(Llama-3-70B等)に対し、M5、Strix Halo、RTX 6000 Adaなどの次世代・現行ハードウェアで「動くのか」「速度(Token/s)はどの程度か」を算出するシミュレーターを作成します 前提知識: Pythonの基本的な文法、ローカルLLMにおける「量子化(4bit/8bit)」の意味がわかること 必要なもの: Python 3.10以降が動作するPC 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月18日 · 8 分 · 3581 文字 · Negi AI Lab
AI generated thumbnail

RTX 3090/4090でQwen 3.6 27Bを爆速で動かす方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの RTX 3090/4090(VRAM 24GB)1枚で、Qwen 3.6 27Bを秒間70トークン以上の速度で動かす推論環境 15万トークン超えのロングコンテキストを処理できる実用的なAPIサーバー ik_llama.cppとMTP(Multi-Token Prediction)を組み合わせた、2024年末時点での最強構成 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月18日 · 7 分 · 3339 文字 · Negi AI Lab
AI generated thumbnail

llama.cppのMTPサポートを使いRTX 5090でQwen 3.6を爆速で動かす方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの RTX 5090の圧倒的な演算性能をフルに活用し、llama.cppの最新機能であるMTP(Multi-Token Prediction)を有効化することで、Qwen 3.6モデルから1秒間に150トークンを超える超高速なレスポンスを引き出すローカル推論環境を構築します。 ...

2026年5月17日 · 9 分 · 4349 文字 · Negi AI Lab
AI generated thumbnail

ローカルLLM Qwen 2.5 Coder 使い方

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Qwen 2.5 Coder 32Bをローカル環境で動かし、物理演算を含むHTML Canvasアニメーションを1発で生成します ブラウザだけで動作し、パーティクルの衝突や重力シミュレーションを実装したシングルファイルHTMLを完成させます 前提知識:ターミナルでのコマンド入力に抵抗がなく、HTML/JavaScriptの基礎(タグや変数の意味)がわかること 必要なもの:VRAM 12GB以上のNVIDIA製GPU、またはメモリ24GB以上のApple Silicon搭載Mac 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月17日 · 9 分 · 4329 文字 · Negi AI Lab
AI generated thumbnail

Jetson OrinとGemmaでオフラインLLMロボットを作る方法

所要時間: 約60分 | 難易度: ★★★★☆ この記事で作るもの Jetson Orin NX 16GB上で、Googleの軽量LLM「Gemma」を完全オフライン動作させる制御システム。 センサー入力を模したデータに対し、LLMがリアルタイム(TTFT約200ms)で判断を下し、行動プロンプトを生成するPythonスクリプト。 前提知識:Pythonの基本的な読み書きができ、Linuxコマンド(Ubuntu)の操作に抵抗がないこと。 必要なもの:Jetson Orin NX 16GB開発者キット、NVMe SSD(128GB以上推奨)、DC電源。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月16日 · 9 分 · 4027 文字 · Negi AI Lab