AI generated thumbnail

Qwen2.5 32BとKV Cache最適化で自律型AIエージェントを構築する方法

所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの ローカルLLMのQwen2.5-32B-Instructを使い、KV Cache(キー・バリュー・キャッシュ)を最適化することで、複雑なツール利用(MCP連携など)を高速にこなす自律型エージェントの基盤を構築します。 PythonのコードからOllamaのAPIを叩き、長いシステムプロンプトを保持したまま、レスポンス速度を維持する設定を実装します。 この記事を読み終える頃には、手元のPCで「思考が速く、指示を忘れない」実用レベルのAIエージェントが動いています。 ...

2026年6月5日 · 10 分 · 4614 文字 · Negi AI Lab
AI generated thumbnail

Gemma 4 12B 使い方 入門!ローカルLLMで26B超えの性能を引き出す設定

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Gemma 4 12Bをローカル環境で動作させ、業務メールの自動分類とJSON抽出を行うPythonスクリプト VRAM 12GB以下の環境でも26Bクラスの推論精度を出すための最適な量子化設定の導入 前提知識:Pythonの基本的な文法(変数、関数)がわかり、ターミナルでコマンドが打てること 必要なもの:NVIDIA製GPU(VRAM 8GB以上推奨)またはApple Silicon搭載Mac、Python 3.10以降 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月4日 · 9 分 · 4060 文字 · Negi AI Lab
AI generated thumbnail

Gemma 4-12Bをローカル環境で動かす方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Googleの最新オープンモデル「Gemma 4-12B」を使い、機密情報を外部に送らずに処理できる「完全オフラインの社内文書要約ツール」を作成します。 ローカルLLMを動かすためのPython環境、Hugging Faceからのモデル取得、そして推論実行までを網羅します。 前提知識として、基本的なPythonの操作(pipインストールやスクリプト実行)ができることを想定しています。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月4日 · 9 分 · 4237 文字 · Negi AI Lab
AI generated thumbnail

Hermes Desktop 使い方 | ローカルLLM環境を5分で構築しPythonで操作する方法

所要時間: 約20分 | 難易度: ★★☆☆☆ この記事で作るもの この記事では、Nous Researchが公開した「Hermes Desktop」を使用して、あなたのPC上に外部通信一切なしのプライベートAI環境を構築します。 最終的には、デスクトップアプリとしてチャットを楽しむだけでなく、PythonスクリプトからAPI経由でこのローカルAIを呼び出し、タスクを自動化する仕組みまでを完成させます。 ...

2026年6月3日 · 12 分 · 5542 文字 · Negi AI Lab
AI generated thumbnail

中古のデータセンター向けGPUを流用して、VRAM 24GBのAI開発環境を4万円以下で構築する方法

所要時間: 約60分(パーツが揃っている場合) | 難易度: ★★★★☆ この記事で作るもの NVIDIA Tesla P40をWindows環境に導入し、VRAM 24GBをフル活用してLlama 3(70B量子化版)をローカルで動かす環境 映像出力のない計算専用GPUを、メインのGeForceと共存させて計算リソースとして認識させる設定 データセンター用GPUの「冷却問題」と「電源問題」を解決する物理的なセットアップ 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月3日 · 8 分 · 3946 文字 · Negi AI Lab
AI generated thumbnail

GPUのメモリ帯域に騙されない!現行最強のRTX 4090でLlama 3を極限まで高速化する方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの この記事では、AIハードウェアのスペック表を見抜く力を養いながら、手元のNVIDIA GPU(RTX 30/40シリーズ)を使って「Llama 3 8B」を理論上の限界速度で動かすPythonスクリプトを作成します。 単に動かすだけでなく、NVIDIA公式の高速化ライブラリ「TensorRT-LLM」を使い、一般的な推論環境の3倍以上の速度(150 tokens/sec超)を叩き出す「実務で使える」環境を構築します。 ...

2026年6月2日 · 9 分 · 4219 文字 · Negi AI Lab
AI generated thumbnail

OllamaとPythonで実用的なローカルAIエージェントを自作する方法

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの Llama 3.1 8Bをベースに、PCローカル環境で「自律的にツールを使いこなす」AIエージェントを構築します。 Pythonを使ってLLMに「計算機」や「ファイル操作」などの外部ツールを認識させ、指示に応じてそれらを自動で呼び出す仕組みを実装します。 クラウドAPIを一切使わず、完全にオフラインかつ無料で動く実戦的なプログラムを完成させます。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月2日 · 9 分 · 4087 文字 · Negi AI Lab
AI generated thumbnail

ローカルLLM構築入門 OllamaとPythonでAIを自前運用する方法

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの Ollamaを使用して、自分のPC上にLlama 3やGemma 2などの最新LLMをAPIサーバーとして立ち上げます。 PythonからそのAPIを呼び出し、ストリーミング形式(逐次出力)で回答を表示する実用的なチャットスクリプトを完成させます。 前提知識として、Pythonの基本的な文法(変数、関数、pipでのライブラリインストール)を理解している必要があります。 Windows、Mac、LinuxのいずれかのPCが必要です。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月2日 · 10 分 · 4645 文字 · Negi AI Lab
AI generated thumbnail

MiniMax M3 使い方:1Mトークンで巨大リポジトリを一括解析する方法

所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの プロジェクト全ファイルを1M(100万)トークンのコンテキストに流し込み、機能仕様書を自動生成するPythonスクリプト 前提知識:Pythonの基礎(pip操作、環境変数の設定)、VS Code等のエディタ操作 必要なもの:MiniMax APIキー、Python 3.9以上の実行環境 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月1日 · 8 分 · 3525 文字 · Negi AI Lab
AI generated thumbnail

Dell XPS N1X相当のローカルLLM実行環境を構築する方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの 発表された「Dell XPS N1X(DGX Spark相当)」の性能を先取りし、Llama 3 70Bクラスのモデルを快適に動かすローカルAI実行基盤 Dockerを活用した、GPUメモリ(VRAM)を最大限に引き出すOllama + Open-WebUIの統合環境 Pythonによる推論速度(Tokens Per Second)の計測スクリプト 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月31日 · 8 分 · 3839 文字 · Negi AI Lab