AI generated thumbnail

vLLMとMCPサーバーの脆弱性対策!Dockerで安全なAI実行環境を構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの vLLMやMCPサーバーを外部攻撃から守るために、Dockerコンテナ内でネットワークと権限を完全に隔離した「セキュアAI推論・実行環境」を構築します。 この記事では、単にツールをインストールするだけでなく、万が一脆弱性を突かれてもホストOSや個人データにアクセスさせないための多層防御設定を組み込んだ環境を完成させます。 ...

2026年5月28日 · 8 分 · 3703 文字 · Negi AI Lab
AI generated thumbnail

Bonsai Image 4B 使い方!ブラウザとWebGPUで1-bit画像生成を試す

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの ローカルサーバーを立てず、ブラウザだけで完結する高性能な画像生成Webアプリ 1-bit/Ternary(三値)量子化を適用した40億パラメータのDiffusion Transformer(DiT)の動作環境 Pythonの基礎とHTML/JavaScriptの読み書きができれば、自分のPCで画像生成を完結させられます 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月27日 · 9 分 · 4386 文字 · Negi AI Lab
AI generated thumbnail

Qwen 2.5 32B 使い方|エージェント開発でQ4量子化を避けるべき理由と安定化手順

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの Qwen 2.5 Coder 32Bを使い、量子化による精度低下を抑えつつ、関数の呼び出し(Tool Use)を100回連続で成功させるための安定したエージェント実行環境を構築します。 安定性の高い量子化モデル(GGUF)の選定と導入 PythonとPydanticを用いた「壊れない」構造化出力の実装 VRAM不足を回避しながら精度を維持するオフロード設定 前提知識:Pythonの基本的な文法がわかること、Dockerまたは仮想環境の操作ができること。 必要なもの:VRAM 24GB以上のGPU(RTX 3090 / 4090)またはメモリ32GB以上のMac、OpenAI API互換サーバー(llama.cpp / Ollama)。 ...

2026年5月27日 · 9 分 · 4178 文字 · Negi AI Lab
AI generated thumbnail

Qwen3.5 35B A3B 使い方と環境構築ガイド

所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen3.5 35B A3B(MTP保持版)をローカル環境で立ち上げ、PythonからAPI経由で高速に推論を行うシステム。 35Bという中規模モデルながら、MTP(Multi-Token Prediction)の恩恵で40B〜70Bクラスに匹敵する論理性能を体感できる環境を構築します。 PythonからOpenAI互換APIサーバーとして呼び出し、実際の業務(コードレビューや長文要約)に即投入できる状態を目指します。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月27日 · 9 分 · 4251 文字 · Negi AI Lab
AI generated thumbnail

ローカルLLMで法務文書を自動解析する環境構築と実践ガイド

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Llama 3 70Bをローカル環境で動かし、契約書の「隠れたリスク」を自動抽出するPythonスクリプト 大規模な法務文書を分割せずに処理するためのコンテキスト設定と構造化出力の実装 API経由では不可能な「完全オフライン・機密保持」を前提とした法務AIワークフロー 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月26日 · 10 分 · 4565 文字 · Negi AI Lab
AI generated thumbnail

NVIDIA vs Mac 2026年版ローカルLLM環境構築ガイド

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの OllamaとPythonを組み合わせて、ローカル環境で動作する「機密情報漏洩を防ぐためのセキュアな自動議事録要約ツール」 前提知識:Pythonの基本的な読み書きができること、ターミナル(コマンドプロンプト)の操作に抵抗がないこと 必要なもの:NVIDIA製GPU(VRAM 12GB以上推奨)を搭載したPC、またはApple Silicon(メモリ24GB以上推奨)を搭載したMac 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月25日 · 8 分 · 3773 文字 · Negi AI Lab
AI generated thumbnail

Qwen2.5 27Bを爆速化 vLLMでスループットを極限まで高めるやり方

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの vLLM(推論最適化エンジン)を用いて、Qwen2.5 27BをGPUの限界まで回す推論環境 数十から数百のリクエストを並列処理し、スループット(tps)を最大化するPythonスクリプト 自身の環境で「秒間何トークン出ているか」を正確に測定するベンチマークコード 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月25日 · 9 分 · 4444 文字 · Negi AI Lab
AI generated thumbnail

GPU多段挿しでも熱暴走させないアンダーボルティング自動制御スクリプト

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの GPUの温度をリアルタイムで監視し、しきい値を超えたら自動的に電力制限(Power Limit)を適用して熱暴走を防ぐPythonスクリプトを作成します。 Redditで議論されている「物理的なGPUの間隔」というハードウェアの限界を、ソフトウェア側の動的な制御で解決するのが狙いです。 NVIDIA製GPUを2枚以上搭載したLinux/Windows環境で動作し、LLMの長時間推論や学習時の安定性を劇的に向上させます。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月24日 · 9 分 · 4058 文字 · Negi AI Lab
AI generated thumbnail

Qwen3.6-35B-Uncensoredをローカル環境で構築して制限なしの高性能AIを動かす方法

所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen3.6-35B-Uncensoredを搭載し、倫理フィルタに邪魔されず高度な推論と文章生成を行うローカルチャットUIを構築します。 前提知識: 基本的なコマンド操作(ターミナル/コマンドプロンプト)ができること、Pythonの仮想環境が作れること。 必要なもの: VRAM 24GB以上のGPU(RTX 3090/4090)または32GB以上のメモリを搭載したMac。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月24日 · 8 分 · 3929 文字 · Negi AI Lab
AI generated thumbnail

G4-MeroMero-26Bの使い方:検閲なしGemmaベースモデルをローカルで動かす方法

所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの GoogleのGemma系アーキテクチャをベースにした「G4-MeroMero-26B-A4B-it-uncensored-heretic」をローカル環境で起動し、外部APIを介さずにPythonから自由度の高い対話ができる環境。 既存のLlama-3-8Bでは回答を拒否されるような、クリエイティブかつ複雑なプロンプトを処理できるプライベートAI。 必要なものはPython環境とVRAM 16GB以上のGPU、またはApple Silicon搭載のMacです。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月23日 · 10 分 · 4585 文字 · Negi AI Lab