所要時間: 約45分 | 難易度: ★★☆☆☆ この記事で作るもの OllamaとOpen WebUIを連携させ、ブラウザからGPT-4o級のローカルLLMを操作できる環境を構築します。 PythonからOllama APIを叩き、ローカルファイルを自動で要約・整理する実用的なスクリプトを作成します。 前提知識：ターミナルでの基本的なコマンド操作、Dockerの概念、Pythonの基礎知識。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの llama.cppの最新最適化（Flash Attentionのf16マスク適用）を取り入れ、従来よりも少ないVRAMで10k以上の長文コンテキストを処理できる推論環境を構築します。 具体的には、GitHubから最新のソースコードをビルドし、特定のコンパイルフラグを用いてFlash Attentionを有効化した上で、Pythonから制御するスクリプトを完成させます。 Pythonの基本操作とターミナルでのコマンド入力ができることを前提としています。 ...
所要時間: 約15分 | 難易度: ★★☆☆☆ この記事で作るもの VRAM容量を超えた際に極端に推論速度が落ちる「Sysmem Fallback」を無効化し、常に最高速でLLMを動かす環境 PythonでVRAM使用状況と推論速度をリアルタイムに監視し、モデルが「溢れているか」を判定するスクリプト 必要なもの: NVIDIA製GPU（RTX 30シリーズ以降推奨）、Python環境 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 自分のPCスペック（VRAM容量や帯域幅）を自動認識し、最適な量子化モデル（GGUF）をメモリ限界までVRAMにオフロードして高速推論させるPythonスクリプト 前提知識: Pythonの基本的な読み書きができ、ターミナルでコマンド操作ができること 必要なもの: NVIDIA製GPU（VRAM 8GB以上推奨）またはApple Silicon搭載Mac、Python 3.10以降 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 自分のPCで動かしているローカルLLMの性能を、MMLU（大規模多目的言語理解）などの標準的な指標で測定し、さらに自分自身も同じテストを受けて「AIと自分の差」を可視化するベンチマーク・ダッシュボードを作成します。 ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの ローカル環境で動作する、有料API級の精度を持ったコーディングエージェント（Cline連携） Qwen2.5-Coder-32B（Q6_K量子化）を高速に動かすllama.cppサーバー VS Code上で自律的にコードを生成・修正させる自動開発環境 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの vLLMやMCPサーバーを外部攻撃から守るために、Dockerコンテナ内でネットワークと権限を完全に隔離した「セキュアAI推論・実行環境」を構築します。 この記事では、単にツールをインストールするだけでなく、万が一脆弱性を突かれてもホストOSや個人データにアクセスさせないための多層防御設定を組み込んだ環境を完成させます。 ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの ローカルサーバーを立てず、ブラウザだけで完結する高性能な画像生成Webアプリ 1-bit/Ternary（三値）量子化を適用した40億パラメータのDiffusion Transformer（DiT）の動作環境 Pythonの基礎とHTML/JavaScriptの読み書きができれば、自分のPCで画像生成を完結させられます 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの Qwen 2.5 Coder 32Bを使い、量子化による精度低下を抑えつつ、関数の呼び出し（Tool Use）を100回連続で成功させるための安定したエージェント実行環境を構築します。 安定性の高い量子化モデル（GGUF）の選定と導入 PythonとPydanticを用いた「壊れない」構造化出力の実装 VRAM不足を回避しながら精度を維持するオフロード設定 前提知識：Pythonの基本的な文法がわかること、Dockerまたは仮想環境の操作ができること。 必要なもの：VRAM 24GB以上のGPU（RTX 3090 / 4090）またはメモリ32GB以上のMac、OpenAI API互換サーバー（llama.cpp / Ollama）。 ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen3.5 35B A3B（MTP保持版）をローカル環境で立ち上げ、PythonからAPI経由で高速に推論を行うシステム。 35Bという中規模モデルながら、MTP（Multi-Token Prediction）の恩恵で40B〜70Bクラスに匹敵する論理性能を体感できる環境を構築します。 PythonからOpenAI互換APIサーバーとして呼び出し、実際の業務（コードレビューや長文要約）に即投入できる状態を目指します。 📦 この記事に関連する商品（楽天メインで価格確認） ...