所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Googleの最新オープンモデル「Gemma 4-12B」を使い、機密情報を外部に送らずに処理できる「完全オフラインの社内文書要約ツール」を作成します。 ローカルLLMを動かすためのPython環境、Hugging Faceからのモデル取得、そして推論実行までを網羅します。 前提知識として、基本的なPythonの操作（pipインストールやスクリプト実行）ができることを想定しています。 📦 この記事に関連する商品（楽天メインで価格確認） ...
本記事の手順に従えば、最新の修正（PR #21534）を反映した状態で、ズレのない対話が可能なローカルAI環境が完成します。 VRAM 24GBクラスのGPU（RTX 3090/4090）があれば、量子化モデルを用いて実用的な速度で動作させることが可能です。 ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの ローカル環境（Windows/Linux/Mac）で、Unslothが最適化した最新のGemma 4モデルをllama.cpp経由で動かし、Pythonから制御する推論システムを構築します。 独自のkv-cache回転やiSWA（Sliding Window Attention）といった、Gemma 4特有の新しいアーキテクチャに完全対応した環境を整備します。 必要なものは、Python 3.10以上の環境と、16GB以上のRAM（26Bモデルを動かすならVRAM 24GB以上のGPUが望ましい）です。 📦 この記事に関連する商品 ...