所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの インターネット不要でChatGPTのようにチャットができ、PDFなどのドキュメントを読み込ませて解析（RAG）も可能なローカルLLM環境を構築します。 外部APIにデータを送らないため、機密情報の要約やコード解析をセキュアに行える環境が手に入ります。 必要なものは、一定スペック以上のPC（Windows/Mac/Linux）のみです。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの 外部APIを一切使わず、完全にオフラインで動作する高機能なAIチャット環境を構築します。 ブラウザからChatGPTと同じ操作感で、Llama 3.1やGemma 2といった最新のオープンソースモデルを切り替えて使えます。 PC内に保存したPDFやテキストファイルを読み込ませて回答させるRAG（検索拡張生成）機能も標準で実装します。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの 自分のPC内で完結し、外部にデータが漏れないChatGPTライクなAIチャットUI Dockerを使用して環境を汚さず、コマンド一つで起動・停止ができる運用環境 Llama 3やGemma 2、Qwen 2といった最新のオープンソースモデルをGUIで切り替えて使う仕組み 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon（M1/M2/M3/M4チップ）に最適化されたフレームワーク「MLX」を使用して、日本語LLMとストリーミング形式で対話できるPythonスクリプト 外部APIに1円も払わず、MacのGPU性能を限界まで引き出した推論環境 前提知識：Pythonの基本的な構文（変数、関数、pip）が理解できていること 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの 高価なGPUを一切使わず、数年前の型落ち中古PC（i5クラス）を使って、最新の26BクラスのLLM「Gemma-4-26B-A4B」を実用的な速度で動作させるローカル推論サーバーを構築します。 最終的には、外部のPythonプログラムからこのサーバーをAPIとして叩き、レスポンスを取得する仕組みまでを完成させます。 ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Gemma 4 12Bをローカル環境で動作させ、業務メールの自動分類とJSON抽出を行うPythonスクリプト VRAM 12GB以下の環境でも26Bクラスの推論精度を出すための最適な量子化設定の導入 前提知識：Pythonの基本的な文法（変数、関数）がわかり、ターミナルでコマンドが打てること 必要なもの：NVIDIA製GPU（VRAM 8GB以上推奨）またはApple Silicon搭載Mac、Python 3.10以降 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Googleの最新オープンモデル「Gemma 4-12B」を使い、機密情報を外部に送らずに処理できる「完全オフラインの社内文書要約ツール」を作成します。 ローカルLLMを動かすためのPython環境、Hugging Faceからのモデル取得、そして推論実行までを網羅します。 前提知識として、基本的なPythonの操作（pipインストールやスクリプト実行）ができることを想定しています。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの OllamaとPythonを組み合わせて、ローカル環境で動作する「機密情報漏洩を防ぐためのセキュアな自動議事録要約ツール」 前提知識：Pythonの基本的な読み書きができること、ターミナル（コマンドプロンプト）の操作に抵抗がないこと 必要なもの：NVIDIA製GPU（VRAM 12GB以上推奨）を搭載したPC、またはApple Silicon（メモリ24GB以上推奨）を搭載したMac 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの GoogleのGemma系アーキテクチャをベースにした「G4-MeroMero-26B-A4B-it-uncensored-heretic」をローカル環境で起動し、外部APIを介さずにPythonから自由度の高い対話ができる環境。 既存のLlama-3-8Bでは回答を拒否されるような、クリエイティブかつ複雑なプロンプトを処理できるプライベートAI。 必要なものはPython環境とVRAM 16GB以上のGPU、またはApple Silicon搭載のMacです。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの Intelの次世代GPU「Crescent Island」のリーク情報で話題となった「VRAM 160GB」という異次元のスペックを想定し、現行環境で巨大なLLM（Llama-3-70B等）を効率的に動かすためのPython実行基盤を作ります。 具体的には、llama.cppのPythonバインディングを使い、メインメモリとVRAMを動的に管理しながら、推論速度を最大化するスクリプトを完成させます。 Pythonの基本構文が分かり、ターミナルでコマンド操作ができることを前提としています。 ...