所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Llama 3などの最新LLMを「手元のPCのメモリ量に合わせて量子化」し、Pythonから高速に呼び出して対話するチャットスクリプトを作成します。 APIを使わずに完全オフラインで動作し、1文字ずつテキストが流れるストリーミング出力に対応した実用的な基盤を構築するのがゴールです。 Pythonのライブラリインストールから、モデルファイルの選定、VRAM（ビデオメモリ）を使い切るための最適なパラメータ設定までを網羅します。 ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen3.6-35B-Uncensoredを搭載し、倫理フィルタに邪魔されず高度な推論と文章生成を行うローカルチャットUIを構築します。 前提知識: 基本的なコマンド操作（ターミナル/コマンドプロンプト）ができること、Pythonの仮想環境が作れること。 必要なもの: VRAM 24GB以上のGPU（RTX 3090/4090）または32GB以上のメモリを搭載したMac。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約60分 | 難易度: ★★★★☆ この記事で作るもの Jetson Orin NX 16GB上で、Googleの軽量LLM「Gemma」を完全オフライン動作させる制御システム。 センサー入力を模したデータに対し、LLMがリアルタイム（TTFT約200ms）で判断を下し、行動プロンプトを生成するPythonスクリプト。 前提知識：Pythonの基本的な読み書きができ、Linuxコマンド（Ubuntu）の操作に抵抗がないこと。 必要なもの：Jetson Orin NX 16GB開発者キット、NVMe SSD（128GB以上推奨）、DC電源。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Googleのオープンモデル「Gemma 2」に対し、特定のシステムプロンプトを適用することで、過剰な安全フィルターによる回答拒否を回避し、モデルの推論能力を100%引き出すPython実行環境を構築します。 ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの この記事では、最新のSparse MoE（混合エキスパート）モデル「Qwen3.6-35B-A3B」をローカルPCに導入し、ソースコードの修正案を自動生成する「AIコーディングレビュー・スクリプト」を作成します。 PythonからLlama-cpp-pythonを経由してモデルを制御し、35Bクラスの知能を3Bクラスの速度で引き出す実装を目指します。 ...