所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの この記事では、MacやWindows（NVIDIA GPU搭載）のローカル環境で「Llama-3-8B」などの最新大規模言語モデルを、実用的な速度で動作させる環境を構築します。 最終的には、llama.cppのサーバー機能を使い、OpenAI API互換のインターフェース経由で自分のPCからチャットができるスクリプトを完成させます。 クラウドのAPI料金を気にせず、自分のデータが外部に送信されないプライベートなAI環境を自分の手で作り上げることが目的です。 ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの OllamaとPythonを連携させ、完全にオフラインで動作するテキスト解析エージェントを構築します。 前提知識: Pythonの基本的な文法（変数、関数、pipでのライブラリ導入）を理解していること。 必要なもの: Docker不要のOllama環境、Python 3.10以上、VRAM 8GB以上のGPU（推奨）。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Ollamaをバックエンド、Open WebUIをフロントエンドに据えた、完全オフライン動作する生成AI環境。 WebブラウザからChatGPT感覚で、Llama 3やQwen 2.5、Gemma 2などの最新モデルを切り替えて使えるシステム。 自分のPC内にあるPDFやテキストファイルを読み込ませて回答させるローカルRAG（検索拡張生成）機能。 📦 この記事に関連する商品（楽天メインで価格確認） ...