AI generated thumbnail

llama.cpp 使い方 入門 | GGUF量子化でローカルLLMを動かす

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの この記事を読むと、軽量なGGUF形式のモデルを使い、自分専用のローカルLLM実行サーバーをPythonで構築できます。 API料金やデータ漏洩の心配をせず、手元のPCのリソースを限界まで引き出して推論を回すスクリプトを完成させます。 具体的には、Llama 3などの最新モデルを数GBのメモリで動作させ、チャット応答を得るまでの全工程を網羅します。 ...

2026年8月6日 · 9 分 · 4508 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUFで自分専用の高速ローカルLLM環境を構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの この記事を読むと、手元のPC(Windows/Mac)で日本語LLMをストリーミング形式で動かし、チャットができるPythonスクリプトが完成します。 クラウドAPIを使わず、VRAMが少ない環境でもLlama 3やGemma 2といった最新モデルを実用的な速度で動かす技術が身に付きます。 ...

2026年8月5日 · 9 分 · 4393 文字 · Negi AI Lab
AI generated thumbnail

Macユーザー必見!MLXでローカルLLMを最速で動かす環境構築ガイド

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4)に最適化されたフレームワーク「MLX」を使い、Llama 3などの最新LLMを高速に動作させるPythonスクリプト Hugging Faceからモデルを自動ダウンロードし、量子化(軽量化)して実行する一連のパイプライン ストリーミング形式で回答を表示し、CLI(コマンドライン)で対話できる実用的なツール 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年7月14日 · 9 分 · 4077 文字 · Negi AI Lab
AI generated thumbnail

MLXでApple Siliconの性能を引き出しローカルLLMを動かす入門ガイド

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4)に最適化されたフレームワーク「MLX」を使い、Llama 3.1やGemma 2などの最新LLMと高速にチャットできるPythonスクリプトを構築します。 前提知識: ターミナルの基本操作、Pythonの基本的な文法(pipでのライブラリ導入など)がわかること。 必要なもの: Apple Silicon搭載のMac、インターネット環境。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年7月13日 · 9 分 · 4159 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門:GGUF量子化でローカルLLMを爆速にする方法

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの この記事を読むと、Llama 3.1 8Bなどの最新LLMを「GGUF形式」に変換・軽量化し、Pythonから高速に呼び出す推論スクリプトが完成します。 単に「動いた」で終わらせず、VRAM使用量をコントロールして、あなたのPCスペックを最大限に引き出す設定をマスターしていただきます。 ...

2026年7月12日 · 9 分 · 4154 文字 · Negi AI Lab
AI generated thumbnail

OllamaとPydanticAIで自律型ローカルエージェントを構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの ローカルLLM(Llama 3.3/4クラス)を使用し、インターネット検索とローカルファイル操作を組み合わせて「市場調査レポート」を自動生成する自律型エージェント。 Pythonの型定義ライブラリ「Pydantic」をベースにした最新の「PydanticAI」を使い、エラーに強く、本番環境で動作を保証できる設計を学びます。 前提知識はPythonの基本的な文法(関数の定義、非同期処理 async/await)がわかる程度で問題ありません。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月21日 · 10 分 · 4746 文字 · Negi AI Lab
AI generated thumbnail

Ollama 使い方 入門: 限られたGPU資産で実用的なローカルLLM環境を構築する方法

所要時間: 約45分 | 難易度: ★★☆☆☆ この記事で作るもの OllamaとPythonを組み合わせ、手元のPC(VRAM 8GB〜12GB程度)で高速に動作する「構造化データ抽出スクリプト」を作ります。 テキストから特定の情報(日付、金額、重要事項など)を抜き出し、JSON形式で保存する実務的なツールです。 前提知識: Pythonの基本的な読み書きができること、ターミナル(コマンドプロンプト)の基本操作。 必要なもの: NVIDIA製GPU(VRAM 8GB以上推奨)またはApple Silicon搭載Mac(RAM 16GB以上推奨)。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月13日 · 8 分 · 3855 文字 · Negi AI Lab
AI generated thumbnail

OpenLumaraの使い方!ローカルLLMで爆速AIエージェントを構築する完全ガイド

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの ローカルLLM(Llama 3など)を使用して、ウェブ検索やファイル操作をトークン消費を最小限に抑えつつ実行する「超軽量AIエージェント」を構築します。 既存のフレームワークのようにプロンプトを数百行詰め込むのではなく、最小限の指示で的確にツールを使いこなすスクリプトを完成させます。 ...

2026年6月6日 · 9 分 · 4308 文字 · Negi AI Lab
AI generated thumbnail

Hermes Desktop 使い方 | ローカルLLM環境を5分で構築しPythonで操作する方法

所要時間: 約20分 | 難易度: ★★☆☆☆ この記事で作るもの この記事では、Nous Researchが公開した「Hermes Desktop」を使用して、あなたのPC上に外部通信一切なしのプライベートAI環境を構築します。 最終的には、デスクトップアプリとしてチャットを楽しむだけでなく、PythonスクリプトからAPI経由でこのローカルAIを呼び出し、タスクを自動化する仕組みまでを完成させます。 ...

2026年6月3日 · 12 分 · 5542 文字 · Negi AI Lab
AI generated thumbnail

Qwen2.5をローカル環境で動かし、API料金を気にせずコード生成を自動化するPythonスクリプトを作る方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Qwen2.5-Coderをローカルで動かし、Pythonのデバッグを自動で行うスクリプト 前提知識:Pythonの基本的な文法(関数の定義、ライブラリのインポート)がわかること 必要なもの:8GB以上のVRAMを搭載したGPU(NVIDIA製推奨)またはApple Silicon搭載Mac 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年5月9日 · 8 分 · 3526 文字 · Negi AI Lab