AI generated thumbnail

Apple SiliconでMLXを使いローカルLLMを爆速で動かす方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を利用し、MacBook上でLlama-3などの最新LLMと高速にチャットできるPythonスクリプトを作ります。 前提知識:Pythonの基本的な文法(変数、関数、pipでのライブラリ導入)がわかること。 必要なもの:Apple Silicon(M1/M2/M3/M4チップ)搭載のMac、インターネット環境。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月15日 · 9 分 · 4147 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のChatGPTをローカル構築する方法

所要時間: 約25分 | 難易度: ★★☆☆☆ この記事で作るもの 外部APIを一切使わず、手元のPCだけで最新LLM(Llama 3.1やGemma 2等)とチャットできる環境を構築します。 ブラウザから操作できるOpen WebUIを導入し、PDFの読み込み(RAG)やモデルの切り替えをGUIで完結させます。 前提知識として、簡単なコマンド操作(Terminal/PowerShell)とDockerの基本概念を知っているとスムーズです。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月12日 · 9 分 · 4104 文字 · Negi AI Lab
AI generated thumbnail

MLXでMacをAIサーバー化!Apple SiliconでローカルLLMを動かす入門ガイド

所要時間: 約45分 | 難易度: ★★☆☆☆ この記事で作るもの MLXフレームワークを用いて、Apple Silicon(M1/M2/M3/M4)に最適化された状態でローカルLLMを動かすPythonスクリプト。 Googleの軽量・高性能モデル「Gemma 2 2b-it」を使い、ストリーミング形式でチャットができる環境を構築します。 Pythonの仮想環境構築から、モデルのロード、高速な推論実行までをカバーします。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月7日 · 9 分 · 4032 文字 · Negi AI Lab
AI generated thumbnail

Apple SiliconでLLMを爆速化するMLXの使い方と環境構築ガイド

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4チップ)の性能を最大限に引き出し、Llama 3などの最新AIをローカル環境で高速動作させるPythonスクリプトを作成します。 Pythonの基礎知識があれば、外部APIに1円も払わず、プライバシーを完全に守った状態で自分専用のAIアシスタントを動かせるようになります。 具体的には、Hugging Faceからモデルをダウンロードし、ストリーミング形式(文字が順次表示される形式)で回答を生成するプログラムを構築します。 ...

2026年9月5日 · 10 分 · 4594 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUF量子化でローカルLLMを動かす方法

所要時間: 約35分 | 難易度: ★★★☆☆ llama.cppとGGUF量子化を用いて、手元のPCにOpenAI互換の高速な推論エンドポイントを構築します。 この記事で作るもの Llama 3.1やQwen 2.5などの最新LLMをPC上で爆速動作させる推論環境 OpenAI APIと完全に差し替え可能な、ローカルLLMサーバー(APIエンドポイント) 前提知識:ターミナルの基本操作(cd, curl等)ができること。Pythonの基本的な文法を知っていること。 必要なもの:Mac(Apple Silicon推奨)またはGPU(NVIDIA製推奨)を搭載したWindows/Linux PC。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月3日 · 9 分 · 4034 文字 · Negi AI Lab
AI generated thumbnail

Qwen-3.8-27Bをローカル環境で動かし、長文コンテキストにも対応した実用的なチャットUIを構築します。

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Qwen-3.8-27BをGGUF形式で量子化し、VRAM 24GB以下のConsumer向けGPUで高速動作させるPythonスクリプト 業務利用を想定した「システムプロンプトの注入」と「ストリーミング出力」を実装したチャットインターフェース GPUのメモリ割り当てを最適化し、長文入力でもトークン生成速度を維持する設定方法 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月16日 · 9 分 · 4391 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のローカルChatGPT環境を構築する方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの インターネット接続不要で、ChatGPTと同等のUIを備えたプライバシー重視のAIチャット環境を構築します。 前提知識:基本的なコマンド操作(コピペでOK)と、Dockerの概念をなんとなく理解していること。 必要なもの:NVIDIA製GPUを搭載したWindows/Linux PC、またはApple Silicon搭載のMac。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月15日 · 9 分 · 4030 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門!GGUF量子化モデルをローカルPCで動かす実践ガイド

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの 自分のPC(Windows/Mac/Linux)上で、オープンソースのLLMを「API料金ゼロ」で動かす推論サーバーを構築します。 具体的には、llama.cppをビルドし、Llama 3やMistralなどのGGUF形式モデルを読み込んで、ブラウザやPythonからチャットができる状態まで進めます。 Pythonの基礎知識と、ターミナルでコマンドを数行打つ覚悟があれば十分です。 ...

2026年8月14日 · 10 分 · 4789 文字 · Negi AI Lab
AI generated thumbnail

ローカルLLMを実務で使い倒す環境構築とPython連携の手順

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの 2026年最新のオープンウェイトモデル(Llama 4 70B級)をローカル環境で起動し、Pythonから構造化データ(JSON)を確実に抽出するシステムを構築します。 単なるチャットUIではなく、自社システムや自動化スクリプトに組み込める「APIサーバー」としての運用を実現します。 業務でそのまま使えるレベルのエラーハンドリングと、VRAM消費を最適化するパラメータ設定を網羅します。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月14日 · 9 分 · 4268 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUFでローカルLLMを爆速APIサーバーとして構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの 自分のPC内にllama.cppを用いたLLM推論環境を構築し、OpenAI互換のAPIサーバーを立ち上げます。 Pythonの基礎知識があれば、外部の有料APIに1円も払うことなく、プライバシーが完全に守られた状態のAIチャットや自動化スクリプトを動かせるようになります。 ハードウェアの制約で諦めていた巨大なモデル(70Bクラス)を、量子化技術によって家庭用PCで動かす具体的な手順を網羅しました。 ...

2026年8月13日 · 10 分 · 4759 文字 · Negi AI Lab