AI generated thumbnail

MLX入門:Apple SiliconでローカルLLMを爆速で動かす方法

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの この記事を読むと、Apple Silicon搭載MacでHugging Face上の最新LLMを読み込み、メモリを最適化して高速に推論するPythonチャットプログラムが完成します。 MLXフレームワークを使用した高速推論スクリプト 前提知識:Pythonの基本的な文法(関数の定義、ライブラリのインストール)がわかること 必要なもの:Apple Silicon(M1/M2/M3/M4ファミリー)搭載のMac、Python 3.10以降 先に確認するスペック・料金 Apple Silicon MacでローカルLLMを動かす際、最も重要なのは「メモリ(ユニファイドメモリ)の量」です。 MLXはGPUとCPUがメモリを共有する特性を最大限に活かしますが、OSや他のアプリが使う分を差し引いた「空き容量」がモデルのサイズを下回ると、スワップが発生して一気に動作が重くなります。 ...

2026年8月9日 · 8 分 · 3768 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のローカルLLM環境を作る方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの PCのローカル環境のみで完結し、プライバシーを完全に保護したChatGPT風の対話システムを構築します ブラウザから操作可能なOpen WebUIを、LLM実行エンジンのOllamaと連携させて動かします Pythonの基礎知識とDockerの基本的な使い方がわかれば、誰でも再現可能です 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月9日 · 9 分 · 4332 文字 · Negi AI Lab
AI generated thumbnail

Apple SiliconでLLMを爆速動作させるMLX入門と実践ガイド

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの この記事では、Appleが開発した機械学習フレームワーク「MLX」を使用して、Llama 3やGemma 2などの最新LLMをMac上でネイティブ動作させる環境を構築します。 最終的には、PythonスクリプトからローカルLLMを呼び出し、ストリーミング形式で回答を生成する実用的な対話プログラムを完成させます。 ...

2026年8月8日 · 9 分 · 4165 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のローカルLLM環境を構築する方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの WebブラウザからChatGPT感覚で操作でき、かつデータが外部に一切漏れないローカルLLM環境を構築します。 前提知識:ターミナル(コマンドプロンプト)でのコピペ操作、Dockerの基本的な概念への抵抗がないこと。 必要なもの:NVIDIA製GPU搭載PC(推奨)またはApple Silicon搭載Mac、インターネット環境。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月8日 · 8 分 · 3676 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門|GGUF量子化モデルをローカルPCで高速に動かす方法

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの この記事を読み進めることで、Llama 3やQwenといった最新のLLM(大規模言語モデル)を、Pythonから呼び出して高速に動作させる「チャット用バックエンド」が完成します。 単に動かすだけでなく、モデルを量子化してメモリ消費を抑え、GPUの性能を限界まで引き出す設定を自力で行えるようになります。 Pythonの基礎(pipインストールや関数の作成)ができる方を対象としています。 ...

2026年8月7日 · 9 分 · 4174 文字 · Negi AI Lab
AI generated thumbnail

MLX 使い方 Apple SiliconでローカルLLMを動かす入門ガイド

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple公式の機械学習フレームワーク「MLX」を使用し、MacのGPUパワーを最大限に引き出してLlama 3やGemma 2などの最新AIと会話できるPythonスクリプトを作成します。 Pythonの基礎(pipインストールや関数の実行)が理解できていれば、外部APIに1円も払わず、オフラインで動く自分専用のAI環境が手に入ります。 ...

2026年8月7日 · 9 分 · 4414 文字 · Negi AI Lab
AI generated thumbnail

Claude CodeとCursorを併用する最強のAIコーディング環境構築ガイド

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Claude Code(CLI)とCursor(IDE)を組み合わせ、バックエンドにFastAPI、フロントエンドにReactを用いた「AIテキスト要約Webアプリ」を30分で構築します。 PythonとNode.jsの基本操作ができることを前提に、AIエージェントに「コードを書かせる」のではなく「プロジェクトを完遂させる」フローを体験してもらいます。 APIを叩いて実際に動作するアプリをデプロイ直前の状態まで仕上げるのが今回のゴールです。 ...

2026年8月6日 · 9 分 · 4482 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門 | GGUF量子化でローカルLLMを動かす

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの この記事を読むと、軽量なGGUF形式のモデルを使い、自分専用のローカルLLM実行サーバーをPythonで構築できます。 API料金やデータ漏洩の心配をせず、手元のPCのリソースを限界まで引き出して推論を回すスクリプトを完成させます。 具体的には、Llama 3などの最新モデルを数GBのメモリで動作させ、チャット応答を得るまでの全工程を網羅します。 ...

2026年8月6日 · 9 分 · 4508 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUFで自分専用の高速ローカルLLM環境を構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの この記事を読むと、手元のPC(Windows/Mac)で日本語LLMをストリーミング形式で動かし、チャットができるPythonスクリプトが完成します。 クラウドAPIを使わず、VRAMが少ない環境でもLlama 3やGemma 2といった最新モデルを実用的な速度で動かす技術が身に付きます。 ...

2026年8月5日 · 9 分 · 4393 文字 · Negi AI Lab
AI generated thumbnail

MLXを使ってApple Silicon MacでローカルLLMを爆速で動かす方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を使用し、Llama 3やQwenなどの最新LLMをMacのGPUで高速推論させるPythonスクリプトを作成します。 一般的なライブラリよりもメモリ効率が良く、ストリーミング出力(文字がパラパラ出てくる表示)に対応した実践的なチャットプログラムを構築します。 ...

2026年8月5日 · 8 分 · 3958 文字 · Negi AI Lab