AI generated thumbnail

Apple SiliconでLLMを動かすならMLX一択!MLX 使い方 入門

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの この記事を読めば、Apple Silicon搭載MacでLlama 3などの最新LLMをMLXで高速に動かし、Pythonから制御するチャットスクリプトを自作できるようになります。 MLXフレームワークを使ったローカルLLM実行環境 Llama 3 (8B) を4-bit量子化で動かすPythonスクリプト 1秒間に約50〜100トークンを生成する高速な推論体験 前提知識として、ターミナルでコマンドが打てることと、Pythonの基礎(変数や関数の概念)が必要です。 複雑な機械学習の数式は一切使いません。 ...

2026年9月10日 · 10 分 · 4756 文字 · Negi AI Lab
AI generated thumbnail

MLX入門 Apple SiliconでローカルLLMを爆速で動かす方法

所要時間: 約20分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4チップ)の性能をフルに引き出し、Llama 3.1 8BクラスのLLMと超高速にチャットができるPythonスクリプトを作成します。 Apple純正の機械学習フレームワーク「MLX」を利用 Hugging Faceからモデルを自動取得して実行 ストリーミング出力(文字がパラパラ出てくる表示)への対応 知識ゼロから「自分のMacでAIが動く」状態までをカバー 前提知識:Pythonの基本的な構文(pipでのライブラリ導入など)がわかること。 ...

2026年9月10日 · 8 分 · 3975 文字 · Negi AI Lab
AI generated thumbnail

Apple Siliconの性能を限界まで引き出すMLXでローカルLLMを動かす方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple公式の機械学習フレームワーク「MLX」を使い、自分のMac上でLlama 3やMistralといった最新のLLM(大規模言語モデル)を高速に動作させるPythonスクリプトを作ります。 Pythonの基本的な文法がわかり、ターミナルでコマンドを叩くことに抵抗がなければ、誰でも30分後には手元のMacと会話ができるようになります。 クラウドAPIを使わないため、どれだけプロンプトを投げても無料ですし、機密情報の漏洩を心配する必要もありません。 ...

2026年9月9日 · 10 分 · 4704 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUF量子化でローカルLLMを爆速動作させる環境構築ガイド

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの この記事を読むと、手元のPCのリソースを最大限に活かして、Llama 3.1などの最新モデルを数GBのメモリで高速に動かすPythonスクリプトが完成します。 構築内容:llama.cppのビルド、GGUF形式への量子化、Python API経由での推論 前提知識:ターミナル(PowerShell/Terminal)の基本操作、Pythonの基礎 必要なもの:8GB以上のメモリを搭載したPC(Mac/Windows/Linux)、インターネット接続 先に確認するスペック・料金 ローカルLLMを動かす上で、最も重要なのは「VRAM(ビデオメモリ)」の容量です。 クラウドGPUを借りる場合は1時間数十円から数百円かかりますが、自前で環境を組めば電気代以外は無料です。 ...

2026年9月9日 · 8 分 · 3986 文字 · Negi AI Lab
AI generated thumbnail

MLX 使い方|Apple Silicon MacでローカルLLMを爆速で動かす入門ガイド

所要時間: 約20分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を使用し、MacBookのGPUを最大限に引き出して最新のLlama 3.1やQwen 2.5を動作させるPythonチャットスクリプトを作成します。 外部API(OpenAI等)を一切使わず、完全にオフラインで動作するAI環境 プロンプト入力から返答開始まで0.5秒以下のレスポンス Hugging Faceからモデルを自動取得し、最適化して推論する一連のフロー 前提知識として、ターミナルでの基本的なコマンド操作と、Pythonのパッケージ管理についての基礎があれば問題ありません。 ...

2026年9月8日 · 9 分 · 4022 文字 · Negi AI Lab
AI generated thumbnail

MLXでApple Siliconの性能を引き出すローカルLLM構築入門

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4チップ)のGPU性能をフルに活用し、ローカル環境で爆速なチャットAIを動かすPythonスクリプトを作成します。 Pythonの基礎知識(仮想環境の構築とライブラリのインストールができる程度)があれば、外部APIを一切使わずに、自分だけのプライベートなLLM環境が手に入ります。 ...

2026年9月8日 · 9 分 · 4170 文字 · Negi AI Lab
AI generated thumbnail

MLXでMacをAIサーバー化!Apple SiliconでローカルLLMを動かす入門ガイド

所要時間: 約45分 | 難易度: ★★☆☆☆ この記事で作るもの MLXフレームワークを用いて、Apple Silicon(M1/M2/M3/M4)に最適化された状態でローカルLLMを動かすPythonスクリプト。 Googleの軽量・高性能モデル「Gemma 2 2b-it」を使い、ストリーミング形式でチャットができる環境を構築します。 Pythonの仮想環境構築から、モデルのロード、高速な推論実行までをカバーします。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月7日 · 9 分 · 4032 文字 · Negi AI Lab
AI generated thumbnail

PythonとLangChainで作るRAGパイプライン実装入門

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの ローカルにあるPDFファイルを読み込み、その内容に基づいてAIが回答するRAG(検索拡張生成)システムをPythonで作ります。 汎用的なLangChainと、軽量なベクトルデータベースであるChroma、そしてOpenAIのAPIを組み合わせて構築します。 最終的に、自分のPCにある独自の資料について「○○について教えて」と質問して、正確な引用付きで回答が得られる状態を目指します。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月7日 · 9 分 · 4272 文字 · Negi AI Lab
AI generated thumbnail

AIエージェント実行環境をE2Bで安全に構築する方法

所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの AIエージェント(LLM)が生成したPythonコードを、あなたのPCから完全に隔離されたクラウド上の「サンドボックス」で実行し、結果やグラフ画像を取得する仕組みを構築します。 Pythonの基礎知識があれば、この記事のコードをコピーするだけで、安全なコード実行エージェントの基盤が完成します。 ...

2026年9月6日 · 9 分 · 4064 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のローカルLLM環境を構築する方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの この記事を読み終える頃には、あなたのPC上でChatGPTと同等のUIを持ち、外部へデータが一切漏れない「完全プライベートなAI環境」が動いています。 クラウドのAPI料金を気にせず、VRAMが許す限り無限に推論を回せる環境を、DockerとOllamaを組み合わせて構築します。 ...

2026年9月6日 · 10 分 · 4524 文字 · Negi AI Lab