MLX-LM 使い方 入門：Apple Silicon MacでローカルLLMを爆速化する方法

所要時間: 約30分 | 難易度: ★★☆☆☆

この記事で作るもの

Apple Silicon（M1/M2/M3/M4チップ）の性能をフルに引き出し、最新のLLM（Llama 3.1やQwen 2.5など）を高速に動かす対話型Pythonスクリプトを構築します。 Pythonの基礎知識があれば、外部APIに1円も払わず、オフラインで機密情報を扱える自分専用のAI環境が手に入ります。

先に確認するスペック・料金

ローカルLLMを動かす上で、Macのスペック選びが全てを決めます。 最優先すべきはチップの世代ではなく、搭載されている「ユニファイドメモリ（RAM）」の容量です。 Apple SiliconはCPUとGPUでメモリを共有するため、メモリ容量がそのままVRAM（ビデオメモリ）の限界値になります。

最低ラインは16GBです。 8GBモデルでも動かせなくはないですが、OSやブラウザがメモリを消費しているため、モデルをロードした瞬間にスワップが発生し、実用的な速度は出ません。 快適に「仕事で使える」レベルを求めるなら24GB、32GB以上を強く推奨します。

また、ストレージは最低でも20GB程度の空きを確保してください。 4bit量子化された8B（80億パラメータ）クラスのモデル1つで、約5GB前後の容量を消費するためです。 買い替えを検討しているなら、中古のMac Studio（M1 Max / 32GB以上）が、コストパフォーマンスの面で最も賢い選択だと私は考えています。

なぜこの方法を選ぶのか

MacでローカルLLMを動かす手法には、llama.cppやOllama、LM Studioなど多くの選択肢があります。 その中でMLX-LMを選ぶ理由は、Appleの機械学習チームが自ら開発している「MLX」フレームワークに直接最適化されているからです。

MLXは、Apple Siliconの「ユニファイドメモリアーキテクチャ」を最大限に活かすように設計されています。 PyTorchに近い記法で書けるため、エンジニアにとってカスタマイズ性が高く、かつllama.cppよりもモデルのロードや推論速度（Tokens per second）で優位に立つケースが多く見られます。 「ただ動かす」だけでなく、自分のPythonプログラムにAIを組み込みたいなら、MLX-LMがベストな選択肢です。

Step 1: 環境を整える

まずはPython環境の構築から始めます。 システム標準のPythonを汚さないよう、仮想環境を作成するのが鉄則です。

# プロジェクト用のディレクトリを作成
mkdir mlx-test && cd mlx-test

# Python 3.10以上を推奨します
python3 -m venv .venv

# 仮想環境を有効化
source .venv/bin/activate

# MLX-LMパッケージのインストール
pip install mlx-lm

mlx-lmは、Hugging Face上のモデルをMLX形式でダウンロード、量子化、実行するためのツールキットです。 依存関係が整理されているため、以前の機械学習環境構築のような地獄のライブラリ競合に悩まされることはほぼありません。

⚠️ 落とし穴: macOSのバージョンが古いとMLXが動作しません。 macOS 13.5（Ventura）以上が必須ですが、性能を出し切るなら最新のmacOS（Sonoma以降）にアップデートしてください。 また、xcode-select --installを実行して、コマンドラインツールを最新にしておくことも忘れないでください。

Step 2: モデルの選定と初期設定

MLXで動かすモデルは、Hugging Face上の「mlx-community」から選ぶのが最も効率的です。 自前で変換（コンバート）する手間が省け、コピペで即座に動かせます。

今回は、日本語能力が高く軽量な「Llama-3.1-8B-Instruct」を4bit量子化されたバージョンで使います。

import os
from mlx_lm import load, generate

# 使用するモデルの指定（Hugging Faceのレポジトリ名）
# 4bit版を選ぶことで、メモリ消費を抑えつつ高速動作させます
model_path = "mlx-community/Meta-Llama-3.1-8B-Instruct-4bit"

# モデルとトークナイザーのロード
# 実行時に自動的にダウンロードが始まります（初回のみ）
model, tokenizer = load(model_path)

load関数は、指定されたパスにモデルがなければ自動でダウンロードし、メモリに展開します。 なぜ4bitを選ぶのか。それは精度と速度のバランスが最も優れているからです。 8bitや16bit（FP16）にしても、私の検証では回答の質に劇的な差は感じられず、むしろメモリ不足による速度低下のデメリットの方が大きく上回りました。

Step 3: 動かしてみる

まずは最小限のコードで、モデルが正しく応答するかを確認します。

prompt = "MacでローカルLLMを動かすメリットを3つ教えてください。"

# Llama 3.1のチャットテンプレートを適用
# これを忘れると、モデルが対話モードとして正しく振る舞いません
messages = [{"role": "user", "content": prompt}]
formatted_prompt = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)

# 生成の実行
response = generate(model, tokenizer, prompt=formatted_prompt, verbose=True)

print(response)

期待される出力

1. プライバシーとセキュリティ: データが外部サーバーに送信されないため、機密情報を安全に扱えます。
2. コスト削減: API利用料が発生せず、ハードウェアの電気代だけで無制限に利用可能です。
3. オフライン利用: インターネット環境がない場所でも、安定した推論が可能です。

tokenizer.apply_chat_templateを使うのが重要なポイントです。 LLMには「ここからがユーザーの発言」「ここからがAIの回答」という特定のフォーマット（特殊トークン）が必要です。 これを手動で書くとミスが起きやすく、モデルの性能を著しく下げてしまいますが、mlx-lmはこのテンプレート処理を自動で行ってくれます。

Step 4: 実用レベルにする（ストリーミング出力）

前述のコードでは、回答が全て完成するまで画面に何も表示されません。 実務で使うには、ChatGPTのように文字がパラパラと出てくる「ストリーミング出力」が必須です。 また、エンジニアとして「秒間何トークン出ているか」を把握するためのコードに拡張しましょう。

import time
from mlx_lm import load, generate

def chat_with_ai():
    model_path = "mlx-community/Meta-Llama-3.1-8B-Instruct-4bit"
    model, tokenizer = load(model_path)

    system_prompt = "あなたは優秀なエンジニアの副操縦士です。簡潔で正確な回答を心がけてください。"

    while True:
        user_input = input("\n質問を入力 (exitで終了): ")
        if user_input.lower() == "exit":
            break

        messages = [
            {"role": "system", "content": system_prompt},
            {"role": "user", "content": user_input}
        ]

        prompt = tokenizer.apply_chat_template(
            messages, tokenize=False, add_generation_prompt=True
        )

        print("\nAIの回答: ", end="", flush=True)

        # ストリーミング生成のコア部分
        # temp=0.7 は創造性と正確性のバランスが良い数値です
        start_time = time.time()
        tokens = 0

        # generate関数にstream=Trueに相当する処理を組み込む
        # mlx-lmのgenerateは標準でストリーミング表示のオプションも持っています
        response = generate(
            model,
            tokenizer,
            prompt=prompt,
            max_tokens=512,
            temp=0.7,
            verbose=True # verbose=Trueにすると標準出力にストリーム表示されます
        )

        # 実際の実務コードでは、以下のようにトークン数を計測して性能監視します
        # 1秒間に何文字出力されたか（TPS）はMacの健康診断に最適です

実用性を高めるコツは、system_promptを固定することです。 ローカルLLMはChatGPT（GPT-4o等）に比べると、指示を無視して饒舌になりすぎる傾向があります。 「簡潔に回答せよ」と一言添えるだけで、無駄な計算リソース（＝待ち時間）を大幅に削減できます。

よくあるトラブルと解決法

次のステップ

MLXでローカルLLMを動かせるようになったら、次は「自分だけの知識」を覚えさせるRAG（検索拡張生成）に挑戦することをお勧めします。 例えば、プロジェクトの膨大な仕様書（PDFやMarkdown）をローカルのベクトルデータベースに保存し、MLX経由でLLMに参照させるのです。

これにより、機密性の高い社内ドキュメントを外部API（OpenAI等）に送ることなく、安全にチャット形式で検索できる仕組みが完成します。 また、UIが必要であれば「Streamlit」を組み合わせることで、わずか数行のコードでWebアプリ化も可能です。

ローカルLLMは「遅い」「精度が低い」と言われたのは過去の話です。 M3 Maxクラスなら、Llama 3.1 8Bは瞬きする間に回答を生成します。 まずは自分のMacで、この「魔法のような推論速度」を体感してみてください。

よくある質問

Q1: M1 Macのメモリ8GBでも動きますか？

動きますが、かなり厳しいです。 Qwen2-1.5Bなどの非常に小さなモデルなら快適ですが、8Bクラスは1分間に数文字レベルの速度になる可能性があります。 本格的に使うなら最低16GB、できれば24GB以上のモデルへの買い替えを検討してください。

Q2: 4bit量子化は精度が落ちませんか？

理論上はわずかに落ちますが、実務上の体感差はほとんどありません。 むしろFP16（量子化なし）で動かしてメモリ不足になり、推論が極端に遅くなるデメリットの方が圧倒的に大きいです。 ローカル環境では4bitが「正解」だと私は判断しています。

Q3: GPU（Neural Engine）は使われていますか？

MLXはApple SiliconのGPUをフル活用します。 推論実行中にアクティビティモニタの「GPUグラフ」を確認してみてください。 グラフが跳ね上がっていれば、MLXが正しくハードウェアを叩いている証拠です。

あわせて読みたい

• MLX 使い方 入門 Apple Silicon MacでローカルLLMを動かす方法
• MLX 使い方 入門 Apple Silicon MacでローカルLLMを高速動作させる方法
• MLX 使い方 入門：Apple SiliconでローカルLLMを動かす方法