MLX 使い方 入門：Apple SiliconでLLMを爆速動作させる
所要時間: 約25分 | 難易度: ★★☆☆☆ この記事で作るもの Apple公式の機械学習フレームワーク「MLX」を利用して、最新のLLM（Llama 3.1やQwen2.5など）と対話できるストリーミング形式のチャットスクリプトを作成します。 Python環境の構築から、モデルの自動ダウンロード、メモリ効率を最大化する推論実行までを、外部APIを一切使わない完全ローカル環境で実現します。 ...
Mlx-Lm チュートリアル
MLX 使い方 入門 | Apple SiliconでLLMを爆速で動かす方法
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon（M1/M2/M3/M4チップ）の性能をフルに引き出し、日本語対応の最新LLM「Gemma 2 9B」とリアルタイムに対話できるチャット用Pythonスクリプトを作ります。 クラウドのAPIを一切使わず、手元のMac内のGPU（Metal）を叩いて秒間数十トークンの速度でテキストを生成する環境を構築します。 ...