Apple Siliconの性能を限界まで引き出すMLXでローカルLLMを動かす方法
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を使い、Mac上でLlama 3やGemma 2といった最新のLLM（大規模言語モデル）を高速に動作させるPythonスクリプトを作成します。 一般的なllama.cppよりもApple Siliconのハードウェア特性を活かせるため、メモリ帯域をフルに使い切ったレスポンスの速い対話システムが手に入ります。 この記事を読み終える頃には、あなたのMacの中でAIが思考し、日本語で返答を返してくれる状態になります。 ...