MLXを使ってApple Silicon MacでローカルLLMを爆速で動かす方法
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を使用し、Llama 3やQwenなどの最新LLMをMacのGPUで高速推論させるPythonスクリプトを作成します。 一般的なライブラリよりもメモリ効率が良く、ストリーミング出力（文字がパラパラ出てくる表示）に対応した実践的なチャットプログラムを構築します。 ...
Llama 3 MLX
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を使用し、Llama 3やQwenなどの最新LLMをMacのGPUで高速推論させるPythonスクリプトを作成します。 一般的なライブラリよりもメモリ効率が良く、ストリーミング出力（文字がパラパラ出てくる表示）に対応した実践的なチャットプログラムを構築します。 ...