
Apple Siliconの性能を限界まで引き出すMLXでローカルLLMを動かす方法
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple公式の機械学習フレームワーク「MLX」を使い、自分のMac上でLlama 3やMistralといった最新のLLM(大規模言語モデル)を高速に動作させるPythonスクリプトを作ります。 Pythonの基本的な文法がわかり、ターミナルでコマンドを叩くことに抵抗がなければ、誰でも30分後には手元のMacと会話ができるようになります。 クラウドAPIを使わないため、どれだけプロンプトを投げても無料ですし、機密情報の漏洩を心配する必要もありません。 ...








