所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を使い、Mac上でLlama 3などの最新LLMを動作させる対話型Pythonスクリプトを作成します。 Pythonの基本的な読み書きができ、ターミナルでコマンドを打つことに抵抗がなければ、誰でもMacを「自分専用のAIサーバー」に変えられます。 外部API（OpenAIなど）を一切使わず、完全にオフラインでレスポンスが返ってくる環境を目指します。 ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの この記事では、Appleが開発した機械学習フレームワーク「MLX」を使用して、Llama 3やGemma 2などの最新LLMをMac上でネイティブ動作させる環境を構築します。 最終的には、PythonスクリプトからローカルLLMを呼び出し、ストリーミング形式で回答を生成する実用的な対話プログラムを完成させます。 ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を使用し、Llama 3やQwenなどの最新LLMをMacのGPUで高速推論させるPythonスクリプトを作成します。 一般的なライブラリよりもメモリ効率が良く、ストリーミング出力（文字がパラパラ出てくる表示）に対応した実践的なチャットプログラムを構築します。 ...