Llama 3.1 ローカル環境

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの この記事では、ローカル環境でLlama 3.1やMistralといった最新のLLM（大規模言語モデル）を高速に動作させる「llama.cpp」の環境を構築します。 最終的には、自分のPC内でOpenAI互換のAPIサーバーを立ち上げ、PythonスクリプトからAIを呼び出して自由自在に操作できる状態を目指します。 ...