https://ai.negi-lab.com/tags/m5-ultra-llm/Recent content in M5 Ultra LLM on Negi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaMon, 18 May 2026 16:03:40 +0900https://ai.negi-lab.com/posts/local-llm-hardware-performance-simulator-guide/Mon, 18 May 2026 00:00:00 +0900https://ai.negi-lab.com/posts/local-llm-hardware-performance-simulator-guide/<p><strong>所要時間:</strong> 約40分 | <strong>難易度:</strong> ★★☆☆☆</p> <h2 id="この記事で作るもの">この記事で作るもの</h2> <ul> <li>入力したモデル規模（Llama-3-70B等）に対し、M5、Strix Halo、RTX 6000 Adaなどの次世代・現行ハードウェアで「動くのか」「速度（Token/s）はどの程度か」を算出するシミュレーターを作成します</li> <li>前提知識: Pythonの基本的な文法、ローカルLLMにおける「量子化（4bit/8bit）」の意味がわかること</li> <li>必要なもの: Python 3.10以降が動作するPC</li> </ul> <div style="border:1px solid #e0e0e0;border-radius:8px;padding:16px;margin:20px 0;background:#fafafa"> <p style="margin:0 0 4px;font-size:13px;color:#888">📦 この記事に関連する商品（楽天メインで価格確認）</p>