FP8 on Negi AI Labhttps://ai.negi-lab.com/tags/fp8/Recent content in FP8 on Negi AI LabNegi AI Labhttps://ai.negi-lab.com/images/og-default.pnghttps://ai.negi-lab.com/images/og-default.pngHugo -- 0.154.5jaFri, 25 Sep 2026 20:26:38 +0900NVIDIA/Model-Optimizer 使い方と推論コストを最小化する最適化手法の導入https://ai.negi-lab.com/posts/nvidia-model-optimizer-review-quantization/Fri, 25 Sep 2026 00:00:00 +0900https://ai.negi-lab.com/posts/nvidia-model-optimizer-review-quantization/量子化、蒸留、枝刈りなどバラバラだった最適化手法をNVIDIA公式が1つのライブラリに統合した。。TensorRT-LLMやvLLMへのデプロイを前提とし...