ROCm 使い方

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの AMD製GPU（Radeon）の性能を最大限に引き出し、Llama 3やGemma 2などの最新AIモデルを爆速で動かすローカルAPIサーバーを構築します。 Pythonからこのサーバーを呼び出し、RadeonのVRAMをフル活用して推論処理を行うスクリプトまでを完成させます。 ...

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの AMD製GPU（Radeon）を使って、NVIDIA環境に依存せずに高速な推論を行う「ローカルLLMチャットUI」を構築します。 PythonからROCm（Radeon用の演算プラットフォーム）を介してLlama 3を制御し、Streamlitでブラウザから操作できるアプリを一つ完成させます。 ...