AI generated thumbnail

ローカルLLM構築入門 OllamaとPythonでAIを自前運用する方法

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの Ollamaを使用して、自分のPC上にLlama 3やGemma 2などの最新LLMをAPIサーバーとして立ち上げます。 PythonからそのAPIを呼び出し、ストリーミング形式(逐次出力)で回答を表示する実用的なチャットスクリプトを完成させます。 前提知識として、Pythonの基本的な文法(変数、関数、pipでのライブラリインストール)を理解している必要があります。 Windows、Mac、LinuxのいずれかのPCが必要です。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月2日 · 10 分 · 4645 文字 · Negi AI Lab
AI generated thumbnail

Qwen 3.5 0.8B 使い方 | 超軽量AIをCPUだけで爆速動作させる手順

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Qwen 3.5 0.8BをローカルPCのCPUのみで動作させ、1秒間に100トークン以上の超高速レスポンスを返すPythonスクリプト 外部APIに1円も払わず、オフラインで機密情報を処理できる「自分専用の超軽量推論エンジン」 前提知識:Pythonの基本的な文法(pipインストールや関数の作成)がわかること 必要なもの:Python 3.10以降がインストールされたPC(Mac/Windows/Linux問わず。メモリ4GBでも動きます) 📦 この記事に関連する商品 ...

2026年3月10日 · 8 分 · 3950 文字 · Negi AI Lab