AI generated thumbnail

Gemma 2 31B QATをKVキャッシュ量子化でVRAM 24GBに収めて実用化する方法

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの 24GBのVRAM(RTX 3090/4090等)1枚で、Gemma 2 31B QATモデルを32k以上の長いコンテキストで高速動作させる環境 量子化による精度劣化を最小限に抑えつつ、推論速度を最適化するllama.cpp実行スクリプト KVキャッシュの量子化(4-bit/8-bit)が実際に業務で使えるレベルか判定するベンチマーク手順 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月22日 · 9 分 · 4038 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のChatGPTを構築する方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Ollamaをバックエンド、Open WebUIをフロントエンドに据えた、完全オフライン動作する生成AI環境。 WebブラウザからChatGPT感覚で、Llama 3やQwen 2.5、Gemma 2などの最新モデルを切り替えて使えるシステム。 自分のPC内にあるPDFやテキストファイルを読み込ませて回答させるローカルRAG(検索拡張生成)機能。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月22日 · 9 分 · 4125 文字 · Negi AI Lab
AI generated thumbnail

Claude CodeとCursorを併用して爆速でAPI連携ツールを作る方法

所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの GitHubの特定リポジトリのスター数を監視し、前日からの増減をSlackに通知するPythonスクリプトを作成します。 この記事を読み終える頃には、Claude Code(CLI)に「自律的な実装とテスト」を任せ、Cursor(エディタ)で「コードの品質管理と細かな調整」を行うハイブリッド開発環境が手に入ります。 ...

2026年6月21日 · 8 分 · 3919 文字 · Negi AI Lab
AI generated thumbnail

OllamaとPydanticAIで自律型ローカルエージェントを構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの ローカルLLM(Llama 3.3/4クラス)を使用し、インターネット検索とローカルファイル操作を組み合わせて「市場調査レポート」を自動生成する自律型エージェント。 Pythonの型定義ライブラリ「Pydantic」をベースにした最新の「PydanticAI」を使い、エラーに強く、本番環境で動作を保証できる設計を学びます。 前提知識はPythonの基本的な文法(関数の定義、非同期処理 async/await)がわかる程度で問題ありません。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月21日 · 10 分 · 4746 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門:GGUF量子化モデルをローカルPCで爆速動作させる全手順

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの llama.cppを使用して、Llama 3やMistralなどの最新大規模言語モデル(LLM)を、一般的なPC(Windows/Mac)でサクサク動作させる環境を構築します。 最終的には、ローカル環境でOpenAI互換のAPIサーバーを立ち上げ、自作アプリからAPI経由でLLMを呼び出せる状態にします。 ...

2026年6月20日 · 9 分 · 4029 文字 · Negi AI Lab
AI generated thumbnail

MLX入門:Apple SiliconでローカルLLMを爆速かつ実務レベルで動かす方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4)のGPU性能をフルに引き出し、Llama 3やGemma 2といった最新のLLMを高速に推論させるPython環境 コマンドラインから日本語で対話し、ストリーミング形式(文字が流れるように表示される形式)で回答を得る実践的なスクリプト Hugging Faceから任意のモデルをダウンロードし、Mac専用のMLX形式に変換して実行するワークフロー 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月20日 · 8 分 · 3952 文字 · Negi AI Lab
AI generated thumbnail

Apple Silicon MacでLLMを爆速動作させるMLX環境構築ガイド

所要時間: 約25分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4)に最適化されたフレームワーク「MLX」を利用して、Llama-3やGemma 2といった最新のLLMをローカル環境で動かすPythonスクリプトを作成します。 Hugging FaceにあるMLX専用モデルを自動ダウンロードし、ストリーミング形式(1文字ずつ表示される形式)でAIと対話できるツールを完成させます。 外部APIへの課金を気にせず、Macの性能をフルに引き出したプライベートなAI環境を構築することがゴールです。 ...

2026年6月19日 · 9 分 · 4327 文字 · Negi AI Lab
AI generated thumbnail

E2BとPythonで安全なAIエージェント実行環境を作る方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの LLMが生成した「何をするか分からないコード」を、ホストPCから完全に隔離された環境で安全に実行し、結果だけを回収するPythonスクリプト ローカルLLM(Ollama)やクラウドAPI(Claude/GPT)と連携し、データ分析やグラフ作成を自動で行うエージェントの基礎 実行後に自動で破棄され、ファイルシステムやネットワークへの不正アクセスを防止するサンドボックス環境 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月19日 · 10 分 · 4562 文字 · Negi AI Lab
AI generated thumbnail

Claude CodeとCursorを併用したAI爆速開発入門

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 特定のニュースサイトから最新記事を取得し、その内容をAIで要約してMatplotlibで可視化するPythonツールを作成します Claude Codeが全体構造の設計とターミナル操作を、Cursorがコードの細部修正とリファクタリングを担う「AI二刀流」の開発スタイルを習得できます 前提知識: Pythonの基本的な構文がわかり、ターミナルの基本操作(cd, ls等)ができること 必要なもの: Anthropic APIキー、Cursorのインストール、Node.js(Claude Code用) 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月18日 · 9 分 · 4210 文字 · Negi AI Lab
AI generated thumbnail

MLX入門 Apple SiliconでローカルLLMを爆速化する方法

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの Apple純正の機械学習フレームワーク「MLX」を利用し、MacのGPUパワーを最大限に引き出してLlama 3などの最新LLMを高速動作させるPython環境を構築します。 最終的に、ターミナル上でAIとリアルタイムに対話できるストリーミング形式のチャットスクリプトを完成させます。 前提知識として、基本的なターミナル操作とPythonの基礎(pipインストールや関数の実行)ができることを想定しています。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年6月18日 · 10 分 · 4524 文字 · Negi AI Lab