所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの Llama 3.1 8Bをベースに、PCローカル環境で「自律的にツールを使いこなす」AIエージェントを構築します。 Pythonを使ってLLMに「計算機」や「ファイル操作」などの外部ツールを認識させ、指示に応じてそれらを自動で呼び出す仕組みを実装します。 クラウドAPIを一切使わず、完全にオフラインかつ無料で動く実戦的なプログラムを完成させます。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの Ollamaを使用して、自分のPC上にLlama 3やGemma 2などの最新LLMをAPIサーバーとして立ち上げます。 PythonからそのAPIを呼び出し、ストリーミング形式（逐次出力）で回答を表示する実用的なチャットスクリプトを完成させます。 前提知識として、Pythonの基本的な文法（変数、関数、pipでのライブラリインストール）を理解している必要があります。 Windows、Mac、LinuxのいずれかのPCが必要です。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの プロジェクト全ファイルを1M（100万）トークンのコンテキストに流し込み、機能仕様書を自動生成するPythonスクリプト 前提知識：Pythonの基礎（pip操作、環境変数の設定）、VS Code等のエディタ操作 必要なもの：MiniMax APIキー、Python 3.9以上の実行環境 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの 発表された「Dell XPS N1X（DGX Spark相当）」の性能を先取りし、Llama 3 70Bクラスのモデルを快適に動かすローカルAI実行基盤 Dockerを活用した、GPUメモリ（VRAM）を最大限に引き出すOllama + Open-WebUIの統合環境 Pythonによる推論速度（Tokens Per Second）の計測スクリプト 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★☆☆☆ この記事で作るもの OllamaとOpen WebUIを連携させ、ブラウザからGPT-4o級のローカルLLMを操作できる環境を構築します。 PythonからOllama APIを叩き、ローカルファイルを自動で要約・整理する実用的なスクリプトを作成します。 前提知識：ターミナルでの基本的なコマンド操作、Dockerの概念、Pythonの基礎知識。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの llama.cppの最新最適化（Flash Attentionのf16マスク適用）を取り入れ、従来よりも少ないVRAMで10k以上の長文コンテキストを処理できる推論環境を構築します。 具体的には、GitHubから最新のソースコードをビルドし、特定のコンパイルフラグを用いてFlash Attentionを有効化した上で、Pythonから制御するスクリプトを完成させます。 Pythonの基本操作とターミナルでのコマンド入力ができることを前提としています。 ...
所要時間: 約15分 | 難易度: ★★☆☆☆ この記事で作るもの VRAM容量を超えた際に極端に推論速度が落ちる「Sysmem Fallback」を無効化し、常に最高速でLLMを動かす環境 PythonでVRAM使用状況と推論速度をリアルタイムに監視し、モデルが「溢れているか」を判定するスクリプト 必要なもの: NVIDIA製GPU（RTX 30シリーズ以降推奨）、Python環境 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 自分のPCスペック（VRAM容量や帯域幅）を自動認識し、最適な量子化モデル（GGUF）をメモリ限界までVRAMにオフロードして高速推論させるPythonスクリプト 前提知識: Pythonの基本的な読み書きができ、ターミナルでコマンド操作ができること 必要なもの: NVIDIA製GPU（VRAM 8GB以上推奨）またはApple Silicon搭載Mac、Python 3.10以降 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの 自分のPCで動かしているローカルLLMの性能を、MMLU（大規模多目的言語理解）などの標準的な指標で測定し、さらに自分自身も同じテストを受けて「AIと自分の差」を可視化するベンチマーク・ダッシュボードを作成します。 ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの ローカル環境で動作する、有料API級の精度を持ったコーディングエージェント（Cline連携） Qwen2.5-Coder-32B（Q6_K量子化）を高速に動かすllama.cppサーバー VS Code上で自律的にコードを生成・修正させる自動開発環境 📦 この記事に関連する商品（楽天メインで価格確認） ...