所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの ユーザーが投げた曖昧な指示に対し、自らPythonコードを生成・実行・修正し、最終的な結果を出す自律型AIエージェント。 OpenCodeInterpreter（DS-6.7Bまたは33B）を「頭脳（オーケストレーター）」として活用し、ローカル環境（Ollama）で完結するシステム。 Pythonの基礎知識と、Dockerを少し触ったことがあれば完遂できるレベルの構成。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分（ハードウェア準備を除く） | 難易度: ★★★★☆ この記事で作るもの 中国で流通する「RTX 4090 48GB」等の改造GPU、あるいは多段GPU環境で、Llama-3-70Bクラスの巨大モデルを高速に動かすための推論サーバー。 Pythonとllama-cpp-pythonを使用し、VRAMを1MB単位で使い切るための最適化設定。 外部アプリケーションから呼び出し可能なOpenAI互換APIエンドポイント。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの RTX 5090の32GB VRAM（予定）や現行のRTX 4090を最大限に活用し、大規模言語モデル（Llama-3-70B等）を高速に動かすPythonスクリプトを作ります。 お使いのGPUメモリ量に合わせて、モデルのロード範囲（GPUレイヤー数）を自動最適化する仕組みを構築します。 実行環境はUbuntu 22.04またはWindows 11（WSL2）を想定しています。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約60分 | 難易度: ★★★★☆ この記事で作るもの 中古で3〜4万円台で投げ売りされているAMD MI50（32GB）を使い、Qwen 2.5 27Bを秒間50トークン超えで動かす推論サーバーを構築します。 PythonからOpenAI互換APIとして呼び出し、RAGやエージェントとして実務投入できる状態を目指します。 動作環境はUbuntu 22.04、推論エンジンにはAMD ROCmに最適化されたvLLMを使用します。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Qwen2.5-Coder-32Bなどの強力なローカルLLMに対し、Multi-Token Prediction（MTP）を適用して推論速度を劇的に向上させた環境を構築します。 具体的には、llama.cppの最新機能を活用し、MTPアダプターを読み込ませることで、従来の1トークンずつの生成ではなく、一度に複数のトークンを予測・出力する爆速のチャット・コード生成環境を手に入れます。 ...
所要時間: 約20分 | 難易度: ★★☆☆☆ この記事で作るもの 26M（2600万）という驚異的な小ささのモデル「Needle」を使い、ユーザーの入力から「どのツールを、どの引数で使うべきか」を瞬時に判断するPythonスクリプトを作成します。 Gemini 1.5 Proのツール呼び出し能力を蒸留したこのモデルを、ローカル環境で爆速（1200 tok/s以上）で動かす体験を提供します。 ...
所要時間: 約60分 | 難易度: ★★★★☆ この記事で作るもの 1998年発売のハードウェア「ゲームボーイカラー（GBC）」上で、本物のTransformerモデルを動作させるROMファイル Pythonで学習させたモデルの重みをC言語のヘッダファイルに変換し、実機で推論させる一連のワークフロー 前提知識: C言語の基礎（ポインタと配列）、Python環境でのスクリプト実行、コマンドライン操作 必要なもの: PC（Windows/Mac/Linux）、GBDK-2020（コンパイラ）、ゲームボーイエミュレータ（BGBやSameBoy） 📦 この記事に関連する商品（楽天メインで価格確認） ...
この記事の手順を完了すると、GPU温度を監視しながら最適なパフォーマンスで巨大モデルを回し続ける「温度管理機能付き推論サーバー」が手に入ります。 Redditで話題になった「DGXを水道水で冷やす」という極端な事例をヒントに、実務で100GB超のモデルを扱う際の現実的な冷却戦略と設定を解説します。 ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの Unslothが公開したMTP（Multi-Token Prediction）対応のGGUFモデルを使い、従来の1.5倍から2倍の速度でテキスト生成を行うローカル推論環境を構築します。 実行には、llama.cppの最新ビルドと、Pythonによる制御スクリプトを使用します。 前提知識として、基本的なLinuxコマンド操作とPython環境（VenvやConda）の構築ができることを想定しています。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの ローカル環境（Ollama）で「Qwen 3.6 35B A3B」を立ち上げ、自作プロジェクトのソースコードを読み込ませて、バグ修正とリファクタリング案を自動生成するPythonスクリプト。 特定のドメイン（学術、金融、製造など）で書かれた「他人が書いた難解なコード」を、文脈を維持したまま数秒で解説させる環境。 必要なもの：Python 3.10以降、VRAM 16GB以上のGPU（推奨24GB以上）、またはメモリ32GB以上のApple Silicon Mac。 📦 この記事に関連する商品（楽天メインで価格確認） ...