所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの この記事を読むと、NVIDIA RTX 4090を2枚使ってVRAM計48GBの計算環境を構築し、Llama-3-70Bクラスの巨大なLLMをローカル環境で高速に推論できるようになります。 2枚のGPUを認識させるUbuntuの環境構築 llama.cppを用いたマルチGPU推論の設定 VRAMを最大限に使い切るためのレイヤー分割の最適化 先に確認するスペック・料金 RTX 5090の発売中止や、GB202チップがプロ向け（RTX PROシリーズ）に限定されるという不穏なニュースが流れています。 仮に5090が出たとしても、VRAM 32GBで30万円を超えるなら、現行のRTX 4090（24GB）を2枚並べて48GBを確保するほうが、LLMの実務においては圧倒的にコスパが良いです。 ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を使い、Mac上でLlama 3やGemma 2といった最新のLLM（大規模言語モデル）を高速に動作させるPythonスクリプトを作成します。 一般的なllama.cppよりもApple Siliconのハードウェア特性を活かせるため、メモリ帯域をフルに使い切ったレスポンスの速い対話システムが手に入ります。 この記事を読み終える頃には、あなたのMacの中でAIが思考し、日本語で返答を返してくれる状態になります。 ...
所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの 指定したフォルダ内のPDF群を解析し、独自の知識として回答できるRAG（検索拡張生成）スクリプトを作ります。 検索エンジンには「LlamaIndex」を使い、ベクトルデータの保存・再利用まで実装します。 前提知識として、Pythonの基本的な文法（関数の定義やライブラリのインポート）がわかる必要があります。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの FastAPIを使用した「TODO管理API」のプロトタイプ作成 Claude Codeによる「全自動テスト実装とバグ修正」の実行 Cursorによる「UI/UXの微調整とリファクタリング」の同期 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの この記事を読むと、MacやWindowsのローカル環境でLlama 3やMistralなどの最新モデルを高速に動かす、自分専用のAIチャットサーバーが構築できます。 PythonからOpenAI互換のAPIとして呼び出せる状態までをゴールにします。 ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を利用して、MacのGPU性能を最大限に引き出し、Llama 3.1やQwen 2.5といった最新のローカルLLMと高速にチャットができるPythonスクリプトを作成します。 ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの この記事では、自分のPCのリソースを最大限に活用して、最新のLLM（Llama 3.1やMistralなど）と超高速にチャットできるOpenAI互換のAPIサーバーを構築します。 Pythonの重いライブラリを入れず、C++ベースの軽量な「llama.cpp」を使うことで、古いGPUやメモリの少ないMacでも実用レベルの速度を出せるようになります。 ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を使い、Macのメモリを最大限に活かしてLlama 3.1やQwen 2.5などの最新LLMと日本語でチャットできるPythonスクリプトを作成します。 Pythonの基本的な読み書きができれば、専用のGPUサーバーを借りることなく、手元のMacで爆速な推論環境が手に入ります。 必要なものはApple Silicon（M1/M2/M3/M4チップ）を搭載したMacのみです。 ...
所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Webブラウザから操作可能で、機密情報を外部に漏らさない完全オフラインの「自分専用ChatGPT」環境を構築します。 前提知識は「ターミナルでコマンドをコピペできること」と「Dockerの基本的な概念を知っていること」だけで十分です。 Windows、Mac、Linuxのいずれでも動作しますが、今回は最もハマりやすいWindows（WSL2）とMacを中心に解説します。 📦 この記事に関連する商品（楽天メインで価格確認） ...
所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの AIエージェントが生成したPythonコードを、ホスト環境から完全に隔離して実行し、結果だけを安全に回収するサンドボックス環境。 前提知識：Pythonの基本的な文法、Dockerの基本的な概念（イメージ、コンテナ）がわかること。 必要なもの：Docker Desktop（またはDocker Engine）、Anthropic APIキー（Claude 3.5 Sonnet推奨）。 📦 この記事に関連する商品（楽天メインで価格確認） ...