AI generated thumbnail

Apple SiliconでローカルLLMを最速稼働させるMLX導入ガイド

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を使い、MacのGPU性能を最大限に引き出してローカルLLM(Llama 3やPhi-3など)を爆速で動かすPythonスクリプトを作成します。 単にチャットアプリを動かすだけでなく、自分のプログラムからライブラリとしてLLMを呼び出し、推論結果をストリーミング表示するまでの基盤を構築します。 ...

2026年9月23日 · 8 分 · 3628 文字 · Negi AI Lab
AI generated thumbnail

DockerとPythonでAIエージェントの安全なサンドボックスを構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの LLMが生成したPythonコードを、ホストOSから完全に隔離された環境で実行し、結果だけを安全に受け取るスクリプト ネットワーク遮断・リソース制限(メモリ・CPU)を施したDockerベースの実行基盤 前提知識:Pythonの基礎、Dockerの基本的なコマンド操作ができること 必要なもの:OpenAI APIキー(またはClaude API)、Docker DesktopがインストールされたPC 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月22日 · 9 分 · 4083 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門 | GGUF量子化モデルをローカルPCで動かす方法

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの この記事では、オープンソースのライブラリ「llama.cpp」を用いて、Llama 3やMistralといった最新のLLMを自分のPC上で動かす環境を構築します。 最終的には、PythonスクリプトからローカルLLMを呼び出し、外部APIに1円も払わずに「プライベートなAIチャット」ができる状態を目指します。 ...

2026年9月22日 · 10 分 · 4693 文字 · Negi AI Lab
AI generated thumbnail

Claude CodeとCursorを併用してAPI連携ツールを爆速で開発する方法

所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの この記事では、Cursorでプロジェクトの全体構造を設計し、Claude Codeに複雑なロジック実装を任せる手法で「OpenWeatherMap APIと連携して、特定の天候時にSlackへ通知を送るPythonスクリプト」を完成させます。 ...

2026年9月21日 · 9 分 · 4354 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIでChatGPT風のローカルLLM環境を作る方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの 自分のPC内で完結し、外部へデータが漏洩しない「自分専用のChatGPT」環境を構築します。 前提知識:Dockerの基本的なコマンド(run, ps程度)がわかり、ターミナル操作に抵抗がないこと。 必要なもの:NVIDIA製GPUを搭載したWindows/Linux PC、またはM1以降のチップを搭載したMac。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月21日 · 8 分 · 3893 文字 · Negi AI Lab
AI generated thumbnail

PythonとOllamaで実用的なローカルRAGシステムを構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの ローカルPC内のPDFファイルを読み込み、その内容についてAIと対話できるPythonスクリプトを作ります。 外部API(OpenAI等)を一切使わず、機密情報をネットに流さない「完全オフラインRAG」の実装です。 前提知識として、Pythonの基本的な文法(importや関数の定義)を理解している必要があります。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年9月20日 · 10 分 · 4704 文字 · Negi AI Lab
AI generated thumbnail

RadeonでローカルLLMを動かすROCm環境構築とAPIサーバー作成

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの AMD製GPU(Radeon)の性能を最大限に引き出し、Llama 3やGemma 2などの最新AIモデルを爆速で動かすローカルAPIサーバーを構築します。 Pythonからこのサーバーを呼び出し、RadeonのVRAMをフル活用して推論処理を行うスクリプトまでを完成させます。 ...

2026年9月20日 · 9 分 · 4240 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUFでローカルLLMを爆速にする環境構築ガイド

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの この記事では、llama.cppとGGUF形式のモデルを組み合わせて、手元のPC(Windows/Mac)でLlama 3 8Bなどの最新AIを爆速で動かすPythonスクリプトを構築します。 クラウド経由のAPI(OpenAI等)を一切使わず、完全にオフラインで動作し、1秒間に50トークン以上の速度でレスポンスを返す環境を、あなたのPCの中に作り上げることがゴールです。 ...

2026年9月19日 · 9 分 · 4221 文字 · Negi AI Lab
AI generated thumbnail

Qdrant 使い方 Python ベクトルデータベース入門

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの OpenAIのEmbedding APIとベクトルデータベース「Qdrant」を組み合わせて、数千件のドキュメントから瞬時に「意味」で情報を引き出す検索スクリプトを作ります。 Pythonを使って、データのベクトル化からデータベースへの保存、そして検索の実行までを一つのパイプラインとして実装します。 ...

2026年9月19日 · 10 分 · 4891 文字 · Negi AI Lab
AI generated thumbnail

MLXでApple SiliconにローカルLLMを導入する方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple Silicon(M1/M2/M3/M4)のパワーを最大限に引き出すフレームワーク「MLX」を使い、最新のLLM(Qwen2.5等)とチャットができるPythonスクリプトを構築します。 Pythonの基礎(pipインストールやスクリプト実行)ができること Apple Silicon搭載のMacを使用していること Hugging FaceのモデルをMac上で直接動かし、ブラウザを介さずオフラインで回答を得る 先に確認するスペック・料金 ローカルLLMを動かす上で、最も重要なのは「メモリ(ユニファイドメモリ)」の容量です。Apple Siliconの最大の特徴はCPUとGPUがメモリを共有している点で、MLXはこの仕組みをフルに活用します。 ...

2026年9月18日 · 9 分 · 4178 文字 · Negi AI Lab