AI generated thumbnail

MLX入門:Apple SiliconでローカルLLMを爆速で動かす方法

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの Apple製の機械学習フレームワーク「MLX」を使い、Mac上でLlama 3などの最新LLMを動作させる対話型Pythonスクリプトを作成します。 Pythonの基本的な読み書きができ、ターミナルでコマンドを打つことに抵抗がなければ、誰でもMacを「自分専用のAIサーバー」に変えられます。 外部API(OpenAIなど)を一切使わず、完全にオフラインでレスポンスが返ってくる環境を目指します。 ...

2026年8月19日 · 10 分 · 4531 文字 · Negi AI Lab
AI generated thumbnail

16GB VRAMでQwen 2.5 32Bを73kコンテキストで動かすllama.cpp最適化設定

所要時間: 約30分 | 難易度: ★★★★☆ この記事で作るもの 16GBのVRAM(RTX 4060 TiやRTX 3080/4070クラス)を限界まで使い切り、30Bクラスの大型LLMで73,000トークンの長大なコンテキストを実現する推論環境 AiderやCursor等のコーディングエージェントから呼び出し、プロジェクト全体のコードを読み込ませても破綻しないバックエンドサーバー 前提知識:ターミナルの基本操作、Python環境(miniconda等)の構築経験、Hugging Faceからのモデルダウンロード方法 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月18日 · 8 分 · 4001 文字 · Negi AI Lab
AI generated thumbnail

Claude CodeとCursorを併用して爆速でWebアプリを開発する方法

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの CursorでUIの骨組みを作り、Claude Codeで複雑なビジネスロジックとデータベース連携、そしてテストコードを一気に実装した「Next.js製のタスク管理ツール(Prisma使用)」を構築します。 エディタの直感的な操作と、CLIエージェントの自律的な実行能力を組み合わせた、2025年最新のAIコーディングフローを体験してください。 ...

2026年8月18日 · 9 分 · 4339 文字 · Negi AI Lab
AI generated thumbnail

AIエージェントをDockerで安全に動かすサンドボックス構築方法

所要時間: 約45分 | 難易度: ★★★☆☆ この記事で作るもの LLMが生成したPythonコードを、メイン環境から隔離されたDockerコンテナ内で実行し、結果を安全に回収する「サンドボックス・エグゼキューター」を構築します。 OpenAI APIやAnthropic APIと連携させ、AIがファイル操作や計算を伴うタスクを自分のPCを壊すリスクなしに実行できる環境を整えます。 前提知識として、Pythonの基本的な文法と、Dockerのインストールが済んでいることを想定しています。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月17日 · 10 分 · 4631 文字 · Negi AI Lab
AI generated thumbnail

MLX 使い方 入門 (Apple Silicon搭載MacでLLMを動かす方法)

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの Apple公式の機械学習フレームワーク「MLX」を利用して、MacのGPU性能を限界まで引き出し、Llama 3やQwen2.5といった最新LLMを高速に動かすPythonスクリプトを構築します。 Pythonの基礎知識があれば、外部APIに1円も払わず、プライバシーを完全に守った状態で自分専用のAIチャット環境が手に入ります。 この記事では環境構築から、実用的なストリーミング出力の実装までを解説します。 ...

2026年8月17日 · 8 分 · 4007 文字 · Negi AI Lab
AI generated thumbnail

Qwen-3.8-27Bをローカル環境で動かし、長文コンテキストにも対応した実用的なチャットUIを構築します。

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Qwen-3.8-27BをGGUF形式で量子化し、VRAM 24GB以下のConsumer向けGPUで高速動作させるPythonスクリプト 業務利用を想定した「システムプロンプトの注入」と「ストリーミング出力」を実装したチャットインターフェース GPUのメモリ割り当てを最適化し、長文入力でもトークン生成速度を維持する設定方法 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月16日 · 9 分 · 4391 文字 · Negi AI Lab
AI generated thumbnail

RTX3090・4090でQwen2.5-27Bを動かす方法

所要時間: 約40分 | 難易度: ★★★★☆ この記事で作るもの 24GBのVRAMをフル活用し、Qwen2.5-27B(4-bit量子化)をローカル環境で高速に推論させるPythonスクリプト 外部APIに頼らず、機密情報を扱えるプライベートなチャットUIの基盤 モデルのロード、ストリーミング出力、VRAM使用量の最適化設定 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月16日 · 9 分 · 4412 文字 · Negi AI Lab
AI generated thumbnail

llama.cppとGGUF量子化でローカルLLM環境を構築する方法

所要時間: 約40分 | 難易度: ★★★☆☆ この記事で作るもの Llama 3.1などの最新モデルをローカルPCで「OpenAI互換APIサーバー」として立ち上げ、Pythonから呼び出すシステム。 外部APIに1円も払わず、機密情報を一切外に出さない推論環境を構築します。 Pythonの基礎(pip installができる程度)と、コマンドライン操作の抵抗がなければ完結できます。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月15日 · 9 分 · 4177 文字 · Negi AI Lab
AI generated thumbnail

OllamaとOpen WebUIで自分専用のローカルChatGPT環境を構築する方法

所要時間: 約30分 | 難易度: ★★☆☆☆ この記事で作るもの インターネット接続不要で、ChatGPTと同等のUIを備えたプライバシー重視のAIチャット環境を構築します。 前提知識:基本的なコマンド操作(コピペでOK)と、Dockerの概念をなんとなく理解していること。 必要なもの:NVIDIA製GPUを搭載したWindows/Linux PC、またはApple Silicon搭載のMac。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年8月15日 · 9 分 · 4030 文字 · Negi AI Lab
AI generated thumbnail

llama.cpp 使い方 入門!GGUF量子化モデルをローカルPCで動かす実践ガイド

所要時間: 約40分 | 難易度: ★★☆☆☆ この記事で作るもの 自分のPC(Windows/Mac/Linux)上で、オープンソースのLLMを「API料金ゼロ」で動かす推論サーバーを構築します。 具体的には、llama.cppをビルドし、Llama 3やMistralなどのGGUF形式モデルを読み込んで、ブラウザやPythonからチャットができる状態まで進めます。 Pythonの基礎知識と、ターミナルでコマンドを数行打つ覚悟があれば十分です。 ...

2026年8月14日 · 10 分 · 4789 文字 · Negi AI Lab