AI generated thumbnail

ローカルLLMを安く速く動かすDeepSeekの衝撃。失敗しないGPUとMacの選び方比較

3行要約 DeepSeek-V3やKimi K3の「魔法」は計算効率の極致にあり、少ないVRAMで巨大モデルを回せる。 ローカルLLM環境は、最低でもVRAM 16GB(RTX 4060 Ti)か、統一メモリ32GB以上のMacが必須。 業務で「DeepSeek-R1」クラスを快適に動かすなら、RTX 4090の1枚挿し、またはMac Studioへの投資が最短ルート。 📦 この記事に関連する商品(楽天メインで価格確認) ...

2026年7月21日 · 8 分 · 3901 文字 · Negi AI Lab
AI generated thumbnail

DeepSeek-V3の爆速通信を支えるDeepEP V2とTileKernelsの使い方

所要時間: 約45分 | 難易度: ★★★★☆ この記事で作るもの DeepSeekが公開した最新の通信ライブラリ「DeepEP V2」をビルドし、GPU間のAll-to-All通信速度を計測するベンチマーク環境を構築します。 前提知識: Pythonの基本操作、Linux(Ubuntu)のコマンド操作、DockerまたはCUDA環境の構築経験があること。 必要なもの: NVIDIA GPU(2枚以上推奨)、CUDA Toolkit 12.1以上、C++コンパイラ。 📦 この記事に関連する商品 ...

2026年4月23日 · 7 分 · 3504 文字 · Negi AI Lab
AI generated thumbnail

Claude 3.5 Sonnetのアイデンティティを検証しモデルの汚染を確認するスクリプト

所要時間: 約30分 | 難易度: ★★★☆☆ この記事で作るもの Claude 3.5 Sonnetに対して特定の言語やプロンプトを用いて「アイデンティティの混乱」を引き起こし、モデルの学習データに他社モデル(DeepSeek-V3等)の回答が混入していないかを自動判定する検証スクリプトを作成します。 PythonからAnthropic APIを叩き、システムプロンプトの制約をすり抜けて「モデルの素性」を告白させるための自動化コードを実装します。 前提知識として、Pythonの基本的な文法と、環境変数の設定方法を理解している必要があります。 必要なものは、Anthropic APIキー(クレジットが残っているもの)と、Python 3.10以上の実行環境です。 📦 この記事に関連する商品 ...

2026年2月24日 · 8 分 · 3852 文字 · Negi AI Lab