
プロンプトインジェクション防御をLLMアプリケーションに実装する方法
この記事で学べること プロンプトインジェクションの仕組みと、なぜ従来のバリデーションでは不十分なのかという現実 デリミタ(区切り文字)とXMLタグを用いた入力分離の具体的手法 プロンプトレベルとコードレベルの二段構えによる防御実装 前提条件 Python 3.10以上がインストールされていること OpenAI APIキー(またはそれに準ずるLLM実行環境)があること 「LLMは常に騙される可能性がある」という健全な不信感を持っていること Step 1: 環境準備 まず、検証用の環境を構築する。LLMを直接叩くためのライブラリをインストールし、セキュアなコードを書くためのディレクトリ構造を作成する。 ...
