間接プロンプトインジェクション

例

文書検索で取得した資料に回答とは無関係な操作を促す文が埋め込まれており、モデルがその文を利用者の指示と同じように扱った。

区別・注意

Prompt Injectionのうち、外部文書、検索結果、メール、ファイル、ツールの返り値など、外部または信頼されていないコンテンツを経由して指示が届く点が特徴です。単に外部文書に不正確な内容があるだけでは、間接プロンプトインジェクションとは限りません。RAGやツールを使う構成で起こり得ますが、RAGそのものやツールの汚染と同義ではありません。

関連用語

• Prompt Injection — 指示や制御の境界を乱す、より広い問題
• Retrieval-Augmented Generation — 取得情報を生成に利用する構成
• Retrieval Failure — 必要な情報を取得できない、または不適切な情報を取得する失敗
• Unsafe Compliance — 安全上の制約が必要な依頼に応じてしまう失敗

Evidence