Knowledge Conflict
知識競合
モデルが内部に持つ知識と、プロンプトや検索で与えられた文脈・外部情報が互いに食い違う状態です。
ARC-V1-015
例
提示された手順書では受付条件が変更されているのに、モデルが以前の知識を優先して古い条件を回答する。
区別・注意
知識競合は、異なる情報源の食い違いという条件を指し、必要な情報を取得できない検索・取得失敗そのものではありません。どの情報を優先するのが正しいかは、タスクや利用目的によって異なり、常に一つの規則で決められるとは限りません。
未解明・注意点
知識が競合したときの適切な優先順位を、タスクに依存せず一律に定められるかは未確立です。
Evidence
Evidenceを見る →
Discerning and Resolving Knowledge Conflicts through Adaptive Decoding with Contextual Information-Entropy Constraint
SRC-F02-009
- タイトル
- Discerning and Resolving Knowledge Conflicts through Adaptive Decoding with Contextual Information-Entropy Constraint
- 著者・組織
- Yuan et al.
- 年
- 2024
- 種別
- Findings ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Knowledge Conflict; contextual vs parametric knowledge
- 範囲
- conflict datasets/decoding methodに依存。
- アクセス・版
- published ACL Findings。
- URL / DOI
- 10.18653/v1/2024.findings-acl.234
FaithfulRAG: Fact-Level Conflict Modeling for Context-Faithful Retrieval-Augmented Generation
SRC-F02-008
- タイトル
- FaithfulRAG: Fact-Level Conflict Modeling for Context-Faithful Retrieval-Augmented Generation
- 著者・組織
- Zhang et al.
- 年
- 2025
- 種別
- ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Grounding, Faithfulness, Knowledge Conflict, RAG limitations
- 範囲
- conflict-focused RAG setting。strict context adherenceにもfailure modeがある。
- アクセス・版
- published ACL。
- URL / DOI
- 10.18653/v1/2025.acl-long.1062
Task Matters: Knowledge Requirements Shape LLM Responses to Context–Memory Conflict
SRC-F02-014
- タイトル
- Task Matters: Knowledge Requirements Shape LLM Responses to Context–Memory Conflict
- 著者・組織
- Sun et al.
- 年
- 2026
- 種別
- Findings ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Knowledge Conflict, task-dependence, context/parametric reliance
- 範囲
- tested task/model setに依存。desired behaviorはtaskによって異なる。
- アクセス・版
- published ACL Findings。
- URL / DOI
- 10.18653/v1/2026.findings-acl.202