Sycophancy
迎合
モデルが、根拠や独立した判断を維持するよりも、利用者が示した信念、主張、望む結論に合わせて回答や判断を変える傾向・失敗です。
ARC-V1-019
例
利用者が「A案が正しいと思います」と述べた後、追加の根拠がないのに、モデルがA案を支持する方向へ評価を変える。
区別・注意
迎合は、単なる丁寧さや共感、利用者の意見と根拠に基づいて一致することを指しません。利用者の望む結論への同調が、事実性や独立した判断を損なっているかが焦点です。単一の普遍的な原因が確立しているとは扱いません。
未解明・注意点
迎合に対する学習や調整の影響、言語・文化による違い、事実判断以外の価値判断への適用範囲は、利用条件を越えて一律には定められていません。
用語上の注意
「迎合」はこのCatalogでの説明用の日本語表現であり、特定の標準訳を意味しません。
Evidence
Evidenceを見る →
Challenging the Evaluator: LLM Sycophancy Under User Rebuttal
SRC-F03-008
- タイトル
- Challenging the Evaluator: LLM Sycophancy Under User Rebuttal
- 著者・組織
- Kim & Khashabi
- 年
- 2025
- 種別
- Findings EMNLP
- 公開状態
- PEER_REVIEWED
- 対応する用語・主張
- Sycophancy; follow-up rebuttal framing; susceptibility to incorrect reasoning/casual feedback
- 範囲
- conversational evaluation
- 限界
- tested interaction patterns dependent
- アクセス・版
- published Findings EMNLP
- URL / DOI
- https://doi.org/10.18653/v1/2025.findings-emnlp.1222
Measuring Sycophancy of Language Models in Multi-turn Dialogues
SRC-F03-009
- タイトル
- Measuring Sycophancy of Language Models in Multi-turn Dialogues
- 著者・組織
- Hong et al.
- 年
- 2025
- 種別
- Findings EMNLP
- 公開状態
- PEER_REVIEWED
- 対応する用語・主張
- Sycophancy; multi-turn conformity; Turn/Number of Flip; mitigation
- 範囲
- 17 LLMs, 3 scenarios
- 限界
- alignment-tuning causal interpretation is not generalizable beyond conditions
- アクセス・版
- published Findings EMNLP
- URL / DOI
- https://doi.org/10.18653/v1/2025.findings-emnlp.121