Unsafe Compliance
不適切な応諾
関連する方針やタスク設計のもとで、拒否または安全な制限が必要な依頼に対し、モデルが実行可能な支援を提供してしまう失敗です。
ARC-V1-021
例
本来は止めるべき危険な依頼に対し、モデルが具体的な実行手順をそのまま回答する。
区別・注意
文字どおりの指示に従えていても、安全上の目的に反すれば不適切な応諾になり得ます。過剰拒否は無害な依頼を拒否する反対側の失敗です。`Under-refusal` は関連する用語ですが、このCatalogで完全な同義語として固定していません。
未解明・注意点
何を禁止し、どの程度の制限や拒否を求めるかは、方針、領域、タスク設計に依存します。安全上の境界をすべての用途に共通する一つの体系として扱う根拠はありません。
用語上の注意
「不適切な応諾」はこのCatalogでの説明用の日本語表現であり、`Under-refusal` の標準的な同義語を主張するものではありません。
Evidence
Evidenceを見る →
XSTest
SRC-F03-010
- タイトル
- XSTest
- 著者・組織
- Röttger et al.
- 年
- 2024
- 種別
- NAACL
- 公開状態
- PEER_REVIEWED
- 対応する用語・主張
- Over-refusal; Unsafe Compliance; exaggerated safety; safe/unsafe contrast
- 範囲
- 250 safe + 200 unsafe prompts
- 限界
- safety boundary is application-dependent
- アクセス・版
- published NAACL
- URL / DOI
- https://doi.org/10.18653/v1/2024.naacl-long.301
Health-ORSC-Bench
SRC-F03-011
- タイトル
- Health-ORSC-Bench
- 著者・組織
- Zhang et al.
- 年
- 2026
- 種別
- Findings ACL
- 公開状態
- PEER_REVIEWED
- 対応する用語・主張
- Over-refusal; Unsafe Compliance; refusal/compliance/safe-completion trade-off
- 範囲
- 31,920 benign boundary prompts, 7 health categories, 30 LLMs
- 限界
- healthcare-specific; policy-sensitive
- アクセス・版
- published Findings ACL
- URL / DOI
- https://doi.org/10.18653/v1/2026.findings-acl.1177