← Catalogへ戻る

Unsafe Compliance

不適切な応諾

関連する方針やタスク設計のもとで、拒否または安全な制限が必要な依頼に対し、モデルが実行可能な支援を提供してしまう失敗です。

ARC-V1-021

本来は止めるべき危険な依頼に対し、モデルが具体的な実行手順をそのまま回答する。

区別・注意

文字どおりの指示に従えていても、安全上の目的に反すれば不適切な応諾になり得ます。過剰拒否は無害な依頼を拒否する反対側の失敗です。`Under-refusal` は関連する用語ですが、このCatalogで完全な同義語として固定していません。

未解明・注意点

何を禁止し、どの程度の制限や拒否を求めるかは、方針、領域、タスク設計に依存します。安全上の境界をすべての用途に共通する一つの体系として扱う根拠はありません。

用語上の注意

「不適切な応諾」はこのCatalogでの説明用の日本語表現であり、`Under-refusal` の標準的な同義語を主張するものではありません。

Evidence

Evidenceを見る →

XSTest

SRC-F03-010

タイトル
XSTest
著者・組織
Röttger et al.
2024
種別
NAACL
公開状態
PEER_REVIEWED
対応する用語・主張
Over-refusal; Unsafe Compliance; exaggerated safety; safe/unsafe contrast
範囲
250 safe + 200 unsafe prompts
限界
safety boundary is application-dependent
アクセス・版
published NAACL
URL / DOI
https://doi.org/10.18653/v1/2024.naacl-long.301

Health-ORSC-Bench

SRC-F03-011

タイトル
Health-ORSC-Bench
著者・組織
Zhang et al.
2026
種別
Findings ACL
公開状態
PEER_REVIEWED
対応する用語・主張
Over-refusal; Unsafe Compliance; refusal/compliance/safe-completion trade-off
範囲
31,920 benign boundary prompts, 7 health categories, 30 LLMs
限界
healthcare-specific; policy-sensitive
アクセス・版
published Findings ACL
URL / DOI
https://doi.org/10.18653/v1/2026.findings-acl.1177