AIへの過信（Overreliance） | AI Reliability Catalog

例

AIの回答に根拠が少ないと表示されているのに、利用者が内容を確認せず、そのまま重要な判断に使った。

AIを頻繁に使うことだけで、Overrelianceになるわけではありません。状況に応じた適切な信頼の置き方を越えているかが焦点です。Human Oversightは人間が監督・介入する仕組みであり、Verificationは出力を確認する過程なので、いずれも過信と同一ではありません。

妥当な信頼の範囲は、AIの性能だけでなく、課題の影響度、不確実性、利用者、確認手段などの状況によって変わります。

Evidenceを見る →

SRC-F06-002

タイトル: Artificial Intelligence Risk Management Framework: Generative AI Profile
著者・組織: NIST
年: 2024
種別: Government official technical publication
公開状態: PUBLISHED
対応する用語・主張: Overreliance, automation bias, oversight
範囲: GenAI risk management
限界: Contextual risk guidance
アクセス・版: Published official source
URL / DOI: 10.6028/NIST.AI.600-1

SRC-F06-005

SRC-F06-006

タイトル: Explainability does not mitigate the negative impact of incorrect AI advice...
著者・組織: UNKNOWN
年: 2024
種別: Peer-reviewed / Scientific Reports
公開状態: PUBLISHED
対応する用語・主張: Overreliance, explanation limitation
範囲: Personnel-selection task
限界: Task-specific
アクセス・版: Author or organization recorded as UNKNOWN
URL / DOI: 10.1038/s41598-024-60220-5

SRC-F06-001