Human Oversight
人間による監督
AIシステムの運用や判断の過程で、人間が監視、確認、承認、差し戻し、介入、停止、または上書きを行う役割・仕組みです。
ARC-V1-048
例
影響の大きい処理を実行する前に、人間が内容を確認して承認または差し戻しを行う。
区別・注意
Human Oversightが設けられていても、安全や正しさが保証されるわけではありません。効果は、介入のタイミング、担当者の知識や注意、負荷、画面の情報、停止・差し戻しの権限などに左右されます。人間が評価データを採点することや、AI出力を過信しないこととも同一ではありません。
Evidence
Evidenceを見る →
AI Risk Management Framework 1.0
SRC-F06-001
- タイトル
- AI Risk Management Framework 1.0
- 著者・組織
- NIST
- 年
- 2023
- 種別
- Government official technical publication
- 公開状態
- PUBLISHED
- 対応する用語・主張
- Human Oversight, roles, challenge/override context
- 範囲
- Broad risk framework
- 限界
- Not an experimental effect estimate
- アクセス・版
- Published official source
- URL / DOI
- 10.6028/NIST.AI.100-1
Artificial Intelligence Risk Management Framework: Generative AI Profile
SRC-F06-002
- タイトル
- Artificial Intelligence Risk Management Framework: Generative AI Profile
- 著者・組織
- NIST
- 年
- 2024
- 種別
- Government official technical publication
- 公開状態
- PUBLISHED
- 対応する用語・主張
- Overreliance, automation bias, oversight
- 範囲
- GenAI risk management
- 限界
- Contextual risk guidance
- アクセス・版
- Published official source
- URL / DOI
- 10.6028/NIST.AI.600-1