過剰なエージェンシー

例

候補を示すだけの依頼なのに、仕組みが利用者の確認なしで外部へ送信する権限まで持っていた。

区別・注意

AI Agentは複数段階で環境やツールとやり取りするシステムの整理語であり、Excessive Agencyはその権限や外部作用の範囲が必要以上かというリスクの観点です。指定目標とのずれであるGoal Misalignmentや、安全上の制約を越えて依頼に応じるUnsafe Complianceとも区別します。モデルを人間のような意図の主体として説明する用語ではありません。

用語上の注意

「過剰なエージェンシー」は、このカタログで機能、権限、自律的な作用範囲を説明するためのプロジェクト内の暫定的な表現です。何が過剰かは、タスク、リスク、権限設計、運用環境によって変わります。

関連用語

• AI Agent — 環境やツールと複数段階でやり取りするAIシステム
• Human Oversight — 人間が運用や判断を監督すること
• Goal Misalignment — 指定された目標と実際の行動のずれ
• Unsafe Compliance — 安全上の制約が必要な依頼に実行可能な支援を提供する失敗

Evidence