Uncertainty Estimation
不確実性推定
モデルの出力がどの程度不確かかを、確率分布、複数回の出力差、意味のばらつき、複数の出力や手法を組み合わせるアンサンブルなどから推定・定量化する方法の総称です。
ARC-V1-005
別名: Uncertainty Quantification、UQ
例
同じ質問に複数回答させたところ、ほぼ同じ答えに集まる場合と、内容が大きく分かれる場合があった。その違いを不確実性の手掛かりとして使う。
区別・注意
確信度は一つの回答に付けるスコアや表現ですが、不確実性推定は不確かさを得るための**方法や処理**です。また、推定した不確実性が実際の誤りやすさと適切に対応しているかは、キャリブレーションの問題です。
未解明・注意点
手法ごとに測っている不確実性の種類は異なります。自由記述、長文、多言語、エージェント型の利用で、異なる手法の値をどこまで直接比較できるかは未確立です。
Evidence
Evidenceを見る →
Bayesian Prompt Ensembles: Model Uncertainty Estimation for Black-Box Large Language Models
SRC-F01-005
- タイトル
- Bayesian Prompt Ensembles: Model Uncertainty Estimation for Black-Box Large Language Models
- 著者・組織
- Tonolini et al.
- 年
- 2024
- 種別
- Findings ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Uncertainty Estimation, prompt uncertainty
- 範囲
- Natural-language classification中心、小規模labeled validation setを使う。
- アクセス・版
- published ACL Findings。
- URL / DOI
- 10.18653/v1/2024.findings-acl.728
Detecting hallucinations in large language models using semantic entropy
SRC-F01-007
- タイトル
- Detecting hallucinations in large language models using semantic entropy
- 著者・組織
- Farquhar et al.
- 年
- 2024
- 種別
- Nature original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Uncertainty Estimation, Abstention, Hallucination
- 範囲
- semantic-equivalence clusteringとsamplingを要し、cost/setting依存。
- アクセス・版
- published Nature。
- URL / DOI
- 10.1038/s41586-024-07421-0