Hallucination
ハルシネーション
モデルの生成結果がもっともらしく見えても、関連する証拠や文脈、外部の事実に照らして、誤っている、裏付けがない、または整合していない状態です。
ARC-V1-010
例
実在しない論文名や著者名を作り、その研究結果を本物の情報であるかのように説明する。
区別・注意
ハルシネーションは、すべてのAIの誤りを指す言葉ではありません。文献によって、外部の事実との不一致と、与えられた資料や文脈への不忠実さを別の種類として扱うことがあります。事実性、忠実性、根拠整合性は近接していますが、完全な同義語ではありません。
未解明・注意点
「Hallucination」という語の範囲や、発生原因をどう分類するかについて、研究分野全体で一つの統一された定義や因果分類が確立しているわけではありません。
用語上の注意
`Confabulation` や `Fabrication` は近接して使われることがありますが、このCatalogでは現時点でHallucinationの完全な同義語として固定しません。
Evidence
Evidenceを見る →
Survey of Hallucination in Natural Language Generation
SRC-F02-002
- タイトル
- Survey of Hallucination in Natural Language Generation
- 著者・組織
- Ji et al.
- 年
- 2023
- 種別
- ACM Computing Surveys major peer-reviewed survey
- 公開状態
- published
- 対応する用語・主張
- Hallucination terminology/taxonomy, factuality/faithfulness boundaries
- 範囲
- major survey。複数taskの用法を統合するため境界は意図的に広い。
- アクセス・版
- published survey。
- URL / DOI
- 10.1145/3571730
On Faithfulness and Factuality in Abstractive Summarization
SRC-F02-003
- タイトル
- On Faithfulness and Factuality in Abstractive Summarization
- 著者・組織
- Maynez et al.
- 年
- 2020
- 種別
- ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Faithfulness, Factuality, Hallucination boundary
- 範囲
- summarization中心だがsource-vs-world distinctionの強い基礎Evidence。
- アクセス・版
- published ACL。
- URL / DOI
- 10.18653/v1/2020.acl-main.173
Evaluating large language models for accuracy incentivizes hallucinations
SRC-F01-012
- タイトル
- Evaluating large language models for accuracy incentivizes hallucinations
- 著者・組織
- Kalai et al.
- 年
- 2026
- 種別
- Nature original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Accuracy, Abstention, Hallucination, evaluation incentives
- 範囲
- formal model + selected frontier-model case study。utilityはuse case依存。
- アクセス・版
- published Nature。
- URL / DOI
- 10.1038/s41586-026-10549-w
Detecting hallucinations in large language models using semantic entropy
SRC-F01-007
- タイトル
- Detecting hallucinations in large language models using semantic entropy
- 著者・組織
- Farquhar et al.
- 年
- 2024
- 種別
- Nature original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Uncertainty Estimation, Abstention, Hallucination
- 範囲
- semantic-equivalence clusteringとsamplingを要し、cost/setting依存。
- アクセス・版
- published Nature。
- URL / DOI
- 10.1038/s41586-024-07421-0
Chain-of-Verification Reduces Hallucination in Large Language Models
SRC-F02-010
- タイトル
- Chain-of-Verification Reduces Hallucination in Large Language Models
- 著者・組織
- Dhuliawala et al.
- 年
- 2024
- 種別
- Findings ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Verification; hallucination mitigation
- 範囲
- self-/model-based verification。外部ground truthを保証しない。
- アクセス・版
- published ACL Findings。
- URL / DOI
- 10.18653/v1/2024.findings-acl.212
Verify with Caution: The Pitfalls of Relying on Imperfect Factuality Metrics
SRC-F02-011
- タイトル
- Verify with Caution: The Pitfalls of Relying on Imperfect Factuality Metrics
- 著者・組織
- Godbole & Jia
- 年
- 2025
- 種別
- Findings ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Verification limitations, factuality metric disagreement
- 範囲
- studied factuality metrics/datasetsに依存。
- アクセス・版
- published ACL Findings。
- URL / DOI
- 10.18653/v1/2025.findings-acl.1175
Astute RAG: Overcoming Imperfect Retrieval Augmentation and Knowledge Conflicts for Large Language Models
SRC-F02-012
- タイトル
- Astute RAG: Overcoming Imperfect Retrieval Augmentation and Knowledge Conflicts for Large Language Models
- 著者・組織
- Wang et al.
- 年
- 2025
- 種別
- ACL original peer-reviewed research
- 公開状態
- published
- 対応する用語・主張
- Retrieval Failure, RAG, Knowledge Conflict
- 範囲
- controlled RAG analyses。全retrievers/domainsへの万能推論は不可。
- アクセス・版
- published ACL。
- URL / DOI
- 10.18653/v1/2025.acl-long.1476