1. 核心结论

• 幻觉（Hallucination）是 LLM 生成看似合理但错误内容的现象
• 不确定性量化有助于判断模型输出的可信度
• RAG、事实核查和引用来源是缓解幻觉的有效方法

2. 基础概念

幻觉：模型生成与事实不符或凭空捏造的内容 事实性：模型输出与真实世界知识的一致程度 不确定性：模型对自身输出的置信程度 幻觉检测：自动识别模型输出中幻觉内容的技术

3. 实战场景

• 知识库问答的事实核查
• 医疗/法律等高风险场景
• 自动报告生成
• 信息摘要

4. 关联笔记

• 幻觉问题
• RAG基础
• 安全边界