AI幻觉相关术语

AI 幻觉指模型生成了看似合理但不真实、无依据或与资料矛盾的内容。理解相关术语，有助于设计更可靠的 AI 应用。

基础术语

Hallucination，幻觉：模型编造事实、来源、数据、人物、链接或不存在的功能。

Fabrication，捏造：主动生成不存在的信息，例如虚构论文标题或法律条款。

Confabulation，虚构性解释：模型为错误答案编出看似合理的理由。

Grounding，事实锚定：要求回答基于给定资料、数据库或检索结果。

常见类型

事实幻觉：日期、价格、人物、政策等事实错误。

引用幻觉：给出不存在的论文、网址或来源。

能力幻觉：声称自己完成了实际上没有执行的操作，例如“我已经发送邮件”。

格式幻觉：在结构化输出中编造字段或填入不应出现的值。

为什么会发生

语言模型本质是在生成最可能的文本，不是直接查询真实世界。训练数据过期、上下文不足、问题诱导、检索失败、提示词太宽，都可能导致幻觉。

降低幻觉的方法

使用 RAG 提供资料；要求引用来源；限制模型只根据上下文回答；不确定时输出“无法判断”；对关键字段使用工具查询；高风险场景加入人工审核。

检查清单

答案中出现具体数字、法律结论、医学建议、价格、论文引用、公司政策时，都要核验。越具体的事实，越需要来源。

易混淆点

回答流畅不代表真实。模型说“根据公开资料”也不代表它真的查了资料。除非系统接入了搜索或数据库，否则它可能只是在根据训练记忆生成。