AI幻觉问题解析

AI 幻觉指模型生成了看起来合理但实际上错误、无依据或无法验证的内容。它是大语言模型应用中必须认真对待的问题。

幻觉长什么样

常见幻觉包括：

• 编造不存在的论文、链接或法律条文；
• 把两个相似事实混在一起；
• 给出错误数字但语气很肯定；
• 误解用户问题后继续生成；
• 在资料不足时强行回答。

危险之处在于，幻觉通常写得很流畅，让人不容易察觉。

为什么会产生幻觉

大语言模型的训练目标是生成符合上下文概率的文本，而不是天然连接一个事实数据库。它会根据已有模式补全内容。当问题缺少信息、上下文冲突或模型不知道答案时，它仍可能生成一个“像答案的答案”。

这不是简单的 bug，而是生成式模型的结构性风险。

一个例子

你问模型：“请列出某某公司 2026 年内部 AI 战略文件的三条重点。”如果这个文件并不存在，模型可能仍然编出三条听起来合理的战略，例如“加强多模态布局”“建设智能体平台”等。

这些话可能符合行业趋势，但不是事实。

哪些场景最容易出幻觉

• 最新信息；
• 小众专业资料；
• 要求引用来源；
• 法律、医疗、金融等高风险领域；
• 用户问题本身含糊；
• 提示词要求模型“必须给答案”。

越是要求精确事实，越要谨慎验证。

如何降低幻觉

1. 给模型提供可靠资料，不让它凭空猜。
2. 要求回答时标注依据。
3. 允许模型说“不知道”或“资料不足”。
4. 使用 RAG 检索企业知识库或权威来源。
5. 对关键数字、链接、引用做程序校验。
6. 高风险输出必须人工审核。

提示词示例

请只根据我提供的资料回答。
如果资料中没有答案，请明确说“资料中未提到”，不要补充猜测。
回答后列出使用了哪几条资料作为依据。

这种提示不能彻底消除幻觉，但能降低模型编造的概率。

幻觉和创造力的区别

写小说、广告创意、头脑风暴时，模型自由发挥可能是优点。但在合同审查、药物剂量、财务报表、政策解释中，自由发挥就是风险。

所以判断幻觉是否严重，要看任务类型。事实型任务必须严格，创意型任务可以宽松。

小结

AI 幻觉不是偶发现象，而是生成式模型必须管理的风险。正确做法不是完全不用 AI，而是为不同场景设计资料、引用、校验和人工审核机制。