AIGC 生成的内容为什么常常细节出错?
AIGC 生成内容里的细节错误,通常不是简单的“记忆力差”,而是生成机制和使用场景共同造成的。
大语言模型主要根据上下文预测下一个词(或词元),目标是生成连贯、符合语境的文本,并不等同于先查证事实再作答。训练中学到的是大量文本里的统计规律;当问题要求具体日期、数字、出处、人物关系或某个冷门事实时,模型可能把相似材料中的线索拼在一起,给出听起来合理、实际却不准确的细节。这类现象常被称为“幻觉”。
错误更容易出现在信息稀少或过时、问题含糊、前提有误、要求精确引用,以及答案需要多步推理的情况下。上下文窗口有限、检索材料质量不佳或模型把检索内容理解错,也会带来偏差。即使表述很肯定、结构很完整,也不能据此判断事实可靠;流畅度和真实性是两回事。
减少这类问题,可以把任务拆成可核验的问题,并提供权威材料,要求模型区分“材料明确写出”和“推测”,对不确定处说明不知道。涉及关键事实时,应核对原始来源,尤其检查数字、日期、引文和链接;检索增强能提供依据,但仍需确认引用是否真的支持结论。若用于业务流程,最好把生成限定在给定资料范围内,并设置人工复核,而不是把模型输出直接当作事实数据库。