有趣的事

AIGC 生成的内容为什么会看似通顺却事实错误?

AIGC 的语言模型主要是根据上下文预测“下一个最可能出现的词”,训练目标偏向生成连贯、符合语境的表达,并不等同于逐条检索和核验事实。因此它可以把语法、语气和论证结构组织得很自然,却在日期、数字、人物、因果关系或出处上出错。特别是问题含糊、涉及冷门或最新信息、要求精确引用,或模型缺少可靠资料时,它可能把相近知识拼接起来,甚至补出看似合理但不存在的细节。模型通常也不会像人一样清楚区分“知道”和“猜测”,所以表达的自信程度不一定反映事实可靠性。

使用时可把流畅度和正确性分开判断:涉及医疗、法律、财务、时事等重要决定,或需要精确数据与引文时,回到权威原始来源核对;检查来源是否真实、是否直接支持对应说法,并留意单位、时间范围和适用条件。也可以要求模型标出不确定之处、提供可核查的出处或把事实与推断分开,但这些要求本身不能保证答案正确。若只是用于构思、改写或整理已提供的材料,风险相对可控;若答案会影响决策,就应把模型当作辅助工具,而不是事实证明。

相关阅读