有趣的事

AIGC 生成的内容为什么常常流畅却经不起核查?

AIGC 内容的“流畅”与“可靠”是两件事。大语言模型主要根据上下文预测下一个词,训练目标通常奖励语言连贯,并不要求每句话都对应一条已经核实的证据。因此它很擅长组织表达,却可能把相近概念拼在一起、补出不存在的细节,或把过时信息说得像是当前事实。语气肯定、结构完整,也不能证明内容正确。

核查时尤其要留意可验证的具体断言:数字和日期、法律或政策条文、论文与作者、产品参数、引语及其出处。模型可能生成看起来合理但实际不存在的引用;即使来源真实,也可能误读来源、断章取义,或把相关性说成因果关系。开放式问题、冷门领域、信息刚更新的事件,以及问题里前提含糊或错误时,风险会更高。

实用做法是把答案拆成若干可检验的主张,优先查原始资料或权威一手来源,并核对来源是否支持同一表述、适用范围和发布日期。关键结论最好用彼此独立的来源交叉验证;找不到证据的部分就标为待确认,而不是因为文字顺畅而采信。AIGC 适合帮助起草、归纳和提出检索线索,涉及医疗、法律、财务、安全等高风险决策时,则应由合格专业人士结合原始材料判断。

相关阅读