AIGC 生成的内容为何常常通顺却不准确?
AIGC 的“通顺”和“准确”是两种不同能力。语言模型主要根据上下文预测接下来最可能出现的词,并从大量文本中学到表达方式和常见关联;这种训练很擅长生成结构连贯、语气自然的句子,却不等于模型先查证了每个事实。它优化的是文本与上下文的匹配程度,而不是逐条命题的真实性。
因此,错误有几类常见来源:训练资料可能过时、缺失或彼此矛盾;问题若有歧义,模型可能选错语境;当证据不足时,它仍会按语言模式补全细节,生成看似合理但并不存在的名称、数据或出处。即使某个概念大体正确,数字、日期、限定条件和因果关系也可能被混淆。流畅的语气只是表达质量的信号,不是事实核验的证据。
可以把它当作起草和整理信息的工具,而不是默认可靠的权威。涉及健康、法律、财务、时效性数据或重要决策时,应追问可核查的来源和适用条件,打开原始资料核对;对计算、引用、日期等关键细节单独验证。若系统连接了搜索或数据库,也要检查它实际引用的内容是否支持结论,不能只看是否附了链接。