为什么人工智能模型会一本正经地编造答案?
人工智能模型“编造”答案,通常不是它有意撒谎,而是生成机制与求真机制并不相同。以常见的大语言模型为例,它根据训练中学到的语言模式和当前上下文,逐步预测接下来最可能出现的词句;这擅长组织流畅表达,却不等于每句话都经过事实核验。
当问题涉及训练资料中少见、过时或相互矛盾的信息时,模型仍可能把熟悉的表达模式拼接成看似合理的答案。问题若含糊,它也可能默认某种前提继续回答;若被要求给出处,还可能生成格式像真的、实际不存在的来源。训练和检索能降低这类错误,却不能保证完全消除;检索结果本身也可能不完整或不准确。
因此,流畅、自信的语气不能作为真实性证据。涉及日期、数字、医疗、法律或重要决策时,应核对原始文件、权威来源或专业人士;也可以要求模型列出依据、标明不确定之处,并把可查证的主张逐项验证。把模型当作起草和整理信息的助手,而不是自动可靠的事实数据库,更符合它的能力边界。