为什么同样的提示词,人工智能每次回答会不同?
同样的提示词不一定会得到完全相同的回答,主要因为大语言模型的生成过程通常包含概率选择。模型会根据上下文计算下一个词(更准确地说是 token)的候选概率;如果启用了采样,系统会按概率抽取,而不是每次都固定选概率最高的那个,因此后续文本也会随之变化。温度、top-p 等参数会影响这种随机程度:温度较高通常更发散,较低则更稳定,但不代表一定逐字一致。
另外,模型服务可能采用不同版本或路由到不同实例,系统提示、对话历史、检索资料、工具结果也可能有细微差别;即使界面里输入的文字相同,实际完整上下文未必相同。
如果希望结果更稳定,可以固定模型和生成参数、使用相同的完整上下文,并在支持时固定随机种子;将温度调低也有帮助。但这不能保证所有服务都逐字复现,模型更新、硬件计算差异等仍可能造成变化。对事实性问题,最好要求说明依据并独立核验,而不要把一次回答视为确定事实。