为什么 ChatGPT 对同一问题会给出不同回答?
ChatGPT 对同一问题给出不同回答,通常不是“记忆”发生了变化,而是生成过程和输入条件并不完全相同。
首先,回答是逐 token 生成的。模型会根据上下文为下一个词计算概率;在常见的采样设置下,并不总是选择概率最高的词,因此即使输入相同,也可能沿着不同的表达路径继续生成。温度等采样参数会影响这种差异的幅度:设置更偏确定时,措辞通常更稳定,但不保证每次完全一致。
其次,“同一问题”未必意味着模型收到的完整输入相同。对话历史、系统指令、个性化设置、上传的文件、联网搜索或其他工具结果,都可能改变回答。即使只比较问题文字,也可能存在容易产生多种理解的词句,模型一次侧重某个含义,另一次侧重另一个含义。
此外,服务端可能会更新模型版本、提示词或检索内容,也可能因负载和产品设置采用不同配置。这些变化会影响答案。相同问题得到不同回答,并不自动说明其中一个一定错误;应核对具体事实和依据。若希望结果更稳定,可以提供明确背景、限定范围和输出格式,并在需要时要求列出假设与可核查来源。