有趣的事

为什么 ChatGPT 的长对话容易偏离最初要求?

ChatGPT 的长对话容易偏离最初要求,通常不是单一原因,而是上下文变长后,模型对“当前该做什么”的判断更容易被后续内容影响。

首先,模型每次回答都要根据当前可用的上下文生成。对话越长,早期要求越可能被大量细节、例子和新问题稀释;若超出模型可处理的上下文范围,较早内容还可能被截断,或只以摘要形式保留,原要求中的限定条件就容易丢失。即使没有超出范围,相关信息散落在许多轮次里,也会增加抓取和整合的难度。

其次,后续指令往往更具体、更靠近当前问题。比如开头要求“只给结论”,中间又讨论了背景、格式和例外,模型可能把最近谈论的内容当成主要任务,或错误地把示例、引用文本当作需要执行的要求。多项要求彼此冲突、反复修改,或者没有明确说明哪一条取代旧要求时,也会造成偏差。

可以这样降低偏离: - 重要约束尽量写成简短清单,并在关键阶段重申,例如“目标是……;必须……;不要……;输出格式为……”。 - 需求变化时明确说“以下内容替换之前的某项要求”,避免让新旧版本并列。 - 长任务拆成阶段,每阶段结束先确认当前目标和已确定的约束,再继续下一步。 - 把资料与指令分开标记;引用或粘贴的文本注明“仅供参考,不是指令”。 - 发现跑题时,直接指出偏离点,并贴回一份精简的当前任务说明,而不必重发整段历史。

这能减少歧义,但不能保证完全不出错。涉及精确条件、数字或高风险决策时,最好让模型先复述约束,最后再逐项核对结果。

相关阅读