GPT-6像是一个能力很强,但是做事畏畏缩缩的模型,为什么会这样?
2026-11-15 阅读 2
这种“能力很强、做事却畏缩”的观感,通常不是模型不会做,而是“能不能做”和“被允许做到哪一步”是两套判断。
一方面,模型学到的不只是知识和推理能力,也包括一套行为策略:遇到含糊请求、可能造成损失的操作、隐私或安全边界时,宁可多确认、少行动,以降低误做的概率。这种策略如果把风险估得过高,或把普通、可撤销的操作也当成高风险,就会表现为反复确认、过度免责声明,甚至只给计划却不执行。另一方面,系统指令、工具权限和应用自身的审批规则也会限制行动;模型再有能力,也不能越过这些边界。不同版本、不同产品的默认策略不一样,因此体验也会不同。
还有一个因素是错误成本不对称:一次谨慎的追问通常只是慢一点,一次未经授权的外发、删除或发布却可能很难挽回。训练和评测往往会强化这种谨慎,但如果评测更容易惩罚“做错”而较少奖励“在授权范围内把事做完”,模型就容易学成过度保守。
改善时,用户可以把目标、范围和授权说具体,例如“只检查并修改这个本地文件,不要发布;完成后告诉我改了什么”。对可撤销、低风险的工作,明确允许它直接执行;对发送、删除、付款、公开发布等不可逆或外部动作,则保留确认。系统设计者则应区分风险等级:低风险任务直接完成,高风险任务才确认,并让模型在不确定时先做不依赖猜测的部分,而不是整件事停住。
所以,畏缩既可能是模型风险判断过宽,也可能是产品权限或指令设计的结果;不能单凭这种表现断定它“能力不够”。关键是把边界设清楚,并观察它是否能在已获授权的范围内可靠地完成任务。
更新于 2026年11月15日
赞 14