为什么近年大模型能力普遍得到了提升,不再有模型像GPT-4刚出现时那种断崖式差距?
2026-11-17 阅读 0
近年大模型能力更像是整体水位持续抬升,而不是某一个模型突然甩开所有人的“断崖”。GPT-4刚出现时,领先幅度显得特别大,既有真实的能力差距,也有当时参照系较弱、评测和使用经验尚未成熟的因素。后来模型、训练方法和产品形态都在快速迭代,差距自然被压缩。
首先,基础训练的规模和质量都在改进。更好的数据筛选、去重与配比,训练稳定性和算力利用率,以及代码、数学、指令等专项数据的加入,都能让多个团队同时获得提升。算法和工程经验也会扩散:注意力实现、优化方法、合成数据、对齐训练等不一定是某一家独有的壁垒,公开论文和人才流动会让行业较快跟进。
其次,今天比较的往往不只是“裸模型”。指令微调、偏好对齐、工具调用、检索、代码执行和推理时增加计算,都能显著改善实际表现。一个模型在复杂题上可以先拆解问题或调用工具,用户感受到的能力就不等同于单次前向计算的能力。不同产品还会针对速度、成本和可靠性做路由或后处理,因此产品体验的差异可能小于底层模型的差异。
还有评测视角的变化。早期少数基准上的大幅领先容易被当成全面领先;现在基准更多,模型在知识问答、长上下文、编程、多模态和稳定性上的强弱并不一致。公开题目可能进入训练数据,测试集饱和后也难以区分高水平模型。再加上模型发布节奏加快、版本频繁更新,某个时间点的排名很快就会过时。
所以,“没有断崖式差距”不代表模型已经同质化,也不意味着能力停止进步。更准确地说,头部模型之间在许多常见任务上趋近了,但在难题推理、长任务可靠性、工具使用、特定语言或领域、延迟与成本上仍可能拉开差距。比较时最好看具体任务和失败案例,并区分基础模型、推理配置与完整产品,而不是只凭单一榜单或一次演示下结论。
更新于 2026年11月17日
赞 13