有趣的事

为啥 AI 突然在今年开始集中突破数学难题?这种爆发式的突破根源来自于哪项技术革新?

这波进展并不是某一项新技术突然出现,而是几种条件在近年叠加。最关键的变化,是模型不再只靠预训练中“接着写下一个词”来获得能力,而是在预训练之后加入面向解题的强化学习和推理训练,并在作答时投入更多计算。

数学特别适合这种训练:一道题的最终答案往往能用程序、定理检验器或明确规则核对。训练时可以据此给解题过程反馈,让模型反复尝试、比较不同思路并修正错误;推理时也可以生成多个候选步骤,再筛选、搜索或验证,而不是一次生成就结束。这类“可验证奖励”降低了获得高质量训练信号的难度。

因此,常说的突破根源通常是“强化学习/结果反馈 + 推理时计算(搜索与验证)”,而不是单纯把模型做大,也不只是让它写出更长的思维过程。更大的基础模型、更多计算和更好的数据仍然重要,但它们提供的是底座;后训练把能力引向多步推理,额外推理计算则让模型有机会探索和检查解法。不同系统的实现并不相同,所以把爆发归结为某个单独算法并不准确。

相关阅读