JeffDean 与李飞飞称 RSI 无法无限加速 AI 迭代,戳破了哪些行业认知误区?
这类观点戳破的不是“AI 不会进步”,而是把“能改进自己”误当成“迭代速度必然指数级、没有上限”。模型参与写代码或设计实验,确实可能缩短部分研发环节;但完整迭代还受芯片与算力供给、数据质量、实验成本、评测是否可靠、工程部署和安全验证等约束。若改进效果难以测量,模型还可能沿着错误指标优化,形成噪声放大而非有效进步。即使每轮都有收益,也不代表收益恒定或会自动复利:瓶颈可能转移,边际收益可能下降,研发周期也不会全部被自动化。因此,更合理的判断是 AI 能加速某些环节、改变研发效率,但“递归自我改进必然无限加速”仍是需要证据支持的强假设,而不是由 AI 能参与研发就能推出的结论。