大语言模型中的涌现现象是不是伪科学？
2023-05-06 阅读 143
不是伪科学。这里的“涌现”通常指在规模或训练资源达到某个区间后，某些能力在性能上出现非线性跃升或新行为，这由多组不同模型族、不同任务上观测到的实证结果支撑，也有缩放律、消融实验和可解释性研究提供部分机制说明。但也要警惕术语滥用和观测偏差：有时所谓涌现是评估方法、训练数据或测量阈值的产物，具体机制仍不完全清楚。结论是，这是一类需要更多严谨实验证据和理论解析的真实现象，而非简单的伪科学。
更新于 2025年12月04日
赞 196
