如果LLM训练语料中来自LLM“自言自语”远超人类历史累积语料的量,会发生什么?
2026-11-17 阅读 0
如果训练语料里,模型生成的内容远多于人类历史文本,结果不一定立刻变差,关键在于这些合成数据是否经过筛选、是否有外部事实或环境反馈校验,以及训练时如何混合。
若把模型输出未经甄别地反复回灌,容易出现所谓“模型坍塌”:模型会把自己已有的偏见、错误和常见表达当成更强的信号,逐轮放大;罕见但真实的知识、少数观点和语言变体则可能在抽样与训练中逐渐消失,输出变得更平均、更重复。事实错误也可能被包装成流畅文本,因而更难察觉。语料数量再大,也不能自动补回这些尾部信息。
但合成数据并非天然有害。用它扩展格式、练习题、代码变体或低频任务,经过规则检查、执行验证、专家评审或真实环境反馈,并保留来源清楚的人类材料作锚点,往往能提高覆盖率和训练效率。比较稳妥的做法是区分数据来源与轮次,控制合成数据占比,做去重和质量筛查,并持续用独立的人类基准、事实核验和多样性指标评估。
所以真正的风险不是“机器文字多于人类文字”这个比例本身,而是模型是否只在复制自身分布、缺少可靠的外部校正。
更新于 2026年11月17日
赞 13