GPT是否已经解决了组合泛化问题？
2023-06-17 阅读 8
还没有完全解决。大模型通过规模、训练数据、提示工程和 chain-of-thought 等技巧，在很多组合性任务上表现得更好，但并不具备系统性的“组合泛化”能力：对训练中未见过的元素新组合、严格的规则化推理或长序列递归组合，模型仍常出错或表现不稳定。常见缺陷包括对超出训练分布的组合泛化差、对符号化规则和结构化推理的鲁棒性不足。当前的改进方向有更多结构化或神经符号混合方法、专门的数据增强和元学习，但总体上问题仍在研究中，不能说已被彻底解决。
更新于 2025年12月14日
