人工智能体会不会进化到自主控制进化阶段?
2026-11-08 阅读 8
“自主控制进化”并非人工智能必然会达到的阶段，关键要先区分“进化”的含义。当前模型通常不会像生物那样自行繁殖、遗传并在自然选择中演化；它们的能力主要由人类设计训练流程、提供算力和数据，并决定是否部署更新。不过，研究者可以让AI参与代码修改、实验设计、模型评测等环节，自动化迭代也可能提高系统能力，这常被称为AI研发自动化或递归改进。它是否能形成真正闭环，取决于系统能否可靠地改进自身、获得足够资源并持续验证改进；目前这些都不是无条件成立的。更现实的讨论重点是逐步增强的自动化可能带来的安全与治理问题，例如权限限制、独立评测、人工监督和可追踪性，而不是把某个“自主进化阶段”当成确定的未来。
更新于 2026年11月08日
