有趣的事

不依赖反向传播的零阶优化算法Dust问世,将对模型的自我迭代(RSI)进程产生怎样的推动作用?

如果 Dust 的核心是“不求梯度、只看目标函数输出”的零阶优化,那么它对模型自我迭代(RSI)的意义,首先是把可优化对象从“可微的模型参数”扩展到更广的黑盒系统:提示词、工具选择、工作流、检索配置,甚至由多个模块组成的策略,都可以通过试验—评分—保留改进来搜索。这样做不需要访问模型内部梯度,也更容易适配闭源 API、离散决策和不可微评测器。

但“能优化黑盒”不等于“自动实现递归自我改进”。零阶方法通常要靠多次扰动、运行和评估来估计改动方向;参数维度越高、单次评测越贵或越嘈杂,样本和计算成本就越突出。若评分器与真实目标不一致,搜索还可能学会钻评分漏洞;若改动缺乏隔离和回滚,性能波动也会被误当成进步。因此它更可能推动 RSI 的工程闭环——生成候选、沙盒评测、统计比较、版本化与回滚——而不是单靠一种优化算法带来能力跃迁。

实际价值取决于 Dust 在什么表示空间搜索、如何处理噪声与约束,以及在同等调用预算下是否优于随机搜索、进化策略等基线。若这些环节经实验证明有效,它会降低某些自我改进系统对梯度可访问性的依赖,并扩大可自动实验的范围;是否能稳定提升通用能力,仍要看评测设计、成本和安全边界。

相关阅读