AI「教父」杰弗里・辛顿称或许人类从未发展 AI 会更好,该观点的核心依据是什么?
辛顿这类说法的核心,不是认定人工智能注定会毁灭人类,而是认为人类正在创造一种可能达到甚至超过人类认知能力的新型智能,却还没有可靠办法确保它始终按人的意图行动。若系统变得更强、更自主,且能参与改进自身,能力增长与人类理解、约束它的能力之间可能出现落差;一旦目标设定或控制机制失效,后果就不只是普通软件出错。
此外,AI 即使没有出现失控的超级智能,也会带来现实的社会风险:自动化可能冲击就业,能力和收益可能集中到少数机构手中,生成内容也可能放大欺诈、操纵和虚假信息。辛顿曾公开表达过对先进 AI 长期风险的担忧,并主张认真研究安全与治理;这些是对风险可能性的警示,不等于他证明了某种灾难必然发生。
因此,“或许从未发展 AI 会更好”表达的是对收益与不可逆风险不对称的忧虑:技术一旦扩散,暂停和收回都很困难,而安全保障仍不充分。它也不是一个简单的政策结论;现实讨论还要比较医疗、科学、生产力等潜在收益,考察风险能否通过限制高风险用途、独立评估、可追责部署和国际协调降低。关键争议在于,发展速度是否应当受安全能力和治理进展约束。