赫拉利称 AI 不会远超人类智能才是未来 10 年最好的结果,这一判断有哪些依据?
赫拉利这句话更像是在说“未来十年最理想的结果”,而不是断言 AI 一定不会超过人类。它的依据主要在于,智能不是单一排行榜:模型在特定任务上可能已超过多数人,但这不等于拥有跨领域、稳定、可自主负责的通用能力。
首先,当前 AI 的强项集中在可数字化、可评测的任务,例如文本生成、模式识别和代码辅助;遇到目标含糊、环境持续变化、需要长期规划或依赖现实世界反馈的问题,表现可能明显不稳。一次答对也不代表能可靠地重复完成,更不代表知道自己何时不确定。其次,训练数据和评价指标会造成能力错觉:模型可以熟练复述规律,却未必能在分布变化、信息缺失或多步因果推理时保持正确。基准分数的提升,不自动意味着能像人一样把知识迁移到陌生情境。
更重要的是,社会风险不以“全面超越人类”为前提。即使 AI 仍有明显短板,只要它在某些环节足够便宜、快速、可规模化,就可能影响就业、舆论、隐私和权力分配;若赋予它工具权限,还需考虑错误被自动放大的后果。因此,能力进步与安全、可解释性、问责机制之间存在时间差。十年内若系统能力提升较快,但治理、审计和组织适应跟不上,造成的冲击可能比“AI 是否拥有整体超人智能”更现实。
这个判断也有不确定性:模型架构、算力、数据与工具使用方式可能带来非线性进展,现有局限不能证明未来不会突破。赫拉利的谨慎之处在于把“没有出现失控的超人系统”视作最好结果之一;这不等于停滞,而是希望能力增长同时伴随可靠性、边界控制和社会治理的成熟。