人类无法控制的 AI 会杀死普通人吗?
有这种风险,但不是因为 AI 天生“想杀人”。更现实的危险来自人用 AI 设计或操作武器、关键系统发生错误,或让具备较大权限的自动化系统在目标设定不当、环境变化时造成连锁后果。聊天模型本身通常不能直接控制现实设备;风险大小取决于它接入了什么工具、拥有什么权限、是否有人复核,以及系统有没有可靠的停止机制。
因此,不能简单说“绝不可能”,也不必把科幻式的自主追杀当成眼前必然。降低风险要靠限制高危权限、关键操作保留人工确认、隔离和监测系统、充分测试,并在异常时能及时停机。对个人而言,关注具体产品的权限与安全设计,比只看它是不是“AI”更有意义。