CrowdStrike 推出「AI 终止开关」关停失控 AI 智能体,实际落地难点有哪些?
“终止开关”听起来像一个按钮,真正难的是让它成为智能体所有执行路径都绕不过去的控制点。若智能体能直接持有云密钥、调用外部 API、启动子进程或把任务交给另一个服务,只停掉它的主进程并不等于撤销已经发出的操作;已排队的任务、其他副本和仍有效的凭证也可能继续工作。
落地时通常要把控制拆成几层:在工具/API 调用入口做统一授权与策略检查;为每个运行实例和任务设置可撤销的短期身份或租约,停用时同时吊销凭证;由调度器停止新任务,并对在途调用设置取消、超时和幂等处理;再通过运行时管理器终止相关进程或容器。跨系统无法做到真正原子的一键停止,因此需要明确“停止接收新动作”和“尽力中止在途动作”的边界,并记录哪些动作已发出、哪些确认取消、哪些仍需人工核查。
难点还包括控制面的可用性和权限设计。若开关依赖同一个可能已失效的服务,故障时就失去制动能力;若任何人都能触发,又可能被误操作或滥用。需要独立、可审计的管理通道、分级授权与明确的恢复流程,并在网络分区或撤销失败时采取保守策略。另一方面,误触发会中断正常业务,恢复也不能简单地自动重放旧任务,否则可能重复扣款、发送或写入。
所以它不是单靠模型自觉停下来的“急停按钮”,而是围绕身份、工具权限、任务队列和执行环境构建的外部控制能力。评估是否真正有效,关键是演练:在多副本、子任务、凭证泄漏风险、服务部分不可用等情况下,能否阻止后续副作用、识别无法撤回的既有操作,并留下可追溯结果。