2026 世界互联网大会巨头签署防止「智能体作恶」公约，落地执行有哪些实际难点？
2026-11-07 阅读 0
“防止智能体作恶”要从公约变成可执行规则，难点不在写出原则，而在界定责任、验证行为并让不同主体承担后果。
首先，智能体的行为链条很长：模型由谁训练，工具由谁提供，部署者设置了什么权限，用户给了什么指令，运行时又调用了哪些外部服务，可能分属不同公司。出了问题，不能简单把责任都推给模型或最终用户。需要按控制能力和可预见性划分责任，并保留可核查的版本、授权、调用记录和人工干预记录；同时注意日志中可能含有个人信息或商业秘密，审计与隐私保护必须一起设计。
其次，“作恶”需要可操作的边界。越权访问、欺诈、未经授权的交易、隐瞒关键事实等，比“有害”“不可信”更容易形成测试和处置标准；但同一种行为在不同场景的风险不同。医疗、金融、招聘等高影响用途，适合要求更严格的权限控制、上线评估、异常告警和人工复核。规则若只写“加强安全”“避免滥用”，很难判断是否履约；若把指标定得过于僵硬，又可能被刷指标，或压制正常用途。
第三，现实中的智能体会串接模型、插件、浏览器、支付和企业内部系统，风险常发生在接口与权限边界：单个组件看似合规，组合后却能完成原本不允许的操作。执行层面需要最小权限、额度与范围限制、敏感操作二次确认、可撤销凭证、速率限制和可用的停止机制，并对工具调用进行持续监测。单靠模型承诺“拒绝危险请求”不足以替代这些外部控制。
还要解决跨平台执行。公约若没有共同的事件分类、报告格式、独立审查和申诉渠道，企业很难相互验证，监管者也难比较；若没有明确的整改期限和违反后的采购、准入或处罚后果，签署可能停留在表态。不同法域对隐私、责任和安全披露的要求也不一致，跨境调查与证据共享尤其棘手。
较可行的落地路径是先限定高风险场景和明确禁止的行为，要求组织公开责任联系人与处置流程；再通过分级评估、抽查审计、重大事件报告和整改复核形成闭环。指标应同时检查“是否发生事故”和“是否具备预防、发现、止损能力”，并允许第三方复核。这样才能把公约从道德宣示转成可追责、可迭代的治理机制。
更新于 2026年11月14日
赞 13
