AI 做出有害决定时,责任应如何划分?
AI 做出有害决定时,不能简单把责任推给“算法”。更合理的做法是沿着决策链划分:开发者对已知缺陷、训练与测试不足、风险告知不充分负责;部署或运营者对选型、使用场景、权限配置、人工复核和持续监测负责;实际使用者若明知系统不适用仍越权依赖,也可能承担相应责任。受影响者则不应因决策由机器生成而失去申诉和救济渠道。
划分时要看谁能控制风险、掌握关键信息并从系统中获益,以及损害是否可预见、是否有合理防护。比如医疗、招聘、信贷等高影响场景,应保留可追溯记录,说明系统局限,设置有权限且有能力的人工复核,并提供纠错和申诉机制;不能只在流程末端安排一个无权推翻结果的人来“背书”。
具体法律责任仍取决于所在地法律、合同关系、因果关系和证据。组织可以在内部约定分工或追偿,但这种约定不能当然免除其对用户、客户或公众依法应负的责任。