人工智能作出带有偏见的判断时,责任应由谁承担?
2026-11-17 阅读 1
人工智能作出带有偏见的判断,责任不宜一概归给“算法”,也不能简单推给最终使用者,而应结合谁能控制风险、谁负有预防义务以及偏见如何造成损害来判断。
模型开发者或供应商需要对可预见的训练数据、设计和测试缺陷负责,例如代表性不足、标签偏差,或已知不同群体误差悬殊却未评估、未告知限制。部署机构通常掌握具体场景和受影响人群,应负责选择适当工具、验证本地表现、设置人工复核与申诉渠道,并持续监测结果;把决定交给模型,并不当然免除机构责任。操作人员若忽略明显异常、违反流程,也可能承担相应责任。
具体判断还要看用途和后果:用于招聘、信贷、医疗等影响重大权益的场景,审查、说明和纠错要求应更严格;若工具只是辅助且有有效复核,责任分配可能不同。调查时应保留输入、模型版本、输出、人工处理和评估记录,区分数据、设计、部署及操作环节的因果贡献。受影响者则应能知道自动化判断的关键依据、申请人工复核并获得纠正或救济。
因此,更可行的原则是按控制能力和过错分层担责,同时要求部署方对使用场景承担不可转嫁的治理责任;合同可以分配内部成本,却不应成为拒绝向受影响者说明或补救的理由。
更新于 2026年11月17日
赞 0