为什么人工智能会放大训练数据中的偏见?
人工智能会放大训练数据中的偏见,主要因为它从历史数据中学习规律,而这些数据可能已反映社会中的不平等或刻板印象。例如,某些群体在数据里代表不足,或过去的决策对他们不公平,模型就可能把这种差异当成预测依据。偏见还会在规模化应用中被放大:模型对大量人快速作出相似判断,错误影响随之扩散;若反馈数据又来自模型先前的决策,偏差可能不断自我强化。缓解需要检查数据代表性和标签质量,按群体评估错误率,采用适当的去偏和人工复核,并持续监测部署后的影响。单靠算法本身无法消除偏见,数据来源、使用场景与问责机制同样重要。