AI 用于信贷风控时,准确率很高为什么仍需要可解释性?
即使模型整体准确率很高,信贷风控仍需要可解释性,因为总体指标不能说明每个借款人的判断是否合理。准确率可能掩盖少数群体或特定产品上的误差,也无法区分误拒与误批带来的不同损失。解释有助于检查模型是否依赖收入、负债等合理风险信号,还是利用了与风险无关的代理变量;发现数据漂移、标签偏差和异常决策;并让业务人员定位问题、制定复核与申诉流程。
在实际决策中,可解释性还关系到治理与责任:机构需要说明审批、额度或定价的主要依据,留存可审计记录,并在客户提出异议时提供可理解的理由。解释不等于证明模型因果正确,也不应把单个特征贡献当成绝对因果结论。较稳妥的做法是结合分群性能与公平性监测、稳定性和压力测试、特征与数据审查、局部解释及人工复核;若解释方法与模型行为不稳定,应限制自动化程度或采用更容易验证的模型。目标不是牺牲预测能力,而是在风险表现、可审计性和纠错能力之间取得可管理的平衡。