用于信用风险建模的 Ranking Prior Alignment：外部先验何时发挥作用？

arXiv:2610.11146v1 公告类型：新论文 摘要：冷启动信用评分——在标注数据稀缺、特征较弱或模型容量极小的条件下部署模型——是金融机器学习中反复出现的问题。当新的信贷产品上线时，带标注的违约数据稀缺，特征流水线尚不成熟，而模型必须以极小的容量部署，以避免过拟合。标准应对措施依赖的仍是同一批有限数据；真正需要的是一种以领域知识为基础的外部正则化来源。我们提出 Ranking Prior Alignment，这是一个模型无关框架，通过温度缩放的 KL 散度损失，将外部排序先验（来自领域专家、教师模型或 LLM）蒸馏到任意评分模型中。该框架通过统一公式 L = L_task + gamma(t) * KL(P_agent || P_model)，将神经网络架构（MIL 注意力机制）与基于树的架构（XGBoost 自定义目标函数）统一起来，其中 gamma(t) 遵循指数衰减调度。该方法在推理时无需外部模型，其基于树的实现可容忍高达 eta = 0.5 的标注噪声。在一个包含超过 150 万商户的工业数据集上，MIL 对齐在使用 3,000 个包时，7/7 个评估项均取得正向提升（1 项 ID 指标 + 3 项 OOT 指标 + 3 项退化指标；在 OOT-1 上，Delta AUC 峰值为 +0.020），而 XGBoost 消融实验在使用 300 个包时，9/9 项指标均取得正向提升。在公开 Amex 数据集上进行的跨数据集验证显示，5/5 个交叉验证折均取得正向提升（平均 Delta AUC = +0.041）。四类模型（MIL、XGBoost、LightGBM、Logistic Regression）和四种教师架构的实验表明，该框架既不依赖特定模型，也不依赖特定先验来源。我们进一步观察到，对齐收益呈现逆向缩放规律：随着数据丰富度 N、模型容量 C 和特征质量 Q 的下降，收益反而增加，这有助于从业者判断何时值得投入先验标注。