记录 Score：用于 Score-Augmented Neural Ratio Estimation 的自适应免调参损失加权

arXiv:2605.12118v3 公告类型：replace-cross 摘要：随机过程模型的神经似然替代模型（例如 Neural Ratio Estimation）通常通过在模拟数据上进行概率分类来训练，这迫使人们在替代模型质量和训练成本之间进行权衡。对于能够获得精确得分函数 $\nabla_\theta \log p(x \mid \theta)$ 的结构化模型，可以将这一信息用于训练，即在交叉熵损失中加入得分匹配项。然而，两种损失的最优权重无法预先确定，手动选择则需要耗费高昂的调参成本，从而抵消了计算节省。我们提出一种自适应、免调参的算法，根据损失梯度在训练过程中设置得分损失权重，仅为标准分类器训练增加极小的开销。我们在涉及网络动力学和空间过程的案例研究中评估了该方法，结果表明，与生成更多训练数据相比，该方法能够以大幅降低的计算成本提升替代模型质量。值得注意的是，在某些情况下，我们的方法仅使训练时间增加不到 1.1 倍，却实现了相当于将训练数据增加 10 倍的下游推断性能。