arXiv cs.LG精选71

双向引导:面向生成式贝叶斯的摘要统计量同步学习

Two-way Guidance: Simultaneous Learning of Summary Statistics for Generative Bayes

· 2天前

精选理由

提出双向引导机制,联合学习摘要统计与后验分布,提升大样本下模拟贝叶斯推断的准确性与可扩展性。

AI 摘要

arXiv:2610.12850v1 公告类型:交叉收录 摘要:随着观测样本量增大,基于模拟的贝叶斯推断(SBI)可能难以恢复日益集中的后验分布。我们将充分摘要统计量与后验分布的联合学习视为一项通用原则,以实现各种 SBI 方法中的可扩展推断。SBI 中的一种常见做法是通过预先确定的摘要统计量进行降维,但这可能丢失部分后验信息。相比之下,我们的方法对后验学习器依赖于所学摘要统计量的方式施加结构约束(例如仿射性),并将摘要统计量与后验分布同步学习。我们发现了一种重要机制,称为双向引导:在对摘要统计量施加结构约束的条件下,所学摘要统计量的后验充分性简化了后验学习,而恰当的后验目标函数则引导所学摘要统计量趋向后验充分性。这一机制解释了一个反直觉的发现:对摘要统计量施加结构约束能够改善后验学习,而非限制其性能。我们针对后验估计误差以及所学摘要统计量对充分性的偏离程度均建立了理论保证,从而明确了随着观测样本量增大,为恢复日益集中的后验分布,模拟预算需要满足的条件。

查看原文(arXiv cs.LG)