估计隐式期望对数密度比

在无法计算精确概率时，密度比估计（DRE）是众多应用中的关键子程序，因为密度比广泛出现在从实验设计到生成建模和强化学习等领域。本文引入了期望对数密度比（ELDR）的概念：在某个第三方（可能不同的）测度下进行积分的对数密度比。我们证明，许多涉及隐式密度且直接使用 DRE 的问题，实际上都是 ELDR 估计任务，并证明了有限样本 ELDR 估计的基本局限性。基于这些结果，我们认为典型的基于 DRE 的方法并不适用于 ELDR 估计，并为开发专门的 ELDR 估计器提供了一些基础性动机。作为示例，我们对一些 DRE 方法进行了简单修改，使得收敛于积分分布的样本能够出现在训练数据中。基准测试结果表明，这可以降低 ELDR 估计误差。