具有时间可解释性的可微决策树

arXiv:2610.10367v1 公告类型：new 摘要：可解释性通过提供对智能体底层决策模型的透明洞察，为实现安全自主提供了一种解决方案。在序贯决策任务中，可微决策树（DDTs）是实现此类可解释性的一种方法：它们在保持策略自动可微的同时，为人类提供基于离散树结构的可视化。然而，当前的 DDT 实现并不适用于序贯决策领域，因为决策树的单时间步行为与人类的多时间步规划之间存在内在不匹配。因此，我们将时间引入为可解释性的新维度，并将其称为时间可解释性，同时展示了如何通过动作分块实现时间抽象来提升这种可解释性。为此，我们首先提出了两种融入动作分块的新型策略梯度算法。此外，为了保持树的参数效率，我们开发了一种基于信息论的树重构算法，可在训练过程中修改决策树。在四个仿真环境中，我们发现，从经过蒸馏的动作分块策略对动作分块 DDT 进行热启动，是获得具有时间可解释性的决策树最有效的方法：在四个领域中的三个领域里，这些决策树的表现可与神经网络策略相匹敌，同时参数数量最多可减少 80\%。我们的代码已发布于 https://github.com/ei5uke/temp-interp。