通过最优传输训练不可微网络

arXiv:2605.01928v4 公告类型：替换 摘要：硬阈值、量化和离散路由可能导致训练损失出现平坦区域和跳跃，使普通梯度消失或无定义。我们提出 PolyStep，这是一种仅需前向计算的优化器，通过评估旋转多胞体探测点，并沿探测方向的加权平均方向移动参数块。我们从单侧熵正则化传输中推导权重，并在主要实验中使用其非耦合 softmax 解。我们的分析解释了探测点代价之间的差异何时会产生移动，以及这种移动何时会降低损失。在正单纯形上，非常量的代价总会给出非零方向。对于单调脊函数损失，在任意正温度下，softmax 更新都不会增加损失；扰动界则给出了在弯曲跳跃面附近实现下降的充分条件。对于有界可测损失，我们将探测半径随机化，并确定了一种精确的平滑化方式，其梯度在相差一个比例因子的意义下等于按代价线性加权的方向的期望。这个恒等式为一种理想化的固定温度变体给出了平稳性界：在比我们实际训练配置所满足的条件更强的正则性和采样假设下，该界包含一个 $O(T^{-1/2})$ 项和一个持续存在的偏差下限。我们在包含硬操作的网络、离散优化和策略搜索任务上评估了这一实用方法。在采用硬阈值脉冲神经元的 MNIST 任务上，PolyStep 达到 $93.0 \pm 0.2\%$，而在相同评估次数下，经过最佳调优的无梯度基线为 $79.6 \pm 5.2\%$。这些提升伴随着每个新步骤中与搜索维度成正比的查询成本，因此限制了固定预算下可执行的更新次数。