为高斯混合求解 Ho--Nguyen 猜想：在 Mixtures of Experts 中的应用

arXiv:2610.27265v1 公告类型：新 摘要：过拟合的高斯混合可能包含许多密度几乎相同的参数配置，因此密度抵消的阶数成为决定其参数学习速率的核心。Ho 和 Nguyen 将这些抵消编码为一个多项式系统，并猜想了其关于聚类大小的精确阶数。解决该猜想的关键在于施加一个公共的正方差平移，将系数方程转化为高斯矩匹配问题。对于每个聚类大小 $\Mhn\ge2$，我们证明实的、权重非零的系统的阶数为 $2\Mhn$：一个尖锐的符号变化界迫使系统在该阶数上具有刚性，而正的 Gauss--Hermite 求积则构造出一个持续到 $2\Mhn-1$ 阶的非平凡解。在 110 位有效数字的工作精度下进行总体密度计算，对于两个至六个成分恢复出了所预测的首项；有限多起点搜索则对于两个至五个成分恢复出了相同的观测幂次，其中三个至五个成分的有限尺度常数更小。对于参数学习，精确阶数给出了逐点最大似然指数，以及在固定已知混合测度的指定收缩邻域上的精确局部极小极大阶数。同一系数视角还将高阶抵消与 Mixtures of Experts 中的精确参数对称性区分开来。在两个广泛的 standard-softmax 类中，同步复制在保持条件密度不变的同时，使相应的参数损失保持为正，这说明统计速率论证必须考虑精确的参数对称性。