结构，而非信念：基于 LLM 导出协方差的相关 Thompson Sampling，用于组合半老虎机

arXiv:2610.07470v1 公告类型：新 摘要：组合 Thompson sampling（CTS）为每个臂独立抽取后验样本，因此其探索动态忽略了臂之间的任何关系。我们研究对这种动态机制的一项最小改动：让 LLM 仅被查询一次，以获得臂的一个划分；随后通过对簇排序应用 RBF kernel，将该划分转换为正定相关矩阵 $\Sigma$；每轮的后验样本使用协方差 $\Sigma$ 抽取，而 Beta 后验仅根据真实奖励更新，因此 LLM 影响的是采样器的移动方式，而不是它的信念。我们为理想化的 Gaussian sampler 给出一个自包含的 Bayesian regret 界，其信息增益分解为两部分：来自 $K$-簇结构的 $K\log T$ 项，以及一个最终增长至 $d\log T$ 的 ridge 项：相较于独立采样，$\sqrt{d/K}$ 的改进是有限时域下的暂态现象，只有当簇内相关性趋近于 1 时才严格成立。在 $T=2{,}500$ 时，相关采样器在 16 个合成 Bernoulli 家族上的 regret 比 CTS 降低了 19%（使用数据自适应 kernel 时，在 $T=25{,}000$ 时降低 6–7%）；在 Microsoft MIND-small 新闻基准（$d=200$ 篇真实文章）上则降低了 41%，而伪观测 warm start 没有带来任何收益。一项使用受控质量模拟 oracle 的无 LLM 消融实验表明，在非结构化实例上，收益来自 kernel 的形状这一属性（随机划分或简单调整采样噪声的温度也能复现该收益）；而在 oracle 质量匹配的情况下，注入信念从未带来帮助。