00:45 arXiv cs.AI 78
视觉语言模型（VLM）难以处理 RGB 观测中隐含的度量关系和多视图关系。几何基础模型可以从 RGB 中恢复这些结构，但现有方法要么将估计得到的特征与视觉 token 融合，仅通过问答学习如何使用它们；要么将 VLM 的潜变量与几何特征对齐。然而，捕获几何信息并不意味着模型会使用它：将一个已发布的特征对齐模型中的对齐潜变量置零后，其准确率仍保持不变。我们提出 GeoReader，这是一种为能够读取几何信息的 VLM 学习几何表示的框架。首先，我们训练轻量级几何读取器，使其生成连续输入 token，并使用由冻结 VLM 解码的几何描述对其进行监督，从而让读取器以目标模型已经能够读取的形式表达几何信息。随后，我们冻结读取器以保持这一接口，同时在空间问答数据上微调 VLM，并根据问题调节几何信息的注入。几何描述仅作为训练目标：在推理时，VLM 无需生成几何思维链，而是直接依据连续几何 token 作答。利用从 RGB 图像预测的几何信息，我们的方法在 Qwen3-VL-4B 上于 MindCube-Tiny 达到 94.3；结合多源问答混合数据，在 Qwen3.5-9B 上于另外六个空间基准测试中取得平均 72.5 的成绩。这些结果表明，有用的几何表示应当是接收模型能够使用的表示，而不仅仅是能够从中重建几何信息的表示。
01:58 arXiv cs.AI 74
多目标分子优化是药物发现中的关键过程，旨在修改给定分子，在保持整体结构相似的同时，同时改善多个性质。该过程通常需要在计算或实验反馈的指导下进行迭代式修改。近期，基于大语言模型（LLM）的方法开始探索这种迭代式方法；然而，这些方法并未经过专门训练以利用此类反馈，而现有方法主要聚焦于单轮分子优化。为弥补这一空白，我们提出了多轮反馈引导（MFG）分子优化，这是一种强化学习框架，用于训练LLM利用前几轮的反馈逐步优化分子。MFG引入了一个反馈向量，同时捕捉性质改进和与源分子的相似度，并结合反馈对齐的奖励函数，促进跨轮次的逐步改进。我们在用于多目标分子优化的先进LLM模型$\text{GeLLM}^{3}\text{O}$上应用MFG，并在十项多目标分子优化任务上评估$\text{GeLLM}^{3}\text{O-MFG}$。结果表明，$\text{GeLLM}^{3}\text{O-MFG}$取得了最高的平均相似度约束成功率（$81.50%$），优于基础模型$\text{GeLLM}^{3}\text{O}$（$70.81%$）。
01:59 arXiv cs.AI 80
在视觉-语言-动作（VLA）预训练过程中，应如何利用示范质量来提升目标任务微调后的性能？我们使用 5,000 条自然产生的次优人类示范和 24 个目标任务，在不同奖励定义和标签粒度下比较了加权、过滤和条件化方法。对于每个 VLA，我们确保各方法使用相同的示范和训练预算。其他比较还考察了预训练数据规模，以及质量标签在微调和推理过程中的作用。在三个 VLA 上，我们发现：感知接近过程的回合级条件化相较于普通行为克隆提高了平均成功率；平均而言，条件化和过滤分别更适合回合级标签和片段级标签，但具体模型上也会出现相反的结果；在条件化预训练之后，无论推理时是否使用标签，采用固定标签进行微调都能提高平均成功率。我们推出了 AXIS-Bench，以支持这些受控比较。该基准基于众包仿真示范构建，提供了记录的物体状态和接触状态，可用于在共享轨迹上重新计算质量标签。可回放轨迹支持与工作空间对齐的渲染，以及用户自定义的真实世界目标任务。在我们的真实世界实验中，仿真预训练将成功率从 9.6% 提升至 31.7%。项目页面：https://axis-bench.github.io/。
10:49 arXiv cs.AI 81
激活引导会在推理时向语言模型的内部表示中添加一个向量，是一种用于行为控制的轻量级微调替代方案。标准构造方法对比激活加法（CAA）并不稳定，因为在许多输入上，它会将行为推向错误的方向。为解释这种不稳定性，我们首先研究引导向量的几何结构。我们引入引导 Hessian，即模型行为损失相对于引导向量的二阶导数矩阵。它刻画了沿引导向量各个方向进行微小扰动时，模型输出行为响应的敏感性。其顶部特征向量对应尖锐方向：沿这些方向的微小扰动就可能导致巨大、不规则且依赖输入的行为波动。底部特征向量对应平坦方向：沿这些方向的行为具有鲁棒性。移除引导向量中的尖锐成分，可以大致保留其方向和大小（在典型设置下，余弦相似度 > 0.974，范数减少 < 3%），同时将向量的方向曲率最多降低 12 倍（在 36 个条件下中位数降低 4 倍）。我们在三个模型系列（Qwen2.5-7B、Llama-3.1-8B、Mistral-7B）上进行评估，涵盖四项行为任务和 36 个词元级条件。沿尖锐方向进行引导会在所有测试条件下逆转预期行为，反引导率为 53%–100%。尖锐方向仅占 CAA 向量平方范数的 1%–5%，但在自回归生成过程中，它们对引导后与未引导的下一词元分布之间的差距贡献 disproportionate。我们将这一单行修正称为尖锐方向移除；在测试的全部 25 个条件下，它在开放式生成中的表现都优于标准 CAA。进一步的越狱实验表明，尖锐方向充当的是噪声而非信号：无论引导极性如何，它们都会破坏连贯的行为控制。
23:41 arXiv cs.AI 80
语言模型通常通过不完美的评估器根据人类偏好进行对齐，而这些评估器的错误可能在优化过程中被利用。我们训练策略来搜索这样的比较：在这些比较中，评估器可能会反转底层偏好，从而为进一步监督提供候选样本。由于策略训练期间无法获得人类偏好，我们使用偏好模型集成之间的分歧，作为预测误差的替代指标。我们将这一搜索过程表述为两个对立策略之间的零和Stackelberg博弈：Leader试图最小化分歧，而Follower则最大化分歧。对于一类一般的有限上下文Stackelberg博弈，我们证明了均衡的存在性，并证明在正则化条件下均衡具有唯一性和闭式刻画。我们提出Stackelberg Mirror Descent-Ascent（SMIDA），这是一种双时间尺度算法，在表格化设置下具有线性的末次迭代收敛速度；同时，我们还开发了相应的神经策略梯度版本。使用合成oracle进行的实验表明，分歧可以作为预测误差的有效替代指标。在留出数据上，训练得到的策略优于参考策略，并提高了超过分歧阈值且反转oracle偏好的比较所占比例。
07:07 Hacker News 熱門 36
12:00 arXiv cs.LG 73
arXiv:2610.05337v2 公告类型：替换 摘要：我们发现，输运场在许多偏微分方程（PDE）中的物理作用与其在神经算子中的通常作用之间存在不匹配：PDE 利用输运场选择读取坐标，而神经算子通常仅将其视为输入值。为解决这一不匹配，我们提出 Green-Routed Neural Operator（GRNO），利用控制方程确定潜在特征的采样位置。一个无参数的方程适配器计算诊断关系，并构建以读取坐标为取值的出发点映射。多尺度编码器—解码器结合潜在特征的中心读取与路由读取，学习完整的有限时间更新。在五个二维和三维 PDE 系统的 40 步自回归评估中，GRNO 在其中四个系统上取得了最低的最终相对 $L^2$ 误差均值，并在 Keller-Segel 系统上保持了竞争力。固定权重下的路由干预表明，四个系统对方向和空间对齐具有较强依赖，而 Keller-Segel 系统的依赖较弱。在独立训练的消融实验中，相较于仅将输运场作为输入特征、用学习得到的位移替代方程指定的路由，或以空间错位方式应用路由的各个变体，GRNO 在全部五个系统上均取得了更低的平均误差。它还显著优于直接对物理状态进行平流输运并学习剩余更新的方式，表明方程指定的读取坐标为长时域 PDE 预测提供了有效的结构先验。
12:00 arXiv cs.LG 77
arXiv:2607.22766v2 公告类型：替换 摘要：大语言模型的后训练对齐日益受到数据质量的制约：偏好与指令微调语料中不断积累标签噪声、安全性偏好倒置和标注者间的矛盾，这些问题无法通过去重发现，而使用 LLM 对整个语料库进行评判的成本又过高。尽管 Data Shapley 提供了具有理论依据的价值评估框架，但精确计算需要进行难以承受的重新训练，而 KNN-Shapley 等基于嵌入的替代方法无法区分高效用与低效用示例（与生成效用的相关性为 $\rho = 0.0003$）。我们提出了一种仅需推理的价值评估流程，在语义 $k$-NN 邻域上构建上下文合作博弈，无需更新参数，仅通过 $O(k)$ 次前向传播即可计算其一阶项；该方法在全部目标上均与多示例蒙特卡洛上下文 Shapley 呈正相关，而计算量仅为后者的 1/19。通过将成对的对数似然变化投影到有向影响图上，我们用三个信号刻画每条记录：出向示范优势、入向受示范优势，以及用于保护稀有提示的拓扑独特性得分。预筛选将 LLM 双模型仲裁的范围限制在 1%–5% 的记录内，同时在 HelpSteer2 和 Anthropic HH-RLHF 上分别实现了 4.5 倍和 2.2 倍的已确认错误富集率，并捕获了零样本似然和间隔筛选遗漏的矛盾。在 DPO 训练期间，已确认存在矛盾的记录比干净记录更频繁地与更新方向相悖（在 LoRA 梯度中占比分别为 56.7% 和 37.0%），且其奖励准确率始终低于随机水平。最后，对 HH-RLHF 基准的审计揭示了标签错误：对于这些错误，对齐模型与人工标签不一致的比例达到 73%–83%；在修复或过滤被标记的记录后重新进行 DPO 训练，即使不使用 LLM 仲裁，也能使整体奖励准确率提高 0.5–0.6 个百分点，并使已修复的偏好倒置样本上的奖励准确率提高 3.1–3.5 个百分点。
12:00 arXiv cs.LG 76
arXiv:2606.30376v2 公告类型：替换 摘要：通过在线强化学习对齐连续空间中的生成式流模型，受到轨迹似然难以计算的限制。现有基于密度近似的策略梯度方法依赖随机 SDE 采样器来构建可计算的转移核，这会引入训练与推理之间的不一致，并且需要无分类器引导（CFG）。尽管 DiffusionNFT 等隐式框架直接优化前向过程的速度场，但其启发式固定幅度校正使优化强度无法随组内相对质量而调整。我们提出 \textit{Flow Advantage-Weighted Rectification}（\textbf{FlowAWR}），这一范式将连续生成策略优化重新表述为朝向理论最优速度场的监督回归。从 KL 约束下奖励最大化的最优策略出发，FlowAWR 推导出具有幅度感知、优势加权校正形式的最优速度场，实现了无需 SDE 的优化和无需 CFG 的生成。在 SD3.5-Medium 上的对比评估中，FlowAWR 在提升对齐性能的同时，相较于 DiffusionNFT 实现了 2$\times$ 至 5$\times$ 的收敛加速（例如，FlowAWR 在 1.2k 步时达到 24.12 的 PickScore，而 DiffusionNFT 在 2.0k 步时达到 23.82，FlowGRPO 在 $>$4k 步时达到 23.50）。在多奖励约束下，FlowAWR 能够维持生成质量，在满足结构规则的同时保持稳定的域外性能。代码见 \href{https://github.com/Fuzm7/FlowAWR}{FlowAWR}。
12:00 arXiv cs.LG 79
arXiv:2606.25001v2 公告类型：替换 摘要：机器遗忘（MU）通常通过输出遗忘来评判，例如遗忘集上的低准确率或成员推断能力的降低。然而，如果输出层面的成功可以与表征空间中不符合重新训练结果的残留同时存在，那么当前评估究竟在验证哪一种遗忘？我们通过与重新训练一致的表征遗忘来研究这一问题，将一组重新训练的模型（即不使用待遗忘数据、从头训练的模型）作为理想遗忘的可操作参考分布。针对多种遗忘方法、数据集和模型，我们的理论分析与实证结果表明，标准的输出层面评估可能系统性地高估机器遗忘的成功程度。在这一更严格的视角下，当前方法往往在输出层看似已完成遗忘，但相对于重新训练仍呈现结构性失配。它们在待遗忘样本上与重新训练部分对齐，在保留样本上则表现出更强的不一致性，并且往往留下沿重新训练相关方向局部分布的残余差异，而非弥散于整个表征空间。这种结构性失配的特征包括遗忘与保留之间的不对称性、方向性失配，以及沿重新训练相关方向集中的残留。在许多情况下，这些差异超出了独立重新训练的变异范围，并带来在重新学习攻击中恢复信息的风险。总体而言，结果表明，当前对 MU 的评估往往针对的是表面遗忘，而非与重新训练一致的遗忘。更广泛地说，重新训练揭示了输出遗忘所掩盖的内容。
12:00 arXiv cs.LG 73
arXiv:2605.20619v2 公告类型：替换 摘要：标量化因其简单性和可扩展性而被广泛用于多目标优化。在许多应用中，目标是生成能够代表多样化用户偏好的解，理想情况下均匀覆盖 Pareto 前沿（PF）。然而，均匀采样标量化权重通常会导致对 PF 的非均匀覆盖。我们通过标量化路径的几何性质解释这一不匹配现象。随着权重变化，相应的解以通常并不均匀的速度遍历 PF。对该速度积分可得到累积弧长。用总长度归一化后，它便定义了权重上的累积分布函数（CDF），其反函数可选取弧长间隔相等的点。基于这一洞见，我们提出 SURF（沿 Pareto 前沿均匀采样）。对于包括双目标多臂老虎机在内的结构化问题，我们推导了该 CDF 映射及由此得到的 PF 感知权重采样规则的解析表达式。对于一般问题，SURF 交替执行 CDF 重建与权重采样。在理论上，我们证明，在双目标 LS 的可证明条件下，SURF 的 CDF 重建误差线性收敛至 $O(N^{-2})$ 的离散化误差下限。在实证方面，多臂老虎机、multi-objective-gymnasium 和多目标 LLM 对齐上的实验表明，SURF 能够高效地实现比基线方法更均匀的 PF 覆盖。
12:00 arXiv cs.LG 79
arXiv:2605.09081v5 公告类型：替换 摘要：工业机器是受驱动系统，但大多数开放时间序列语料库仅记录传感器测量结果；少数记录了指令信号的语料库也采用因机器而异的厂商特定格式，因此无法跨实体形态比较指令意图与测量响应。我们提出 FactoryNet，一个用于工业时间序列预训练的语料库：涵盖七种实体形态、四类任务的 5.7 万次端到端任务执行（1.5 万次真实执行、4.2 万次合成执行），共计 1.13 亿个数据点，并提供 27 种带标注的异常类型、正常基线及反事实配对。所有来源中的每个信号均映射至统一的控制理论模式 Setpoint、Effort、Feedback、Context（S-E-F-C），该模式以通用表示框架描述任意受驱动系统，并将指令与实际响应之间的动态差异呈现为显式预测残差。利用该语料库，我们发现，仅使用仿真训练、不使用任何真实阶段标签的任务阶段模型，在两种机器人上均能达到真实数据性能上限的约三分之二；迁移在同一机器人系列内有效，但跨厂商时鲜有成效。故障特征则表现不同：未经校准的仿真器在两种机器人上均无法提供可检测的故障信号，而对齐特征分布也无法弥补这一缺陷。有限的区分能力来自 Effort：在实测工具运动的故障判别表现接近随机水平时，电机电流仍能区分故障；而通过校准仿真器以复现这一个通道，即可在真实机器人上识别出一种负载故障。我们据此认为，仿真能够捕捉任务的稳定结构，而故障行为仍具有多样性，且取决于具体故障类型。我们发布 FactoryNet，旨在为工业基础模型提供持续扩展、涵盖多种实体形态的数据基础。
12:00 arXiv cs.LG 71
arXiv:2605.08037v2 公告类型：替换 摘要：直接偏好优化（DPO）利用成对偏好比较来对齐语言模型，为基于人类反馈的强化学习（RL）提供了一种简单有效的替代方案。然而，在许多实际场景中，训练数据包含每个提示对应的多个采样输出，由此形成了丰富的偏好结构，而成对 DPO 无法利用这些结构。将此类数据简化为相互独立的样本对会丢弃传递性，引入冗余或冲突的监督，并可能导致优化不稳定。我们提出 Graph Direct Preference Optimization（GraphDPO），这是 DPO 的一种结构化推广，在由采样输出排名形成的有向无环偏好图上进行优化。GraphDPO 将支配关系编码为边，并优化一个受 Plackett--Luce 启发的图结构目标函数，该目标函数在被支配邻域上聚合监督信息，传播输入偏好的传递结构，同时将标准 DPO 涵盖为一种特例。GraphDPO 通过等价类构造自然地处理偏好并列和不可比较的回答：具有相同偏好信号的回答构成图层，不可比较的回答共享同一层且彼此之间不连边，不存在的边对损失的贡献为零，从而避免严格全序目标函数产生的伪梯度。在这种分层构造下，GraphDPO 通过高效的 log-sum-exp 聚合，将每个提示的计算复杂度保持在线性水平。我们进一步引入可选的真实答案锚定机制，将经过验证的解作为支配节点插入，并采用退火调度，在稳定早期训练的同时逐步放松预言机监督。在推理和程序合成任务上的实验表明，该方法具有更优的性能，说明图结构偏好建模是一种可扩展且稳健的方案，可替代成对和列表式对齐目标。
12:00 arXiv cs.LG 78
arXiv:2411.02817v3 公告类型：替换 摘要：文本提示引导的生成模型在保真度和提示对齐方面得到了广泛评估，但其生成多样化输出的能力仍缺乏充分研究。现有的多样性指标（如 Vendi 和 RKE）基于核矩阵的冯·诺依曼熵和 Rényi 熵，是为无条件模型开发的，无法区分由提示引起的变异与由模型引起的变异。为弥补这一不足，我们提出了 \textit{Conditional-Vendi} 和 \textit{Conditional-RKE}，这两种多样性度量由半正定矩阵的条件熵推导而来。这些评分能够分离出提示引导生成过程中由模型引起的多样性，其中 Conditional-RKE 具有 $O(1/\sqrt{n})$ 的收敛速率。对于 Conditional-Vendi，我们引入了一种截断谱近似方法，可提供具有可扩展性和一致性的估计。在文本生成图像、图像描述生成和 LLM 任务上的实验表明，这些条件评分能够恢复真实的多样性排序，还能引导扩散模型生成更多样化的样本。代码库见 https://github.com/mjalali/conditional-vendi。
12:00 arXiv cs.LG 73
arXiv:2610.13687v1 公告类型：cross 摘要：音频-视觉数据集蒸馏旨在从大型配对音频-视觉数据集中合成一个小型数据集，同时几乎保留其对神经网络的训练效用。现有方法（如 DM 和 AVDD）面临两个关键局限：1）它们的内存消耗很大，难以扩展到复杂架构和更高的每类样本数（SPC）设置；2）它们通常无法保留较强的跨模态语义对应关系。为解决这些问题，我们提出 X-AVDD，一种基于交叉注意力的蒸馏方法，可在合成过程中显式捕获模态间关系。通过将跨模态对齐与联合优化解耦，X-AVDD 显著提高了内存效率，使端到端合成成本降低约 $8\times$ GPU 小时，同时生成高度对齐的合成数据。实验结果表明，X-AVDD 的性能显著优于其他音频-视觉蒸馏方法。在 VGGSound（一个由 YouTube 短视频片段构成的音频-视觉数据集）上，当 SPC=$10$ 时，X-AVDD 将 top-1 测试准确率从 $8.2\%\rightarrow24.0\%$ 提升至 $24.0\%$；当 SPC=$20$ 时，则从 $9.8\%\rightarrow26.5\%$ 提升至 $26.5\%$。此外，X-AVDD 提升了跨架构泛化能力（例如，在 AVE 数据集上、SPC $=50$ 时，针对 ViT 目标模型的准确率从 $25.5\%\rightarrow35.3\%$），并成功扩展至 AudioCLIP 等复杂架构：仅使用完整数据集的 $5.65\%$，便达到了 $62.3\%$ 的准确率，而完整数据集的准确率为 $72.4\%；与使用完整数据集相比，训练时间缩短了 $9\times$。
12:00 arXiv cs.LG 77
arXiv:2610.13518v1 公告类型：cross 摘要：在机器学习中，自注意力动力学描述了transformer的注意力机制，其处理方式是将transformer的层索引视为时间索引。尽管这一动力系统天然是离散时间的，但人们通常在连续时间框架下对其进行研究。本文旨在对自注意力动力学的离散时间版本进行全面研究：完整分类其平衡点，并研究这些平衡点的稳定性特征，涵盖单头和多头两种情况。我们证明，在这两种情况下，动力学的主要吸引子都是与值矩阵的主特征向量对齐的共识平衡点（在单头情况下为值矩阵，在多头情况下为相应的权重矩阵），尽管至少在单头情况下，还可以证明存在其他局部渐近稳定的二分图平衡点。通过考察一个真实transformer学习到的权重矩阵，我们验证了这一行为。
12:00 arXiv cs.LG 76
arXiv:2610.13370v1 公告类型：交叉收录 摘要：混合专家（MoE）模型已成为前沿大语言模型的标准架构。每个 Transformer 块中的多个并行专家，理论上能够在预训练期间按领域、语言或模态等类别形成专业化分工。然而，当不同类别之间的数据不平衡时，少数类别可能集中在专家池中的一小部分专家上，或低效地分散到各个专家上，从而实际上限制了这些类别可用的模型容量。在本研究中，我们证明，以类别为条件的专家选择偏置可以优先将不同类别的词元路由至专门的专家池。通过根据输入类别施加偏置，我们提供了一种简单的方法，以诱导与类别对齐的软性专业化分工。这种干预促使不同类别倾向于使用不同的专家子集，同时在有益时保留跨类别共享。更重要的是，它能够为原本因数据稀缺而处于不利地位的类别超额分配专家容量。在参数规模最高达 10.6B 的模型中，我们观察到了跨模态、低资源语言和代码方面的性能提升。在最小和最大的模型规模下，这些收益分别相当于为基线额外分配 18.5% 和 2.7% 的训练词元。总体而言，我们的结果表明，专家偏置可以作为一种轻量级的类别层面专家分配控制手段，在保留标准 MoE 推理方式的同时，为低资源类别腾出容量。
12:00 arXiv cs.LG 73
arXiv:2610.12851v1 公告类型：交叉发布 摘要：本研究考察了一种基于熵的 Kullback-Leibler（KL）散度估计量，该估计量由归一化重要性权重构造而成。我们证明了一个通用的有限样本界，表明对于任意样本量，该估计量的期望至多比目标分布相对于提议分布的 KL 散度高出 $\log 2$。随后，我们刻画了重要性加权重采样所诱导的分布与提议分布之间的 KL 散度，并表明，基于熵的估计量的期望以及目标分布相对于提议分布的 KL 散度均为其上界。重要的是，这些界既不要求重要性权重有界，也不要求高阶矩有限。我们将这些结果应用于通过 Soft Best-of-$N$ 采样实现的生成模型测试时对齐，以及相对熵编码，得到有限样本下的策略散度保证和无需矩条件的编码成本界。Soft Best-of-$N$ 采样是 Verdun 等人（2025）提出的一种基于重要性采样的扩展技术。
12:00 arXiv cs.LG 84
arXiv:2610.13917v1 公告类型：新投稿 摘要：从头蛋白质设计的一项核心挑战是生成具有所需结构和功能特性的蛋白质。现有设计模型通常要求为每种特性提供专门的输入表示，从而限制了其支持的设计目标。我们开发了 Prompteina，这是首个支持以自然语言指定全新且更广泛设计目标的全原子结构生成模型，类似于文本到图像生成。为训练 Prompteina，我们构建了 Prompteina-Data，这是一个文本与蛋白质结构配对数据集，包含 180 万个结构和超过 5000 万条文本描述，涵盖整体及残基特异性的结构和功能特性。我们通过文本条件预训练，以及将残基与相应文本对齐的微调，对预训练结构生成模型 Proteina-Complexa 进行了适配。Prompteina 在 18 项结构特性中的 15 项上优于基线模型，并且生成的蛋白质更符合其预期功能的描述。在结合蛋白设计中，它在 20 个靶标中的至少 13 个上领先于基线模型，界面置信度较最强基线模型提高了 14\%。引入迭代式计算模拟反馈后，在最具挑战性的靶标上，Prompteina 相较于非迭代生成的性能增益比次优基线模型的相应增益高出 57\%。最后，我们通过实验验证了 Prompteina 针对 GM2A 的设计，此前尚无针对该靶标的从头设计结合蛋白报道。我们鉴定出九种结合蛋白，其中结合能力最强者的表观 $K_{\mathrm{D}}$ 为 107 nM。这些结果表明，自然语言可作为蛋白质结构生成的有效且强大的条件控制接口。
12:00 arXiv cs.LG 80
arXiv:2610.13350v1 公告类型：新提交 摘要：广泛复用的电子健康记录预处理流程可能隐含一些假设，涉及信息何时可用、标签代表哪一次临床诊疗过程，以及数据缺失意味着什么。这些假设很少得到系统性审查，并可能随着预处理流程的复用或调整而传播到后续研究中。我们以 MIMIC-IV 为案例，识别并量化了三种互补的预处理对齐形式，即时间对齐、语义对齐和人群对齐的违反情况，它们分别表现为时间泄漏、特征与任务不匹配以及有偏插补。我们展示了时间戳语义、诊疗过程定义、终点构建、模态选择和缺失值处理中的歧义如何改变模型可用的信息，并影响对其预测结果的解释。通过对 MIMIC-IV 数据的分析和实证案例研究，我们证明，这类选择虽然会改变模型所依赖的信号，却可能在总体预测性能中基本不显现。我们据此提出了切实可行的建议，以便对 MIMIC-IV 及相关电子健康记录数据集开展时间上有效、与临床相契合且可复现的预处理。我们的实验代码（包括所提出的预处理方法）可在以下地址获取：https://github.com/m2l-lab/mimic-iv-preprocess。
12:00 arXiv cs.LG 75
arXiv:2610.13257v1 公告类型：新论文 摘要：跨分词器同策略蒸馏（OPD）需要先对齐教师与学生的序列，才能比较二者的评分。解码文本对齐在文本块层面建立了这种对应关系，但仍有一个独立问题尚未解决：信用对齐。块级信号指明一个文本片段应当改变多少，却未说明该信号应如何分配到学生的各个词元上，而没有教师对应项的词元则仍然不受约束。我们提出 CAST（Chunk-aware credit Assignment with Selective Token Anchoring），这是一种“改变或保持”框架，可同时解决上述两个问题。对于已对齐的文本块，CAST 利用预测不确定性和局部教师信号的平滑性，将每个块的优势值重新分配到学生词元上，在保持该块总优势值不变的同时，重点关注由局部一致的教师反馈所支持的学习机会。由此得到的权重恰好是一个 KL 正则化信用分配问题的精确解。对于未对齐的位置，CAST 通过 KL 惩罚项选择性地将学生锚定于其初始策略，从而在缺乏教师监督的位置限制策略漂移。由于信用分配与文本块构建相互分离，CAST 也适用于共享分词方式下按标点划分或固定长度的文本块。在六项数学、科学和代码基准测试中，对于从 Qwen3-8B 到 Mistral-7B 和 Llama-3.1-8B 的跨分词器迁移，CAST 的平均得分相较于所评估的最强基线分别提高了 $2.45$ 和 $1.32$ 分；对于到 Qwen3-1.7B 的共享分词器迁移，则提高了 $2.10$ 分。
12:00 arXiv cs.LG 75
arXiv:2610.13225v1 公告类型：新稿 摘要：通过在统计流形上学习连续向量场，将简单先验输运至目标离散分布，离散数据生成建模取得了显著进展。然而，这些连续时间流并未被约束为沿统计流形上的测地线运动，因此需要通过多步数值积分进行模拟，导致推理阶段的计算成本高昂。在本研究中，受 Rectified Flow 在连续欧几里得空间中“直且快”特性的启发，我们提出了 Rectified Statistical Flow（ReSFlow）模型。该模型通过显式学习遵循内在黎曼几何的测地线轨迹，实现统计流形上的单步类别生成。通过校正统计流形上的流，我们从理论上保证了先验分布与目标分布之间的轨迹逼近测地线。这种校正使学习到的轨迹直接沿统计流形上的测地线对齐，从而显著降低输运成本，使模型能够在单步内将纯噪声映射为目标离散数据。通过在涵盖图像、文本和生物领域的多种真实世界生成任务上开展广泛实验，我们展示了 ReSFlow 卓越的单步生成质量，真正实现了测地线意义下最优且快速的类别生成。我们的代码已公开于 https://github.com/xiaohuanjia/ReSFlow。
12:00 arXiv cs.LG 74
arXiv:2610.13113v1 公告类型：新提交 摘要：持续后训练面临能力习得与知识保留的双重挑战：模型必须在学习新能力的同时保留已有知识。尽管自蒸馏微调（SDFT）利用上下文示例进行自监督来缓解这一问题，但它依赖于较强的上下文学习和指令遵循能力。因此，SDFT 在对低延迟、端侧应用至关重要的小模型上失效。为使较小规模的模型能够持续学习，我们首先确定了失效的根本原因。我们表明，能力习得不佳和知识遗忘与后训练模型的分布偏移呈线性相关，揭示了分布内学习的必要性。因此，我们提出合成自蒸馏（SynthSelf），将改写任务交由规模仅略大、同系列的对齐模型完成，以模仿 SDFT 的分布内改写。结合离策略监督和拒绝采样，这种方法能够在不破坏小模型原始分布的前提下，提供其所需的高质量监督。在 4 个能力习得数据集（包括一个混合数据集）和 14 个知识保留基准上的评估表明，SynthSelf 在 3 种小模型规模上均持续优于 6 种方法（包括离策略蒸馏和同策略蒸馏）。大量进一步分析证实，SynthSelf 为有效实现小模型持续学习铺平了道路。
12:00 arXiv cs.LG 73
arXiv:2610.13034v1 公告类型：新提交 摘要：根据部分目标轨迹进行轨迹外推是欠定问题，但已完成的相关轨迹可为尚未确定的后续轨迹提供信息。我们提出目标约束池化（TCP），将有限时域的终点与后续轨迹形状分离，并根据两种互补的源信号估计该终点。均匀池化捕捉最终响应水平，而匹配增量池化则在对齐源状态与目标状态后捕捉剩余变化。TCP 选择具有代表性的源轨迹，将两种终点估计投影到与目标一致的区域，将其转换为对无约束预测的修正，并通过强度校准和退化感知加权控制其影响。在来自五个领域、涵盖两个预测方向的 25,245 个目标上，TCP 将全部十种仅基于目标的预测器的平均 RMSE 降低了 35.8% 至 42.1%，并在预测器、数据集和方向的全部 100 组比较中取得改进。两种终点信号的联合使用始终优于单独使用任一种信号；同时，代表性选择仅使用完整供体池 1/12.7 的供体输入和 1/138.8 的匹配距离计算量，与完整供体池的性能差距仍保持在 0.64% 至 1.02% 之间。
12:00 arXiv cs.LG 80
arXiv:2610.12976v1 公告类型：新论文 摘要：准确的日降水预报对天气敏感型决策至关重要。尽管近期天气基础模型（WFMs）取得了显著进展，但它们使用再分析数据进行训练，而这类数据存在随区域和降水强度而变化的偏差。由于基于观测目标重新训练 WFMs 的成本高昂，我们研究了 Dynamics-Precipitation Decoupling，这是一种即插即用框架，利用单独训练的生成器，将冻结天气模型输出的非降水预报映射为与观测一致的日降水。其关键挑战在于捕捉异质性降雨分布，并使日累计降水与随时空演变的大气信号相匹配。为应对这些挑战，我们以大气状态为条件，利用卫星与雨量计融合降水估计训练扩散生成器。多尺度循环编码器概括大气演变过程，交叉注意力则在去噪过程中对齐大气特征与降水特征。针对 Pangu-Weather、GraphCast 和 HRES 等多种骨干模型开展的全球及区域预报广泛评估表明，该方法提高了日降水预报准确性和事件检测能力，并能更好地表征局地累计降水分布。全球集合预报评估显示，在所有报告的预报时效下，该方法的 Brier 评分均低于 ENS 和从头训练的 GenCast，且在大多数比较中具有更低的 CRPS。值得注意的是，一项利用中国 2,288 个站点开展的强降雨个例研究，通过与地面观测对比，进一步证实了该方法在日累计降水分布表征和事件检测方面的改进。
23:29 arXiv cs.AI 77
通用机器人策略的规模化受到具身交互数据采集成本高昂的限制。大规模第一人称视角的人类视频提供了一种数据丰富的替代方案，但这些视频缺乏机器人动作标签，而且在现实世界复杂的视觉环境和多样化的操作动态下，现有动作标注方法往往噪声较大。我们提出 LAPT-Scale，这是一种可扩展的潜在动作预训练范式，包含两个组件：LAPT-Scale-LAM 通过解释人类视频中相邻帧之间的视觉变化来学习连续潜在动作，并将其用作源自人类的监督信号；LAPT-Scale-Policy 则通过人类视频潜在动作预训练、目标机器人具身形态对齐以及任务特定的后训练来训练 VLA 策略。与以往采用向量量化的 LAM 不同，LAPT-Scale-LAM 使用连续潜在空间来保留细粒度的运动与交互动态。我们进一步结合感知、语义和光流对齐信号，使视觉变化层面的监督超越单纯的像素重建。LAPT-Scale-LAM 在 2.33 万小时的第一人称视角视频上训练，为策略预训练提供隐式动作监督，带来持续的规模化收益：当经过标注的人类视频从 1000 小时扩展至 5000 小时时，真实机器人任务成功率从 63.3% 提升至 85.0%。所学策略还能泛化到未见过的视觉条件。
00:37 arXiv cs.AI 74
具身递归自我改进的一项核心挑战，是让智能体将交互历史转化为能够跨世界保留、并迁移至后续任务的能力。仅凭已保存的记忆或成功的最终动作，并不能证明智能体获得了可复用的能力；评估必须将能力变化与沿用的资源、不均等的源任务接触量以及早期执行失败区分开来。我们构建了 MC-EvoBench，这是一个受控的 Minecraft 基准，包含由 19 条已注册演化链组成的固定目录，其中包括 12 条主要评估链和 7 条校准或探测链，以及三组用于迁移评估、与图结构对齐的配对探测任务。该基准将每项任务表示为任务状态图，定义阶段级环境验证器，分配相匹配的源任务与目标任务角色，重置目标世界，并且只允许预先声明的智能体产物跨越源任务与目标任务之间的边界。对于每项探测，我们在匹配的环境步数预算和五个随机种子下，评估无先验、相关、不相关和打乱顺序的源任务条件；报告 TSR、WGP 和 VMP，并保留溯源记录。该基准揭示，控制器变体与规划器支持的变体之间存在一致的直接能力差距，而相关经验并未带来稳定的迁移效果：它未能改善任何一项工具探测的表现，在木材种类探测中的微小收益依赖于单个随机种子，且所有区间均包含零。阶段审计进一步表明，早期木材采集与合成环节的瓶颈往往导致后续能力无法被观测。因此，MC-EvoBench 为持久且可迁移的具身能力提供了一个受控测试平台。代码和数据可在 https://github.com/xzw-ustc/mc-bench-open-source 获取。
16:44 arXiv cs.AI 78
通过学习统计流形上的连续向量场，将简单先验分布输运至目标离散分布，离散数据的生成建模取得了显著进展。然而，这些连续时间流并未被约束为沿统计流形上的测地线运动，因此需要通过多步数值积分进行模拟，导致推理阶段的计算成本高昂。在本研究中，受 Rectified Flow 在连续欧几里得空间中“直且快”特性的启发，我们提出了 Rectified Statistical Flow（ReSFlow）模型。该模型通过显式学习遵循内在黎曼几何的测地线轨迹，实现统计流形上的单步类别生成。通过矫正统计流形上的流，我们从理论上保证了先验分布与目标分布之间的轨迹逼近测地线。这种矫正使学习到的轨迹直接沿统计流形上的测地线对齐，从而显著降低输运成本，使模型能够仅用一步就将纯噪声映射为目标离散数据。通过在涵盖图像、文本及生物领域的多种真实世界生成任务上开展广泛实验，我们证明了 ReSFlow 卓越的单步生成质量，真正实现了测地线意义上最优且快速的类别生成。我们的代码已公开，地址为 https://github.com/xiaohuanjia/ReSFlow。
17:49 arXiv cs.AI 81
LLM 评审越来越多地以评审团的形式部署，而成员间的分歧往往被视为评分准则不清晰的表现。我们测试了一种将此类分歧转化为评分准则修订的无标签流程。该流程将每套评分准则拆分为若干子标准，根据各子标准在开发集上引发的跨评审分歧进行排序，再由编辑模型仅重写争议最大的子标准。流程还包含一个额外阶段，用于将可通过文本检查的子标准转交给确定性检查器，但在我们的评估中，没有任何子标准被转交。人类标签从不用于选择或编辑条款，仅用于评估结果。我们在受版本控制的研究方案中预先指定了四项假设，并使用来自三家提供商的五个评审组成的评审团，在 SummEval、HealthBench 元评估和 USR Topical-Chat 上评估了六种评分准则条件，总计发起 129,770 次评审请求，不含重试。在 SummEval 上，相较于原始评分准则，该流程使评审间的 Krippendorff's $α$ 提高了 0.069（95% 置信区间为 0.046 至 0.092）；相较于对照条件则提高了 0.074，该对照条件对同等数量、随机抽取且未被选中的条款施加了相同的编辑操作。与专家评分的一致性未出现可检测到的变化（Kendall $τ$ 差值为 -0.007，95% 置信区间为 -0.037 至 0.021）。在 HealthBench 和 USR 上，评审间的一致性以及与人类的一致性均未达到预注册的效应标准。在一项预注册的次要比较中，三个数据集上的点估计均显示，编辑争议条款后与人类的一致性低于编辑对照条款后的水平，但所有区间均包含零。与编辑任意条款相比，根据分歧选择条款更能促进评审彼此达成一致；但在我们的实验设置中，这种共识的增加并未使评审更接近人类标注者。我们将发布代码、冻结版本的评分准则、条目标识符和评审分数。
18:07 arXiv cs.AI 71
为复杂化学任务设计集成工具的推理智能体系统，仍是一项根本性挑战。尽管近期的化学智能体通过集成外部工具展现了良好的性能，但它们仍建立在自回归范式之上，因而受到因果注意力和从左到右生成机制的固有限制。因此，它们往往难以实现双向分子理解、全局协调的工具规划以及多源证据整合。为应对这一挑战，我们提出 ChemDiffAgent，这是首个用于工具集成化学推理的掩码扩散语言智能体。它将化学推理重新表述为对推理与工具使用交错轨迹进行迭代去噪的过程，使工具使用决策能够在完整轨迹上下文中共同确定，从而使智能体的决策边界与其知识边界更好地对齐。我们进一步分析了这一范式如何通过训练期间更具挑战性的填补子问题，以及推理期间灵活的任意顺序解码，促进智能体推理。随后，我们开发了一个两阶段后训练框架，包括智能体监督微调和方差缩减偏好优化，以增强工具使用和推理能力。我们还构建了一个综合基准，涵盖单轮和多轮工具使用场景下的六项化学任务。在预算与评估条件一致的情况下，ChemDiffAgent 持续优于自回归智能体，总体提升约为 20%。值得注意的是，我们的 8B 模型达到了与 GPT 5.5 和 Claude Opus 4.7 等规模显著更大的前沿模型相当的性能，并在某些情况下超越了它们。代码已发布于 https://github.com/bilemond/ChemDiffAgent。
12:00 arXiv cs.LG 82
arXiv:2610.03827v2 公告类型：替换交叉版本 摘要：相似度分数常被用作证据，证明某个模型与大脑或不同语言之间共享结构。我们在两种情境下追问：当这种结构被移除，或测量它的工具无法正常工作时，这样的分数究竟反映了什么。在十七种语言中，语法性探针在语言距离越远的语言之间迁移效果越差（r = -0.66）。但探针自身的准确率也沿着同一轴下降，并且在四种语言中处于随机水平，而这四种语言恰好是距离最远的五种语言中的四种。剔除这些语言后，可解释方差减半；由于语言距离的取值范围也随之缩小，该设计无法说明这一梯度效应中有多少来自测量工具本身。将272个语言对视为相互独立的样本，会得到引导效应的 p = 0.0006；而以十七种语言为统计单位时，该效应为零（p = 0.155）。在脑对齐方面，一项训练目标使语言模型与 fMRI 反应的相似度从0.10提高到0.34（可靠性上限为0.54），然而，即使破坏了目标中的脑对应关系，模型仍能达到0.31。对于包含 n 个句子的真实目标，经过打乱的目标得分约为 k/n，其中 k 为其排名；这一基线可在训练任何模型之前计算出来。两种干预都有效，但我们没有检测到随距离变化的引导效应，也没有发现对齐带来的句法收益。在解读对应性分数之前，先测量在没有对应关系的情况下，该分数有多少仍能保留下来。
12:00 arXiv cs.LG 80
arXiv:2609.39882v2 公告类型：替换交叉版本 摘要：预训练使大型语言模型（LLM）具备与角色、风格、价值观和目标相关的广泛行为模式。后训练教授条件性执行能力，并使乐于助人的助手成为默认模式，但不会从权重中抹除其他模式；因此，明确的提示词可能诱发某些人格，而这些人格会反复影响模型的判断、语言和行动。在开放权重设置下，运行时控制可以被移除，这促使人们研究人格遗忘：一种在权重层面进行的编辑，使指定人格难以在未见过的上下文中被诱发和执行。我们推出 PersonaUnlearnBench，这是一个特定于模型的配对基准，涵盖来自三个系列的六个 LLM 和五种人格，包含对齐的遗忘集/保留集、留出的指令释义以及四个维度的评估。该基准表明，标准遗忘方法无法在不牺牲有意义的生成能力或通用效用的情况下，可靠地抹除目标人格。因此，我们提出 PaCE：通过比较模型针对同一问题生成的目标响应与理想响应，定位一种内部行为方向；随后训练目标提示词对应的状态，使其远离目标模式，并趋向匹配的理想响应。实验表明，PaCE 能够持续抑制目标人格，同时保持较高的响应质量和有用的替代行为，仅付出中等程度的效用成本。这些结果确立了人格遗忘作为一种独特的行为层面编辑问题，并表明它是实现对潜在 LLM 响应策略进行持久控制的一条实用途径。
12:00 arXiv cs.LG 75
arXiv:2605.14925v3 公告类型：替换交叉版本 摘要：无人机视角地理定位旨在将查询无人机图像（通常在恶劣天气条件下拍摄，例如雨、雪、雾）与带有地理标签的卫星图像库进行匹配。天气导致的无人机视角图像质量下降，如噪声、能见度降低和局部遮挡，会严重加剧固有的跨视角域差异。尽管以往方法主要依赖针对特定天气设计的架构或数据增强，但在很大程度上忽视了道路地图数据这一易于获取的模态。道路地图能够以几乎零额外成本提供强大且天然不受天气影响的几何布局线索（例如道路网络和建筑物轮廓）。我们提出 GeoFuse，一种跨模态融合框架，将精确对齐的道路地图切片与卫星图像相结合，以生成更具判别性且更耐受天气变化的表征。首先，我们为现有的 University-1652 和 DenseUAV 基准补充地理对齐的道路地图，从而提供对气象变化具有鲁棒性的结构先验。在此基础上，我们提出一种灵活的融合模块，通过令牌级和通道级交互结合卫星图像与道路地图特征，并采用轻量级动态门控机制，根据每个实例自适应地调整各模态的贡献。最后，我们采用类别级跨视角对比学习，促进受天气影响的无人机特征与融合后的卫星图像-道路地图表征之间实现鲁棒对齐。在多种天气条件下进行的大量实验表明，GeoFuse 始终优于当前最先进的方法，在 University-1652 和 DenseUAV 基准上分别取得了 Recall@1 准确率 +3.46% 和 +23.18% 的提升。
12:00 arXiv cs.LG 79
arXiv:2508.12466v3 公告类型：替换交叉版本 摘要：连接预训练视觉模型和语言模型通常需要将图像特征投影到语言模型的输入空间中。Inverse-LLaVA 在解码器注意力中反转了这一映射：将语言状态投影到视觉特征维度，并通过模态特定映射生成查询、键和值的残差更新。融合模块与低秩适配（LoRA）利用 665K 条视觉指令进行联合学习，骨干网络保持冻结，且无需单独的对齐阶段。在九项主要基准评测中，最终的 7B 模型在多项任务上接近两阶段 LLaVA-1.5。在 VQAv2 上，其得分为 78.45%，而官方 LLaVA-LoRA 为 79.13%；在 VizWiz 上则为 50.96%，高于后者的 48.56%；TextVQA 得分较低，为 56.96%，而后者为 58.47%。受控实验考察了融合组件、插入深度、视觉特征和语言模型规模。表示分析表明，文本映射保留了成对相似度排序中的大部分信息，同时改变了其几何分布范围。额外的配对监督提升了名人识别能力，而指令重放修复了由字幕引起的答案格式错误。分析性计算成本表达式和固定工作量配置文件将额外的融合计算与省略的对齐阶段区分开来。这些发现表明，文本到视觉的注意力融合是仅使用指令进行多模态适配的一种实用替代方案。
12:00 arXiv cs.LG 77
arXiv:2506.15971v2 公告类型：替换交叉版本 摘要：无监督域适应（UDA）能够有效弥合有标注源域与无标注目标域之间的域差异，但其前提是假设两个域具有相同的模态。异构域适应（HDA）则处理跨域的不同特征空间，但要求目标域样本带有标注，或存在连接源域与目标域的配对数据。当有标注源域和完全无标注目标域分别具有完全不同的模态（例如二维图像和三维点云）时，上述两种方法均不适用。为解决这一局限，我们提出了一种新的设置，称为异构模态无监督域适应（HMUDA）。该设置通过一个无标注桥接域跨模态迁移知识，其中包含来自两种模态的配对观测，且其分布可能偏离源域和目标域的分布。为在HMUDA设置下进行学习，我们提出了Latent Space Bridging（LSB），这是一种双分支框架：通过对桥接域配对样本施加特征一致性损失来缩小模态差异，并通过类别质心对齐损失来减小源域与目标域之间的差异。在涵盖二维到三维和三维到二维迁移的八种基准设置上进行的大量实验表明，LSB达到了最先进的性能。
12:00 arXiv cs.LG 68
arXiv:2609.08064v3 Announce Type: replace Abstract: Large Language Models (LLMs) are increasingly deployed in settings where rare but severe harmful generations can have significant consequences. Existing Risk-Averse RLHF addresses this issue by optimizing Conditional Value-at-Risk (CVaR), but it trains policies for fixed risk levels and therefore cannot adjust the desired degree of risk aversion at inference time. In this paper, we propose risk-conditioned RLHF, a framework that trains a single policy that provides a continuous risk-control interface, enabling users to select different degrees of risk aversion without retraining or deploying multiple risk-specific models. Experiments across multiple benchmarks demonstrate that a single risk-conditioned policy can adapt to different risk levels at inference time, enabling more flexible and risk-aware LLM deployment.
12:00 arXiv cs.LG 78
arXiv:2606.06892v3 公告类型：替换 摘要：可扩展的数据归因方法通常为单个训练样本分配彼此孤立的效用分数。这一普遍的加性假设无法从根本上捕捉关键的子集动态，包括数据冗余和互补覆盖。在本文中，我们将归因重新定义为子集级反事实效用预测，并提出具备交互感知能力的代理模型 GRASP。基于理论上的平滑性下界，GRASP 通过二次几何惩罚显式建模子集交互。为在不依赖隐藏的预言机调优的情况下实现预训练规模的高效性，我们将低维特征摘要与严格有限的下置信界选择协议相结合。广泛的子集重训练评估表明，GRASP 明显优于现有的可扩展基线方法。在反事实子集保真度方面，它使任务级秩相关性提升至原来的两倍以上，同时将前期工件构建成本降低了近一个数量级。下游诊断进一步表明，该评分机制能够迁移到语言模型数据筛选和跨领域视觉数据选择中，为优化大规模预训练语料库奠定了稳健基础。
12:00 arXiv cs.LG 73
arXiv:2605.24911v2 公告类型：替换 摘要：检索增强为时间序列预测器提供了历史延续片段，然而，即使候选片段优于基础预测，也未必能改善最终预测结果。我们提出 ROAR，一种面向零样本时间序列预测的检索机会感知精炼框架。为更好地利用这些改进机会，其训练目标根据基础预测的难度以及检索候选片段所带来的相对改进程度，在不同查询之间分配额外权重。在此目标下，ROAR 首先学习聚合对齐的历史候选片段，并使用一个学习得到的门控机制，相对于固定的基础预测器控制候选片段的校正强度。随后，它联合校准预测模块和门控机制，以协调二者的贡献，同时将组合预测锚定到第一阶段的精炼输出。我们推导了精炼增益和机会加权训练损失的精确分解，并在局部线性化条件下刻画了联合校准带来的额外增益。在七个基准数据集上的实验表明，在参与比较的方法中，ROAR 达到了最低的平均 MSE。进一步评估显示，在多个骨干网络系列和检索增强预测器上，ROAR 都能带来平均预测性能提升。
12:00 arXiv cs.LG 81
arXiv:2605.12765v4 Announce Type: replace Abstract: Large Language Models (LLMs) memorize vast amounts of training data, raising concerns regarding privacy, copyright infringement, and safety. Machine unlearning seeks to remove the influence of a targeted forget set while preserving model performance, ideally approximating a model retrained from scratch without it. Once an LLM is in use, every new request to make it forget specific content demands updating its weights. However, unlearning through parameter updates is expensive, hard to audit, and can be undone by quantization. We show that unlearning can be enforced entirely at inference time, without training, gradients, or weight changes. We introduce Inference-Time Unlearning via Gated Activation Redirection (GUARD-IT), a training- and gradient-free method that unlearns via input-dependent activation steering at inference time. GUARD-IT stores the content to be forgotten as a small library of activation directions, and during inference, it routes each query through a similarity gate that activates only for relevant directions and applies them as a norm-preserving rotation of the residual stream, while unrelated queries pass through the unmodified model. The same design carries across three model families and nine checkpoints from 0.8B to 8B parameters, and new forget requests are absorbed by one offline pass of forward passes. On TOFU, against 16 gradient-based and inference-time baselines, and on MUSE and WMDP, GUARD-IT forgets without breaking the model, and on TOFU it is the only method that suppresses memorization in every Llama configuration without collapsing: it keeps utility and fluent generation in every configuration, moves the model's output distribution closest to a model that never saw the forgotten data on the forget01 split, survives 4- and 8-bit quantization and ten sequential forget requests, and holds under jailbreak attacks.
12:00 arXiv cs.LG 74
arXiv:2605.10414v2 公告类型：替换 摘要：旋转位置编码（RoPE）广泛应用于现代大型语言模型。然而，当序列长度超出训练期间见过的范围时，旋转相位可能进入分布外区域，从而导致虚假的远程对齐、注意力分散以及检索性能下降。现有的解决方案只能部分缓解这些问题，因为它们通常需要以牺牲局部位置分辨率为代价来换取长上下文稳定性。我们提出 GAPE（门控自适应位置编码），这是一种可直接替换使用的位置编码增强方法，在保留旋转几何结构的同时，将内容感知偏置直接引入注意力 logits。GAPE 通过一个依赖查询的门控机制压缩无关上下文，并通过一个依赖键的门控机制保留重要的远距离 token，从而将基于距离的抑制与 token 重要性解耦。我们证明，受到较弱保护的远距离上下文会随着查询门控值的变化呈指数衰减，而被选中的键则可通过地标保护继续保持可访问性。我们进一步证明，GAPE 可以在标准缩放点积注意力中实现。在受控检索和语言建模实验中，GAPE 在长上下文场景下表现出更强的鲁棒性，并可外推至训练长度的 8 倍。我们还将 GAPE 改造并应用于一个预训练的 7B 模型，在标准基准测试中保持了原有性能，并在评估的最长上下文长度下取得了更好的表现。这些结果表明，自适应上下文抑制可以作为位置表示的补充，促进长上下文泛化。
12:00 arXiv cs.LG 81
arXiv:2603.11331v4 公告类型：替换 摘要：对抗性攻击能够可靠地诱导经过安全对齐的大型语言模型产生不安全行为。通过实证研究，我们发现，对抗性提示注入攻击可以将未进行注入时观察到的缓慢多项式增长的攻击成功率，放大为随推理时采样数量呈指数增长的攻击成功率。我们首先针对安全生成在不同上下文中的分布提出一组最小假设，并据此给出能够产生这两种缩放定律的最小统计机制。为进一步解释这一现象，我们提出了一种代理语言的理论生成模型：将其描述为处于复制对称性破缺状态的自旋玻璃系统，其中生成结果从相应的 Gibbs 测度中抽取，并将一部分低能量、具有大小偏置的簇指定为不安全簇。我们从解析上展示了该模型如何自然地实现这些最小假设。较短的注入提示对应于指向不安全簇中心的弱磁场，并使攻击成功率随推理时采样数量呈幂律增长；而较长的注入提示，即强磁场，则会产生指数增长。我们在范围广泛的大型语言模型中观察到了定性一致的行为，其参数规模涵盖 3B 至 70B。特别是，在多种攻击方法（如 GCG 和 AutoDAN）以及 AdvBench 和 HarmBench 等基准数据集之间，主要趋势仍然保持稳定。
12:00 arXiv cs.LG 76
arXiv:2603.01376v2 公告类型：替换 摘要：大型语言模型（LLM）的稀疏加低秩（$\mathbf{S} + \mathbf{LR}$）分解已成为模型压缩领域一个颇具前景的方向，旨在将预训练模型权重分解为稀疏矩阵与低秩矩阵之和（$\mathbf{W} \approx \mathbf{S} + \mathbf{LR}$）。尽管近期取得了进展，现有方法相比稠密模型通常会出现显著的性能下降。在本文中，我们提出了 3BASiL-TM，这是一种高效的单次训练后处理方法，用于对 LLM 进行（$\mathbf{S} + \mathbf{LR}$）分解，旨在弥合这一差距。我们首先提出了一种新颖的三块交替方向乘子法（ADMM），称为 3BASiL，在具备收敛保证的情况下最小化逐层重构误差。随后，我们设计了一个高效的 Transformer 匹配（TM）细化步骤，在 Transformer 层之间联合优化稀疏与低秩组件。该步骤最小化一种新颖的内存高效损失，使输出在 Transformer 层面实现对齐。值得注意的是，TM 过程具有通用性，因为它能够增强任何（$\mathbf{S} + \mathbf{LR}$）分解，包括纯稀疏分解。数值实验表明，在（2:4 Sparse + 64 LR）配置下，与已有方法相比，3BASiL-TM 将相对于稠密 LLaMA-8B 模型的 WikiText2 困惑度差距缩小了 30% 以上。此外，与当前最先进的（$\mathbf{S} + \mathbf{LR}$）方法相比，我们的方法在 A100 GPU 上实现了超过 2.5 倍的压缩运行速度提升。我们的代码可在 https://github.com/mazumder-lab/3BASiL 获取。
12:00 arXiv cs.LG 77
arXiv:2505.13878v4 公告类型：替换 摘要：模型融合通过轻量级训练方法，将多个具有不同优势的大语言模型（LLM）结合为一个更强大的集成模型。现有模型融合工作主要聚焦于监督微调（SFT），而对偏好对齐（PA）这一提升大语言模型性能的关键阶段探索甚少。目前少数针对 PA 阶段的融合方法（如 WRPO）仅利用源模型的响应输出，舍弃了其概率信息，从而简化了流程。为解决这一局限，我们提出了 InfiFPO，一种用于隐式模型融合的偏好优化方法。InfiFPO 将直接偏好优化（DPO）中的参考模型替换为一个融合后的源模型，该模型在序列层面综合多源概率，既规避了以往工作中复杂的词表对齐问题，又保留了概率信息。通过引入概率裁剪和最大间隔融合策略，InfiFPO 使枢轴模型能够与人类偏好对齐，同时有效地从源模型中蒸馏知识。在 11 个广泛使用的基准测试上的全面实验表明，InfiFPO 始终优于现有的模型融合和偏好优化方法。以 Phi-4 作为枢轴模型时，InfiFPO 将其在 11 个基准测试上的平均性能从 79.95 提升至 83.33，显著增强了其在数学、编程和推理任务中的能力。
12:00 arXiv cs.LG 79
arXiv:2610.12410v1 公告类型：cross 摘要：LLM 开发者会对模型进行后训练，使其表现出亲社会价值观和行为特征，并将这些价值观和特征列举在对齐目标中。然而，尽管近期的后训练发展已经产生了在对齐评估中得分很高的模型，在狭窄行为集合上训练模型，仍会以意料之外的方式影响其在未见过的上下文和环境中的行为。本文提出对齐泛化预测这一任务，即预测将模型微调为遵循某一给定价值观后，其行为在广泛的留出价值观集合上会如何变化。我们针对现代对齐目标中发现的 66 种价值观，对对齐泛化效应进行了大规模分析，并对多种表示技术在对齐泛化预测任务上的表现进行了基准测试。我们发现，在上下文中应用价值观时基于模型激活的表示，显著优于基于价值观文本描述的方法。具体而言，表现最佳的基于激活的方法与我们的泛化矩阵达到了 0.45 的相关性，而基于描述的基线方法仅为 0.05。随后，我们通过使用这些表示来衡量多价值对齐目标中的价值观之间的相似程度，展示了能够预测对齐泛化的表示在下游任务中的适用性；我们发现，这种相似程度与模型鲁棒性存在显著相关性。最后，我们展示了关于共享的、与模型无关的价值空间的初步证据，并据此构建了首个以经验泛化动态为基础的 LLM 价值观分类体系。我们的工作证明了研究 LLM 中价值观泛化的重要性，以及将其应用于更加经验化的模型行为设计与训练的价值。
12:00 arXiv cs.LG 71
arXiv:2610.12095v1 公告类型：交叉发布 摘要：小样本学习旨在利用有限的标注样本识别新类别。近期研究引入文本语义，以弥补视觉观测不足并改善类别表示。然而，较高的图像文本一致性可能同时反映物体的固有属性和偶然出现的上下文，使支持集原型容易受到上下文污染。为解决这一问题，我们提出 DVLA-RL++，在 DVLA-RL 的基础上引入互补语义净化（CSP）和反事实强化学习门控（CRG）。具体而言，CSP 根据带标注的支持样本生成固有属性描述与干扰因素描述，并比较这些描述与每个支持样本词元的一致性。随歧义程度变化的拒绝间隔引导稀疏证据分配，而固有语义锚点则填补未分配的权重，在视觉证据不可靠时提供兜底。CRG 使用兼顾识别性能与干扰暴露程度的奖励，学习逐层语义融合强度。在同一小样本学习任务中独立执行的参考轨迹提供配对学习信号。理论分析将保留证据及锚点质量与原型稳定性联系起来，并确立了同策略梯度无偏估计的条件。在标准、细粒度和跨域基准上的实验表明，该方法达到最先进的准确率，较 DVLA-RL 平均提升 1.4%。项目页面：https://peacelwh.github.io/TPAMI27-DVLA-RLpp/。
12:00 arXiv cs.LG 77
arXiv:2610.11945v1 公告类型：cross 摘要：在机器人上采集触觉示范成本高且速度慢，因此人们开始使用成本更低的人用触觉手套来实现可扩展的数据采集。然而，人用电容式/压阻式手套与机器人触觉传感器在换能原理、传感器布局、空间分辨率和动态响应方面存在根本差异，使得原始传感器通道的对齐变得缺乏明确意义。为解决这一问题，我们提出了TACROSS，这是一种从人类触摸中学习并将其迁移至机器人的可扩展系统。该系统通过在接触事件层面而非原始传感器数值层面对齐触觉流，弥合了上述异构性。TACROSS的硬件组件集成了一款五层压阻式手套，成本为10.86美元，配备285个感知点。为对齐接触语义，我们设计了规范化器和残差适配器，通过一个在手指之间进行注意力计算的时序Transformer，将异构信号映射到一个256维的共享触觉潜空间中。我们进一步提出了一种以机器人为基础的策略学习方案：机器人示范作为真实动作监督的唯一来源，而人类示范则用于触觉表征学习，并通过有效的重定向手部目标提供基于置信度加权的辅助监督。我们在四项接触密集型操作任务上评估了系统。与传统遥操作相比，我们提出的系统将效率提升了3.5倍，同时将示范采集设备成本降低了95.7%。我们将开源TACROSS硬件和软件系统，并公开发布一个包含超过150小时记录的触觉数据集。项目页面：https://tacross-touch-project.github.io/。
12:00 arXiv cs.LG 80
arXiv:2610.11222v1 公告类型：cross 摘要：临床前模型难以预测人类药物疗效，尤其是在神经系统疾病中。神经活动提供了极为丰富的转化研究信息来源，因为它捕捉了神经系统功能的高维变化，而这些变化可以在动物和人类中进行测量。然而，其高维特性使得研究人员难以区分保守的疾病相关特征与由物种、记录方式和实验环境引起的变化。在本研究中，我们检验了这样一种可能性：能否通过从电生理数据中学习按照生物学状态而非物种组织的表征，直接识别共享的神经动力学。我们开发了一种双规则对比学习框架，在保持不同表型之间分离的同时，对齐小鼠和人类中相对应的状态。该框架在不同物种间恢复了保守的感觉反应结构，并在癫痫研究中解析出三个小鼠模型与异质性人类患者群体之间不同的关系。当将接受治疗的动物投影到冻结的跨物种表征中时，其因药物诱导而向与人类对齐的健康状态移动的程度，回溯性地追踪了十种模型—药物组合中已知的临床疗效，其中包括一种疾病特异性的不利影响。尽管遗传病因和记录方式存在差异，该框架还识别出了Fmr1-knockout小鼠与人类16p11.2拷贝数变异携带者之间共享的疾病相关神经动力学。总之，这些发现表明，跨物种神经表征学习有望将异质性人类疾病映射到实验上易于研究的临床前状态，并评估干预措施是否能够恢复与人类相关的回路功能。
12:00 arXiv cs.LG 74
arXiv:2610.11111v1 公告类型：cross 摘要：时间序列语言模型（TSLMs）通过对时间信号进行推理并生成自然语言答案和解释，为理解时间序列提供了一条有前景的路径。一种常见方法是思维链（Chain-of-Thought，CoT），即生成将相关信号模式与最终答案联系起来的逐步推理过程。尽管这些模型在后训练阶段能够从参考 CoT 轨迹中学习，但在推理时生成对输入时间序列忠实的描述仍然具有挑战性。将高维、连续的时间表示转换为离散的语言标记，可能导致模型忽略与任务相关的模式，或对其进行不准确的描述。由于后续推理步骤建立在这些描述之上，早期错误会不断传播，最终导致答案错误，同时产生看似合理却与输入信号不一致的解释。我们提出 Lapras（Latent Post-trained Reasoning Across Series），一种赋予 TSLMs 潜在推理能力的后训练框架。经过 Lapras 训练的模型在联合的时间序列—语言空间中，通过一系列连续思维进行推理，仅针对最终答案生成文本。该能力通过教师—学生自蒸馏进行学习：教师模型基于 CoT 参考轨迹进行训练，并通过文本显式推理。学生模型在答案阶段使其隐藏状态与教师模型的隐藏状态对齐，从而将教师模型的推理能力迁移到自身的潜在计算中。我们在五个时间序列问答基准上，使用四种 TSLM 主干模型对 Lapras 进行了评估。与显式 CoT 相比，Lapras 将平均 F1 最高提升了 10.79%，同时生成的标记数量减少了 23.9 倍。Lapras 的连续思维还可以通过标准语言解码转换为可读的推理轨迹，从而保留文本解释。总体而言，这些结果表明，Lapras 是一种有前景的后训练范式，能够实现高效、有效且可解释的 TSLM 推理。
12:00 arXiv cs.LG 72
arXiv:2610.11057v1 公告类型：cross 摘要：多模态分类通过处理和关联来自多个模态的信息来实现更准确的预测。然而，现有方法通常依赖高质量的真实标签，而在现实场景中获取这类标签十分困难。尽管带噪标签学习中的样本选择方法旨在从噪声数据中识别标注正确的样本，但传统方法主要关注单模态设置，未能充分利用多模态信息。这促使我们构建一种更可靠的多模态学习噪声检测器。为此，我们从理论上分析了表示结构与噪声检测能力之间的关系。基于这一分析，我们提出了 REFINE，这是一种多模态标签噪声检测框架，联合使用融合表示和单模态表示进行标签噪声检测。具体而言，REFINE 通过对目标类和背景类进行判别分析来构建判别特征向量，并为每个类别选择具有更强噪声检测能力的可信表示空间。在每个可信空间内，REFINE 衡量每个实例表示与判别特征向量之间的对齐程度。随后，它将从这些空间中选出的子集进行合并。合并后的集合为更新多模态分类器提供了更干净的监督信号，从而减小训练过程中错误标注样本的影响，并提升模型的泛化能力。在多个不同任务上的大量实验表明，与基线方法相比，REFINE 具有更优的性能。源代码将公开发布。
12:00 arXiv cs.LG 77
arXiv:2610.11033v1 公告类型：cross 摘要：多个机构可能各自持有私有知识编辑，并希望在不共享原始编辑请求的情况下，将这些编辑整合到一个大型语言模型中。AlphaEdit 等零空间约束编辑方法从数学上保证每次更新都不会改变无关知识，而 CollabEdit 等协作框架则在不共享数据的情况下聚合来自多个客户端的编辑。将二者结合起来看似简单。然而，我们表明，这种朴素的组合在结构上会失效，并找到了其根本原因。在此分析的指导下，我们提出了 FedAlphaEdit。据我们所知，这是首个在统一的零空间原则下，同时对本地编辑和服务器端合并规则进行对齐、以保护现有知识的协作式知识编辑框架。FedAlphaEdit 构建于零空间对齐合并之上：客户端共享投影后的统计量，而服务器在一次性理想化设定下，可以从理论上恢复将所有编辑集中在一处执行的结果。在两个架构系列上，实验结果表明，所提出的方法修复了性能崩溃问题，并使编辑成功率和知识保持能力同时接近集中式编辑的水平。因此，对于无法共享原始编辑数据的机构（如医院和金融公司），FedAlphaEdit 使它们能够共同维护一个共享模型，其效果能够近似于将所有事实集中在一处进行编辑。
12:00 arXiv cs.LG 79
arXiv:2610.10991v1 公告类型：cross 摘要：图像检索方法通常依赖从图像中提取的单一全局语义描述符，例如视觉 Transformer 中的 [CLS] token。然而，试图将图像的全部语义信息压缩到单个描述符中，可能会损害下游检索性能，尤其是在细粒度检索任务中。在本文中，我们使用精心选择的空间 token 集合，对新型视觉 Transformer 中的语义 token（全局 [CLS] token 和四个寄存器 token）进行增强，旨在捕获刻画每个语义 token 所包含内容的空间区域表示。我们采用 DINOv2-reg 模型，该模型包含能够自发学习物体及其部件表示的寄存器 token。对于每个“提示”token（[CLS] 以及每个寄存器 token），我们找到一个对应的图像“伙伴”图像块 token，并提取一个 N x N 的图像块区域，从而生成一组局部化 ROI token。我们的方法无需任何外部边界框或显著性模块，仅通过将语义 token 与其空间表示区域进行匹配，即可自动捕获重要的感兴趣区域。此外，我们将这些 token 融入受 ColBERT 启发的多向量检索框架，通过逐 token 对齐机制实现细粒度匹配，同时避免存储所有图像块嵌入所带来的巨大存储开销。通过大量实验，我们发现：（1）寄存器 token 编码了有用的细粒度细节，可以补充 [CLS] token；（2）自动池化得到的 ROI token 能进一步提升细粒度区分能力；（3）使用少量 token 的多向量检索性能优于 DINOv2-reg 单向量基线，同时对于大规模搜索仍具备可行性。代码可在 https://github.com/IdhcbIan/Augmenting_CLS_with_ROI_tokens 获取。
12:00 arXiv cs.LG 78
arXiv:2610.10868v1 公告类型：cross 摘要：我们介绍了 Conversational Voice Aesthetic Model，这是一种语音大语言模型，用于描述自然对话场景中真实或合成语音回复的语音美学特征。给定上下文和回复语音，CVAM 会描述刻画声音特征的显著片段，并预测涵盖性别、音高、语速、情绪和表达方式的九项分类属性。其关键挑战在于情绪和表达方式等感知领域，这些领域本质上具有主观性，且缺乏明确的真实标签。因此，我们从 CANDOR 语料库中获取了 3,000 条真实和合成语音回复，并为每条回复收集了约 10 条人工标注。CVAM 首先基于合成的美学描述和标签进行监督微调，随后利用 Group Relative Policy Optimization 根据人类判断进行优化。实验表明，与 Gemini 3.1 Pro 和开源语音大语言模型相比，CVAM 与人类听众的判断更加一致，并且优于单个人类与其他所有人的一致性。总之，我们证明了以人类感知为基础来定义语音美学的重要性，并提出了一个系统的人类对齐框架。
12:00 arXiv cs.LG 75
arXiv:2610.10625v1 Announce Type: cross Abstract: Looped Language Models (LoopLMs) provide a parameter efficient approach to scaling model capabilities through repeated use of shared parameters across recurrent steps. Since each recurrent depth can be read out independently, a single LoopLM exposes a broader output space across inference depths, raising an important question: whether safety is preserved throughout recurrent computation. Prior evaluations suggest that deeper recurrence can improve safety on harmful queries, but robustness under jailbreak attacks remains unclear. We therefore conduct a comprehensive safety evaluation of LoopLMs under jailbreak attacks targeting different recurrent depths. We find that attack success can increase at deeper inference depths, the same query can elicit different safety behaviors across depths, and attacks constructed against one depth can transfer to others. Moreover, SFT and preference alignment do not eliminate these safety gaps, motivating an alignment method designed for LoopLMs. We introduce SafeBridge, which combines lightweight depth specific control of shared recurrent layers, selective state bridging, and joint safety supervision across recurrent depths. Across model scales, multiple attack methods, and safety benchmarks, SafeBridge substantially reduces attack success for both matched-depth and cross-depth attacks. It also improves general utility over the vanilla models while maintaining comparable over-refusal behavior. Our results show that the safety of a LoopLM cannot be inferred from a single recurrent depth, motivating safety alignment across recurrent computation. Our code and model checkpoints will be released upon acceptance.
12:00 arXiv cs.LG 81
arXiv:2610.12401v1 公告类型：new 摘要：公里尺度的区域天气预报对于当地天气预警和对天气敏感的决策至关重要。现有的数据驱动方法通常依赖数值预报提供大尺度指导，或需要额外训练全球预报组件。预训练的全球天气模型能够高效地产生大尺度预报，因此可重复利用这些模型来指导高分辨率区域预报。然而，这种耦合需要在不同网格之间对齐全球和区域表征，并将全球指导信息与局地交互相结合，以推进区域状态的演变。我们提出了 ScaleCast，一种通过全球-区域对齐解决这些挑战的区域预报框架。其中，Global-Regional Conversion 模块将联合的全球和区域表征与区域位置对齐，而 Global-Regional Alignment and Dynamics 模块则将对齐后的指导信息与区域邻域交互相结合。基于0.25度网格的 ERA5 全球分析资料和5.5公里间距的 CERRA 区域再分析资料进行的实验表明，该方法在地面和高空变量上均能改善区域预报；单个训练模型即可支持多个全球预报驱动模型（即 Pangu-Weather、GraphCast 和 HRES），无需针对特定模型重新训练。在3公里间距的 HRRR 数据上进行微调，进一步展示了该框架对不同区域范围和空间分辨率的适应性。风暴案例研究显示，该方法改善了气旋位置和核心气压的估计；与 HadISD 台站观测结果的比较表明，该方法对当地温度和湿度变化的刻画更加一致。
12:00 arXiv cs.LG 80
arXiv:2610.11146v1 公告类型：新论文 摘要：冷启动信用评分——在标注数据稀缺、特征较弱或模型容量极小的条件下部署模型——是金融机器学习中反复出现的问题。当新的信贷产品上线时，带标注的违约数据稀缺，特征流水线尚不成熟，而模型必须以极小的容量部署，以避免过拟合。标准应对措施依赖的仍是同一批有限数据；真正需要的是一种以领域知识为基础的外部正则化来源。我们提出 Ranking Prior Alignment，这是一个模型无关框架，通过温度缩放的 KL 散度损失，将外部排序先验（来自领域专家、教师模型或 LLM）蒸馏到任意评分模型中。该框架通过统一公式 L = L_task + gamma(t) * KL(P_agent || P_model)，将神经网络架构（MIL 注意力机制）与基于树的架构（XGBoost 自定义目标函数）统一起来，其中 gamma(t) 遵循指数衰减调度。该方法在推理时无需外部模型，其基于树的实现可容忍高达 eta = 0.5 的标注噪声。在一个包含超过 150 万商户的工业数据集上，MIL 对齐在使用 3,000 个包时，7/7 个评估项均取得正向提升（1 项 ID 指标 + 3 项 OOT 指标 + 3 项退化指标；在 OOT-1 上，Delta AUC 峰值为 +0.020），而 XGBoost 消融实验在使用 300 个包时，9/9 项指标均取得正向提升。在公开 Amex 数据集上进行的跨数据集验证显示，5/5 个交叉验证折均取得正向提升（平均 Delta AUC = +0.041）。四类模型（MIL、XGBoost、LightGBM、Logistic Regression）和四种教师架构的实验表明，该框架既不依赖特定模型，也不依赖特定先验来源。我们进一步观察到，对齐收益呈现逆向缩放规律：随着数据丰富度 N、模型容量 C 和特征质量 Q 的下降，收益反而增加，这有助于从业者判断何时值得投入先验标注。
12:00 arXiv cs.LG 77
arXiv:2610.10666v1 发布类型：新 摘要：理解深度神经网络为何做出特定预测，对于其安全部署至关重要。在计算机视觉中，显著图通过突出对预测影响最大的图像区域，仍是广泛使用的一种解释形式。一项经验观察是，经对抗训练的神经网络的梯度显著图表现出明显的稀疏性。本文针对两层 ReLU 网络，对这一现象提出了理论解释。我们建立在这样一个已确立的等价关系之上：对于某些损失函数，对抗训练等价于对带权重衰减惩罚并附加对抗总变差项的经验风险进行最小化。随着数据点数量和神经元数量不断增加，并且正则化参数以适当速率趋于零，我们证明，最小化器会收敛到具有最小梯度范数和 Barron 范数的贝叶斯分类器。对于采用 $\ell_\infty$ 攻击的对抗训练，梯度范数具有各向异性，并偏好轴对齐或稀疏梯度，因此会产生稀疏性。我们通过实验评估自然训练模型与对抗训练模型的梯度 $\ell_1$ 范数和阈值化稀疏性，展示了理论结果。
12:00 arXiv cs.LG 86
arXiv:2610.10657v1 宣布类型：新 摘要：在潜隐学习（SL）中，教师模型通过在与某种特征语义无关的数据上进行蒸馏，将该特征传递给学生模型。迄今为止，SL 仅在有限范围的特征上得到验证，包括对动物（例如猫头鹰）的偏好和恶意人格。这些特征也可以通过简单提示或引导来诱发。SL 能否迁移更广泛的特征，包括更复杂的特征？如果可以，蒸馏可能会在不被检测到的情况下迁移细微形式的失对齐（例如追求奖励、谋划和秘密忠诚）。为此，我们测试 SL 能否迁移一种新能力：预测随机初始化 MLP 的输出。在无关文本上进行蒸馏后，学生模型在该任务上取得了相当不错的表现，尽管仍不及教师模型。我们发现，直接优化得到的引导向量在分布内与 SL 的效果相当，但在分布外的泛化能力更差。接下来，我们测试 SL 是否能迁移后门。我们对教师模型进行微调，使其在提示中包含女性姓名时用法语作答，然后在既不包含姓名也不包含法语的数字序列上进行蒸馏。学生模型部分习得了该后门：对于包含女性姓名的提示，它有 23.5% 的概率用法语回答；而对于包含男性姓名的提示，这一比例为 0.0%。最后，我们测试 SL 是否能在智能体国际象棋环境中迁移进行黑客攻击的倾向。我们使用经过引导的黑客教师模型生成的数字序列对学生模型进行微调。在 58.3% 的回合中，学生模型会实施黑客攻击，而未经微调的模型这一比例为 10.9%。因此，我们证明了 SL 可以迁移能力、后门和黑客攻击倾向。迁移程度对具体设置较为敏感。在多项实验中，使用 logit 蒸馏或将 LoRA 限制在注意力层，都能增强迁移效果。
12:00 arXiv cs.LG 73
arXiv:2610.10653v1 公告类型：新 摘要：科学多模态学习通常假设成对视图所包含的信息量大致相当。粉末 X 射线衍射（PXRD）明确体现了这种不匹配：将三维晶体结构压缩为一维衍射图样会造成信息损失，也使得图样更难与生成该图样的晶体结构建立联系。我们提出 PXtal，这是一种用于在这种物理上既定的信息不对称条件下学习对齐 PXRD 与晶体表示的框架。PXtal 使用 Unbalanced Optimal Transport（UOT）调整跨模态耦合，并使用耦合层级的广义 Kullback-Leibler（GKL）散度对完整的传输计划进行监督。在包括四个零样本迁移测试集在内的六个测试集上，PXtal 在 PXRD 到晶体候选的检索任务中始终优于基线模型；当 PXRD 图样存在相近但在晶体学上不同的非配对邻居时，性能提升最大，即相似的输入图样对应不同的晶体。由此得到的晶体编码器和 PXRD 编码器能够更有效地迁移到下游材料学与晶体学任务中。这些结果表明，信息不对称是科学多模态学习中的一个普遍设计问题：对齐目标应反映每种模态所保留的信息。
12:00 arXiv cs.LG 74
arXiv:2610.10641v1 公告类型：new 摘要：大型语言模型（LLM）凭借整合纵向临床证据并以自然语言进行推理的能力，在下一次就诊诊断预测方面展现出巨大潜力。然而，针对 LLM 推理的强化学习通常根据每条推理轨迹最终答案的正确性对其进行奖励。在下一次就诊诊断预测中，多个诊断可能同时有效，但对每条轨迹中的一个诊断分别给予奖励，无法区分重复命中与对不同诊断的覆盖。因此，策略可能会集中于少数几个正确诊断，而遗漏其他诊断。与此同时，LLM 的分词器可能会将 ICD 编码拆分为多个临床含义有限的通用标记，导致预测每个诊断都需要多次解码，并妨碍模型在庞大疾病词汇表上进行推理。为应对这两项挑战，我们提出 CARing 框架，利用组合式语义 ID（SID）表示诊断，并针对多标签覆盖优化推理轨迹。具体而言，我们首先通过残差量化，将本体增强的疾病语义编码为紧凑的 SID；随后通过多任务对齐和推理增强训练，将生成的 SID 标记与自然语言及纵向 EHR 上下文建立联系，从而释放可迁移的 LLM 推理能力。CARing 进一步通过强化学习中的覆盖奖励和多正例监督，改进无序多标签预测。在推理阶段，该模型同时支持高效的直接约束解码和结合排序融合的多链推理。在 MIMIC-III 和 MIMIC-IV 上，CARing 在加权 F1 指标上超过所有基于 EHR 训练的基线模型，并在所有报告的截断值下都取得最高的 top-k 召回率，其中推理模式下的 R@30 分别达到 46.04% 和 46.52%。我们的代码和日志可在 https://github.com/zmlxzyh/CARing-Codes-Logs 获取。
12:00 arXiv cs.LG 72
arXiv:2610.10639v1 公告类型：新 摘要：可见思维链（CoT）通常被视为一种广泛有用的推理指令，然而，分析代码生成结合了自然语言歧义、模式对齐、目标语言约束以及特定于模型的推理行为。由于同一个分析请求可以用两种不同的目标语言——SQL 和 Python（pandas）——来表达，这一场景为检验一个常见但尚未得到充分研究的假设提供了天然条件：当可见推理的表现形式与所要求的目标相匹配时，其效果会更好，例如“用 SQL 思考”或“用 Python 思考”。与“逐步思考”等通用指令一样，这类建议在受控的、基于执行结果的比较中仍未得到充分评估。我们研究了一个查询配对的 SQL-pandas 基准，该基准交叉考察了角色措辞、目标语言、可见 CoT 格式、控制前缀、直接生成以及内部推理配置。结果不支持可见 CoT 能够普遍提升准确率，也不支持让推理表现形式与目标语言相匹配能够始终带来益处。相反，其影响取决于角色、目标、模型配置以及内部推理设置。控制变量消融实验进一步区分了推理内容与提示格式各自产生的影响。这些发现表明，推理策略应针对模型、角色、目标和内部推理配置进行联合选择，而不应被当作通用默认设置。更广泛地说，本研究提供了一个受控框架，用于识别可见推理何时能够改善可执行代码生成、何时主要扰动模型行为，以及何时内部推理配置才是更具决定性的因素。
12:00 arXiv cs.LG 81
arXiv:2610.10571v1 发布类型：新 摘要：脑电图（EEG）能够以非侵入方式测量持续的神经活动，但由于受试者、设备和电极布局存在异质性，构建通用 EEG 模型仍然具有挑战性。现有 EEG 基础模型主要依赖在观测信号上定义的重建目标，而观测信号同时包含神经成分和非神经成分。我们提出 SPERA（Spherical Prior EEG Representation Architecture），一种采用联合嵌入预测架构（JEPA）在潜在空间中进行预测的 EEG 基础模型。SPERA 引入了 Legendre 多项式空间先验，并将其融入注意力机制，以编码不断变化的头皮电极几何结构。此外，SPERA 还包含两个针对 EEG 进行适配的组件：与周期性全注意力模块交替使用的因式分解时间与空间注意力，以及一种关系谱正则化器，用于将潜在空间中的相似性结构与谱视图对齐。SPERA 在来自 106 个数据集、29,048 名受试者的约 80,000 小时 EEG 数据上进行预训练，在涵盖临床、认知和 BCI 应用的九项下游任务中取得了最高的平均平衡准确率。在进行线性探测时，SPERA 还展现出较高的参数效率，并且在不同记录条件下具有稳健性，表明其有潜力成为适用于多种 EEG 分析的通用骨干模型。
01:13 arXiv cs.AI 76
解剖连续性为医学图像恢复提供了互补信息，但利用这种信息需要考虑局部解剖结构以及切片采样的变化。我们提出 ContiLNN，在保留平面内特征提取能力的同时，通过双向闭式连续时间（Bi-CfC）模块增强二维恢复骨干网络，以进行跨切片建模。切片索引间隔调制由局部特征和隐藏状态决定的门控，使传播能够响应采样变化，而无需进行数值 ODE 积分。参考引导的一致性约束对齐跨切片强度的一阶和二阶差分，以保留解剖结构变化；从冻结骨干网络进行蒸馏则有助于保持平面内保真度。在五个训练随机种子下，相较于 Restore-RWKV，ContiLNN 在 CT 去噪、MRI 超分辨率和低计数 PET 恢复任务上的平均 PSNR 分别提升 0.1907、1.0176 和 1.2482 dB，且三个任务的 RMSE 均更低。CT 结果仅针对一名留出患者进行描述。PET 消融实验表明，有序传播带来的收益超越了额外逐点容量的作用。在连续采样训练条件下，在所有测试的采样条件中，Bi-CfC 相较于参数量和计算开销相近的 Bi-GRU 均实现了更高的保真度。匹配的七切片性能分析显示，与 Bi-GRU 相比，Bi-CfC 的延迟降低 52.8%，GPU 峰值显存占用降低 57.0%。混合间隔训练提升了两种算子在稀疏和不规则上下文中的性能，但不同指标和上下文下并不存在统一的优劣排序。使用更少训练患者以及第二个骨干网络进行的实验进一步支持了其数据效率和骨干网络兼容性。
01:46 arXiv cs.AI 74
世界动作模型（WAM）通常从基于重建的表征中预测动作和未来观测，而这种表征包含噪声和冗余信息，可能使下游预测变得复杂。我们提出LeWAM，这是一种双向Transformer，能够在通过四种模式进行端到端训练的无解码器JEPA潜变量上，实现前向动力学、后向动力学、逆动力学和策略预测。我们观察到以下优势：1）对齐：线性探针从LeWAM潜变量中读取机器人和物体状态的效果优于从常规Le World Model（仅进行前向预测的JEPA世界模型）中读取的效果；同时，该潜变量对视觉干扰因素的忽略程度与LeWM相当，且显著优于基于重建的WAM。2）执行：在闭环评估中，LeWAM的表现与使用相同编码器、规模匹配的常规流匹配策略相当，同时还能提供世界模型。3）规划：使用WAM进行规划时，对原始动作进行采样会使MPC利用动力学模型的不准确性；而在策略头的噪声空间中进行规划，则能改善这些WAM的闭环性能。
01:47 arXiv cs.AI 82
LLM 开发者通过后训练，使模型表现出亲社会价值观和行为特征，并将其列举在对齐目标中。然而，尽管近期的后训练发展已经使模型在对齐评测中取得高分，但在狭窄行为集合上训练模型，仍会以出人意料的方式影响其在未见过的情境和环境中的行为。在本文中，我们确立了对齐泛化预测这一任务，即预测将模型微调为遵循某一给定价值观后，其行为在广泛的留出价值观范围内会如何变化。我们对现代对齐目标中发现的 66 种价值观的对齐泛化效应进行了大规模分析，并在对齐泛化预测任务上对表征技术进行了基准测试。我们发现，基于模型在上下文中践行价值观时的激活所构建的表征，显著优于基于价值观文本描述的方法。具体而言，表现最佳的基于激活的方法与我们的泛化矩阵达到 0.45 的相关性，而基于描述的基线方法仅为 0.05。随后，我们通过利用能够预测对齐泛化的表征来衡量多价值对齐目标中各价值观之间的相似程度，展示了这些表征在下游任务中的适用性；我们发现，这种相似程度与模型鲁棒性存在显著相关性。最后，我们展示了关于一种共享的、独立于模型的价值空间的初步证据，并据此构建了首个以经验泛化动态为基础的 LLM 价值观分类体系。我们的工作证明了研究 LLM 中价值观泛化的重要性，以及将其应用于更具经验性的模型行为设计与训练的价值。
02:19 TechCrunch AI 74
Popular LMArena 排行榜背后的公司已获得由 Lightspeed 和 Khosla 领投的 2 亿美元融资，目前正针对说谎等对齐问题评估 AI 模型。
12:00 arXiv cs.LG 79
arXiv:2609.39076v2 公告类型：替换并交叉归类 摘要：一组语言模型可以通过相互学习彼此的回答开展协作，实现共同提升。这些交互依赖于训练过程中使用的指令。现有方法通常均匀采样指令，但指令的效用可能随着模型能力的提升而变化：对于某条指令，模型的回答质量曾经存在差异，后来却可能同样出色；而此前较难的指令则可能开始提供有用的学习信号。我们提出 Stackelberg Alignment，这是一个受博弈论启发的领导者—跟随者框架，将指令选择转化为自适应课程。EXP3 多臂老虎机算法充当领导者，在各条指令之间分配固定的采样预算，并利用结合指令难度与回答可区分性的奖励来更新采样分布。语言模型充当跟随者：回答所选指令，相互评价彼此的回答，并通过 DPO 或 GRPO 从由此产生的偏好信号中学习。该框架采用 Elo 风格的声誉加权同伴评判和基于声誉的对手匹配，以支持可靠且具有竞争性的模型交互。在三个异构模型池和 12 个涵盖科学发现、推理、代码、指令遵循及知识的基准上开展的实验表明，Stackelberg Alignment 在这三个多样化模型池中均取得最高的宏平均得分，相较于最强的训练阶段基线，提升幅度最高达 7.4%，相较于最佳静态推理基线，提升幅度为 12–25%。分析证实，自适应领导者将对决集中在信息量最大的指令上；消融实验表明，声誉加权评判和基于声誉的匹配均能提高多 LLM 演化的有效性。
12:00 arXiv cs.LG 83
arXiv:2609.21363v2 公告类型：replace-cross 摘要：多模态大型推理模型（MLRMs）在复杂视觉理解方面展现出卓越能力。然而，这种强大能力也带来了一种严重却尚未得到充分研究的隐私威胁：攻击者可以利用 MLRMs，对建筑风格、植被和光照条件等细微视觉线索进行结构化推理，从用户随手分享的照片中精确推断其地理位置。在本研究中，我们系统研究了 MLRM 驱动的地理定位隐私泄露问题。我们首先揭示，基于拒绝响应的防护措施严重不足，因为精心设计的越狱提示可以将模型响应率提高至 100%。我们进一步发现，现有防御方法通过向共享图像中注入不可感知的扰动来实现保护，但受限于像素空间优化所固有的结构性局限，导致黑盒迁移能力下降，并产生明显的视觉伪影。基于这些发现，我们提出了一种基于扩散的框架，为地理定位隐私泄露提供有针对性的主动防御。我们的方法在反向采样过程中向扩散模型的潜在空间注入扰动，直接作用于高层语义表示，从而从设计上突破防御有效性与图像实用性之间的瓶颈。我们进一步采用与 GPS 坐标显式对齐的模型 GeoCLIP 作为替代模型，为优化提供依据，精准定位并破坏 MLRMs 用于位置推断的地理信号。这种有针对性的语义扰乱在保持图像感知质量的同时，显著增强了黑盒迁移能力，并可无缝集成到社交媒体平台中。代码可在 https://github.com/RachelWolowitz/Hiding_in_plain_sight 获取。
12:00 arXiv cs.LG 72
arXiv:2609.10296v2 公告类型：replace-cross 摘要：非侵入式语音解码仍受到神经信号记录低信噪比的限制，这使得对音素或单个词语进行细粒度重建十分困难。受神经科学证据启发——高级语义表示分布于多个皮层区域，并以较慢的时间尺度演化——我们提出假设：与低级声学特征或词汇特征相比，语义内容可能是更适合非侵入式解码的目标。我们提出 Brain2Semantics2Text，一种通过中间语义嵌入空间重建文本的方法。该模型将句子级 MEG 响应映射到语义流形中，然后将预测的嵌入反演为自然语言。这一语义瓶颈无需词级对齐，即可实现对高级语义的恢复。我们介绍了该方法的核心原理、实现方式，以及用于缓解学习可靠神经信号到语义映射过程中各种挑战的策略。最后，我们将其与此前的非侵入式 Brain2Text 方法进行比较，并展示了更优的句子级结果。
12:00 arXiv cs.LG 76
arXiv:2608.29564v3 公告类型：替换-交叉发布 摘要：基于梯度的越狱后缀优化方法通常通过保留当前损失最低的候选项来更新后缀。我们发现，这种看似自然的设计具有根本性的短视性：在当前步骤代理指标下表现更好的候选项，往往无法在后续搜索过程中产生更好的越狱结果，这揭示了一种发生在选择阶段的奖励劫持现象。这表明，候选选择而非仅仅是候选生成，才是后缀优化中的一个隐性瓶颈。为解决这一问题，我们提出 TACS，一种面向越狱后缀优化的轨迹感知候选选择框架。TACS 不再仅依据即时损失选择候选项，而是使用轨迹感知代理指标增强逐步评估，并通过参考策略正则化和由判别器估计的卡方校正来稳定选择，从而鼓励选择在当前步骤之后仍能保持有效的候选项。在 HarmBench 上的实验表明，在相同搜索预算下，TACS 始终优于强基线方法，显著提高了攻击成功率，同时在整个搜索过程中表现出更加稳定的优化行为。我们的研究结果表明，缓解由短视候选选择导致的选择阶段奖励劫持，对于改进越狱后缀优化至关重要。
12:00 arXiv cs.LG 77
arXiv:2608.02365v2 发布类型：replace-cross 摘要：World Action Models（WAMs）建立在预训练视频模型之上，其表征扎根于物理动力学，为动作预测提供了天然基础。尽管具备这一自然基础，许多 WAMs 仍依赖深层、参数量庞大的动作预测模块，这些模块会带来较高的推理延迟，并可能对有限的机器人示范数据过拟合，从而限制其在现实世界中的适用性。本文倡导一种以世界模型为中心的原则：将容量和计算集中于视频世界模型，同时利用轻量级动作专家将主干网络的表征转换为可执行的机器人动作。我们通过三个关键设计实现这一原则：采用带有 Lite KV-Fusion 的 Dock of Transformers（DoT），使浅层轻量级动作专家能够访问所有视频层的表征；仅使用世界模型对动作专家进行条件化；以及采用 retracted 1D-RoPE，实现视频键与动作查询之间的位置对齐。我们使用 Faster-WAM 验证了这一原则。Faster-WAM 是一种以世界模型为中心的 WAM，仅配备单层动作专家。尽管限制了动作特定计算，Faster-WAM 在 LIBERO 和 RoboTwin~2.0 上仍实现了具有竞争力的控制性能，且无需额外的具身预训练。与 Fast-WAM 和 $\pi_{0.5}$ 相比，其推理速度分别提升约 $3.7\times$ 和 $1.3\times$。与其以世界模型为中心的设计一致，Faster-WAM 在分布偏移下展现出更强的泛化能力：同一个在 LIBERO 上训练的策略在 LIBERO-Plus 上取得了 $78.3\%$ 的成功率，分别比 Fast-WAM 和 LingBot-VA 高出 26.8 和 8.8 个百分点。最后，真实机器人实验表明，Faster-WAM 的成功率与 Fast-WAM 相当，同时推理延迟显著降低，任务完成时间也更短。
12:00 arXiv cs.LG 83
arXiv:2606.24162v2 公告类型：replace-cross 摘要：基础模型日益被应用于心理学、社会学和经济学等行为科学领域。尽管这些模型在问卷回答预测和人类受试者实验模拟等任务中展现出潜力，但目前对于它们在多样化行为科学任务中的表现，仍缺乏系统性认识。我们推出了 BehaviorBench，这是一个综合性基准，用于评估基础模型的四项核心能力：（1）行为预测与模拟；（2）策略性决策；（3）受试者特质推断；（4）行为知识应用。重要的是，BehaviorBench 在个体层面和分布层面同时评估模型输出，不仅考察每个受试者的准确性，还考察与总体分布的一致性，而后者是行为有效性的必要要求。我们的评估显示，即使是领先的通用 LLMs，以及专门使用行为数据训练的行为基础模型，在 BehaviorBench 上仍面临挑战。我们发现，个体层面表现与分布层面表现并不总是一致。通用 LLMs 往往低估人类回答的多样性，而行为基础模型在个体层面的预测方面通常相对落后。进一步研究表明，在多样化行为数据上进行微调能够同时提升个体层面的预测能力和分布一致性，从而平衡这两个目标。我们的结果凸显了在个体层面和分布层面同时进行评估的重要性，并将 BehaviorBench 确立为开发和评估行为对齐 AI 系统的基础。我们的 BehaviorBench 和模型可通过 https://umich-foreseer.github.io/behaviorbench/ 获取。
12:00 arXiv cs.LG 75
arXiv:2605.19352v2 公告类型：替换交叉投稿 摘要：理解人类和人工智能系统如何通过与环境交互来进行预测和规划，是神经科学与机器学习交叉领域的一项根本性挑战。大多数大脑编码研究侧重于将人工模型与语言理解或被动视觉处理过程中的大脑活动对齐，而迄今为止，交互情境下的大脑对齐研究主要局限于强化学习（RL）智能体和基于理论的模型。为填补这一空白，我们利用参与者玩自然情境下 Atari 风格电子游戏时的 fMRI 记录，研究两类基础模型中的代表性模型与大脑的对齐情况，即视觉语言模型（VLMs）和大型动作模型（LAMs）。具体而言，我们考察侧重动作和侧重推理的提示如何塑造模型的内部表征，以及这些表征与 fMRI 大脑活动的对齐。首先，我们发现，VLMs 和 LAMs 的逐体素编码性能均显著高于 RL 基线，即使在特征维度匹配的条件下，这一优势依然存在。其次，与无提示基线相比，提示带来的性能提升在高阶额顶区域和运动规划区域中大于初级视觉皮层；按感兴趣区域（ROI）组取平均后，前者的提升幅度约为后者的 2–2.5 倍，不过各个区域之间存在异质性。第三，方差分解揭示了性质不同的表征组织方式。VLM 表征呈现提示对称性（动作独有解释方差为 12.4%，推理独有解释方差为 9.5%），而 LAM 表征则以动作为主导（动作独有解释方差为 25.6%，推理独有解释方差为 -8.2%），且这种不对称性在额叶运动皮层中最强。总体而言，这些结果将动作专门化与多模态游戏状态表征中不同的皮层对齐模式联系起来，揭示了相似预测准确率所掩盖的差异。
12:00 arXiv cs.LG 83
arXiv:2605.14605v3 发布类型：replace-cross 摘要：模型提供商越来越多地发布大型语言模型的权重。尽管这些模型在发布前已完成安全对齐，但通过使用有害数据进行微调，往往可以移除其安全防护。越来越多的防御措施旨在使对齐能够抵御此类恶意微调，但这些防御通常只针对具有固定训练预算的攻击进行评估，即使持有权重的攻击者可以简单地延长训练时间。我们考察了当前的防御措施能否抵御这种最简单的升级攻击。通过调查15种近期防御措施，我们发现它们存在一个共同弱点：每种防御都建立在对攻击者的有限模型之上，例如有界扰动、短时模拟攻击，或在有害行为与良性行为之间训练出的关联；而在权重发布后，没有任何机制能够强制维持这种保护。随后，我们在4个开放权重模型上测试了6种具有代表性的防御措施，将同一种仅使用有害数据的微调攻击持续训练3个epoch，并在此过程中测量有害性和能力。在全部72次防御实验中，模型在训练结束时的有害性都高于发布时；在最高学习率下，Llama-3.1上的防御模型最终几乎与未防御模型同样有害。这些防御措施的脆弱程度并不相同：其中一种防御在一个模型上将有害性维持在较低水平，而有些攻击只有在牺牲通用能力的情况下才能恢复有害性。当前的防御措施可以延缓或扰乱恶意微调，但在大多数情况下，其测得的抵抗能力无法在持续训练下保持，因此目前不应将其视为持久性的保护措施。
12:00 arXiv cs.LG 78
arXiv:2605.09504v3 公告类型：替换并交叉列出 摘要：我们表明，用于衡量 AI 进攻能力的工具存在两方面缺陷：（i）夸大危害；（ii）将属于外围系统的能力归功于模型。因此，我们认为，限制对模型的访问是必要的，但并不充分，政策制定和采购也需要以实际危害为依据的系统级能力评估。2026 年 6 月，两个前沿模型因美国出口管制而被暂停提供，据报道，此举由一次要求模型阅读代码库并修复其缺陷的越狱所引发。这一发现衡量的是由模型、提示和任务组成的能力诱导系统。我们通过对一个开源框架的研究来支持这一论点，该框架中的轻量级大语言模型（LLM）智能体通过共享记忆和演化优化进行协调，提供了两项证据。首先，越狱指标夸大了危害：针对每个目标开展的 225 次群体生成攻击中，以 LLM 作为评判者的评分认定 Claude Sonnet 4 在 40% 的攻击中被攻破，但人工核验未在任何一次攻击中发现可付诸行动的有害内容，相比之下，GPT-4o 的有效危害率为 45.8%。其次，借助脚手架的评估会错误归因能力：在一个植入漏洞的目标上，围绕一个 12 亿参数模型构建的完整流水线发现了全部 9 个弱点，而同一模型在移除人工精心设计的组件后，以崩溃验证为标准时一个弱点也未发现，以引用源代码行为标准时则发现了 9 个弱点中的 2 个。进攻能力是模型、脚手架和评估协议共同构成的属性。评估责任应由控制系统、塑造其行为并能预见其行为后果的一方承担。在我们的场景中，这一方就是围绕模型构建配套运行框架的主体，而现行监管尚未明确涵盖这一角色。
12:00 arXiv cs.LG 80
arXiv:2605.26526v2 公告类型：替换 摘要：近期用于保护开放权重大型语言模型（LLM）的防御措施旨在防止对其进行对抗性使用。这些防御措施的基础假设是：新的有害行为是通过微调学习得到的，而不是通过越狱诱导模型产生的。然而，预训练 LLM 已经在众多领域编码了大量有害知识，这引出了一个重要问题：攻击者能否在完全不进行微调的情况下，通过越狱保护模型来实现有害用途？本文表明，开放权重防护措施容易受到更简单策略的攻击。尽管这些策略广为人知，但此前尚未针对这类防护措施进行系统评估。具体而言，我们评估了两种低成本攻击——abliteration 和 prefilling——它们不依赖基于梯度的优化。在三个有害性评测基准（BeaverTails、HarmBench 和 AdvBench）上，这些攻击将受保护开放权重模型的攻击成功率从低于 10\% 提高到 16\%-96\% 的范围。为缓解这一漏洞，我们提出了抗 abliteration 调优（ART），将基于 abliteration 的目标函数纳入训练过程。ART 可叠加到现有防御措施之上，并将 abliteration、prefilling 及其组合攻击的成功率降低 10\%-20\%。这些发现表明，开放权重模型的攻击面比此前所描述的更广泛，对防护措施的评估应纳入更多样化的攻击策略，而不能局限于对抗性微调。
12:00 arXiv cs.LG 74
arXiv:2604.04614v3 公告类型：替换 摘要：基于深度学习的多模态电子健康记录（EHR）建模已成为临床诊断与风险预测的重要方法。然而，由于临床工作流程的多样性和隐私限制，原始 EHR 天然具有多层级不完整性，包括不规则采样、模态缺失和标签稀疏。这些问题会导致时间错位、模态失衡以及监督信号有限。现有大多数多模态方法都假设数据相对完整，即使是为处理不完整性而设计的方法，通常也只孤立地解决其中一到两个问题。因此，这些方法往往依赖僵化的时间/模态对齐，或直接丢弃不完整数据，从而可能扭曲原始临床语义。为解决这一问题，我们提出 HealthPoint（HP），一种面向多层级不完整 EHR 的统一临床点云范式。HP 将异构临床事件表示为连续四维空间中的点，该空间由内容、时间、模态和病例定义。为建模任意点对之间的交互，我们引入低秩关系注意力机制，以高效捕获跨越这四个维度的高阶依赖关系。我们进一步设计了分层交互与采样策略，以平衡细粒度建模和计算效率。在此框架基础上，HP 支持灵活的事件级交互和细粒度自监督，从而实现稳健的模态恢复，并有效利用无标签数据。在大规模 EHR 风险预测数据集上的实验表明，在不同程度的不完整性下，HP 始终取得了最先进的性能和强大的鲁棒性。
12:00 arXiv cs.LG 74
arXiv:2602.04448v4 公告类型：替换 摘要：由于其稀疏路由机制，Mixture-of-Experts（MoE）语言模型在安全对齐方面面临独特挑战；在标准的全参数微调下，这种机制可能导致退化的优化行为。在初步实验中，我们观察到，对 MoE 模型直接进行全参数安全微调，可能通过路由或专家支配效应降低攻击成功率，而不是直接修复安全关键专家。为应对这一挑战，我们提出 RASA，一种具备路由感知能力的专家级对齐框架，能够在防止基于路由的绕过的同时，显式修复安全关键专家。RASA 识别出被成功越狱攻击过度激活的专家，在固定路由的条件下仅对这些专家进行选择性微调，随后利用经过安全对齐的上下文强制保持路由一致性。在两种具有代表性的 MoE 架构和多样化的越狱攻击集合上，RASA 实现了近乎完美的稳健性、强大的跨攻击泛化能力以及显著降低的过度拒答，同时在 MMLU、GSM8K 和 TruthfulQA 等基准测试上保持了通用能力。我们的结果表明，稳健的 MoE 安全对齐受益于针对性的专家修复，而非全局参数更新；与以往方法相比，这为保持架构不变提供了一种实用的替代方案。
12:00 arXiv cs.LG 78
arXiv:2602.00931v3 公告类型：替换 摘要：大型语言模型的推理能力通常被视为一种整体能力，依赖二元偏好监督，难以捕捉部分进展或细粒度的推理质量。我们提出连续效用直接偏好优化（CU-DPO），这是一种通过以能够捕捉细粒度推理质量的连续分数替代二元标签，使模型与一组基于提示的认知策略相对齐的框架。我们证明，使用 K 种策略进行学习，相较于二元偏好，其样本复杂度可提升 Theta(K log K)；同时，DPO 会收敛到熵正则化的效用最大化策略。为利用这一信号，我们提出一个两阶段流程：（i）策略选择，通过最佳对所有策略比较来优化模型，使其选出最佳策略；（ii）执行优化，通过按间隔分层的样本对训练正确执行。该框架与领域无关：任何具有认知上不同的解决策略，并且能够提供可分解连续效用信号的任务，都可以纳入这一策略组合。在数学推理基准测试中，CU-DPO 在七个基础模型上的策略选择准确率从 35–46% 提升至 68–78%，在分布内数据集上带来最高 +6.6 个百分点的下游推理增益，并实现了有效的分布外迁移。CU-DPO 在代码生成和因果推理基准测试中也持续取得提升，证实了其能够泛化到数学领域之外。
12:00 arXiv cs.LG 75
arXiv:2610.09943v1 公告类型：交叉收录 摘要：强化学习（RL）微调通过闭环经验改进视觉-语言-动作（VLA）策略，但其在微调分布之外的泛化能力仍然有限。我们的分析揭示了探索过程的选择性重塑：RL 在整体上收缩行为范围，却使成功轨迹更加多样化，以更少的试验回合实现成功，并且相较于监督微调，覆盖了潜在任务有效解空间中的更多区域。对成功模式的更广泛覆盖可能在分布偏移下提供替代策略。受此启发，我们提出 DRIVE（Diversity-driven RL fIne-tuning for VLA gEneralization），将成功行为的多样性转化为显式的 RL 目标。DRIVE 将任务条件匹配的试验回合分组，通过时间对齐比较其轨迹，并根据相对行为多样性构建以成功为条件的内在奖励。这一设计鼓励对可行解进行更广泛的覆盖，同时避免奖励多样化的失败行为或表面的时序差异。在 LIBERO-Plus、ManiSkill3 和 RoboTwin 2.0 上，相较于常规 RL 微调，DRIVE 将 $\pi_0$ 的平均分布外（OOD）性能提高了 5.3 个百分点，将 $\pi_{0.5}$ 的平均 OOD 性能提高了 2.0 个百分点。在双臂 AgileX PiPER-X 平台上，DRIVE 进一步将平均 OOD 成功率从 64.1% 提升至 73.3%（提高 9.2 个百分点），表明这些增益在实体部署中依然得以保持。
12:00 arXiv cs.LG 77
arXiv:2610.09863v1 公告类型：交叉收录 摘要：标准信息检索指标（如平均精确率均值（mAP））逐个查询评估性能，依据是查询与其正样本的相似度相对于其与负样本的相似度的高低。常见的表征学习损失（如 InfoNCE 和逐查询 AP 替代损失）也是如此。它们都不考虑不同查询之间的相似度是否具有可比性，而任何采用单一决策阈值的系统都依赖这一点。全局平均精确率（gAP）则考虑了这一点：它将所有查询-候选样本对放入同一个列表中排序，并计算单一的 AP。我们提出了 gSAP，一种 gAP 的可微替代损失。它只需要一个相似度矩阵和一个标记正样本对的二值矩阵，与现有损失的输入相同，因此可以直接替换这些损失，且不依赖于编码器、模态或监督来源。由于它联合考虑批次内所有可能的两两比较，因此在低温度下仍然可以训练，而逐查询替代损失在这一条件下会出现梯度消失。将其替换到成熟的训练方案中，可以改进有监督度量学习、跨模态对齐和自监督预训练；据我们所知，在后两项任务中，它是首个替代社区标准 InfoNCE 的排序损失。它产生的相似度在不同查询之间更为一致，从而提升了统一阈值下的性能。在相同精确率下，gSAP 检索出的正样本对数量最高可达最强 AP 替代损失的四倍；当加入在数据库中没有正样本的查询时，其性能下降幅度也最小。除了阈值判定方面的优势外，使用 gSAP 训练的模型还能学到更好的表征，在迁移、$k$NN 和零样本分类上取得更高的准确率。
12:00 arXiv cs.LG 75
arXiv:2610.09841v1 公告类型：交叉收录 摘要：文本到图像扩散模型在处理组合式提示词时会出现可预见的失效：属性绑定到错误的对象、空间关系颠倒，以及多对象场景中的数量失准。近期的架构已使用 T5 编码器来增强 CLIP，正是因为 CLIP 的对比嵌入会丢失组合结构，但这些失效依然存在。因此，我们认为，绑定问题并非源于信息缺失，而是源于信息错位：文本编码器保留了组合结构，但其表示空间由语言建模而非视觉塑造，且去噪目标并不直接奖励二者的对齐。我们表明，这种对应关系可以作为显式训练信号提供，相关的跨模态信息集中在自监督视觉特征的低秩子空间中，而引入这些信息只需在扩散训练中加入一个辅助损失。我们的方法 ORCA（Orthogonal Residual Compositional Alignment）通过一个预测器，将扩散 Transformer 的潜在表示与从冻结视觉编码器中提取的低秩目标对齐。该预测器的正交基由 T5 与 CLIP 嵌入之间学习得到的残差参数化，从而为选择视觉读出子空间提供依赖于提示词的信号。我们证明，在给定秩下可恢复的跨模态信息，其上界由视觉编码器协方差在主要分量中的谱质量决定。在三种扩散 Transformer 骨干网络（DiT-B/2、DiT-L/2、U-ViT-L）上，ORCA 在不增加推理开销的情况下，相较于原始基线和 REPA 基线均改善了 FID 和 GenEval；在 DiT-L/2 上，ORCA 训练 200K 步即达到 FID 16.65 和 GenEval 0.291，以一半的训练成本超越了训练 400K 步的最强基线，其中最大的提升集中在属性绑定、空间关系和多对象提示词上。
12:00 arXiv cs.LG 73
arXiv:2610.09802v1 公告类型：交叉收录 摘要：基于概念的视觉模型通过一层可供人类审视的中间概念来表示图像，因此可以将模型所依赖的信息追溯到这些概念。然而，这类模型往往局限于固定类别，或依赖语言来定义其概念。我们提出 DisParQ（Discrete Parts with Quantized attributes），一种从强大的冻结纯视觉自监督骨干网络中学习具有空间定位的离散概念表示的方法。该方法既不需要类别标签，也不需要语言监督。每个图像块都被分配给可学习原型字典中的唯一一个概念，且每张图像仅允许激活少量概念。为了捕捉每个概念在不同图像中的变化（例如“车轮”的类型），我们在学习概念的同时学习连续残差，再将其量化为离散属性。空间解码器仅根据概念和属性重建骨干网络的表示，因此成功重建意味着该离散表示保留了骨干网络的信息。我们在七个数据集上评估了 DisParQ，涵盖通用识别数据集（ImageNet、PartImageNet、Places）和细粒度基准数据集（CUB、Cars、Dogs、Flowers）。结果表明，DisParQ 在 ImageNet 线性探测上的表现与其冻结的 DINOv2 教师模型非常接近（top-1 准确率为 83.2%），概念一致性高于语言对齐模型，在细粒度识别上保持竞争力，并支持基于部件的跨类别检索。
12:00 arXiv cs.LG 78
arXiv:2610.09703v1 公告类型：交叉发布 摘要：词元剪枝通过移除冗余视觉词元来加速视觉语言模型，但其安全影响尚未得到充分研究。在本研究中，我们首次对词元剪枝机制进行了全面的安全评估，发现：随着剪枝比例增加，大多数剪枝策略会显著降低安全性；而基于查询的压缩则呈现相反趋势，在极端剪枝（比例高达 99.8%）下，模型安全性反而意外提升。这一鲜明对比引出了一个关键问题：不同的词元剪枝策略如何重塑模型的安全行为？能否在不牺牲加速效果的情况下提升安全性？为回答这一问题，我们识别出一种此前未被认识的机制，称为“剪枝诱导的恶意放大”：移除背景词元会引发一种副作用，迫使模型的注意力集中到前景中少数保留下来的恶意锚点上，从而在越狱攻击下无意间放大其有害语义。为解决这一问题，我们提出了一种在推理阶段运行、即插即用的安全感知剪枝（SAP）机制，通过三个步骤抵消这种主导效应：（1）识别恶意锚点；（2）恢复被剪除的良性词元；（3）将恶意锚点获得的过量注意力重新分配给良性词元。在三个安全性基准和四个实用性基准上开展的大量实验表明，SAP 能够在不损害效率或实用性的前提下缓解剪枝引发的漏洞，即将攻击成功率（ASR）最多降低 62%。
12:00 arXiv cs.LG 78
arXiv:2610.09384v1 公告类型：交叉收录 摘要：语言模型通常在固定上下文中进行微调，例如通用系统提示词、角色设定或领域专用指令，但学到的行为有时局限于该上下文，有时却能广泛泛化到未见过的上下文。我们提出 Persona Hierarchy Model 来解释这一现象：一个共享的默认角色会影响不同上下文中的行为。根据该模型，改变共享角色的微调会促进更广泛的迁移，而对局部角色的改变则更局限于特定上下文。在涵盖四种行为和 15 种训练上下文的 120 个微调模型中，泛化范围的狭窄程度与训练上下文中的角色和默认角色之间的相似度呈正相关（对于 Qwen3-4B，Pearson 相关系数 r = 0.72）。先在默认上下文中进行微调，可以拓宽后续在其他上下文中训练时的泛化范围。将特定上下文中的响应与默认角色的响应对齐，会产生更强的效果。最后，我们提出角色保持正则化（PPR），以限制不期望出现的上下文泛化。在强化学习中，PPR 在保留准确率提升的同时，将所有受评估提示词下的奖励投机发生率从 42–55% 降至最高 0.2%。这些结果支持将 Persona Hierarchy Model 作为上下文泛化的解释框架，并可为未来控制非预期泛化、改善 LLM 对齐提供启发。
12:00 arXiv cs.LG 76
arXiv:2610.09166v1 公告类型：交叉收录 摘要：标准扩散采样器通过反复计算学习得到的得分函数来生成样本。并行采样方法力求以增加计算次数为代价，减少串行轮数，从而加速生成。这引出了一个问题：即使可以同时进行大量得分查询，仍有多少串行依赖是不可避免的？我们首次建立了使用近似得分进行扩散采样所需并行轮数的多项式下界。具体而言，我们证明了：(1) 对 $R^d$ 中光滑、近各向同性的高斯混合分布进行采样，需要 $\widetilde{\Omega}(d^{1/3})$ 轮；(2) 从包含于单位球内的各向异性轴对齐盒中进行均匀采样，需要 $\Omega(d)$ 轮。这两个下界均适用于任意随机化算法，允许其在每轮中于任意位置和噪声水平进行多项式次查询，且得分误差为多项式倒数量级、总变差误差为常数量级。对于我们构造的盒族，线性下界是紧的。我们的构造使用固定的近似得分预言机，在每个噪声水平都满足精度保证的同时，强制算法按顺序访问隐藏信息。
12:00 arXiv cs.LG 71
arXiv:2610.09070v1 公告类型：交叉发布 摘要：从使语言模型与人类偏好对齐到推荐系统等各类问题中，通常都会收集多元有序数据及其协变量。例如，MovieLens 等数据集包含人类用户对多部电影给出的 1 至 5 分评分，以及用户的年龄或性别等人口统计信息。类似地，HelpSteer 等数据集以有序量表收集人类对 LLM 回答的“有用性”或“冗长程度”等多个属性的反馈，其协变量取决于 LLM 的提示—回答对。遗憾的是，对这类数据进行建模的标准方法往往（a）单独考察各个属性，而非进行联合分析；（b）将数据转换为成对或列表式胜负比较，以拟合 Bradley--Terry 和 Plackett--Luce 等模型。这两种做法都会使实际观测信息粗化。为解决这一问题，我们提出了一种依赖协变量的联合连续比 Markov 随机场模型。我们还表明，对该联合模型施加限制即可得到成对或列表式比较模型，并且联合建模能够改善比较效果。此外，即使存在难以处理的归一化常数，我们也构建了相应的最大似然推断方法。
12:00 arXiv cs.LG 77
arXiv:2610.09031v1 公告类型：cross 摘要：医学影像模型通常以黑箱方式运行，限制了可解释性和系统化调试。我们提出了一个易于使用、即插即用的基于概念的解释与模型改进框架。通过将单模态编码器与 BioMedCLIP 对齐，我们构建了一个概念瓶颈模型（Concept Bottleneck Model，CBM），从而实现概念层面的干预。这些干预能够帮助我们区分因果概念与虚假相关概念，与领域专家共同验证相关见解，并生成反事实样本以进行有针对性的微调。我们在 Mayo Clinic 超声数据集和 CheXpert 5x200 胸部 X 射线数据集上评估了该框架。结果表明，概念干预能够实现可靠的模型诊断，同时通过引导式微调保持预测性能，并偶尔提升预测性能。我们的研究结果凸显了该框架在受控、可解释地改进临床深度学习模型方面的实用价值。
12:00 arXiv cs.LG 72
arXiv:2610.10520v1 发布类型：新论文 摘要：GNN-to-MLP 蒸馏旨在保留消息传递教师模型的预测准确率，同时在推理时部署无图 MLP。现有方法主要传递节点级预测，或使用基于置信度的重新加权，但并未明确学生模型应在何处保留教师模型所诱导的图几何结构。我们发现，这一缺失会导致学生表示空间中的两种谱失效模式。在稀疏图上，学生模型会出现谱欠拟合，遗漏集中于边界区域附近的高能量教师方向。在稠密图上，学生模型则会出现谱过拟合，保留教师模型通过聚合已经消除的伪方向。受能量加权的教师-学生对齐目标启发，我们提出 Graph Geometry-aware MLP (G^2MLP)，一种由 Ollivier-Ricci 曲率引导的训练时蒸馏框架。曲率能够识别两类谱误差集中的位置，并据此在预测层面对齐与表示层面对齐之间分配监督信号。部署后的模型仍是标准 MLP，在推理时无需访问图结构。在多个节点分类基准上，G^2MLP 始终优于无图蒸馏基线，在两种情形下均缩小了教师与学生之间的秩差距，并且无需更改架构即可迁移到 Graph Transformer 教师模型和链路预测任务。
12:00 arXiv cs.LG 75
arXiv:2610.10301v1 发布类型：新 摘要：现代 AI 应用依赖于日益复杂的模型。可解释人工智能（XAI）已发展成为一系列旨在提升模型透明度的技术。然而，现有的 XAI 方法通常假设输入特征本身具有可解释性，或者依赖难以刻画且高度依赖具体架构的中间内部抽象，从而阻碍了其在不同模型间的一致应用。为解决这些局限，我们提出 DictXAI，这是一种通过字典直接在输入域中定义概念的方法。该字典是一个规模庞大且可能过完备的预定义元素集合，其中每个元素都具有可解释的含义。在技术层面，DictXAI 首先计算输入的稀疏编码，然后将模型的预测归因于相关的字典元素。我们展示了 DictXAI 解释的可操作性：这些解释能够将 AI 故障（例如 Clever Hans 效应）直接归因于数据中可识别的伪影模式，同时促进人类与 AI 在复杂生物医学信号上的对齐。我们还进一步证明，该方法能够适用于多种字典，包括学习得到的图像基、为心电图分析定义的解析波形，以及通过实验采集的字典元素。总体而言，我们的结果表明，与经典 XAI 方法或现有的基于概念的方法相比，DictXAI 能够提供更具可解释性、更具可操作性且与模型架构无关的洞见。
12:00 arXiv cs.LG 77
arXiv:2610.10299v1 公告类型：新提交 摘要：LeJEPA 中的 SIGReg 这类分布匹配正则化器能为对比学习提供哪些保证？我们研究共享高斯化（SG）：对两个归一化视图的均值乘以一个独立的 $\chi_d$ 半径后，进行基于特征函数的高斯性检验。由于不一致的视图会缩短均值向量，一项检验便能同时检测未对齐和非均匀性。SG 恰好在总体 InfoNCE 的对齐且均匀的极小点处为零；在边缘分布相同的条件下，它将 InfoNCE 的超额损失上界限定为 SG 损失的平方根乘以 $4\cdot 3^{3/4}\beta$，再加上一个关于该损失的线性项。平方根阶和这一与维度无关的常数都是最优的，且视图对上的任何平方均值嵌入距离都无法达到更快的阶。加入显式对齐项后，旋转不变的均匀性检验能给出线性上界，当且仅当其谱支配 InfoNCE 核 $e^{\beta u^\top v}$ 的谱；SG 自身的检验满足这一条件，高斯核 $e^{-\gamma \|u-v\|^2}$ 恰好在 $\gamma \ge \beta/2$ 时满足，而矩匹配则始终无法满足。在远离最优点时，这些目标函数表现不同。沿着各向同性的干扰通道，只要共享编码不均匀，纯 SG 就会通过添加各视图特有的干扰来降低损失。高于该通道增益的对齐权重会使无干扰解成为严格局部极小点；对于 LeJEPA，同一规则给出了一个随批大小增大而减小的临界 SIGReg 权重。在有限批大小下，非对角 U 统计量可消除偏向未对齐状态的代入估计偏差。在受控潜变量模型中，纯 SG 会保留各视图特有的风格，高于实测增益的对齐权重则会消除这些风格；对于三种批大小下的 LeJEPA，实测增益能够区分保留风格的编码器与不保留风格的编码器。与从头进行 SG$_{0.2}$ 训练相比，InfoNCE 训练还达到了更低的 SG$_{0.2}$ 损失，这表明存在优化差距。
12:00 arXiv cs.LG 82
arXiv:2610.10276v1 公告类型：新发布 摘要：大语言模型的安全补丁即使通过了基准测试，也可能并不是有效的修复。这种风险在越狱修复中尤为突出，因为其目标是在不改变无关行为的前提下，纠正某一种特定的不安全行为。补丁可能拦截评测中的原始提示，却无法应对与之相近的有害变体；也可能通过过度拒绝措辞或结构相似的无害提示来抑制有害行为。现有评测方案主要测试模型的安全防护能否被突破，而汇总指标（攻击成功率、拒绝率、整体能力）无法区分选择性修复与范围更广的局部抑制。为填补这一空白，我们提出 PatchBench，这是一个基准测试，收录了通过实证观察发现的、针对特定模型且能诱发可操作有害回答的越狱失效案例。我们从 37 个公开数据集的 27,870 条提示出发，筛选出 15,314 条英文提示，并用它们查询了 8 个经过指令微调的开源模型。结合 WildGuard 过滤、成对 Elo 排名和人工核验，我们最终构建了一个包含 400 个高置信度越狱失效案例的精选库。我们进一步提出 PatchBench-Local，这是一套用于测试补丁是否能精准修正行为的评测方案。对于每条有害源提示，PatchBench-Local 都会生成三类局部邻近提示：保留恶意意图的有害变体、结构匹配的无害提示，以及复用关键有害词语的无害提示。该方案评估对有害邻近提示的纠正效果，以及对无害邻近提示的行为保留程度，从而区分选择性修复与范围更广的局部抑制。利用 PatchBench-Local 和 MMLU 对四种激活引导方法进行评测后发现，整体能力可以几乎保持不变，而局部无害提示上的表现却可能严重退化，这证实了汇总指标会遗漏重要的附带损害。PatchBench-Local 为开发和比较越狱修复方法提供了更精准的依据。
12:00 arXiv cs.LG 76
arXiv:2610.10203v1 发布类型：新 摘要：与对齐相关行为（例如后门、谄媚行为、虚假相关性）的模型生物已经成为评估白盒可解释性技术的关键工具。我们认为，目前将模型生物训练至仅实现单一目标行为的普遍做法并不充分，因此提出应围绕三个目标及其相关指标对模型生物进行验证：目标行为植入、通用能力保持（即参数化知识、对话质量）以及输出自然性（即 CoT 和激活）。我们使用这一验证框架重新考察了两个公开发布的模型生物套件，并表明：（1）在不同训练方案下，对话质量和 CoT 自然性都会显著下降；（2）验证指标能够预测可解释性方法恢复所植入行为的效果，例如，logit lens 的读出结果与模型生物的通用能力协变。我们提出了一种基于模型合并的多目标训练方法，用于训练更加逼真的模型生物。最后，在一个针对临床推理中人口统计学偏见的新模型生物套件上，我们比较了不同训练方案，发现与监督微调相比，DPO 训练与基础模型更加接近，而所提出的模型优化方法能够更好地保持模型能力和自然性。我们使用一个调查智能体对该套件进行审计，再次观察到验证指标能够追踪偏见恢复效果。总而言之，训练方法会塑造模型生物所支持的可解释性结论；我们认为，要利用（逼真的）模型生物得出关于可解释性方法的可泛化结论，就应当考虑多个目标。
12:00 arXiv cs.LG 73
arXiv:2610.09866v1 发布类型：新建 摘要：我们提出了 MUNITE，一种灵活的任意到任意多模态生成潜变量框架，将编码与潜变量生成视为同一个推理问题，只是所观测证据的数量不同。给定任意模态子集，MUNITE 都能对与完整观测相对应的潜在表示建模其条件分布。完整观测可恢复确定性编码，无观测可恢复潜变量边缘分布，而中间子集则定义条件潜变量推理，且这一切都在单个条件流模型中完成。共享的潜变量样本捕捉生成目标之间必须保持一致的变化，而模态特定的生成解码器则独立建模其余不确定性。为从不完整的训练样本中学习这些条件分布，我们通过自蒸馏扩展了条件流匹配：在相同的中间潜变量状态下，利用基于更丰富可用观测的预测，监督基于更小观测子集的同一模型。当更丰富证据对应的轨迹遵循精确的条件流时，这种方法能够提供与完整目标去噪相同的期望学习信号。在 PolyMNIST-D-Q、FFHQ64 和 image-text-audio 上，MUNITE 达到了具有竞争力或更优的生成质量及源目标对齐效果，并具有更高的联合生成连贯性。特别是，在所有一对多和无条件 image-text-audio 对比中，它都取得了最高的连贯性，展现了统一潜变量推理在多样化多模态场景中的有效性。
12:00 arXiv cs.LG 78
arXiv:2610.09827v1 公告类型：新 摘要：长输入和延长生成会增加键值（KV）缓存的存储与访问成本。低比特量化可减少存储和内存流量，而查询通道剪枝则能进一步减少键缓存读取。基于旋转的量化会将键中的异常值能量重新分配到各个通道。为保持计算不变性，必须对查询应用相同的正交变换，从而保留查询与键的点积。然而，这种旋转可能会分散查询能量，削弱少数需要保留的大分量与大量可剪枝的小分量之间的区分度。我们提出 Dual-QK，利用成对的非正交查询变换和键变换来解决这一冲突。Dual-QK 使用校准后的查询和键统计信息，将部分键白化与查询对齐基相结合，从而平衡键的尺度以进行 INT2 量化，并集中查询能量以实现动态通道剪枝。通道 0 保护和相对桶的 RoPE 支持在长上下文中实现低比特精度。在四个模型、五个生成基准以及长上下文检索任务上的实验表明，在 40% 查询通道稀疏率下，Dual-QK 在大多数任务上的准确率优于 OSCAR。在 128K 上下文下，相较于未剪枝的 BF16，Dual-QK 可实现 $6.8\times$ 的 KV 缓存压缩，并预计将 KV 读取量减少 $8.3\times$。在所评估的配置下，我们的 SGLang 实现的解码吞吐量最高可达到未剪枝 BF16 的 $3.75\times$。
12:00 arXiv cs.LG 76
arXiv:2610.09375v1 公告类型：新 摘要：越来越多的组织使用前沿语言模型分析客户反馈，但回答质量也取决于这些反馈如何被组织和提供。我们将\emph{Customer Context Graph}定义为客户与业务上下文的统一模型。类型化关系连接客户对象（反馈、对话、用户和账户）、运营对象（工单、支持代理、商机和竞争对手），以及分析或行动对象（分类体系概念、证据、洞察、工作项和结果）。这使代理不仅能够调查客户说了什么，还能了解其原因、受影响者、后续采取了什么行动、由谁负责，以及问题是否得到解决。在本实验中，该图谱由公开的 Cursor 反馈构建；同一架构也可支持任何类型的反馈来源。我们使用相同的 9,432 条公开 Cursor 反馈记录和 30 个现实的产品、事件、比较及元数据问题，对比了 Agentic RAG、Deep Research Agent 和 Customer Context Graph-backed Agent。在缺乏详尽真实答案的情况下，我们依据一套针对 30 个问题中的 28 个进行校准的比较评分标准，从回答质量（覆盖面和组织性）、分析深度（具体性和分解程度）以及证据质量（引用支持和可追溯性）三个方面对回答进行联合评分。我们根据各项主张抽样检查被引用的记录，并对三个维度赋予相同权重。在这一对齐后的评分标准下，Customer Context Graph-backed Agent 的总体得分为 0.961，而 Deep Research Agent 和 Agentic RAG 分别为 0.710 和 0.651；在 30 个配对问题中的 27 个问题上，它领先于 Deep Research Agent（符号检验 p < 10^(-5)；在 30 个问题中的 26 个上严格领先）。其最大优势在于分析深度（0.967 对 0.642），体现为更具体、层次更清晰的发现，以及经过量化的主题和可追溯的证据……
12:00 arXiv cs.LG 74
arXiv:2610.09250v1 公告类型：新 摘要：Best-of-N（BoN）是一种常见的推理时对齐方法，它从参考模型生成的 N 个样本中选择得分最高的响应。在仅能访问样本的情况下，利用日志数据评估 BoN 策略颇具挑战性，因为标准离策略估计器需要依赖不可获得的响应似然的密度比。本文提出了一种仅基于样本的框架，用于在无法访问这些似然的情况下评估和选择 BoN 策略。我们证明，BoN 的顺序统计结构使得所需的密度比可以通过得分排名概率来表示，而这些概率仅凭样本即可估计。随后，我们开发了一种 BoN 策略价值的双重稳健估计器（BoN-DR），能够在不同候选采样预算之间高效复用共享的辅助样本池。即使奖励估计器存在错误设定，我们仍建立了有效的渐近推断，并证明了 BoN-DR 估计器的效率。由于更大的采样预算可能放大得分函数中的误差，并导致奖励过度优化，我们推导出两种选择规则：（i）最大化估计的策略价值；（ii）最大化相对于参考策略的改进下置信界。后者考虑了估计不确定性，并提供无损害保证。在合成实验以及使用多个参考模型和奖励模型的 GSM8K 实验中，我们的框架能够准确估计 BoN 策略价值，并选择有效的采样预算。
12:00 arXiv cs.LG 78
arXiv:2610.09058v1 公告类型：新 摘要：LLM 发布速度迅猛，这引出了一个自然问题：两个独立训练的模型之间有何联系？具体而言，它们在哪些层上相对应，以及特征如何在二者之间变换？我们通过学习激活对齐来研究这一问题，即将源模型的逐层激活映射到目标模型。我们的方法 MATCHA 将这一映射分解为层映射和隐藏空间之间的层共享特征映射。层映射的输出是一个显式的目标层×源层矩阵，可以提取并检查。以往大多数工作会预先固定层对应关系，按照大致相同的相对深度配对层；相比之下，我们根据提示联合学习这两个因素。在涵盖三个不同模型家族的七个模型的 42 对组合上，相较于以往方法，MATCHA 能更忠实地重建目标模型的激活，并显著提升基于检索的指标。恢复出的映射在深度方向上总体呈单调性，但不同于以往大多数方法，它们始终是多对多的：每个目标层都会利用一段源层的信息。我们的对齐还支持激活空间干预的迁移，使得为一个模型开发的 steering vectors 和 probes 能够迁移到另一个模型。
00:23 arXiv cs.AI 79
微调即服务使用户能够将经过对齐的大语言模型（LLMs）适配到专门任务，但恶意微调可能削弱模型的拒答行为，同时保留其在合法输入上的任务性能。我们重新审视了近期的逐层安全性诊断方法，发现安全敏感度具有正负方向性：对不同层进行缩放可能增强拒答、削弱拒答，或几乎没有影响。基于这一观察，我们提出了 SLDR，这是一种基于选择性层恢复与动态路由的微调后防御方法。SLDR 仅在带符号敏感度谱中得分最高和最低的层上训练 LoRA 恢复适配器，并在推理时采用基于表征的动态路由，仅针对恶意查询激活该适配器。在四种模型架构、五项下游任务和四个有害性基准测试中，SLDR 在保持下游任务效用的同时，大幅减少了有害输出。在 Llama3.1/SST2 上，SLDR 将平均有害性得分从 11.54 降至 0.08，同时保持了下游任务的准确率；即使投毒比例高达 0.9，有害性得分仍接近于零。代码已公开于 https://github.com/Stardust457/SLDR。
00:29 arXiv cs.AI 71
文本到音乐系统生成的音频日益逼真，但现有评估难以揭示生成结果是否符合用户意图。全局文本与音频相关性分数可能忽略描述不充分的提示中隐含的意图，并掩盖在乐器配置、结构、节奏或情绪推进等具体要求上的不足。为弥合这一差距，我们将文本到音乐的意图对齐表述为满足针对每项请求制定的评估准则，其中包含可独立验证的条目，既涵盖请求的显式要求，也涵盖其隐含的音乐意图。对各条目单独评分，使评估能够按意图来源和音乐维度诊断问题，而非仅给出单一且不透明的分数。我们将这一方法具体实现为 MuRA-Bench，这是一个由音乐专家整理、基于真实平台请求构建的基准。我们进一步提出 MIRA（Musical Intent Refinement Agent），一种测试时智能体：它首先将请求意图具体化为评估准则，然后在有限预算下，为黑盒生成器搜索提示的修订方案，迭代地生成音乐、依据评估准则进行验证，并利用这些反馈引导能够感知搜索轨迹的树搜索。在开源和商业后端上的实验表明，MIRA 能够提升意图对齐程度，使开源生成器达到与代表性商业系统（如 Suno 和 Mureka）相当的性能。项目页面：https://mirareview.github.io/。
00:38 arXiv cs.AI 76
多模态大语言模型（MLLM）面临的一项关键挑战，是从视觉识别迈向约束感知的跨模态推理。这需要将视觉线索与其他模态的信息相结合，以理解特定领域规则下各元素之间的关系。这一挑战在工业级设计转代码（D2C）任务中尤为突出。该任务将用户界面（UI）设计转换为代码，要求 MLLM 将设计图像与杂乱的图层元数据关联起来，推断组件和布局的实现要求，并在目标库的约束下通过代码实现这些要求。然而，在真实工业场景中，这些能力仍未得到充分评估。为填补这一空白，我们提出 TaoD2C-Bench，用于评估 MLLM 在工业应用中生成满足实现要求的 UI 代码的能力。TaoD2C 数据集包含来自 17 个商业平台的 2,861 份生产环境设计，以及涵盖组件、分组、对齐和位置四个类别的 97,652 条专家标注。这些标注区分了必须满足的约束与允许自由选择的实现方式。TaoD2C-Bench 定义了三项任务：端到端 UI 代码生成、要求推断和要求实现。对八个 MLLM 的评估表明，它们在生成满足实现要求的 UI 代码方面仍存在显著差距，同时在推断与实现任务中呈现出不同的性能特征。我们进一步表明，MLLM 的视觉重建能力并不必然意味着其能够生成满足这些要求的代码。我们发布 TaoD2C，以支持工业级 UI 代码生成研究。
00:53 arXiv cs.AI 75
监测推理型人工智能（AI）模型的思维链，仍是检测此类模型欺骗行为及其他不当行为的一项关键方法。然而，基于语义的思维链监测不仅要求能够访问推理轨迹，还依赖于这些轨迹可被理解，并且足够忠实地反映产生模型行为的底层计算过程。此外，越来越多的证据表明，思维链输出即便仍可访问，也可能很快变得难以理解或不再忠实。基于认知负荷理论，我们研究了一种带宽需求更低的信号——生成的推理词元数量——它无需访问推理轨迹的内容。我们让三个具备推理能力的大型语言模型在分别指示其如实作答、虚假作答或不考虑真伪的系统提示下，回答了210道多项选择题，涵盖分析性、描述性和规范性推理类型，以及道德与非道德领域。在全部三个模型中，以真实为导向的作答所产生的推理词元，均少于以说谎为导向和不考虑真伪的作答。这些发现表明，由明确提示诱导的不实作答策略，可以使测试时推理词元的使用量呈现稳健的群体层面差异。虽然我们的结果尚不足以确立推理词元数量作为自发欺骗或一般性不对齐行为的检测指标，但它们提供了概念验证：当原始推理轨迹不可获取或不可靠时，推理词元数量可以作为一种简单、独立于内容的候选信号，用于区分模型的不实行为与如实行为。未来工作应检验实例层面的检出率、分布外泛化能力、习得的欺骗策略、隐藏目标，以及对抗压力下的稳健性。
01:28 arXiv cs.AI 72
我们提出 FoldBack，一种用于长时程衣物折叠的自纠正掩码生成式策略。现有的长轨迹策略在漏抓或抓取滑脱后，即使衣物尚未达到预期构型，也可能继续执行。我们围绕推理时的三项决策构建 FoldBack 的恢复机制：何时细化与验证、如何回退，以及在何处、以何种方式重试。FoldBack 将细化和抓取验证与拾取放置事件对齐，在保留成功抓取的同时，使机器人返回可重试的抓取前构型，并选择性地重新生成失败片段及选定的后续动作，同时避开先前失败的抓取位置。据我们所知，FoldBack 是首个统一这些决策的可编辑全轨迹策略，能够在继续执行前检测、撤销并修复失败的交互，且无需恢复示范或重新训练基础策略。在涵盖六个类别的 33 件真实衣物上，FoldBack 的最终折叠成功率达到 75.2%，最终掩码交并比（IoU）达到 0.837，而此前最强基线的对应指标分别为 45.7% 和 0.689。
18:10 arXiv cs.AI 74
对个性化大语言模型的需求正从风格模仿转向内容质量。我们研究自蒸馏能否在现有微调范式下弥合这一差距。为解决这一局限，我们提出 MIRROR（通过内化参考揭示的同策略反思实现元个性化），这是一种新颖的自蒸馏框架，推动大语言模型个性化从模仿转向偏好内化。首先，我们用参考揭示的同策略自蒸馏取代对参考词元的模仿，将模型沿自身生成轨迹的下一词元分布，与以参考内容为条件的模型自身的相应分布对齐，从而内化用户偏好，而非复现参考文本的措辞。其次，我们引入 MIRROR-F，这是一种聚焦式插件，通过对信息丰富的参考词元进行选择性监督，增强同策略分布对齐，从而在保留用户特有表达方式的同时提升内容生成能力。在三个个性化生成基准、两种模型规模，以及互为补充的基于参考文本和基于大语言模型的评估中，MIRROR 和 MIRROR-F 均取得了领先的整体个性化表现和更优的文本质量；同时，在三个未见过的个性化生成任务上，相比基于 SFT 的基线方法，二者表现出更少的灾难性遗忘。这些增益在不同模型规模和应用场景下保持一致，并转化为大语言模型个性化任务中的性能提升。
18:19 arXiv cs.AI 76
基于概念的视觉模型通过一层可供人类审查的中间概念来表示图像，从而可以将模型所依赖的依据追溯到这些概念。然而，这类模型往往局限于固定类别，或依赖语言来定义概念。我们提出 DisParQ（Discrete Parts with Quantized attributes），这是一种从强大且冻结的纯视觉自监督骨干网络中学习具有空间定位的离散概念表示的方法。该方法既不需要类别标签，也不需要语言监督。每个图像块都被分配给可学习原型字典中唯一的一个概念，并且每幅图像只允许激活一个稀疏的概念子集。为捕捉每个概念在不同图像中的变化（例如“车轮”的类型），我们在学习概念的同时学习连续残差，再将其量化为离散属性。空间解码器仅根据概念和属性重建骨干网络的表示，因此，重建成功意味着离散表示保留了骨干网络的信息。我们在七个数据集上评估了 DisParQ，涵盖通用识别数据集（ImageNet、PartImageNet、Places）和细粒度基准数据集（CUB、Cars、Dogs、Flowers）。结果表明，DisParQ 在 ImageNet 线性探测评估中的表现与其冻结的 DINOv2 教师模型十分接近（top-1 准确率为 83.2%），概念一致性高于语言对齐模型，在细粒度识别任务中保持竞争力，并支持基于部件的跨类别检索。
19:51 arXiv cs.AI 75
人机协作（HRC）能够促进工业4.0中的大规模定制，而基于人类反馈的强化学习（RLHF）则是开发安全的人工智能机器人的一种前景广阔的方法。在人工智能开发过程中的安全性、人类反馈质量以及人机双向适应方面，仍存在实际挑战。我们对HRC系统中的RLHF开展了范围综述，梳理了应对这些挑战的方法。遵循PRISMA指南，我们筛选了199条记录，纳入了20篇发表于2020—2025年、经过同行评审的文献，涵盖多个HRC领域。据我们所知，这是首篇聚焦RLHF双向闭环设计的综述。综述发现，多种反馈模态支持以不同反馈形式收集数据。所收集的数据可以在人工智能训练的不同阶段整合，从而形成多步骤的开发流程。试点实验通常依据人类与机器人两方面的指标来评估HRC系统。为通过实证检验综述中发现的一项关键研究空白，我们开展了一项组间设计的虚拟现实（VR）实验，对比了系统发起与用户发起的反馈在机器人安全导航中的人际空间行为方面的表现。我们使用贝叶斯模型，分析了所收集的反馈与安全指标之间的关系：心理安全感（实验后问卷）和物理安全性（碰撞时间的倒数）。结果表明，与系统发起的反馈相比，用户发起的反馈能更好地捕捉感知安全性，说明反馈时机直接影响反馈质量。我们的综述与实验结果表明，RLHF依赖恰当的反馈方法来确保HRC中的人工智能安全；未来的RLHF研究应优先开展贴近现实的HRC实验，评估反馈收集方法对相关人类与机器人指标的影响。
18:24 Hacker News 熱門
12:00 arXiv cs.LG 78
arXiv:2605.07079v2 公告类型：replace-cross 摘要：世界模型根据观测和动作预测未来的状态转移。现有研究主要只关注图像生成。相比之下，基于视觉特征的世界模型预测未来的视觉特征，而非原始视频像素，提供了一种更高效且更不易产生幻觉的有前景的替代方案。然而，当前基于特征的方法依赖直接回归，这会在复杂交互中导致预测模糊或坍缩，而在高维特征空间中进行生成式建模仍然具有挑战性。在本研究中，我们发现，可以轻松地从 DINO 残差中学习一种新型潜在动作表示，我们将其称为 Residual Latent Action（RLA）。我们还表明，RLA 具有预测能力和泛化能力，并编码了时间演进信息。基于 RLA，我们提出了 RLA World Model（RLA-WM），通过流匹配预测 RLA 值。在仿真和真实世界数据集上，RLA-WM 的表现均优于最先进的基于特征的世界模型和视频扩散世界模型，同时速度比视频扩散快数个数量级。此外，我们开发了两种利用 RLA-WM 改进策略学习的机器人学习技术。第一种是采用 RLA 的极简世界动作模型，它从无动作标注的视频中学习，并提升了 VLA 在 LIBERO 和真实机器人上的表现。第二种是一个视觉强化学习框架，其训练完全在仅从离线视频中学习得到的世界模型内部进行，使用与视频对齐的奖励，无需任何在线交互。项目页面：https://mlzxy.github.io/rla-wm
12:00 arXiv cs.LG 81
arXiv:2602.06869v3 公告类型：replace-cross 摘要：我们研究了大型语言模型（LLMs）多目标对齐中一种持续存在的失效模式：标量化训练仅改善部分目标，却使其他目标退化。我们将这一现象形式化为跨目标干扰，并据我们所知，首次对多目标 LLM 对齐中的标量化算法开展了系统性研究。研究表明，干扰普遍存在于各类算法中，但高度依赖于模型。为理解干扰如何产生，我们推导出一条局部协方差定律：在一阶近似下，一个目标改善还是退化，取决于其奖励与标量化得分之间协方差的正负。我们将这一定律扩展到现代强化微调中的裁剪代理目标，并证明它在温和条件下仍然成立。基于这一定律，我们提出了 COVariance-floor Enforced Reweighting（COVER），这是一种单侧控制器，仅在某个目标的奖励与裁剪后的优势权重之间的协方差低于设定阈值时，才提高该目标的权重。通过大量实验，我们发现 COVER 能够缓解跨目标干扰，同时在各目标已经共同改善的情况下，达到与线性标量化相当的表现。最后，为解释干扰为何依赖于模型，我们以全局收敛性分析补充了局部协方差定律。该分析给出了非凸标量化目标满足 Polyak--\L{}ojasiewicz 条件的充分条件，并将干扰与模型几何结构联系起来。
12:00 arXiv cs.LG 74
arXiv:2610.05108v2 公告类型：替换 摘要：扩散模型具有强大的生成性能，但往往难以使生成样本符合奖励模型所衡量的人类偏好。一种简单而有效的测试时对齐算法是 Best-of-$N$（BoN）采样，它从预训练的扩散模型中抽取 $N$ 个独立同分布的样本，并输出其中唯一一个奖励最高的样本。尽管 BoN 在实证中取得了成功，但它对奖励信息的利用有限，因为奖励信息仅在最终选择阶段被引入，并不影响采样过程中的反向扩散轨迹。因此，BoN 采样无法提高生成样本的平均对齐水平，主要适用于单输出场景。我们提出 Best-of-$N$ Guidance（BoNG），这是一种将 BoN 采样原理直接融入反向扩散过程的新方法。BoNG 对去噪粒子进行在线 BoN 选择，并调整反向扩散过程，在生成过程中引导粒子群向奖励更高的区域移动。具体而言，BoNG 通过在去噪粒子之间引入非对称引导交互，将当前的 BoN 粒子用作其余粒子的引导信号。这种粒子级交互重塑了采样过程，使其朝向奖励更高的区域，从而使 BoNG 不仅能获得优于 Vanilla BoN 采样的最终最佳样本，还能提高生成样本的平均质量。在 36 项实证比较中，BoNG 在 29 项中取得最佳性能，在与 SMC 和 Vanilla BoN 采样的比较中，以 80.56% 的比例位居第一。BoNG 还支持多输出，其 ImageReward 得分达到最新的基于样本的引导方法的 1.3$\times$，同时实现了 1.6$\times$ 的加速。我们在 https://github.com/aailab-kaist/BoNG 发布代码。
12:00 arXiv cs.LG 80
arXiv:2605.18882v2 公告类型：替换 摘要：LLM 智能体表现出持续的过度调用倾向，即使在无需工具的情况下也会调用工具。在 When2Call 基准上，来自三个系列的六个模型均表现出较高的调用准确率，但不调用准确率低得多，导致总体准确率仅为 55%–70%。我们将这一现象归因于内在偏置假说（IBH）：调用／不调用的决策映射带有一个与激活无关的调用偏移项，因此，即使两者激活水平相同，模型也会偏向调用。利用稀疏自编码器（SAEs），我们提取出与 call/no_call 决策行为对齐的特征基，将其归约为带符号的激活差值，并直接估计该偏移项。在全部六个模型中，只有当 no_call 激活强于 call 激活时，模型才在决策上保持中立，这与 IBH 一致。随后，我们使用自适应差值校准引导（AMCS）对 IBH 进行因果检验；该方法沿 SAE 解码器方向施加闭式求解的反偏置偏移。抵消诊断出的偏移项能够缓解过度调用并提高总体准确率，同时调用准确率的下降微乎其微。我们的工作将过度调用从一种经验现象重新界定为可进行因果校正的机制性对象。代码已公开：https://github.com/SKURA502/agent-sae/。
12:00 arXiv cs.LG 72
arXiv:2512.03579v2 公告类型：替换 摘要：最优传输（OT）与 Gromov-Wasserstein（GW）对齐为比较、变换和聚合异构数据集提供了可解释的几何框架，这些任务在数据科学和机器学习中普遍存在。由于这些框架的计算成本高昂，大规模应用通常依赖于二次代价下高斯分布的闭式解。本文全面研究了高斯测度的二次代价 OT 与内积 GW（IGW）对齐，填补了文献中的若干空白，以拓展其适用范围。首先，我们处理了可分 Hilbert 空间上非中心化高斯测度之间 IGW 对齐这一尚未解决的问题，通过对等距算子和余等距算子（在有限维情形下为正交矩阵）进行二次优化，给出了精确的变分刻画，并推导出紧致的解析上下界。如果至少有一个高斯测度是中心化的，则解可简化为完全闭式的表达式；我们进一步将其扩展为中心化高斯测度之间 IGW 重心的解析解。我们还将具有成对二次代价的高斯多边际 OT 化归为一个可处理的优化问题，并证明该问题的每个二阶驻点都是全局最优点。为展示其实际用途，我们比较了已训练的语言模型蒸馏模型的嵌入分布，并利用合成用户文本嵌入的协方差谱对这些用户进行聚类。
12:00 arXiv cs.LG 74
arXiv:2511.21075v4 公告类型：替换 摘要：通过工程化改造 LLM 来加速生命科学研究，需要使其与生物医学知识稳健对齐。我们观察到，生物医学文本的不确定性结构与通用文本存在根本差异：密集的低置信度连续片段反映的是认知性知识缺口（密集的因果链、罕见实体），而非通用文本中典型的稀疏偶然性文体变化。基于这一发现，我们提出 Balanced Fine-Tuning（BFT），这是一种双尺度后训练方法，将基于组内归一化的词元重新加权与序列级重分配相结合，使训练资源向呈现密集认知不确定性的知识密集型样本倾斜。在相同的训练设置下，BFT 在医学评估、生物学推理、稀疏奖励强化学习和生物学表征任务中，相较于 SFT 和 DFT 带来了更一致的性能提升。当替换 GeneAgent（GPT-4o）和 VCWorld（Gemini-2.5-Flash）中默认的闭源骨干模型时，经 BFT 对齐的 70B 模型在生物学过程推理和化学扰动预测中均表现更优。关键的是，所有 BFT 变体在后续采用稀疏奖励的 GRPO 训练后均进一步提升，而 SFT 和 DFT 的性能则出现下降，这表明感知认知不确定性的后训练能够提供更稳健的策略初始化。除文本生成之外，经 BFT 对齐的 LLM 还能生成更准确、更专业的生物医学特征描述文本；使用文本嵌入模型对这些描述进行编码后，所得表征可支持基因级、细胞级和扰动响应任务，这表明 BFT 增强的生成能力能够促进生物学表征，进而助力更广泛的生物医学下游任务。
12:00 arXiv cs.LG 73
arXiv:2511.20718v3 公告类型：替换 摘要：PPO 和 GRPO 等强化学习（RL）算法被广泛用于训练大语言模型（LLM），使其执行多轮智能体任务。然而，在离策略训练流程中，这些方法可能表现出不稳定的优化动态，并容易发生性能崩溃。通过实证分析，我们确定了该场景下不稳定性的两个根本来源：（1）词元级策略优化与按轮次组织的交互之间存在粒度不匹配；（2）离策略重要性采样和不准确的优势估计导致梯度更新方差大且不可靠。为应对这些挑战，我们提出 SORL，即面向长时程智能体训练的稳定化离策略强化学习。SORL 引入了使策略优化与多轮交互结构对齐、并自适应抑制不可靠离策略更新的机制，从而产生更保守、更稳健的学习动态。在这一框架下，我们实现了两种稳定化算法：SO-PPO 和 SO-GRPO。这两种算法均旨在降低梯度方差、防止优化崩溃，而无须精心设置早停或进行启发式调参。我们在涵盖开放域问答、多跳问答和医学多项选择问答的基准上评估了 SO-PPO 和 SO-GRPO，并通过在 DAPO-Math-17k 上训练、在 AIME-2024 上验证，进一步评估了它们向数学推理异步强化学习的迁移能力。结果表明，SORL 提供了一个实用、可扩展且通用的框架，可用于稳定多轮 LLM 智能体训练以及数学推理异步强化学习中的强化学习过程。
12:00 arXiv cs.LG 73
arXiv:2510.24574v3 公告类型：替换 摘要：训练时间序列预测模型需要将模型预测的条件分布与标签序列的条件分布对齐。标准的直接预测（DF）方法通过最小化条件负对数似然来实现这一目标，通常使用均方误差进行估计。然而，当标签序列存在自相关性时，这种估计会产生偏差。本文提出 DistDF，通过最小化预测序列与标签序列的条件分布之间的分布差异来实现对齐。由于难以根据有限的时间序列观测值估计此类条件分布差异，我们引入了一种用于时间序列预测的联合分布 Wasserstein 差异，并从理论上证明，它是目标条件分布差异的上界。所提出的差异度量易于计算、可微，且易于与基于梯度的优化方法兼容。大量实验表明，DistDF 能够改进多种预测模型，并取得领先性能。代码可在 https://anonymous.4open.science/r/DistDF-F66B 获取。
12:00 arXiv cs.LG 71
arXiv:2505.17847v3 公告类型：替换 摘要：训练时间序列预测模型在损失函数设计方面面临独特挑战。大多数现有方法采用时域均方误差，但本研究揭示了其两个关键局限：（1）忽略了标签自相关性的存在，导致其偏离真实标签序列的似然；（2）涉及过多任务，使优化变得复杂，尤其是在长期预测中。为解决这些问题，我们提出了 Time-o1，一种用于时间序列预测的变换增强型损失函数。其核心思想是将标签序列变换为重要性各异的去相关分量，随后训练模型以对齐最重要的分量，从而有效缓解标签自相关性并减少任务数量。实验表明，Time-o1 达到了当前最先进的性能，并兼容多种预测模型。代码已发布于 https://github.com/Master-PLC/Time-o1。
12:00 arXiv cs.LG 78
arXiv:2610.08717v1 公告类型：交叉收录 摘要：我们研究将路径-流对齐作为流匹配的统一训练目标。不同于固定插值路径、仅学习速度场的做法，我们使用同一个对齐损失，联合训练一个保持端点不变的路径网络和一个流网络：流学习匹配路径速度，而路径学习使其速度与当前流对齐。尽管每条固定的已学习路径都定义了一个有效的流匹配目标，但仅靠对齐损失并不能可靠地指导路径学习。我们发现了路径过拟合这一失效模式，即对齐损失下降的同时，样本质量反而恶化。我们发现，这种失效与所诱导的概率路径中的低熵瓶颈有关：学习到的路径使样本经过过度集中的中间边缘分布。基于这一诊断，我们提出了一种随机路径正则化方法，在精确保留端点的同时，对路径网络隐藏部分源信息。这种正则化为随机训练路径的边缘分布提供了显式的熵下界，并在实验中抑制了所学习采样器中的瓶颈，使路径与流的联合训练切实有效。在 ImageNet-256x256 上，使用 SiT 骨干网络时，我们的方法在不同模型规模下均能持续改善 FID，也可扩展至模型引导训练，且无需改变推理时的架构和采样器。代码可在 https://github.com/lizeyu090312/traj_opt_paper 获取。
12:00 arXiv cs.LG 77
arXiv:2610.08678v1 公告类型：交叉发布 摘要：推测解码通过先使用一个较小的模型（称为\emph{草稿模型}）生成候选词元，再由目标模型验证这些词元并决定接受或拒绝，来加速大语言模型（LLM，称为\emph{目标模型}）的推理。以往研究主要关注推测解码的效率与效用之间的权衡，例如有损推测解码，而对其安全影响基本未作探索。在本研究中，我们通过开展针对推测解码安全影响的\emph{首项}系统性研究，填补了这一空白。通过大规模测量研究，我们揭示了显著的安全性与效用不对称现象：在广泛的有损推测解码方法中，推理效率的提升伴随着不成比例的高昂安全代价，越狱攻击和提示注入攻击的成功率上升速度远快于效用下降速度。随后，我们提出 SecureSD，这是一种新的理论指导型推测解码方法，能够在保持效率和效用的同时增强安全性。具体而言，我们的理论分析表明，安全性下降主要源于草稿模型生成的早期词元。基于这一发现，SecureSD 对处于早期解码位置的草稿模型词元采用更严格的验证标准。在安全性和效用基准上的广泛实验表明，与现有推测解码方法相比，SecureSD 在保持效率和效用的同时显著提升了安全性。
12:00 arXiv cs.LG 78
arXiv:2610.08647v1 公告类型：交叉收录 摘要：基于 LLM 的智能体能够解决复杂的多步骤任务，但顺序执行会带来显著延迟。原则上，将工作分配给多个智能体并行处理应能获得近乎线性的加速。然而，现有的并行多智能体系统往往比单智能体基线运行得更慢。我们将这一差距归因于并行执行会产生、而串行智能体能够避免的两项隐性成本。第一项是重新探索成本：并行工作智能体为重建编排器已经掌握的上下文（例如先前的决策）而付出的重复劳动，而在串行执行中，这些上下文本可隐式继承。第二项是对齐成本：为协调独立生成的输出之间的不一致而产生的开销。因此，我们推导出一项有理论依据的决策准则：只有当某一层的关键路径成本加上重新探索和对齐开销低于相应的串行成本时，才应对该层进行并行化。尽管这项准则自然可以用实际耗时来表述，但我们观察到，LLM 在估计任务耗时时的校准表现不佳。为此，我们改用预测的输出词元数衡量成本，实证结果表明，LLM 对输出词元数的估计比对实际耗时的估计可靠得多。基于这一词元准则，我们提出了 SquidAgent。它在单次规划步骤中估计所有词元预算，直接从编排器的会话中派生每个工作智能体以消除重新探索成本，并用预先生成的共享约定块取代事后协调，将对齐转化为有界的前置成本。随后，确定性调度器逐层应用该准则。实证结果表明，SquidAgent 的平均吞吐量达到 Claude Code 的 2.2$\times$，按实际耗时计算的平均加速比为 2.6$\times$，吞吐量达到最强多智能体基线的 2.0$\times$。
12:00 arXiv cs.LG 78
arXiv:2610.08540v1 公告类型：交叉发布 摘要：随着模型规模增大，对齐究竟变得更容易还是更困难，人们往往依据孤立的发现展开争论，仿佛对齐是一种单一属性。我们将其视为一组可测量的缩放关系：对于每个风险类别 r，将维持固定安全目标所需的对齐负担建模为 B_r(N)=a_rN^alpha_r，其中 N 是能力的代理指标；相对于与 N 成正比的预算，若 alpha_r<1，规模扩展有助于对齐；若 alpha_r~1，对齐与规模扩展保持同步；若 alpha_r>1，则会积累对齐债务。我们给出负担的三种操作化定义，并区分观测对齐、审计对齐和真实对齐。一个纠正措施会消耗能力余量的简化模型明确展示了这些关系的后果。我们证明：决定长期状态的是已纠正风险中的最大指数，而非平均值；当该指数大于 1 时，任何将能力余量维持在某一下限之上的策略都必须实现超指数增长；对于由幂律的正系数组合构成的负担，在小模型上进行的拟合会低估大规模下的指数；而能够发现隐藏失效且不产生假阳性的审计，绝不会低估真实对齐。我们提出了一套可预注册的方案，并两次应用了其简化版本。对 Pythia 分类器公开对抗训练数据进行的预注册重新分析发现，将攻击成功率降至 10% 以下所需的计算量按 N^0.60 增长。针对 Qwen2.5 0.5B-72B 的预注册试点研究发现，真实性的指数为 -0.05，所表述行为倾向的指数为 0.48（按照其简化判定规则，规模扩展对两者均有帮助，尽管在最大规模附近局部斜率接近 1；这些结果在 Qwen3 0.6B-14B 上得到复现），而谄媚行为（指数为 0.89，在 72B 规模增加两个随机种子后为 0.83）和一个人为植入的后门尚无定论：已知触发器时，后门会被迅速移除，但在五种规模中的四种上，它在不知晓触发器的安全训练后仍然存在。我们发布了四款可供玩家体验这些定律的浏览器游戏（www.aisafety.fun）。对于当前前沿模型处于哪种状态，我们不作任何断言。
12:00 arXiv cs.LG 77
arXiv:2610.07731v1 公告类型：交叉发布 摘要：稠密检索模型通常采用对比学习目标进行训练，这些目标能够学习有效的表示，但并不直接优化检索指标或下游任务性能。为解决这一问题，我们提出 RELER（REinforcement LEarning for Retrieval），这是一个强化学习框架，使现有嵌入模型能够直接在嵌入空间中学习检索，并与任务特定的奖励对齐。我们训练 RELER 的方式是：从以归一化编码器输出为中心的 von Mises-Fisher（vMF）分布中采样单位长度的查询和文档嵌入作为动作，将由此产生的检索结果或下游任务结果评分作为奖励，并使用带有留一法基线的 REINFORCE（RLOO）更新编码器。由于高维嵌入空间中的探索容易受到采样噪声影响，我们进一步提出条件均值投影（CMP），将每个采样嵌入投影到由其编码器输出及与之比较的候选嵌入所张成的低维子空间中，在保持策略梯度期望不变的同时降低其噪声。我们在 BRIGHT 上评估 RELER，该基准包含需要密集推理的查询，对现有嵌入模型而言仍具有挑战性。在对 BGE-M3 和 Qwen3-Embedding 骨干模型进行后训练时，RELER 在平均 nDCG@10 上始终优于 InfoNCE 和 LambdaLoss。我们还通过检索增强生成（RAG）评估其下游效用，其中仅调整查询编码器，同时保持文档索引和生成器不变。在七个问答数据集上，联合优化检索奖励和答案奖励同时提升了 RAG 的平均检索性能和答案质量。
12:00 arXiv cs.LG 77
arXiv:2610.07723v1 公告类型：交叉收录 摘要：大语言模型（LLMs）的安全对齐仍易受到后门攻击。现有的 LLM 后门几乎都以输入为中心：其激活依赖于用户输入中的显式触发模式，因此现代防护机制主要围绕输入空间的净化而构建。我们提出一种面向多轮对话的新型回答侧后门，挑战了这一假设。攻击者并不将触发器插入输入，而是使用无害的首轮提示，自然地诱导模型生成一个特定且看似无害的词。一旦被纳入对话历史，这个模型自行生成的词就会成为触发器。当后续有害查询到来时，模型会检测到自己生成的触发器并绕过安全拒绝机制，而用户输入始终完全不含触发器。在四个 LLM 上，我们的攻击均取得了近乎完美的攻击成功率，仅在 5\% 的投毒率下就接近 100\%，同时保留了通用能力和干净输入下的安全性，并能规避主流的以输入为中心的防御机制。表征层面的分析表明，模型自行生成的触发器会持续抑制模型的拒绝信号，揭示了当前 LLM 防御中的一个关键盲点。
12:00 arXiv cs.LG 76
arXiv:2610.07720v1 公告类型：交叉收录 摘要：多参考图像生成需要在将多个主体组合成连贯场景的同时，保留各主体的外观。然而，现有扩散 Transformer 通常将参考图像编码为密集的视觉 token 网格，并通过全局注意力进行联合处理，导致条件化成本随着参考图像数量和分辨率的增加而不断上升。我们提出 RefRoute，该框架通过两种互补机制，同时降低参考表示成本与注意力开销。紧凑残差条件化将低分辨率潜在 token 与从全分辨率像素中提取的轻量级残差特征相结合，在保留细粒度外观线索的同时减少参考 token 数量。条件路由和注意力路由将参考 token 与其指定的目标区域对齐，并限制不同参考图像之间的交互，同时允许跨越区域边界选择性地访问参考信息，以实现整体场景融合。我们进一步推出了用于训练多参考图像生成模型的 RefRoute-Data，以及涵盖人物、物体及混合构图、每个样例包含 10–17 张参考图像的基准 ManyRef100。经过多参考图像微调后，RefRoute 在 ManyRef100 上的总体 Weighted-Ref-VIEScore 达到 36.06，而 FLUX.2-Klein-9B 为 8.88。单独的推理成本评估表明，随着参考图像数量增加，RefRoute 的延迟增长明显更慢：在使用 16 张参考图像时，我们的 50 步和 4 步配置相较于各自对应的 FLUX 基线，分别实现了 $18.3\times$ 和 $14.2\times$ 的加速。这些结果表明，紧凑参考表示与空间路由注意力是实现可扩展多参考图像生成的有效方法。
12:00 arXiv cs.LG 76
arXiv:2610.07607v1 公告类型：交叉收录 摘要：模型引导的定向进化旨在有限的预言机查询预算下识别高适应度蛋白质变体。蛋白质语言模型（PLMs）为这一任务提供了丰富的表征，但与任务无关的零样本评分可能与目标测定不一致，而在高维嵌入空间中进行监督搜索，可能导致代理建模和不确定性估计的样本效率低下。我们提出线性适应度子空间（LFS）假说：在突变引起的残基级表征变化中，一组紧凑且针对特定测定的方向，使得仅凭少量已标注变体即可通过线性方式捕捉适应度变化。这是一项局部的、可通过监督学习恢复的论断，而非声称蛋白质适应度景观或全局 PLM 几何结构普遍具有线性性质。基于这一观察，我们提出 Subspace-Guided Evolutionary Search（SGES），利用少量初始样本估计 LFS，并在学得的子空间中进行代理建模、不确定性估计和采集决策。在 10 项核心 ProteinGym 测定、87 项扩展静态验证测定以及涵盖 18 项测定的预算约束搜索评估中，与零样本 PLMs 和近期机器学习引导的蛋白质优化基线相比，SGES 提高了适应度预测性能和搜索效率。与 PCA、随机投影、标签打乱的 PLS、经典突变特征的受控比较，以及采集策略消融实验，进一步分离并验证了与适应度对齐的位点差分坐标所带来的收益。
12:00 arXiv cs.LG 74
arXiv:2610.07426v1 公告类型：cross 摘要：口音分类器通常在固定的标签集合上进行训练，无法随着新数据的获取而纳入新的口音类别。此外，由于不同语料库之间的录音条件存在差异，带口音的语音语料库往往表现出明显的类别不平衡和/或域偏移。我们提出了 AccentCL，这是一种用于英语口音分类的类增量学习框架，能够应对类别不平衡和跨语料库域偏移问题。AccentCL 从冻结的 Whisper-Large-v3 编码器中提取多层表示，并采用具有不平衡感知能力的交叉熵损失来减小对多数口音类别的偏置，同时使用域均值对齐损失，最小化不同训练语料库之间的分布均值偏移。随后，模型通过基于回放的持续学习扩展标签空间：利用冻结的基础模型保留知识，并采用旧类到新类的间隔损失，减少对新增类别的过度预测。在一个五类别口音分类任务中，AccentCL 达到了 77.1% 的平衡准确率和 76.9% 的宏平均 F1 分数。我们进一步评估了该模型增量纳入两种新口音类别的能力：西班牙口音英语和中文口音英语。在预训练模型中加入西班牙口音英语后，AccentCL 在新类别上的 F1 达到 83.3%，同时在基础类别上保持 77.3% 的平衡准确率。随后加入中文口音英语时，模型在新类别上取得 61.8% 的 F1，同时在此前学习的类别上保持 77.6% 的平衡准确率。这些结果表明，AccentCL 能够实现鲁棒的地域口音分类，并且无需完整重新训练即可添加新的口音类别。
12:00 arXiv cs.LG 82
arXiv:2610.07125v1 公告类型：cross 摘要：尽管开放权重模型的能力持续稳步提升，并在多个领域得到广泛应用，但其安全性仍然是一个重要问题。其中一个关键特征是能够拒绝或规避有害、恶意或不敏感的提示。在本文中，我们揭示了六种不同规模的常见开放权重 LLM 存在安全漏洞，这些漏洞会在 JailbreakBench 基准数据集上持续导致有害或不安全的响应。我们提出的攻击方法 Perturbed Embedding Vector (PEV) 是一种简单快速的“越狱”技术，其成本低于以往方法；后者通常需要计算梯度、针对每个提示进行优化，或修改模型的内部权重。PEV 只需在提示的嵌入向量表示中加入独立的高斯噪声，无需进一步操作。为了生成不安全响应，我们从该分布中反复采样加性噪声。在实验中，我们观察到，获得首次成功攻击所需的平均计算成本最多仅为以往攻击方法的十分之一。在每个受测模型上，对于新提示，首次成功越狱通常会在一分钟内出现；此外，PEV 能够针对 JailbreakBench 中的所有提示，在所有模型上生成不安全响应。尽管其他受测方法运行时间更长，但没有任何一种方法能取得这样的结果。更广泛地说，我们认为，理解 LLM 在嵌入向量受到扰动时的行为是一个重要的研究方向：扰动虽然构成重大安全风险，但也可以作为探索此类模型动态行为的宝贵工具。
12:00 arXiv cs.LG 78
arXiv:2610.07072v1 发布类型：cross 摘要：变分自编码器（VAEs）是现代文本到图像模型的重要组成部分，这些模型在其潜空间中生成图像。众所周知，VAEs 能够解耦数据中的主要变化因素，而在自然图像中，色彩是这些因素中结构最明显的因素之一：对其进行去相关处理，可以得到一个亮度轴和两个对手色轴。因此，可以预期色彩会作为一个独立因素出现在 VAE 潜空间中。然而，这些潜空间如何表示色彩，目前仍鲜有研究。在本文中，我们展示了文本到图像模型中的 VAEs 共享一个与亮度和对手色对齐的色彩子空间。通过对编码器进行线性近似并实施有针对性的潜变量引导，我们在从 SD1.5 到 FLUX.2 和 Z-Image 的广泛 VAEs 中，一致地发现了这一子空间。在此表征的基础上，我们提出了三种应用：ColorTuning，在 GenColorBench 的细粒度 CSS3/X11 色彩系统上实现了精确数值色彩生成的当前最佳性能；饱和度控制，用于调整全局色彩强度；以及色彩迁移，用于改变色板以匹配参考图像。代码和模型已公开发布于 https://julian075.github.io/Color_Subspace/
12:00 arXiv cs.LG 81
arXiv:2610.07009v1 公告类型：cross 摘要：图像到文本越狱会将有害意图置于文本、图像内容或二者之间的关系中。我们在包含313条提示词的 StrongREJECT 子集上，使用五个多模态模型，并在附录中额外评估 InternVL3.5-8B，考察四类已发表攻击方法中的图像侧因素。有害指令在各个条件下保持不变；基线矩阵对每条提示词抽取一次样本，配对消融实验则抽取三次样本，并使用自动化评分标准评审器进行判断。单独的有害查询，无论是否附带无关的良性图像，在大多数目标模型上都只能取得很低的攻击成功率，而攻击图像会显著提高成功率。第一，单个图块的熵和 JPEG 大小无法可靠地区分攻击图块与尺寸匹配的良性干扰图块，这限制了仅基于密度的筛查。第二，早期的图块数量梯度受到载荷可见性的混淆。修正后的区域数量测试未发现可检测的影响，因此图块数量结构的作用仍未确定。第三，在 Qwen3-VL-8B 上，移除查询特定相关性的 E4 操作会使 ASR 下降约0.12。这支持将有限的影响归因于相关性操作，但图文一致性仍未得到测量。在重叠刺激材料上，类别内控制实验复现了这一方向。经过全局统计校正后，有五项测试仍然显著，但只有 E4 支持将影响归因于一个已测量的描述符；类别内结果是稳健性检查，而不是独立的归因证据。这些结论仍取决于评分标准评审器。
12:00 arXiv cs.LG 73
arXiv:2610.07005v1 公告类型：cross 摘要：我们针对 Qwen2-Audio 上的加性音频越狱 AdvWave-P，审计其关于频率和解码器深度的相关论断。该协议在短时傅里叶变换（STFT）域中屏蔽扰动的频率分量，并测量攻击成功率和 audio-span 表征。在 520 条 AdvBench 提示词上，主要评审者将 76.7% 的对抗输入标记为越狱。对条件不知情的单一标注者进行验证后，针对该条件得到的 Rogan-Gladen 敏感度估计为 0.87（考虑验证率不确定性时约为 0.83–0.95）；这一校正未应用于屏蔽条件。表面上的频率排名取决于划分方式：仅能量占比就足以预测标准的八频带排名（Spearman rho = 0.95），而等 Hz 和等能量划分表明，屏蔽任何一个受测频带都可能使攻击成功率大幅下降。然而，在更精细的 16 频带等能量分辨率下，屏蔽 7520–7960 Hz 的窄频带后，ASR 仍为 0.10；在缺乏匹配对照的情况下，这一结果仍无法得到解释。匹配能量的分散移除测试表明，在较低频带中，连续移除的破坏性更大；而在较高频带中，两种移除方式都趋近于下限。全局重缩放使 ASR 保持在接近基线的水平，但它检验的是振幅敏感性，而非频率位置。在一次重新优化试验中（n = 20），受测的单频带和双频带支持集的 ASR 分别达到 0.00、0.25 和 0.40，而覆盖约一半 STFT 频点的随机支持集平均达到 0.86。在一个对提示词和能量进行调整的模型中，audio-span 散度与频带必要性相关，其系数从投影器输出处的 +0.63 上升至第 30 层的 +0.93（差值 +0.293，95% CI [0.11, 0.51]）。这种相关性并非因果定位，单层修补也无法确立某一因果层。结果支持对频率论断进行感知划分方式的审计，但更高分辨率下高频顶部频带的结果及其更广泛的普适性仍有待确定。
12:00 arXiv cs.LG 77
arXiv:2610.06892v1 公告类型：cross 摘要：从人类偏好数据中学习，是使语言模型与人类价值观对齐的主流途径。在线性社会选择中，奖励关于提示词—响应对的固定特征表示是线性的，Ge et al.[2024] 表明，通过最小化任何非递减凸损失（包括 BTL）来拟合此类奖励，都会无法满足 PO 和 PMC。此外，一旦要求输出由线性方式诱导，任何只读取多数关系的规则都无法满足 PO。我们探讨：如果无论如何都要强制满足这些公理，需要付出什么代价。为此，我们放宽线性模型，允许为每个候选项设置松弛量。我们计算满足带间隔 $\eta$ 的公理的松弛线性奖励，使总松弛量最小，其中间隔 $\eta$ 是两个奖励值之间所要求的最小差异。我们的方法在不对投票者或比较数据的收集方式作任何假设的情况下满足这些公理。当候选项数量为 $m$ 且 $\eta$ 至多为 $O(\frac{1}{m^2})$ 时，我们将最优总松弛量上界限定为 $O(1)$。此外，我们构造了一个迫使该界成立的实例，从而得出该速率在常数因子意义下是紧的。在实践中，候选项数量通常远超特征维度，而只有线性奖励能够在未见过的响应上进行评估。因此，我们提出了一种新方法：对线性部分在每个错误比较上施加惩罚。该方法同时最小化总松弛量和违反次数，并通过参数 $\lambda$ 在二者之间进行权衡。我们证明，总松弛量关于 $\lambda$ 单调但会饱和：提高 $\lambda$ 会减少所部署线性奖励的违反次数并增加松弛量，但松弛量始终低于 $(\eta+\Delta\sqrt{d})\lfloor m^2/4\rfloor$，其中 $\Delta$ 和 $d$ 分别是特征的直径和维度。在合成偏好数据和真实世界偏好数据上的实验验证了我们的理论，并表明该方法输出的线性奖励优于线性 BTL。
12:00 arXiv cs.LG 74
arXiv:2606.31429v2 公告类型：cross 摘要：我们为监督回归中的统计特征学习引入了一种几何表述。特征学习通过基底--纤维分解来定义：基底是由训练产生的特征侧几何结构，纤维则是进行估计的已学习特征空间。我们针对球面均场 Langevin 动力学证明了这一性质，并将其视为负熵正则化经验风险的 Wasserstein 梯度流。在 Gaussian 多指标模型中，低温稳态分布集中于隐藏索引附近，形成多尖峰结构，并以高概率实现参数恢复，尽管负熵正则化会抑制集中现象。这种集中在温度 $\lambda\asymp 1$ 处发生尖锐转变。在 Gaussian 单指标模型中，稳态测度满足集中性质，其所在空间由奇偶性决定：要么是 $S_2^{d-1}$，要么是 $\mathbb{RP}^{d-1}$。由此诱导的已学习特征空间与回归信号对齐，并达到 $d/N$ 和 $Md/N$ 的速率（忽略对数因子）。
12:00 arXiv cs.LG 77
arXiv:2610.08457v1 公告类型：新 摘要：集成电路设计包含多个设计阶段：逻辑综合、平面规划、布局和布线，每个阶段都需要数小时到数周才能完成。在流程后期才发现时序违规，会迫使设计返回早期阶段进行代价高昂的迭代，浪费计算资源并延误产品上市。虽然利用早期阶段数据预测布线后的时序可以避免这些问题，但现有机器学习方法难以应对综合后逻辑描述与布线后物理布局之间巨大的抽象差距。我们提出 STEP-KD（通过渐进式知识蒸馏进行序列时序评估），利用中间设计阶段作为渐进式知识迁移的“垫脚石”，而不是尝试直接进行预测。STEP-KD 在布线后、布局后和平面规划后阶段训练教师模型，然后通过表示对齐，将这些模型的知识依次蒸馏至综合后学生模型。在多种电路上的实验表明，与直接蒸馏方法和有监督基线相比，STEP-KD 能够降低时序预测误差；在大多数设置下，与业界标准静态时序分析（Static Timing Analysis，STA）工具相比也能降低误差。STEP-KD 将总负裕量预测的加权平均绝对百分比误差降至 19.78%，而 STA 的误差为 74.84%。我们提出的方法向更早识别时序问题迈出了一步，从而避免代价高昂的后期重新设计。
12:00 arXiv cs.LG 71
arXiv:2610.08322v1 公告类型：新发布 摘要：选择性预测在给定保留覆盖率预算下，对高风险测试窗口进行弃答。现有的门控方法（如 TEM（Brusokas 等，2025））将每个预测作为整体进行评分；对于多变量输出，轨迹可能看似合理，却违反变量之间的依赖关系。我们将实例级合理性与关系一致性视为两个不同的可靠性维度，并通过学习得到的稀疏图和 Dirichlet 风格的结构能量 E_struct 对后者进行具体刻画；该结构能量通过误差加权图正则化和分数—误差对齐进行训练。在七个长时域基准和四个主干模型上，在覆盖率相同的情况下，结构门控通常能够将选择性 MSE 降低至 TEM 以下；在我们的基准中，跨变量结构似乎更具信息量的场景下，收益最大。收益并非普遍存在，表明这是一种互补的弃答信号。表 1 是 Protocol A 的排序诊断结果（种子为 2024）；在对齐子集上采用三个随机种子的可部署 Protocol B 结果见表 3（完整的验证集到测试集网格见附录 A）。
12:00 arXiv cs.LG 81
arXiv:2610.08164v1 公告类型：新论文 摘要：低秩量化误差补偿（LQEC）通过在每个冻结的量化权重旁附加一个闭式求解的秩为 $r$ 的适配器，无需任何训练即可恢复激进权重量化造成的精度损失。我们表明，现有补偿方法受到两种共同简化假设的限制。首先，它们采用对称校准，在相同的激活上评估全精度权重和补偿后的权重，由此得到的补偿目标本质上是高秩的，因此固定的秩预算只能捕获其中的一小部分。其次，它们仅最小化损失的二阶项，尽管补偿后的模型并未处于驻点：每一层仍然存在一个比已施加的补偿本身更大的一阶下降方向，而任何重构目标都无法吸收这一信号。我们提出了一个两阶段闭式求解框架，消除了这两种简化假设。第一阶段在 Fisher 加权的非对称目标下，将每一层的输出与全精度模型对齐，使秩预算集中用于可进行秩压缩的目标。第二阶段在补偿后的模型上重新测量统计量，并执行受秩约束的自然梯度更新，以吸收剩余的一阶信号。每个适配器都由一次截断 SVD 得到；反向传播仅用于收集统计量。在采用 QuIP# 的 2 比特量化下，我们的方法将 Qwen3-8B 在 WikiText-2 上的困惑度从 12.43 降至 10.26，将 Qwen3-4B 的困惑度从 21.11 降至 13.22。在留出的 C4 语料库上，该方法分别弥合了与 FP16 之间差距的 51% 和 84%，而最强基线分别为 31% 和 63%；同时，在七项任务的零样本平均表现、更高比特位宽以及另一种量化器下，该方法均取得了一致提升。
12:00 arXiv cs.LG 77
arXiv:2610.08075v1 公告类型：新论文 摘要：条件神经场以连续方式表示信号，但其有效性取决于如何从观测数据中推断条件潜在表示。在元学习中，这一编码过程通过解码器所诱导的梯度更新完成，将表示学习与解码器设计直接关联起来。我们将潜变量优化解释为优化编码器，以此形式化这一联系，统一二阶微分、潜变量参数化和任务监督的作用。这一概念使二阶元学习能够对编码过程与解码器进行联合端到端训练，并明确了一阶近似舍弃了哪条学习路径。在这一视角的指导下，我们提出 Attentive Latent Fields（MetaLF），一种基于等变 transformer 的神经场，通过自注意力为潜在点云融入上下文信息。这些交互既塑造场预测，也塑造构建其表示的更新过程，使局部观测能够为连贯的非局部结构提供信息。通过将内层编码目标与外层任务监督解耦，我们在端到端元学习框架内统一了重建、分类和分割，并在测试时仅利用重建目标进行潜变量自适应。多项式场上的受控实验表明，潜变量间的协调与更低的有效秩以及与底层函数空间更强的对齐相关。在图像和三维形状重建任务中，MetaLF 仅需三至五次梯度更新即可提升保真度，同时支持图像、形状和体数据的语义预测。综上，这些发现表明，优化编码器视角可作为统一基础，围绕表示如何构建、协调和使用来设计神经场。
12:00 arXiv cs.LG 77
arXiv:2610.07706v1 公告类型：新 摘要：自回归大语言模型（LLM）的能力取得了快速进展，但其规模不断增大也带来了推理阶段巨大的计算和内存开销。知识蒸馏（KD）通过对齐离散概率分布，将知识从大型教师模型迁移到较小的学生模型，为此提供了一种实用的解决方案。然而，现有面向 LLM 的知识蒸馏方法主要依赖通过词汇表中各索引位置的概率值来评估差异的散度，未显式利用词元级语义信息。我们提出了面向 LLM 的基于 Wasserstein 的知识蒸馏方法（WASD），通过基于 Wasserstein 的距离引入词元级语义信息，该距离使用由词元嵌入构造的代价矩阵。为确保计算可行性，我们采用 Sinkhorn 散度，并推导出一个梯度等价的目标函数，使其能够在不引入额外网络的情况下高效优化。在多个 LLM 系列和不同规模的模型上进行的实验表明，WASD 在包括指令遵循、数学推理和代码生成在内的多种任务上，都能持续提升蒸馏性能。我们的结果凸显了词元空间中编码的语义信息对于 LLM 蒸馏中的有效分布对齐的重要性。实现代码已公开发布于 https://github.com/aailab-kaist/WASD 。
12:00 arXiv cs.LG 78
arXiv:2610.07662v1 发布类型：新 摘要：心电图（ECG）记录心脏的电活动，可通过检测心脏功能异常来辅助诊断。ECG 基础模型已展现出良好效果，但其监督信号仅依赖 ECG 解读报告，因此受到限制。由于解读报告只能涵盖临床医生通常识别的部分波形信息，这使得表征学习忽略了 ECG 中存在的更广泛诊断信号。我们提出了一种新的 ECG 基础模型——MS-ECG-FM，该模型通过与多种不同类型的临床记录进行对比对齐训练，包括 ECG、超声心动图、放射学报告和出院报告。我们在扩展的 ECG 检测基准上评估了 MS-ECG-FM，结果表明，在 ECG 能够检测的全部疾病范围内，包括减少导联配置，MS-ECG-FM 均全面优于现有方法。不同类型的报告能够改善不同诊断领域的表征，而多源对齐则能够捕获它们的互补信息，并在临床任务多样的情况下持续生成强大的表征。
12:00 arXiv cs.LG 77
arXiv:2610.07654v1 公告类型：新增 摘要：策略内蒸馏（OPD）作为一种将能力从教师模型迁移到学生模型的有效方法，正受到越来越多的关注。近期研究进一步探索了将 OPD 用于提升大型语言模型安全性的可能性，并取得了令人鼓舞的结果。然而，这些方法通常假设教师模型和训练数据是可信的。在本文中，我们揭示了 OPD 在安全性方面一个被忽视的威胁：一个经过安全对齐但植入了后门的教师模型，能够将其隐藏的恶意行为传播给最初没有问题的学生模型。在我们的威胁模型下，即使污染率低至 3%，蒸馏后学生模型的攻击成功率（ASR）也最高可达 70%。我们进一步发现了两种会放大这一风险的训练选择。首先，增加训练轮数可能使低污染率下的 ASR 也达到较高水平。仅使用 10 个污染样本，经过 16 个训练轮次后，ASR 就可达到 67%。其次，常用的 top-k KL 会加速后门迁移，在大多数设置下，使触发条件下的有害行为比 sampled-token KL 更早出现。在这些发现的基础上，我们探索了一种简单的缓解方法 Lazy Defense：对 KL 奖励进行裁剪，使学生模型的更新不那么激进，从而限制激进更新并减缓后门学习。实验表明，在低污染率设置下，Lazy Defense 能够延迟后门迁移。总体而言，我们的研究发现 OPD 可能传播后门，凸显了应对 OPD 安全风险的必要性。
12:00 arXiv cs.LG 82
arXiv:2610.07457v1 公告类型：新 摘要：细粒度混合精度量化有望实现高效的大语言模型推理，但局部精度选择可能与常规 GPU 存储和计算单元产生冲突。这种精度边界不匹配限制了压缩技术转化为实际加速的能力。我们提出 AlignQuant，一种训练后量化方法，使用与 GPU 兼容的二维权重瓦片作为精度分配、紧凑存储和执行的统一单位。这种共享分区使精度能够根据输出通道内的敏感度进行分配。在量化激活下，联合预填充/解码校准通过由语言模型损失梯度加权的投影输出扰动，对精度降低进行评分。经过阶段归一化的评分，在全模型权重存储预算下，优先为对任一阶段重要的瓦片分配更高精度。每个瓦片存储一种选定的表示形式，而面向不同阶段的内核则复用打包后的模型，并将低比特权重扩展为使用 8 位激活进行 INT8 计算。在涵盖 3B 至 14B 参数的四个 LLM 上，AlignQuant 在保持模型质量的同时，相较于 BF16 实现了最高达 $2.50\times$ 的生成加速。评估还涵盖了三种 GPU 以及最长达 64K token 的上下文。这些结果表明，通过共享的瓦片单位，局部精度灵活性与规则化 GPU 执行可以并存。实现代码可在 https://github.com/HanzhiZhang-Ulrica/AlignQuant 获取。
12:00 arXiv cs.LG 78
arXiv:2610.07362v1 公告类型：新论文 摘要：我们通过事件发生时间来评估大型语言模型（LLM）在多轮交互中的表现：即产生感兴趣事件所需的交互步骤数，例如成功越狱或完成智能体任务。在计算资源有限的情况下，交互可能在事件发生前终止，因此事件时间只能被部分观测到（即存在删失）。现有用于校准事件发生时间界限的分配方法只能在期望意义上满足预算，在某次具体评估运行中可能超出可用预算。由于轨迹成本在初始时并未知晓，执行硬约束尤其具有挑战性。我们提出用于预测校准的带重流硬预算分配方法（HARP），该方法能够满足硬资源约束，并自适应地重新分配未使用的预算。我们展示了如何使用 HARP 构造事件发生时间的下预测界（LPB），并在固定基准上估计越狱率等评估指标。尽管 HARP 会导致不同轨迹之间的采集决策产生依赖关系，但我们证明，HARP 从不超出目标预算，其 LPB 具有有限样本覆盖保证，且其指标估计是无偏的。在智能体任务成功、LLM 越狱、有害内容生成和 RAG 幻觉方面的实验表明，HARP 在从不超出给定预算的同时，以较低方差实现了接近名义水平的覆盖率。
12:00 arXiv cs.LG 76
arXiv:2610.07340v1 公告类型：新 摘要：蛋白质-分子虚拟筛选越来越多地被视为共享嵌入空间中的表征学习问题。现有方法依赖密集的整体对齐，将不变的结合决定因素与无关相关性纠缠在一起，从而限制了向新靶点的迁移能力。已有研究指出，蛋白质-分子系统中的结合涉及稀疏的跨模态相互作用：结合由一个较小的接触界面和少数关键的局部相互作用（例如氢键、疏水接触和盐桥）决定，而不是由蛋白质和分子的全局结构决定。我们假设，发掘并利用稀疏的相互作用模式对于超越训练数据实现泛化至关重要，因为这些模式具有可复用性，并有望提升模型在不同场景下的性能。本文旨在识别并利用稀疏的相互作用模式，并验证这一假设。由于训练数据仅包含观测到的结合对，我们在 Heckman 风格的选择机制下，通过 V 结构因果模型形式化这一先验，并建立了三个理论结果：（i）在缺乏适当稀疏性约束的情况下，相互作用蛋白质和分子的潜在概念不可识别；（ii）在满足结构稀疏性条件时，这些概念及其稀疏相互作用具有分量级可识别性；（iii）对这些条件进行低秩松弛后，可以实现概念及相互作用的子空间可识别性。受这些原理启发，我们提出了 CausalBind，并实现了三个变体。在 DUD-E 和 LIT-PCBA 基准上的大量实验表明，所有变体均持续优于强大的检索基线，在 LIT-PCBA 的早期富集指标上提升最大，并且能够进一步泛化到靶点级和骨架级分布外划分。代码可在 https://github.com/lokali/CausalBind 获取。
12:00 arXiv cs.LG 80
arXiv:2610.07271v1 公告类型：新 摘要：用于层次聚类（HC）的链接算法是构建聚类树的一种强大且高效的框架，但对于给定数据集或任务，哪种合并规则最为合适通常并不明确。相比之下，神经方法能够从数据中学习，但往往无法保留经典算法的效率和规模泛化能力。我们提出 NN-linkage，这是一种神经网络（NN）模型，能够学习特定于任务且依赖局部信息的合并规则，同时保留经典链接算法的递归结构和高效推理能力。具体而言，我们的模型在算法上与 Lance-Williams（LW）递推保持一致。Lance-Williams 是一个参数化框架，用于定义凝聚式 HC 中广泛且连续的链接规则族。单链接（SL）、全链接（CL）和平均链接等经典方法，都是这一更广泛规则族中的离散选择。我们证明，NN-linkage 是连续链接函数的通用逼近器，其中包括 LW 递推；当与 transformer 编码结合时，它还能够逼近全局依赖规则，例如稳健单链接。我们进一步证明，对于任意输入规模，NN-linkage 都能精确实现任意对称的常系数 LW 递推。在实证方面，我们使用合成数据集和真实数据集，在时钟树布线和系统发育重建这两个现实应用中评估 NN-linkage，结果表明其性能优于经典算法和其他神经方法。通过直接从目标树中学习合并规则，NN-linkage 将高效的 HC 拓展到了现有手工设计的链接规则无法充分刻画的科学与工程目标。
12:00 arXiv cs.LG 73
arXiv:2610.07255v1 公告类型：新 摘要：神经算法推理，即使神经网络与一种算法范式相对齐，已成为解决多项式时间可解以及计算上更困难的组合优化问题的一种方法。我们提出了一种基于 Chambolle-Pock 原始-对偶混合梯度（PDHG）方法的新型消息传递框架，称为 \textsc{GraphPDHG}，用于求解一般图鞍点问题。从理论上看，我们证明了 \textsc{GraphPDHG} 可以通过模拟 PDHG，高效求解一类图鞍点问题。我们还证明了该网络能够学习一种加速的 PDHG 算法。在实验方面，我们将模型作为二阶优化技术（SSNAL）的学习型热启动，对其性能进行评估，从而验证了关于加速 PDHG 的结果。我们还表明，与未进行对齐的图神经网络（GNN）基线相比，与 PDHG 对齐能够带来更强的规模泛化能力。总的来说，我们提出了一种用于求解图上一大类一般优化问题的新型架构。
12:00 arXiv cs.LG 75
arXiv:2610.07218v1 公告类型：新 摘要：表示学习的最新进展凸显了常曲率模型在复杂数据建模中的实用价值，例如双曲空间和球面空间。混合曲率模型通过整合多个常曲率成分进一步提升了这一能力。然而，这些模型通常会独立地学习每个成分空间，因为具有不同曲率的空间本质上是异质的，并且缺乏统一的度量。因此，它们缺少在不同空间之间保持几何一致性的显式机制。此外，如何比较混合曲率空间上的概率分布仍未得到探索。为了比较异质空间上的分布，Gromov-Wasserstein（GW）距离通过对齐空间内部的几何结构提供了一个有原则的框架。在此基础上，我们提出了常曲率切片 Gromov-Wasserstein（CCSGW），这是一种用于对齐定义在异质常曲率空间上的分布的新型散度。我们首先为球面空间引入缺失的基于测地线的一维投影，随后将切片 GW 扩展到常曲率空间，从而能够在具有不同曲率的流形之间进行高效且有原则的比较。该公式保留了内在几何关系，同时避免了高昂的计算成本。我们提供了理论分析，表明 CCSGW 能够控制异质空间之间的内在几何差异，从而促进分布层面的几何一致性。通过将 CCSGW 融入现有的混合曲率学习任务，包括图异常检测、图节点分类和多模态学习，我们在多种设置下都观察到了稳定的性能提升。
12:00 arXiv cs.LG 77
arXiv:2610.07168v1 发布类型：新 摘要：多语言语言模型中，翻译句子的表征在内部层中具有相似性——这一现象与柏拉图式表征假说有关，但尚缺乏理论解释。我们基于以下假设给出一种解释：数据具有隐藏的层次结构，其中抽象层级在不同语言之间共享，而表层则具有模态特异性或语言特异性。具体而言，我们从概率上下文无关文法中生成合成语言，这些文法共享高层级的生成规则，但不共享低层级的生成规则。在这一设定下，贝叶斯最优的下一词元预测器就是信念传播（BP）；将其消息编码到连续的层中，可以得到解析预测，并且这些预测与在相同数据上训练的 transformer 高度一致。该框架解释了为什么跨语言相似性在中间层达到峰值，为什么它与语言特定结构并存，以及为什么它会随着语言接近程度、模型质量和数据接触量的提升而增强。该框架区分了相似性（共享的邻域几何结构）与对齐（共享的坐标），并表明，当代码切换数据，即混合语言的句子，足够丰富时，后者才会出现。该框架还预测，从每一层中减去可由前一层线性预测的成分，会提高跨语言相似性；我们在预训练 LLM 中证实了这一点。
12:00 arXiv cs.LG 78
arXiv:2610.07028v1 发布类型：new 摘要：基于扩散的世界模型能够生成并预测高维动力系统中的轨迹，但预测准确性并不意味着其潜在坐标能够恢复底层状态变量或因果交互。我们探讨：无需重新训练生成骨干网络，能否为冻结的预训练扩散模型配备可辨识坐标。我们证明，辅助变量非线性 ICA 的保证可以迁移至 Contrastive Diffusion Alignment (ConDA)；该方法仅在冻结的扩散潜变量之上学习一个轻量级对齐映射。在标准 TCL/GCL 假设下，对齐后的表示能够将潜在动力状态辨识到排列和逐分量可逆变换意义下，保留潜在动态结构因果模型，并将滞后图恢复简化为转移雅可比矩阵的稀疏性问题。我们在物理和机器人视频系统上，将基于 TCL、GCL 和 CEBRA 的 ConDA 与 TDRL、CaRiNG、IDOL、temporal SuaVE 以及 iVAE 进行了评估。TCL 和 GCL 实现了近乎完美的分块状态恢复，并在滞后图恢复方面具有竞争力，包括在模拟落体系统中实现精确恢复。在模拟双足机器人中，学习到的动力学恢复了对留出控制扰动响应的符号和时间结构。这些结果表明，冻结的生成式扩散模型可以配备具备可辨识性、结构可解释性且有助于分析与干预相关动力学的坐标。
12:00 arXiv cs.LG 74
arXiv:2610.06980v1 公告类型：新摘要：从能源到汽车制造等各个行业，传感技术都在快速发展。这些系统会生成高维（HD）数据，其特征是复杂的非线性模式和强烈的时间依赖性。传统统计监测方法通常难以捕捉这类非线性结构。同样，终检测试中使用的许多分析方法依赖预定义阈值和启发式规则，这限制了它们从高维时序数据中检测具有信息价值的异常特征的能力。相比之下，尽管现代深度学习和生成式 AI 模型具有强大的预测能力，但在数据采集成本高昂，且监测系统必须具备可解释性、低延迟、计算高效并便于非技术人员使用的应用场景中，它们往往并不适用。为克服这些局限，我们提出了一种用于高维数据的先进多变量监测框架。该框架分为两个阶段。在第一阶段，对数据进行预处理，以移除不完整和无信息样本，并对时序数据进行时间对齐。在第二阶段，执行非线性降维，随后通过基于控制图的I阶段监测程序进行异常检测。根据训练期间是否能够获得真实标签，该框架既可用于无监督场景，也可用于有监督场景。此外，其灵活的模块化结构使实践人员能够根据不同领域和运行要求调整各个组件。我们使用来自 Ford Motor Company 汽车制造环境的真实生产数据，对所提出的框架进行了评估。与公司现有模型相比，所提出的方法取得了更高的准确率、召回率和 F1 分数，分别将这些指标从 0.50、0.30 和 0.429 提升至 0.625、1.00 和 0.769。
00:35 arXiv cs.AI 77
基于 LLM 的智能体能够解决复杂的多步骤任务，但顺序执行会带来显著延迟。原则上，在多个智能体之间并行分配工作应当实现接近线性的加速。然而，现有的并行多智能体系统往往比单智能体基线运行得更慢。我们将这一差距归因于并行执行会产生、而串行智能体能够避免的两项隐性成本。第一是重新探索成本：并行工作者需要重复投入精力，重建编排器已经掌握的上下文，例如先前的决策；而在串行执行中，这些上下文可以被隐式继承。第二是对齐成本：需要额外开销来协调各个独立生成的输出之间的不一致之处。基于此，我们推导出一项原则性的决策标准：仅当某一层的关键路径成本加上重新探索和对齐开销低于相应的串行成本时，才应将该层并行化。尽管这一标准天然以实际耗时表示，但我们发现，当要求 LLM 估计任务持续时间时，其校准效果较差。为解决这一问题，我们改为使用预测输出 token 数来衡量成本；通过实证发现，相比实际耗时，LLM 能够更加可靠地估计输出 token 数。基于这一 token 级标准，我们提出了 SquidAgent。它在单次规划步骤中估计所有 token 预算，直接从编排器的会话中为每个工作者创建分支，以消除重新探索成本，并用预先生成的共享约定块取代事后协调，将对齐转化为有界的前置成本。随后，确定性调度器逐层应用该标准。实证结果表明，与 Claude Code 相比，SquidAgent 的平均吞吐量提升了 2.2 倍，平均实际耗时加速了 2.6 倍；与最强的多智能体基线相比，吞吐量提升了 2.0 倍。
00:59 arXiv cs.AI 81
推测解码通过首先使用较小的模型（称为目标模型）生成候选词元，然后使用目标模型对其进行验证并接受或拒绝，从而加速大型语言模型（LLM）的推理。以往研究主要关注推测解码在效率与效用之间的权衡，例如有损推测解码，而其安全影响在很大程度上尚未得到探索。在本研究中，我们通过对推测解码安全影响开展首次系统性研究，弥合了这一空白。通过大规模测量研究，我们揭示了显著的安全性—效用不对称性：在广泛的有损推测解码方法中，推理效率的提升会以安全性的大幅下降为代价，越狱攻击和提示注入攻击的成功率增长速度远快于效用的下降速度。随后，我们提出了 SecureSD，一种由理论指导的新型推测解码方法，能够在保持效率和效用的同时增强安全性。具体而言，我们的理论分析表明，安全性下降主要源于推测模型生成的早期词元。基于这一洞见，SecureSD 对解码早期位置的推测模型词元采用更严格的验证标准。在安全性和效用基准上的大量实验表明，与现有推测解码方法相比，SecureSD 在保持效率和效用的同时，显著提升了安全性。
01:50 arXiv cs.AI 81
近年来，世界模型取得的进展推动了越来越逼真的视觉合成。然而，这些生成的环境在很大程度上仍然是无声的。为世界模型带来声音面临三项核心挑战：实时生成，以跟上交互式视频流；交互式控制，以响应视频流中途的声音指令；以及空间对齐的立体声，以反映场景几何结构和摄像机运动。为应对这些需求，我们提出了 WorldSonus，这是一种专为世界模型中的实时空间声音合成设计的交互式视频到音频框架。在实时生成方面，WorldSonus 采用流式因果自回归扩散架构，以 0.41 的低实时因子（RTF）合成音频片段。在交互式控制方面，我们引入了以音频为中心的字幕生成流程，并结合按片段索引的提示调度机制，使声音事件能够在生成过程中动态操控。在空间对齐方面，我们利用从多样化立体声和全景声数据中整理出的高质量立体声监督信号。大量实验表明，尽管 WorldSonus 专为世界模型设计，但它能够有效泛化到开放领域的视频到音频基准测试，在声学质量和空间对齐方面均达到或超越当前最先进的双向模型。项目主页：https://noizai.github.io/WorldSonus/
01:59 arXiv cs.AI 75
现有的 4D 手-物体重建方法通常依赖成本高昂的逐序列优化，而生成式方法通常从随机噪声中合成交互，这可能导致交互预测不稳定。我们提出了 4D-HOF，一种前馈式框架，利用视觉基础模型生成的粗略但信息丰富的估计结果来重建 4D 手-物体交互。具体而言，我们学习了一个条件流匹配模型，将由基础模型生成的手-物体状态输送至交互流形，使模型能够以前馈方式修正平移、旋转和对齐误差。我们的生成式建模方式具有一项关键优势，即能够在输送过程中自然地实现测试时引导。我们不再于重建完成后单独进行事后优化，而是利用物理交互约束和观测到的 2D 证据，直接引导不断演化的生成状态，使重建过程本身得以逐步优化。通过在多样化数据集上训练生成模型，4D-HOF 能够稳健地泛化到具有挑战性的真实场景。域外基准测试表明，4D-HOF 达到了当前最优性能，生成了更加稳定且准确的 4D 手-物体重建结果。
16:09 arXiv cs.AI 82
LLM 智能体越来越能够执行复杂任务，并在软件工程和数学等易于验证的目标上递归式地自我改进。由于对齐要难得多，这带来了能力不断提升却未能实现适当安全对齐的日益增长的风险，尤其是在能力扩展到自动化研究和网络安全领域之后。现有方法主要聚焦于利用可验证反馈实现能力自我改进，或通过更强模型的监督或精心策划的数据进行对齐训练，从而形成了对齐方面的外部监督瓶颈。我们探讨当前模型能否改进自身的安全对齐，并提出 SIGMA：一种数据生成与训练流程，使对齐自我改进能够泛化到分布外场景。仅给定一份说明模型期望行为的“Model Spec”，SIGMA 利用模型的推理能力来强化其自身的安全推理。SIGMA 首先执行规范引导的任务合成，将候选模型作为任务设计智能体，生成多样化的对齐困境场景，并将其转化为训练任务，以压力测试模型对 Model Spec 的理解。随后，SIGMA 通过监督微调和基于评分标准的强化学习开展自我评判式对齐训练，并将模型自身作为奖励模型。尽管训练数据仅包含单轮聊天数据，SIGMA 仍能提升模型在多轮智能体环境中的安全对齐能力（AgentHarm 的有害性评分从 22.6 降至 14.8；Agentic Misalignment 从 79.1 降至 3.8），性能优于 Deliberative Alignment 和 Constitutional AI 基线，同时保留通用能力。分析表明，兼顾无害性与有用性的 Model Spec、测试时用于安全审议的推理能力，以及 SIGMA 任务设计智能体生成的高质量评分标准，对于实现有效的自我改进至关重要。
16:21 arXiv cs.AI 77
机器人执行任务时可能会出现视觉干扰，使视觉语言动作（VLA）策略在不知道干扰类型或发生时机的情况下作出响应。我们提出了从剩余轨迹进行自监督适配（SALT）方法，该方法利用剩余轨迹——先前动作块中尚未执行的部分——作为测试时适配的自监督信号。由于相邻动作块在时间上存在重叠，剩余轨迹为当前预测在同一未来控制时间段内提供了时间对齐的目标。在视觉变化开始时，剩余轨迹可能保留着受干扰前形成的计划，因此将策略更新至该轨迹可以在变化过程中锚定适配方向（Transition Anchoring）。SALT保留适配后的策略并重新生成当前动作块，其剩余部分会在下一次重新规划时成为目标，从而沿执行轨迹持续传递修正（Sequential Correction Propagation）。监督信号完全来自策略自身的预测，无需干扰标注、专家动作或目标域示范；此外，一个仅使用正常轨迹校准的轻量级适配门控机制会决定何时开始更新。在LIBERO-10上，面对五种持续性视觉破坏，SALT将SmolVLA的平均成功率从43.9%提升至53.2%，将GR00T N1.7的平均成功率从58.7%提升至66.0%，同时基本保持正常性能。在真实机器人上，面对数字和物理干扰时的平均任务进展从0.49提升至0.61。
17:29 arXiv cs.AI 81
AI agents 正日益被编程用于对大规模非结构化数据集合中的知识工作进行自动化处理。这类自动化要求具备可重复性：当底层证据不变时，即使每次单独给出的答案看似合理，agent 的分类、优先级和计数也不应在不同运行之间发生实质性变化。我们提出了一个重复运行评估框架，用于对语义等价的类别进行对齐，并关注两个运行指标：主题变动率，即返回类别集合的归一化变化；以及数量不一致度，即仍然存在的类别的计数变化。我们在八个前沿模型上评估了三项反复出现的客户反馈任务，涵盖从 100 到 5,000 条记录的语料库规模、多种提示词，以及三种执行设计：原始生成、不依赖分类体系的层级分解，以及使用持久化主题、子主题和记录级预测的分类体系驱动agent（TGA）。在固定使用 Claude Opus 4.8 和 1,000 条记录的语料库时，相较于原始生成和层级分解，TGA 将主题变动率降低了 86--88%，而匹配主题的数量不一致度为零。分类体系驱动agent 比评测中的每个原始模型都更加稳定，在每种语料库规模下也都保持更高的稳定性；即使收紧或放宽主题匹配标准，这一优势仍然存在。尽管本研究评估的是客户反馈，但该框架更广泛地适用于对非结构化语料库进行重复性综合分析，包括财务报告、法律文件、事件记录和科学文献。总体而言，这些结果表明，分类体系 grounding 能够为反复进行的知识工作产出更加一致且可重复的结果。
18:53 arXiv cs.AI 75
法律智能旨在支持涉及案件状态演变和多种角色的长时程法律流程中的可靠决策。然而，现实世界的法律部署在事实、证据和程序背景方面存在显著的案件异质性，暴露出静态智能体策略的局限性。此外，法律推理在不同角色和程序阶段之间具有内在的相互依赖性，因此全局可靠性从根本上不同于孤立的角色能力。为应对这些挑战，我们研究无需训练的测试时智能体适应方法：智能体在不更新模型参数的情况下，持续利用部署期间从先前案件和当前交互中获得的信号。我们提出 \method，引入\emph{测试时记忆演化}，从先前案件中检索可复用经验，使其适应当前的事实和程序背景，并整合累积经验以支持后续决策。此外，\emph{与规则对齐的协作}依据行为和程序要求，对特定角色的行动进行验证和修订，从而实现跨角色、跨阶段的协调决策。在五个骨干模型上针对 J1-EVAL 和 LegalWorld 进行的大量实验表明，与具有代表性的推理和智能体基线相比，该方法在合理的交互与计算成本下实现了稳定提升。消融实验和案例研究进一步表明，这两个组件在经验适应和跨角色协调方面具有互补优势，提升了长时程法律推理的可靠性和效率。
06:41 Hacker News 熱門
Not enough space in the title, the actual scenario is this: A hypothetical US gov't, benevolent and markedly less corrupt than the current one, passes a Constitutional amendment to nationalize Alphabet, with the express intent to return Google Search to 2010 levels of efficacy and to remove all LLM functions from both its frontend and backend. I guess what I'm really asking is what people would abide to have the internet back, via a search solution that actually works and whose usefulness hasn't been annihilated by ~15 years of cynical corporate marauding and product torture. Comments URL: https://news.ycombinator.com/item?id=49985180 Points: 4 # Comments: 5
00:48 arXiv cs.AI 78
表格基础模型通过以上下文形式提供的带标签训练示例为条件进行上下文学习（ICL）。不同于将训练与推理解耦的传统模型，这些模型必须在每次前向传播中处理所有训练示例，因此每次预测的成本都很高。限制训练示例的数量可以降低成本，但会显著降低性能。我们不丢弃上下文，而是提出激活对齐方法，利用完整上下文教会模型在只能看到部分上下文时应如何运行。具体而言，该方法在合成无标签数据上训练一个轻量级线性变换，将受数据约束的“学生模型”（使用部分上下文）的中间激活映射到完整上下文“教师模型”（使用全部数据）的中间激活。对齐器的训练无需 GPU，在普通硬件上只需几秒到几分钟即可收敛。我们使用领先的两个表格基础模型 TabPFN-3 和 TabFM，在 TabArena 基准中的 38 个分类数据集上进行了评估。在所有上下文预算下，对于这两个模型，对齐后的学生模型相较于未对齐基线均取得了广泛且具有统计显著性的提升。在低数据量场景中，对齐方法恢复了教师模型预测优势的近一半。该方法以较低开销实现了紧凑上下文所带来的推理速度，同时弥合了与完整上下文教师模型之间相当一部分的性能差距，具有实用价值。
01:51 arXiv cs.AI 79
稀疏注意力是降低扩散 Transformer 在长序列生成任务中延迟的主要方法，例如视频和高分辨率 3D 资产生成。然而，现有方法在高稀疏度下可能导致生成质量和保真度下降。通过受控的预言机比较，我们将这种退化归因于三个来源：令牌分组施加的约束、不准确的交互选择，以及丢弃令牌时损失的注意力贡献。基于这一分析，我们提出 Meta-Cached Sparse Attention（MC-Sparse），这是一种无需训练的框架，可选择单个键值（KV）令牌，同时将相似查询组织成与图块对齐的分组，以实现高效的 GPU 执行。MC-Sparse 会缓存包括查询分组、使用精确注意力概率选出的 KV 索引，以及稠密与稀疏注意力输出之间的残差在内的元数据，并在后续去噪步骤中复用这些数据。在视频和 3D 生成模型上，MC-Sparse 相较于现有稀疏注意力基线，能够更高保真地逼近稠密注意力输出，并实现更大的去噪加速，同时不会产生可见的质量下降。相较于稠密注意力，在 Minimax-H3-Base 上可实现 $1.80\times$ 的去噪加速，在 3D 资产生成上可实现 $2.32\times$ 的加速，且二者的质量损失都可以忽略不计。
01:56 arXiv cs.AI 79
我们将 Kokoro-82M——一个广泛使用、拥有 54 种音色的开放文本转语音模型——蒸馏为 Paradee，一个能够使用其中一种音色说话的 8.07M 参数模型。Paradee 保留了 Kokoro 的架构，但将各层大幅缩窄，并分别针对冻结的教师模型训练其两个部分。它的参数量减少了 10 倍，所需计算量降低了 15 倍。我们首先使用教师模型合成语料库，并保留其时长、音高、能量和音素特征。随后，我们训练一个小型文本侧网络来预测这些数值，并训练一个小型解码器，将教师模型保存的数值转换为教师模型的音频：先使用频谱损失训练，再进行对抗训练。最后，我们连接这两个部分，并将权重量化为 int8。它无需学习对齐，也无需联合训练，并且可以在一台笔记本电脑上运行。以 int8 存储时，Paradee 的大小为 8.5 MB，在单个 CPU 线程上运行速度达到实时的 25 倍；其 UTMOS 得分为 4.41，而教师模型为 4.52。学生模型起初保留了轻微的嗡嗡声，我们追溯发现其来源是 2 至 8 kHz 范围内有声语音的相位。在合成后应用相位锁定滤波器可以消除其中大部分噪声，且无需训练或增加额外参数。代码、模型文件和音频样本位于 https://github.com/sahilmahendrakar/paradee
01:59 arXiv cs.AI 78
最差组准确率（WGA）可以评估训练好的预测器，但无法刻画在学习新预测头时其冻结骨干网络的行为。我们提出 BiasFlow，这是一套基于 hook 的工具包，用于监测类别-属性质心对齐（IBMI）、类内质心分离（W-IBMI）以及特征投影敏感性。IBMI 会受到类别与属性相关性的混淆，因此并不能衡量对因果特征的依赖。我们将这些诊断指标与 BiasFlow 正则化（BFR）结合起来；BFR 是一种有监督、可组合的类条件质心对齐惩罚项。W-IBMI 可以验证 BFR 所优化的量，但它依赖尺度，不能独立证明属性已被移除。在所报告的小规模基准测试中，加入 BFR 后，平均 WGA 得到提升或保持不变；在 UrbanCars 上最高提升 26.0 个百分点。主要的独立压力测试冻结 CelebA-Std 骨干网络，并在有偏数据上训练新的预测头：BFR+GroupDRO 将 WGA 从 40.7% 提升至 64.1%，同时 Male 探针准确率从 92.5% 降至 72.2%。属性信息仍然可以被恢复，且跨任务结果喜忧参半。在一个受控的合成水印 ImageNet 实验中，在训练条件匹配的情况下，水印偏移准确率进一步提升了 23.0 个百分点。这些结果表明，在所测试的协议下，除了 WGA 之外，还应评估质心几何结构以及对有偏预测头再训练的抵抗能力。
11:29 arXiv cs.AI 73
大型语言模型（LLMs）在多变量时间序列预测和异常检测方面展现出巨大潜力。现有研究主要通过直接数值标记化或启发式文本描述，将时间信息注入LLMs。然而，LLMs仍难以感知数值时间序列背后的结构模式，尤其是被离散数值标记所掩盖的季节性和趋势成分。为弥合这一差距，我们提出了FreSia，这是一种具备频率感知能力的框架，旨在建立LLMs语义空间与时间序列频率空间之间的有效对齐。具体而言，FreSia中的频率引导提示机制FGPrompt提取时间序列在频域中的结构，并将其投影到针对LLMs语义空间设计的提示中。此外，我们引入了全局驱动的上下文学习（Global-driven Context Learning，GCL）组件，利用全局CLS驱动的探针生成全局上下文，以弥合时域与频域之间的差距，并融合多模态信息。在八个预测基准上的实验表明，FreSia在MSE和MAE方面分别取得了13.48%和8.06%的平均提升。
12:14 arXiv cs.AI 72
我们提出这样一个问题：给定检索到的源音频 $S$ 和一个独立的参考音频 $R$，我们能否基于这对音频 $(S,R)$ 合成出新颖的音频 $Y$，使 $Y$ 在声学上与 $S$ 保持一致，同时又不持续复制 $S$ 或 $R$ 中的片段？第一个目标是拟音制作中的一个众所周知的目标，第二个目标则是当 $S$ 和 $R$ 被直接注入神经生成器时，神经 RAG 中一个众所周知的问题。我们表明，使用一种称为关系合成的方法，可以同时解决这两个问题。关系合成是拼接合成的一种变体，其中目标代价被一种类似 Gromov 的关系结构代价所取代。关系合成并不模仿 $R$ 的内容，而是从“山的另一侧”利用它：将 $R$ 的时间结构和有向振幅变化迁移过来，以新颖的方式重组并拼接 $S$ 的音粒，从而保护 $S$ 的声学信息。实验表明，关系合成能够自然地与神经 RAG 集成，并生成在时间一致性、声学保真度和泄漏持续性等指标上表现良好的拟音，同时保持分布层面的质量和文本对齐。
13:30 arXiv cs.AI 74
然而，许多现有的引导方法依赖目标域人类数据进行微调或提示，这类数据收集成本高昂，并且会引发隐私问题。本文研究人口群体层面的调查模拟：从异构的匿名化公共行为数据中诱导出的用户画像，用于约束能够模拟特定人口群体个体回答的智能体。我们考察能否从多样化的数据源中诱导出具有代表性的用户画像，并分析源数据的领域、规模和粒度如何影响调查模拟对齐度。我们发现，从域外数据源诱导出的用户画像很少能超过仅基于基本人口统计信息进行约束的模拟效果，这主要是由于人群不匹配。然而，当用户画像被准确分配至目标人口群体时，对齐度会显著提升。最后，随着可用调查问题历史记录的增加，从目标域调查数据中诱导出的用户画像具有更好的泛化能力，这表明，更丰富的行为证据能够支持更稳定的用户画像特征推断，并迁移为对未见问题更好的模拟对齐效果。
13:37 arXiv cs.AI 79
长期运行的代理会在保留大部分文档窗口的同时反复调用 LLM，淘汰旧文档并追加新文档。这些滚动更新破坏了精确前缀缓存，从而推动了结合选择性重计算的非前缀 KV-cache 重用。我们表明，结合选择性重计算的持久化 KV-cache 重用可能依赖于历史：在我们的滚动式代理工作负载中，即使提示保持不变，之前处理过的请求不同，也可能产生不同的答案。在匹配的 5% 重计算预算下，按文档对齐的重计算将不同请求顺序下的答案差异率从 CacheBlend 的 token top-$k$ 策略下的 69.0% 降至 26.1%。当每个提示都在不同的前序请求序列之后进行评估时，与 token top-$k$ 相比，按文档对齐的重计算使结果相对于完整预填充的保真度提高了 34.5–52.5 个百分点，同时两种策略都实现了约 5.7 倍的中位数 TTFT 加速。我们的消融研究表明，在我们的滚动式代理工作负载中，连续性是与稳健的选择性重计算最相关的主要因素。
14:02 arXiv cs.AI 82
扩散模型通过学习逆转一个固定的破坏过程来生成样本，而无分类器引导（CFG）是根据目标类别或提示词对这一过程进行条件控制的标准机制。CFG 可以采用不同的引导强度；虽然更高的引导强度能够提升图像质量和条件对齐程度，但过高的引导强度会损害图像质量与多样性。此外，CFG 违背了具有理论依据的扩散采样动力学，而现有关于其为何在违背该动力学的情况下仍然有效的解释，要么在底层理论上存在分歧，要么无法推广到实践中使用的确定性采样器。我们同时解决这两个问题。首先，我们将 CFG 采样表述为一个连续时间最优控制问题，把采样轨迹视为一系列控制量，其选择目标是最大化满足期望条件的概率。对由此得到的 Hamilton--Jacobi--Bellman 方程进行求解后可以发现，在采用无约束控制集并使用特定路径代价时，可以恢复出 CFG。我们认为，这种缺乏约束的设定正是 CFG 在高引导强度下失效的原因，因为它允许采样路径任意远离当前的图像估计。为解决这一问题，我们提出曲率感知的 CFG（CACFG），将控制集约束在一个由训练变分自编码器时所采用的高斯正则化确定的超球面内。我们表明，CFG 采样产生的控制输入经常违反这一界限；并且在不同的扩散模型、数据集和引导调度下，与常规 CFG 相比，CACFG 在中高引导强度下都能实现更优的生成质量，同时质量—多样性权衡也更加缓和。
23:15 arXiv cs.AI 81
多模态大语言模型（MLLMs）通过将大语言模型（LLM）与视觉、视频或音频等目标模态的编码器相结合，实现了强大的模态理解能力。然而，要提升 MLLM 对特定模态的能力，通常需要在大规模模态专属数据集上进行额外训练，从而产生高昂的数据收集和计算成本。模型合并提供了另一种选择，但对于数据稀缺、单样本规模较大或具有领域特定性的模态（例如音频和视频）而言，模型合并通常难以实现，因为同模态的模型变体很少可用。在本文中，我们刻画了一种有趣的不对称现象：将一个对齐良好且数据丰富的源模态 MLLM 合并到一个数据稀缺的目标模态 MLLM 中，可以在目标模态自身的基准测试上显著提升其性能。我们的理论与实证分析表明，这种增益源于模态特定词元与文本词元之间对齐程度的提升，而这种提升由更强的供体模态所诱导。具体而言，我们推导出一个关于互信息的下界，该下界随对齐相关量单调变化，并且与下游 MLLM 性能高度相关。基于这一原理，我们提出了方向性跨模态对齐迁移（DCAT），这是一种新型框架，可将强大且对齐良好的源（供体）模态中的文本对齐迁移到较弱的目标（接收方）模态，在无需进一步微调的情况下提升目标模态的性能。我们进一步表明，这一增强对齐的目标函数存在一个闭式权重空间解，仅需利用一个小规模校准集即可计算得到。DCAT 的性能优于现有模型合并方法，为跨模态对齐迁移提供了一条高效路径。包含代码的项目主页见 \url{https://seohoiki3215.github.io/DCAT_project_page}。
23:48 arXiv cs.AI 76
计算机视觉中的许多视觉解释方法能够突出像素的重要性，却难以将这些低层次线索与具有语义意义的概念联系起来，从而限制了其可解释性与可信度。我们提出概念解释（Concept-based Explanations，ConEx），这是一种新型框架，将显著性可视化与基于概念的推理相结合，同时提供忠实性与可解释性。ConEx能够自动发现类别特定的概念，并通过概念激活向量（CAVs）表示这些概念。该方法利用一种无需人工监督的、特定于架构的掩码机制进行学习，减少分割掩码引入的噪声，从而提升概念纯度。ConEx生成忠实的显著性图，揭示每个概念在图像中的出现位置及其对预测结果的贡献。为评估所学习概念的可靠性，我们提出了两个互补指标：向量—概念匹配（VCM）和概念—类别匹配（CCM），用于量化概念对齐程度，并支持与现有方法进行直接比较。在多种设置下开展的大量实验表明，ConEx在忠实性、分割和概念质量基准测试中均取得了当前最优的性能。总体而言，ConEx推动了视觉模型朝着真正可解释且以概念为基础的解释方向发展。
01:08 arXiv cs.AI 78
大型语言模型（LLM）智能体日益广泛地复用既有经验，但大多数方法都假设问题与解决方案已经完成对齐。软件历史很少能提供这种对齐：一个拉取请求（PR）可能包含多个持续集成（CI）问题、失败的尝试、回滚的编辑以及无关变更，从而难以判断哪些变更解决了哪些问题。我们提出 RETRACE，一种从此类历史中重构问题级修复经验的框架。RETRACE 结合了终点视角与开发视角：前者从通过测试的修订版本中保留的变更出发进行反向推理，后者沿提交历史正向追踪修复的演变过程。CI 执行证据用于协调这两个视角，恢复出的经验则以三个抽象层级表示，从具体修复到可迁移的修复模式。对于新的失败，RETRACE 会检索相关的问题级经验以指导修复。在 CI-REPAIR-BENCH 上，该基准包含来自 101 个仓库、涵盖 12 类失败的 565 个 PR 级修复，RETRACE 将 mini-SWE-agent 的 Pass@1 使用 MiniMax-M2.5 时从 19.6% 提升至 31.9%，使用 DeepSeek-V4-Flash 时从 23.3% 提升至 32.8%。在匹配的子集上，Codex 的表现从 15.5% 提升至 27.5%。结合两个视角始终优于单独使用任一视角，这表明恢复问题与变更之间的对齐关系，能够使历史上的 CI 修复成为可复用的修复经验。
03:11 arXiv cs.AI 73
日志代码支持调试、监控和软件维护，但过多的日志会增加噪声、带来运行时开销，并掩盖诊断信息。尽管以往研究已广泛探讨日志代码的生成与修改，但日志移除仍相对缺乏研究。本文研究开发者移除日志的实践，并探索使用编码代理完成这一任务。我们从 Python 和 Java 代码仓库中提取并人工验证日志移除案例，总结出 10 种移除模式和 11 种移除原因，用于刻画真实软件变更中日志代码被移除的方式及原因。进一步地，我们构建了 LogRem 数据集，其中包含 387 个真实案例，涵盖直接移除日志语句、移除日志基础设施以及日志替换。我们在多种模型设置下评估了四种编码代理，并将其输出与实际被接受的变更进行比较。尽管有 95.6% 至 100.0% 的输出通过了有效性检查，但只有 11.1% 至 19.6% 的输出在保留无关代码的同时，移除了与对应实际变更相同的日志代码。不同代理在遗漏移除、额外移除和无关代码编辑方面存在差异，并且在不同日志移除类别和执行轨迹之间表现出显著变化。执行成本差异很大，但更高的成本并不能始终带来更接近的结果。提交消息和开发者讨论带来的对齐效果最大，而分类体系指导则始终能够降低运行时间。总体而言，本研究将日志移除确立为一项独特的软件维护任务，并表明可靠的自动化取决于准确确定移除范围，同时保留必要代码。据我们所知，这是首项从这一角度研究日志代码移除的工作。
03:20 arXiv cs.AI 83
结构图广泛用于科学、工程、流程和空间等领域，以表示复杂系统及其关系信息。近年来，视觉语言模型（VLM）在识别图表元素并对其内容进行推理方面的能力日益增强，但完整图表拓扑提取仍相对缺乏研究。本文研究从图表到图的拓扑提取任务：提取图表中的所有实体及其之间的完整关系。为支持该任务的大规模有监督训练和系统评估，我们提出了 Knossos，这是一个涵盖六个多样化领域、包含 19,200 张图表的基准数据集，其中包括 245,179 个节点和 439,740 条边。其符号化生成过程能够在渲染后的图表与完整拓扑、关系类型及连接器几何形状的标注之间提供精确对齐。为应对完整拓扑提取的建模挑战，我们还提出了 Ariadne，这是一个结构化框架，将该任务分解为节点清单提取和源条件边预测。大量实验表明，在 Knossos 上进行训练能够显著提升较小型开源 VLM 的完整拓扑提取能力。在监督条件匹配的情况下，Ariadne 进一步优于一步式提取方法，展现了结构化分解带来的额外收益。在 Knossos 上评测的方法中，Ariadne 取得了最高的平均 Edge F1；同时，两种骨干网络变体在真实世界外部基准上的表现也均优于未经适配的对应模型。代码和基准数据集见 https://github.com/bangwayne/knossos_Ariadne_Public。
12:00 arXiv cs.LG 80
arXiv:2609.38298v2 公告类型：replace-cross 摘要：视觉语言模型（VLMs）已广泛部署于安全关键场景，而了解对抗性扰动在多大程度上能够控制它们，是评估其可信度的前提。现有的表征对齐攻击能够使 VLM 感知目标图像，但在 $\varepsilon \leq 4/255$ 时成功率有限。因此，VLMs 似乎能够抵御这一范围内的扰动。我们表明，这种鲁棒性并不成立，因为定向语义替换在同一范围内即可成功。具体而言，在白盒威胁模型下，我们在受攻击 VLM 的合并后 token 空间中，将源图像的每个流与目标图像中的对应流进行对齐。我们采用严格的成功标准，要求模型同时说出目标、确认目标存在，并否认源对象。在图像上，当 $\varepsilon = 2/255$ 时即可出现目标语义；当 $\varepsilon = 4/255$ 时，完全替换率达到 38%。在视频上，当 $\varepsilon = 1/255$ 时，完全替换率达到 35.9%。我们还观察到一种语义融合现象：大型语言模型（LLM）会将相互矛盾的视觉信号合理化为连贯的叙事。
12:00 arXiv cs.LG 76
arXiv:2609.06079v3 公告类型：替换交叉 摘要：视觉-语言-动作（VLA）策略利用预训练视觉-语言模型（VLM）指导机器人控制中的动作生成。VLM 提供跨层演化的层次化视觉-语义表征，其内容从局部视觉几何逐渐发展为抽象且与语言对齐的语义；因此，不同操作任务可能需要不同的层表征组合。与此同时，动作模块维护着在动作计算过程中不断演化的中间表征，这些表征可能为后续决策提供有用信息。然而，现有的 VLA 接口在表征访问方面灵活性有限：VLM 信息通过为每个动作层固定分配层来暴露，而中间动作状态仅通过残差流隐式传递，无法被显式复用。我们提出 LayerRoute，一种动作条件表征路由接口，可实现对 VLM 层和动作表征的自适应访问。其中，Layer Mixture Router 动态构建缓存 VLM 表征的混合，Action-State Reread 则复用较早的动作表征。在多样化的仿真和真实世界基准测试中，LayerRoute 持续提升 StarVLA-$\pi$ 和 $\pi_{0.5}$ 的性能，在 LIBERO Long 上最高提升 7.2，同时仅增加 0.31% / 3.87% 的参数量。消融实验验证了动作条件层路由的有效性，而路由分析揭示了不同动作层和任务设置下具有结构性的分配模式。
12:00 arXiv cs.LG 75
arXiv:2607.06565v2 公告类型：replace-cross 摘要：统一 3D 基础模型旨在通过单一主干网络生成 3D 资产，并以语言对其进行推理，但其文本与 3D 之间的交互仍大多是隐式的。现有方法将文本和 3D 词元拼接成扁平序列，并依赖自注意力机制，将粗粒度结构线索与精细几何细节压缩到一个未加区分的表示中。我们提出 ELSA3D，一种统一 3D 模型，通过弹性语义锚定解决这一问题，使语言推理与几何推理沿匹配的抽象尺度共同组织。ELSA3D 使用具备尺度感知能力的八叉树词元化器表示几何结构，并引入 Anchor Tokens——一种稀疏的跨模态单元，能够选择语义线索，将其路由至最相关的 3D 尺度，检索特定尺度的几何证据，并将融合后的信号写回统一表示，从而使交互保持稀疏而精准。轻量级的逐模块路由器使计算和推理均具备弹性，能够选择哪些文本词元在何种几何尺度上实例化锚点，使跨模态能力集中于最需要对齐的部分。ELSA3D 在图像到 3D 生成、文本到 3D 生成和 3D 图像描述等任务上均取得了最先进的性能，超过最强的统一基线；与同一模型的非弹性版本相比，其 FLOPs 和推理延迟大致降低了一半。
12:00 arXiv cs.LG 82
arXiv:2606.17454v3 公告类型：replace-cross 摘要：AI 智能体的性能不仅是建模问题，从根本上说也是系统问题。模型的先进能力通过智能体框架得以实现。因此，模型假设与框架行为之间的差距，很容易阻碍模型的全部能力转化为智能体性能。我们将其形式化为 `intent-execution' 差距：模型意图与框架执行之间的不匹配，反之亦然。我们认为，缩小这种 intent-execution 差距，与工具和执行循环等框架设计的其他方面同等重要。为说明这种框架与模型对齐的影响，我们开发了一个简单且可定制的框架，称为 `Simple Strands Agent'（SSA）。SSA 旨在找出跨不同模型系列（例如 Claude、Gemini、GPT、Grok、Qwen）通用的大多数常见模式，以及少量特定于模型的偏好。我们做出了两项贡献：（i）在广受欢迎的智能体基准测试（SWE-Pro、SWE-Verified、Terminal-Bench-2 和 Deep-SWE）上，\textbf{复现或超越了不同模型提供商系列报告的 pass@1} 性能；（ii）基于对 SSA 生成的 \textbf{154\texttt{k} 条轨迹的分析}，我们不再局限于各前沿模型之间往往相对接近的 \texttt{pass@1} 数值。通过在代码状态空间中表示智能体轨迹，我们计算解距离和回溯，以观察模型层面的解题行为差异。编辑频率、测试活动和阶段转换等更细粒度的指标揭示了各个模型如何在解题的不同阶段分配精力。
12:00 arXiv cs.LG 74
arXiv:2512.21439v2 公告类型：替换-交叉版本 摘要：当前 AI 对齐研究中的一个关键问题，是如何让 AI 算法学习道德价值观。由于人类道德高度依赖情境，人们评判行为时不仅看其结果，也看行为发生的情境。我们提出 COMETH（Contextual Organization of Moral Evaluation from Textual Human inputs），这是一个将概率情境学习器、基于 LLM 的语义抽象与人类道德评价相结合的框架，用于建模情境如何影响对模糊行为的可接受性判断。我们构建了一个以实证为基础的数据集，涵盖围绕三条道德规则的六类核心行为的 300 个情境（违反“不得杀人”“不得欺骗”和“不得违法”），并收集了 N=101 名参与者的三分类判断（责备/中立/支持）。预处理流程通过 LLM 筛选器以及结合 K-means 的 MiniLM 嵌入，对行为进行标准化，生成稳健且可复现的核心行为聚类。随后，COMETH 根据人类判断分布，使用有原则的散度准则对情境进行在线聚类，从而学习特定于行为的道德情境。为推广和解释预测结果，Generalization 模块提取简洁、非评价性的二元情境特征，并在基于透明似然的模型中学习特征权重。实证结果表明，与端到端 LLM 提示相比，COMETH 与大多数人类判断的一致性得分大约提高了一倍（平均为 60%，而非 30%），同时揭示了哪些情境特征驱动其预测。本文的贡献包括：（i）一个以实证为基础的道德情境数据集；（ii）一个将人类判断、基于模型的情境学习和 LLM 语义相结合的可复现流程；以及（iii）相较于端到端 LLM，在情境敏感的道德预测与解释方面更具可解释性的替代方案。
12:00 arXiv cs.LG 73
arXiv:2609.30277v2 公告类型：替换 摘要：隐式图神经网络（IGNNs）将节点表示定义为图神经算子的固定点，从而实现实际上无限深度的传播、与迭代次数无关的参数化，以及灵活的测试时计算。然而，这些优势依赖于平衡点的唯一性以及通过固定点迭代达到该平衡点。现有构造通常会对递归更新施加约束以获得这些保证，从而限制了平衡点处可用的变换。这引出了一个核心问题：IGNNs 能否通过更丰富的、依赖边的变换提升表达能力，同时保留其平衡点形式所固有的优势？我们提出了 SheafDEQ，一种采用自适应神经层传播的次齐次深度平衡架构。其学习得到的矩阵值层限制映射能够对齐、混合或反转相邻表示。在温和的正则性条件下，我们证明 SheafDEQ 存在唯一平衡点，并且从任意正初始状态出发，都能通过固定点迭代全局收敛到该平衡点。压缩性进一步保证了在有界通信陈旧性条件下的收敛。我们在需要反复进行非局部聚合的分布式推理任务上，以及在重连过程越来越偏向跨社区交互的社区检测任务上评估了 SheafDEQ。在 Sums、MNIST Terrain 和 Coordinates 上，以及在连接越来越具有异质性的社区检测任务上，SheafDEQ 均优于隐式基线模型。在没有平衡点保证的情况下，SheafDEQ 仍能与递归模型保持竞争力。持续迭代诊断表明，与有限时域控制不同，经过 100 次迭代后残差持续下降，测试准确率仍得以保持；延迟更新实验则表明，模型对有界通信陈旧性的敏感度较低。
12:00 arXiv cs.LG 83
arXiv:2609.20744v3 公告类型：替换 摘要：视频扩散模型在去噪过程中会反复处理长时空令牌序列，使注意力机制成为主要的计算瓶颈。线性注意力提供了颇具吸引力的替代方案，并已广泛应用于近期的大型语言模型中，但将其直接应用于视频模型，往往无法保留高质量生成所需的细粒度交互。我们提出 Video DeltaNet（VDN），将局部 Softmax 注意力与双向线性记忆相结合，以建模长程视频上下文。其线性分支引入了 Video Delta Attention（VDA），通过联合整合每一帧的空间令牌，每帧更新一次记忆。独立的输出投影和可学习门控机制用于校准两个分支，同时，分阶段的教师对齐方案逐步将这一新路径引入预训练模型。我们在 MiniMax H3 上实例化了 VDN，将这种混合机制应用于视频到视频的交互，同时保留 Softmax 以处理涉及文本或音频的交互。借助八步蒸馏和优化后的 SGLang 服务栈，VDN-H3 在八块 NVIDIA B200 GPU 上，仅用 6.70 秒即可完成 14.3 秒、768p 视频的 DiT 去噪；相比相同 GPU 数量下采用 50 步密集 H3 基线，实现了 14.5 倍加速。GitHub 代码见：https://github.com/OpenVDN/vdn-minimax-h3。模型权重见：https://huggingface.co/OpenVDN/vdn-minimax-h3
12:00 arXiv cs.LG 80
arXiv:2607.01763v2 公告类型：替换 摘要：持续后训练使基础模型能够在保留既有能力的同时获取新知识。近期研究表明，策略内学习可以缓解遗忘，其中自蒸馏尤其具有吸引力。我们通过策略内自蒸馏优化（SDPO）重新审视这一乐观观点。实验表明，当教师信号稳定且对齐良好时，SDPO 能够加速域内专门化，但难以实现分布外泛化。在持续后训练中，SDPO 表现出更严重的遗忘，甚至可能发生崩溃；相比之下，更为成熟的策略内强化学习方法 GRPO 的适应更加保守，也能更好地保留先前能力。进一步分析表明，这些失败与参数空间和响应空间中更大的漂移有关，也与自我强化的师生循环对高频伪影的放大有关。因此，仅依靠策略内数据不足以实现持续学习。当教师目标稳定且 token 级监督可靠时，自蒸馏是有效的，但不应被视为持续后训练的默认稳定器。我们的代码可在 https://github.com/Moenupa/SDPO-CL 获取。
12:00 arXiv cs.LG 81
arXiv:2606.27752v2 公告类型：替换 摘要：单细胞扰动模型能够通过预测细胞对干预在转录层面的响应，减少昂贵的湿实验筛选。流匹配领域的最新进展已支持细胞响应的群体层面预测。然而，即使在模型族内部，流匹配训练也可能无法恢复某些目标分布，从而限制其捕捉细胞异质性的能力。我们首先证明，后训练能够恢复这些分布；随后提出 PerturbCellRL，这是一种使用逐细胞奖励对单细胞扰动生成器进行后训练的强化学习框架。其核心组件是一种基因表达能量见证器，可将群体层面的差异转化为逐细胞反馈。我们进一步证明，该奖励的策略梯度指向更好的分布对齐方向。两个经过真实细胞校准的互补奖励分别惩罚非典型的表达谱，以及对扰动响应不足的通路层面反应。在遗传和化学扰动基准测试中，PerturbCellRL 显著改善了分布对齐效果，并更忠实地恢复了通路富集模式。这些结果表明，奖励引导的后训练是同时提升扰动预测分布准确性和生物学保真度的有效策略。
12:00 arXiv cs.LG 81
arXiv:2606.19802v2 公告类型：替换 摘要：图像复原面临一个根本性权衡：最小化误差的方法会产生模糊的重建结果，而最大化感知质量的方法则会生成清晰但不够忠实的图像。现有方法要么固定在失真-感知（DP）前沿上的单一工作点，要么需要成对数据监督、辅助模型或对采样器进行超参数调节，才能访问不同的工作点。我们表明，flow map 模型是近年来针对少步采样对 flow matching 的扩展，通过学习平均场，隐式定义了一个由单个参数控制的去噪器族，并能够连续覆盖 DP 前沿。前瞻参数 t 充当 MMSE 与感知质量状态之间的控制旋钮。对于高斯目标，我们证明改变 t 能够精确恢复最优 DP 前沿；对于自然图像，我们通过实验证实了类似的行为。在 Plug-and-Play 求解器中，同一机制可扩展到一般逆问题，在其中控制感知对齐与数据一致性之间的权衡。尽管在该设定下缺乏精确的最优性保证，但单个训练完成的 flow map 能够覆盖 DP 权衡的整个范围，在两端均达到或超过专用基线方法。在 CelebA（$128\times 128$）和 AFHQ（$256\times 256$）上针对多种线性和非线性逆任务开展的大量实验验证了我们的发现。
12:00 arXiv cs.LG 81
arXiv:2606.01382v2 公告类型：替换 摘要：偏好对齐是改进大型语言模型（LLM）的核心，但当人类偏好具有非传递性时，基于奖励的形式可能会受到限制。基于人类反馈的纳什学习（NLHF）通过将对齐建模为偏好博弈并寻求纳什均衡，解决了这一局限。然而，可扩展 NLHF 的学习理论基础仍然有限：现有的后悔保证依赖于显式的偏好模型估计和极小极大预言机，而更简单的迭代方法则缺乏此类保证。我们研究了在线迭代 NLHF，并确定探索是其中的关键障碍。首先，我们证明，标准迭代 NLHF 可能对 KL 正则化参数的倒数产生指数级依赖，这表明通过策略更新实现的隐式探索可能并不足够。随后，我们提出探索式纳什偏好优化（ENPO），将 SFT 类型的正则化与对抗式策略探索相结合。ENPO 消除了这种指数级依赖，同时无需极小极大预言机或显式的偏好模型估计。我们进一步提出 Bonus-Explorer ENPO（BENPO），利用额外的预言机实现 $O(\log T)$ 的后悔界。最后，我们开发了 Direct ENPO（DENPO），这是 ENPO 的一种实用变体，用于微调 LLM。在多个基准上的实验表明，与所评估的 RLHF 和 NLHF 基线相比，使用 Llama-3-8B-Instruct 能够持续取得改进。
12:00 arXiv cs.LG 80
arXiv:2605.16358v2 公告类型：替换 摘要：大型语言模型（LLM）正越来越多地应用于现实世界的预测任务，但由于预训练数据污染以及自动化搜索中的前视信息泄露，对其真实预测能力的评估仍受到影响。现有基准要么依赖静态上下文，要么将评估限制在狭窄的环境中，要么未能审查辅助文本事件是否泄露未来信息。为建立严格的评估范式，我们提出 LEAF，这是首个面向事件增强预测任务的持续更新基准，涵盖趋势预测、事件预测和时间序列预测。LEAF 将递归检索智能体系统与双智能体交叉验证相结合，以收集全面、相关且时间对齐的辅助上下文。由 47 名领域专家对 500 项任务开展的全面审计表明，我们的流程将未来信息泄露率从 8.6% 降至 1.6%。通过在我们的基准上对 16 个前沿专有模型和开放权重模型进行广泛评估，我们表明，LLM 能够有效地从经过验证的事件中提取信号，从而提升趋势预测和事件预测的表现。
12:00 arXiv cs.LG 75
arXiv:2508.17497v3 发布类型：替换 摘要：多模态表示学习主要由 CLIP 等对比模型推动，这类模型通过对齐成对的图像—文本样本来学习共享嵌入空间。尽管这类模型在通用表示学习方面表现有效，但通常会为每个样本生成一个单一嵌入，并将其复用于不同的语义关系和上下文。然而，在许多现实应用中，样本之间的相关性本质上取决于关系，不同的语义关系会突出多模态数据的不同方面。在本文中，我们提出 Relation-Conditioned Multimodal Learning (RCML)，这是一个将语义关系作为多模态表示学习显式条件的框架。RCML 不再生成与关系无关的嵌入，而是根据自然语言关系描述学习条件化表示，使同一样本在不同关系上下文中能够以不同方式表示。该框架构建关系感知的训练对，引入关系条件模块以使嵌入适应关系语义，并采用统一的对比目标，同时建模跨模态对齐和由关系诱导的样本间结构。在多个数据集上的实验表明，RCML 在零样本、微调和域外设置下的检索与分类任务中均持续优于强基线，凸显了利用语义关系引导多模态表示学习的有效性。
12:00 arXiv cs.LG 76
arXiv:2610.03625v1 公告类型：cross 摘要：关系数据库是部署最广泛的结构化知识形式之一，而要以自然语言访问这些数据库，就需要将语言映射到模式实体和关系上，同时处理人们表达请求时固有的歧义。现有的合成 NL-to-SQL 数据生成方法大多忽略了这种歧义，生成的查询过于简化，无法让模型为现实世界结构化知识访问的复杂性做好准备。我们提出 FALCON，这是一个能够生成逼真的、具备歧义感知能力的 NL-to-SQL 数据的框架，其复杂程度可匹配具有挑战性的现实世界基准，同时借助紧凑型开源模型实现低成本生成。我们的方法结合保留字 SQL 播种和基于人物画像的提示，以生成结构复杂的查询；同时，基于对齐的过滤机制通过区分真正错误的示例与复杂但有效的查询来保留数据难度。人工评估证实，该方法在不同模型规模下都能保持稳定的高质量；生成的数据在 SQL 复杂度和自然语言丰富性方面均超过现有基准。按难度分层的分析表明，随着查询复杂度的增加，使用 FALCON 数据训练的模型相较于使用基线数据训练的模型，其性能优势也不断扩大，验证了该流程生成高难度训练数据的有效性。与少量现有基准数据结合时，混合训练能够恢复模型在简单查询上的性能，同时保留其在复杂查询上的优势。这种与模型和数据库无关的设计，使组织能够在本地生成高复杂度的 NL-to-SQL 训练数据，而无需依赖外部 API。
12:00 arXiv cs.LG 71
arXiv:2610.03132v1 公告类型：cross 摘要：基于扩散/流匹配的生成式规划器能够从演示数据中学习合成长时域轨迹。然而，现实世界的部署要求：（i）在执行过程中施加安全约束；（ii）以较快的执行速率进行紧密的在线重规划。现有的安全扩散/流规划器一次性生成智能体的完整轨迹，同时反复扰动中间状态以满足安全约束。这种方法不仅计算开销大，而且还会引入分布偏移，因为学习到的采样动力学与系统的执行动力学并不一致。我们提出了 SafeStreamingFlow，这是一种目标条件规划器，通过将学习到的状态向量场与分层状态预测进行顺序积分，使流采样动力学与执行动力学保持一致。重要的是，我们只需通过高阶控制屏障函数对实际执行的步骤施加安全约束。在导航、竞速和运动能力基准测试中，与现有方法相比，SafeStreamingFlow 降低了规划延迟并提升了安全性，同时保持了具有竞争力的目标到达成功率。
12:00 arXiv cs.LG 79
arXiv:2610.02817v1 公告类型：cross 摘要：大语言模型（LLM）水印为识别由特定模型生成的文本提供了一种轻量级机制，但其在后处理攻击下的鲁棒性仍然较为脆弱。删除攻击尤其具有挑战性，因为它会导致词元位置发生偏移，并破坏观测词元与其原始水印位置之间的对齐关系。我们提出 Reed--Muller Code Watermarking（RMCW），一种基于 Reed--Muller 码的 LLM 水印方法。不同于全局码字恢复，RMCW 搜索能够存活的局部代数结构，利用 Reed--Muller 码字的仿射线限制所诱导的 Reed--Solomon 一致性。在生成过程中，RMCW 通过由密钥控制的词汇表划分，将 Reed--Muller 结构注入序列。在检测过程中，它将给定文本映射到由密钥确定的词汇分箱，并使用 Berlekamp--Welch 测试检验局部子序列是否具有低次数 Reed--Solomon 一致性。在 C4 和 ELI5 数据集上使用 OPT-1.3B 和 Llama-3.1-8B-Instruct 进行的实验表明，RMCW 保持了较强的干净文本可检测性，并且在多种删除攻击和改写攻击下，性能优于或持平于基线方法。我们的代码可在 https://github.com/BaichengDanny/RMCW 获取。
12:00 arXiv cs.LG 78
arXiv:2610.02718v1 公告类型：cross 摘要：诸如 CLIP 的视觉语言模型展现出强大的语义泛化能力，但在细粒度视觉感知方面仍存在局限。近期工作 KUEA 提出了一种自然的解决方案：在以视觉为中心的 DINOv2 的监督下对图像编码器进行微调，使其核矩阵逐元素对齐，同时对嵌入进行正则化，使其保持接近预训练视觉编码器，从而保留 CLIP 中的图像—文本语义。然而，我们发现，削弱与 DINOv2 的对齐损失的作用并不一定会降低其细粒度视觉性能，这表明核矩阵差异可能不足以进一步增强视觉表征，也促使我们重新审视对齐形式。在本文中，我们通过 Kernel Canonical Correlation Analysis（KCCA）提出了一种刻画特征子空间上表征对齐的新视角，该方法最大化投影之间的相关性。在优化方面，我们基于 KKT 条件推导出一种高效的端到端训练方案，避免了 KCCA 中的特征值问题。进一步地，我们将方法扩展为三视图形式，即 3vKCCA，在统一的优化框架下纳入预训练文本编码器的投影，以实现联合对齐。在 ImageNet-1K 上使用 CLIP ViT-L/14 时，我们的 3vKCCA 将 MMVP-VLM 准确率从 17.8 提升至 25.9，大幅超越现有方法，同时保持了零样本图像—文本检索性能。
12:00 arXiv cs.LG 78
arXiv:2610.02302v1 公告类型：交叉 摘要：近期研究表明，大语言模型（LLM）可能容易受到越狱攻击的影响；在这类攻击中，有害意图通过与良性任务组合而被隐藏。一个单独提出时会被拒绝的有害请求，在嵌入一个看似良性的更大查询后，可能会引发不同的响应。我们从信息论角度研究这类组合式意图隐藏型越狱。我们的形式化方法为每项任务关联一个被判定为有害的估计概率：在完整任务集合上的平均值定义了有害意图的先验概率，而在包含目标任务的选定任务包上的平均值定义了后验概率。选择辅助任务，使这两个平均值一致——我们称之为先验—后验匹配——可以在有害目标仍然处于任务包中的情况下，使估计意图保持不变。我们研究了两种设置，其区别在于查询构造是否属于优化过程的一部分。在查询无关设置中，任务的选择不考虑它们将在最终查询中如何表达。我们证明，在任务包大小约束下实现精确的先验—后验匹配在计算上是困难的；针对分数权重，我们推导出一个最优的水位填充解，并刻画满足预设安全阈值的最小任务包。在查询相关设置中，任务选择与查询构造被联合考虑，并在最终生成的查询上评估意图隐藏和目标保留效果。我们针对不同任务包大小、查询生成器和多个开源模型，评估了越狱有效性以及目标行为的保留情况。结果表明，在所评估的搜索预算下，组合式查询能够诱发超出直接请求基线的目标行为；同时也揭示了一种权衡：随着任务包大小增加，对于若干模型而言，响应层面的目标保留率往往会下降。
12:00 arXiv cs.LG 78
arXiv:2610.03712v1 公告类型：new 摘要：核糖核酸（RNA）通过构象变化发挥功能，而静态结构无法完整捕捉这些变化。然而，大规模标准化的 RNA 动力学数据仍然有限，现有方法通常将轨迹生成与动力学理解视为彼此独立的目标。在此，我们提出 RNADynBench，这是一个标准化的 RNA 分子动力学（MD）基准，包含 2585 条经过质量控制的 100 ns 全原子轨迹，并采用控制数据泄漏的数据划分。基于 RNADynBench，我们开发了 RNADynNet，这是一种统一的 RNA 动力学学习模型，使用共享骨干网络，从单个构象同时进行轨迹生成和动力学指纹提取。该模型结合坐标去噪、单帧到轨迹的对齐以及物理约束，将全原子轨迹生成与动力学表征学习连接起来。物理约束既提升了生成动力学的质量，也增强了从这些指纹中恢复物理信息的能力。在两个测试集上（包括高柔性挑战集），生成轨迹的 RMSF 相关性分别达到 0.875 和 0.766；同时，基于单个构象的预测也表现出与 MD 得到的动力学相当的一致性。RNADynBench 与 RNADynNet 共同建立了一个用于生成和理解 RNA 动力学的基准与统一建模框架。
12:00 arXiv cs.LG 78
arXiv:2610.03702v1 公告类型：new 摘要：后训练数据的选择会显著影响大语言模型的下游性能。基于梯度的数据选择是一种广受欢迎的方法，它根据训练数据的梯度与小规模验证集梯度的对齐程度对训练数据进行排序。然而，使用全参数梯度进行排序需要对每个样本执行代价高昂的反向传播，使得在大规模候选数据池上进行计算变得难以实现。这引出了一个自然的问题：我们能否以更低的成本近似全梯度特征？我们发现，输出层梯度就足以实现有效的数据选择，同时只需执行成本更低的前向传播。我们将这一方法实现为LESSER，这是一个可直接替换选择方法的封装器：在保持下游任务中全梯度性能的同时，它将SFT基准上的特征提取FLOP成本降低了$9.7\times$，并将RL基准上的成本降低了$3.0\times$。经验结果表明，即使输出层梯度与全梯度对单个样本的排序不同，它们所选择的数据批次仍具有对齐的梯度。
12:00 arXiv cs.LG 82
arXiv:2610.03558v1 公告类型：新 摘要：Cephalonauts One 是一个全脑 3 特斯拉（3T）功能性磁共振成像（fMRI）数据集，记录了受试者听取音频播客时的脑活动。三名健康受试者接受了多次扫描，每次扫描包括五个 15 分钟的运行段，同时听取以其母语播出的播客。每名受试者拥有 30 小时的 fMRI 数据，使得该数据集成为目前使用自然语音刺激的最深度 fMRI 数据集。本数据集将脑活动与相应的播客音频、文字稿标注以及派生的刺激嵌入相匹配。此外，我们提出了一项脑解码基准测试，将任务定义为音频片段检索：给定来自留出扫描时段的 fMRI 活动，解码器必须从候选片段中识别出与其时间对齐的播客音频片段。我们为该任务提供了标准化的数据划分、评估指标和基线解码器。最后，扩展性分析表明，随着每名受试者训练数据量的增加，解码性能持续提升。
12:00 arXiv cs.LG 76
arXiv:2610.03289v1 公告类型：新 摘要：多模态大语言模型（MLLMs）在视觉-语言任务中取得了出色的性能，但视觉信息与文本信息如何跨层融合，其内部机制仍未得到充分理解。我们研究了两种架构范式下具有代表性的 MLLMs：拼接架构和原生多模态架构。我们开展了三项逐步关联的分析：对齐解耦用于识别发生变化的模态，注意力路由与熵用于刻画跨模态信息的分布方式，内在维度用于考察融合如何重塑特征空间。此外，我们分别开展了因果干预实验，以验证所得解释。作为补充分析，我们使用视觉 CKA 考察 Platonic Representation Hypothesis。这些分析共同揭示了两种不同的融合路径：拼接模型遵循先文本、后视觉的路径，而原生模型则表现出更早的视觉-文本协同适应与特征空间重组。该工作为理解多模态融合提供了机制性视角，并支持面向架构的多模态表征诊断。
12:00 arXiv cs.LG 80
arXiv:2610.03135v1 公告类型：new 摘要：长上下文自回归语言模型的服务受到键值（KV）缓存的限制。大多数动态淘汰方法针对每个查询头评估 token 重要性，并独立选择 token。这与分组查询注意力（GQA）并不契合，因为多个查询头共享一个物理 KV 缓冲区：各头之间不一致的选择会迫使服务引擎保留它们选择结果的并集，使缓存容量最多膨胀至组比例 r 的倍数；而算术平均池化则会稀释承担事实召回功能的专用检索头。我们提出 Page-EntroKV，这是一种在 GQA 服务实际分配资源的粒度上运行的 KV 缓存淘汰形式化框架。每个物理组内的头通过由隔离 sink 后的碰撞（Renyi-2）熵导出的权重进行池化——每个头只需计算一次内积，并在预填充阶段完成，无需校准——从而避免 sink 头伪装成检索头。池化后的分数被映射到 PagedAttention 页帧上，淘汰操作则在硬件元组（层、组、页）这一粒度执行。我们形式化定义了并集开销比（UOR）和组内分歧度；证明了对于双头组二者之间的精确恒等式，以及在任意组比例下成立的双侧界；证明了严格的预算保持性质和有限上下文中的 needle 保留界，而算术平均池化经证明会违反该界；并给出了精确到每层的页面计数。在一个试验架构（Qwen2.5-1.5B-Instruct，r=6）上，对 2,240 个组测量进行与头无关的重放显示，在 2% 的预算下，并集开销最高可达 4.75 倍，而 Page-EntroKV 将 UOR 精确保持为 1.000；隔离 sink 消除了 13 倍的 sink 伪装；在 20% 的预算下，needle 召回率达到 100%，而算术平均池化为 0%；对于任意页大小，保留基数均保持精确；在保留率为 20% 时，问答和代码任务仍然可以完成。
12:00 arXiv cs.LG 75
arXiv:2610.03035v1 公告类型：新 摘要：多模态学习常受到模态失衡的影响，即联合优化过程被单一模态主导。现有方法通常根据由预测不确定性或优化统计信息得到的分数差异来估计模态失衡。然而，由于不同模态具有不同的预测不确定性和学习动态，直接比较这些分数可能会将模态固有差异误判为进展差距，从而导致失衡估计产生偏差。本文提出 Function-Space Guided Multimodal Optimization（FGMO），利用函数空间进展信号评估各模态的优化进展，并协调不同模态之间的优化，以缓解模态失衡。具体而言，我们引入 Functional Progress Estimation（FPE），用于衡量每个模态的更新所引起的函数空间响应，并通过与损失对齐的单模态参考进行校准，从而得到可比较的进展信号。在此信号的基础上，Functional Response Control（FRC）重新分配模态级函数空间预算，并通过张量级学习率调整实现目标响应。理论分析在控制器状态失配有界的条件下，证明了 FRC 具有单步目标收缩性质；大量实验也表明，FGMO 在多个多模态基准测试中均具有良好效果。
12:00 arXiv cs.LG 78
arXiv:2610.03001v1 公告类型：新 摘要：细胞外电生理记录在每个会话中记录的都是一组不同的神经元。神经基础模型将每个神经元和每个会话嵌入其令牌中，因此每个新会话都是它们从未见过的输入，导致模型无法对其泛化。针对新会话的分词器需要一种所有会话共有且承载行为信息的单元。群体活动提供了这样一种单元。它在一个低维流形上演化；在会话完成对齐后，该流形能够跨越神经元更替以及不同动物而保持稳定。该流形会在刺激开始、运动开始等任务事件处发生状态转换。在每个状态区间内，群体活动都处于一种状态，即它在两个事件之间所覆盖的流形部分，而每种状态都承载着自身的行为含义。我们提出 Tokenization with States（TWS），在这些事件处对每个试次（即任务的一次重复）进行分段，并将每个状态转换为表示群体几何结构的令牌，无需使用神经元或会话嵌入。在保留的 International Brain Laboratory（IBL）会话上，即使仅利用不携带目标信息的状态转换边界，TWS 也能解码运动；而在这些会话上预训练的逐神经元基础模型，其解码结果仅处于随机猜测水平。在仅使用小鼠数据完成训练后冻结参数，TWS 仅需一个线性探针即可迁移到猕猴和 Utah arrays。在边界无法定义的目标——到达方向——上，其 Matthews 相关系数达到 0.23，而仅使用事件时间的结果为 $0.01$。对于跨会话泛化而言，令牌比其上层模型更为重要。
12:00 arXiv cs.LG 72
arXiv:2610.02780v1 公告类型：新 摘要：扩散模型在复制训练样本之前就能达到有用的样本质量，但快速优化可能通过加速特定样本拟合来压缩这一泛化窗口。我们通过更新几何研究了这一现象，并提出 Quality-Gated De-whitening（QGD）：一种保留快速 Polar 更新前缀、逐步恢复固定增益动量的控制器。我们的随机特征分析区分了由协方差控制、曲率均衡和幅度控制的记忆化时钟。在谱对齐假设下，我们建立了一个有限暴露条件，在该条件下，固定增益尾部能够恢复与数据集规模成比例的延迟。QGD 通过经验证的质量门控、有界衰减包络和因果复制反馈来实现这一原则。立即切换是其保守极限；渐进式控制则在延迟复制与持续提升质量之间取得平衡。我们将 QGD 与 Copy-Budgeted Selection（CBS）结合，对冻结的检查点系列执行同步二项校准，随后对发布的检查点进行全新的评估。在包含 2,000 张图像的 CIFAR-10 子集上，QGD 保持了 Polar 基线达到目标质量所需的时间，同时将其有效区间扩大 8.32 倍，并将常见检查点复制降低 75.9%。在校准方式相同且质量评估独立的情况下，QGD 的 FID 为 75.56，而使用相同选择器的 SGD 为 79.37。暴露量匹配的对照实验、独立的检测器审计，以及向流匹配和舞蹈生成的迁移结果表明，自适应暴露控制是改善质量—复制权衡的一种实用途径。
12:00 arXiv cs.LG 81
arXiv:2610.02774v1 公告类型：新 摘要：音乐、动作和视频的长篇生成器以分块方式生成序列，每个分块都通过迭代去噪生成，而奖励则定义在完整序列上。现有的推理时引导方法通常一次只作用于一个维度：在生成结束时执行 best-of-N、跨去噪步骤执行 Feynman-Kac 引导，或跨分块进行流式剪枝；并且不同方法之间的比较往往使用不匹配的计算量或不同的回报规则。我们提出了计算预算匹配的分块引导方法，并提出 LatticeSMC：一种基于 Feynman-Kac 模型的采样器，该模型建立在由分块索引和去噪步骤构成的二维晶格上。两个望远镜式结论使其设计具有严格性：对于分块可加奖励，两个维度会产生相同的权重，因此应在前瞻成本最低的地方进行重采样；对于终端奖励，任何前缀得分都能定义一个精确的中间势函数，因此可计算前缀的奖励无需估计或额外的去噪调用即可作为扭曲项。LatticeSMC 在分块边界处基于这些势函数进行重采样；当评分无需额外成本时，也会在分块内部进行重采样，最终返回加权样本或得分最高的粒子。在匹配计算量的条件下，在音乐到舞蹈扩散生成和40秒文本到音乐生成任务中，使用32个粒子时，它将节拍对齐度从0.234提升至0.441（best-of-N 为0.354），并将提示遵循度从0.470提升至0.560，同时保持留出集质量。在长程奖励上，它同样保持优势，并在成对比较中获得人类评分者60%至77%的偏好。最后，我们表明，承诺强度应随当前势函数中包含的信息量而定，而前瞻的价值则可由集合内未来奖励的可预测性来预测。
12:00 arXiv cs.LG 75
arXiv:2610.02700v1 公告类型：新 摘要：在策略自蒸馏（OPSD）为从学生自身策略采样的轨迹提供密集的词元级反馈，相较于强化学习中的结果级奖励，这是一种更丰富的训练信号。这些反馈来自一个以完整参考解答为条件的教师，而学生无法获得该参考解答。参考解答规定了目标，却没有说明如何从学生当前的错误走向该目标，从而带来了由解答条件引发的捷径风险。我们提出 AIR-OPD，一种用于在策略蒸馏的自适应迭代修复框架，可提供从错误到修复的监督。给定一个失败的响应，指导生成器会针对当前错误综合生成修复指导。学生在该指导下进行在策略重试。如果重试仍然错误，生成器会针对新发现的错误生成新的修复指导。在每一轮中，固定教师将该指导作为特权上下文，并在学生最新失败响应中与错误对齐的区域对学生进行监督。结果感知的阶段加权机制偏重早期修复阶段，并对即时重试通过验证的阶段给予奖励。我们在 DAPO-Math-17K 数据集上训练 AIR-OPD，并在 AIME24、AIME25 和 HMMT25 上进行评估，同时在 MMLU-Pro 和 GPQA 上开展分布外测试。我们考察了两种指导来源：来自当前学生策略的自我指导，以及来自更大模型的外部指导。对于 Qwen3-4B 和 Qwen3-8B，AIR-OPD 均取得了最佳的数学推理平均成绩，相较于最强基线最高提升 3.6 分，同时保持了基础模型在分布外基准测试上的性能。
12:00 arXiv cs.LG 82
arXiv:2610.02657v1 公告类型：new 摘要：将预训练自回归（AR）模型转换为扩散语言模型（dLLM），无需预训练新模型即可实现并行生成。已发表的转换方法在训练数据量上相差约三个数量级，且尚未在统一协议下进行比较。我们比较了同一个 30B Mixture-of-Experts（MoE）母模型的两种转换方式，在各自的训练方案下，固定语料库、监督 token 预算、可训练参数集合和评测框架。原位模型使用去噪损失和表征对齐损失更新母模型权重的一个子集；冻结塔模型则通过对母模型的冻结因果副本进行交叉注意力来获取条件。使用 1B 训练 token 时，冻结塔模型在 HumanEval 上的 pass@10 得分为 71.60，而原位模型为 6.19，提升了 11.6 倍。在相同预算下，它还保留了母模型 GSM8K 得分的 95% 和 MMLU-Pro 得分的 99%。在稠密母模型上的实验复现了 HumanEval 上的差距。在约 500M token 的双塔设计中，冻结上下文塔所保留的 MMLU-Pro 性能显著高于训练上下文塔的方案，而两者在观测到的 HumanEval 得分上相近。我们的理论分析表明，在采用硬注意力掩码并按从左到右的顺序、每轮提交一个位置的条件下，两类转换都包含一个能够精确采样 AR 母模型的采样器。在共享损失下，冻结会移除通过上下文状态产生的梯度贡献。此外，评测协议会使一项已发表的 500B-token 转换在不同任务上的得分出现显著的双向变化，而其 AR 母模型的得分变化小于三分，因此比较 dLLM 需要采用统一协议。这些结果表明，在所测试的低预算条件下，冻结塔配置相比原位转换能够保留母模型显著更多的生成性能。
12:00 arXiv cs.LG 74
arXiv:2610.02524v1 公告类型：新提交 摘要：极端稀疏条件下的非结构化剪枝往往会遭遇表征坍塌，导致准确率急剧下降。为解决这一问题，我们研究了骨干网络对比剪枝（BaCP），通过将稀疏网络的嵌入空间与预训练模型、微调模型及历史快照模型的嵌入空间对齐，对其进行正则化。在 CAP 框架（Xu 等，2022）的对比分解基础上，我们在相同预算下，针对多种剪枝准则对该方法进行了严谨评估。在 90 种设置下的评估表明，在标准剪枝失效的极端稀疏条件下，BaCP 能显著提高准确率；而在表征保持完整的情况下，其表现则接近基线。
12:00 arXiv cs.LG 80
arXiv:2610.02413v1 公告类型：新 摘要：LLM agents 越来越依赖激活探测器作为运行时监视器，用于检测提示注入、越狱和不安全请求；这类探测器读取模型自身的隐藏状态，以便在代理对有害输入采取行动之前将其识别出来。一种廉价且日益常见的做法借鉴了 LLM-as-judge 提示：在用户发言之后追加一条简短的分类指令，并在此位置读取探测信号，从而增强探测效果：该指令要求模型将收到的请求表示为某个类别，使探测器需要区分的信号更加集中，而服务成本几乎不变。但这个后缀的措辞是否重要？它的优势是否能在真实环境中成立，即面对探测器训练时从未见过的攻击类型——这正是部署后的监视器所处的场景？我们在严格的留一数据集外（LODO）评估下，通过一组受控的用户发言后缀进行测试，覆盖 13 个安全基准（越狱、注入和良性聊天）以及三个开放权重模型系列（Llama-3.1-8B、Qwen3.5-9B、Gemma-4-12B）。对于单位置探测器，分类后缀相较于无后缀能够稳定提升分布外检测性能（最高约提升 4 个 AUC 点）；但后缀的具体形式很重要：提示模型对输入进行分类，即使类别标签不包含任何内容信息，也能稳定胜出；无关主题的后缀或仅要求模型注意输入的后缀帮助不大。性能提升来自分类格式，而非明确指定的判据：不包含内容信息的后缀能够匹配真实的恶意/良性分类，而加入判据只会在严格阈值下提升精确率。这并非单位置读取造成的假象：在生产环境中使用的多位置汇聚探测器（attention、multi-max、MLP）上，这一收益同样存在，不过其中表现最佳的后缀取决于读取方式。通过 KV-cache 分叉提供服务时，这种方法可以低成本地直接接入任何激活探测监视器，但并非必然有效：哪种后缀有帮助以及帮助有多大，取决于模型和读取方式。
00:04 arXiv cs.AI 77
自回归视频生成的最新进展提升了长时段生成中的时间一致性，但交互式叙事所需的不仅是连续扩展场景：新镜头可能会结合来自不同历史镜头的角色和背景。整体提示检索可能忽略各个组成部分不同的参考需求，而直接组合所有历史记忆则可能引入无关的视觉内容。为解决这些问题，我们提出 Weave Forcing，一种无需训练的交互式长视频生成组合式记忆复用框架。首先，我们使用 LLM 进行语义槽路由，将用户提示分解为角色和背景描述，并为每个组成部分显式选择合适的历史参考。为隔离所需内容，掩码记忆编织利用以语义槽为条件的对比注意力图构建精细的语义掩码，从压缩的历史 KV 记忆中选择性地暴露相关 token，以指导当前镜头的生成。我们进一步引入 coverage adaptive RoPE，根据无参考、部分参考或完整参考覆盖情况调整时间偏移和记忆保留，从而解决不完整的历史参考被放置在靠近当前生成位置时出现的视觉伪影问题。大量实验表明，Weave Forcing 在保持具有竞争力的视觉质量和文本对齐能力的同时，提升了跨镜头主体与背景的一致性。
00:38 arXiv cs.AI 81
Cephalonauts One 是一个全脑 3 Tesla（3T）功能磁共振成像（fMRI）数据集，记录了受试者收听音频播客时的脑活动。三名健康受试者分别进行了多次扫描，每次扫描包括五个 15 分钟的运行阶段，同时收听以其母语播出的播客。每位受试者拥有 30 小时的 fMRI 数据，使得当前版本成为使用自然语音刺激的最深度 fMRI 数据集。该数据集将脑活动与相应的播客音频、转录文本标注及派生的刺激嵌入向量相匹配。此外，我们提出了一个以音频片段检索为形式的脑解码基准：给定来自留出扫描阶段的 fMRI 活动，解码器必须从候选片段中识别出对应的、时间对齐的播客音频片段。我们为该任务提供了标准化的数据划分、评估指标和基线解码器。最后，扩展性分析表明，随着每位受试者训练数据量的增加，解码性能持续提升。
18:12 arXiv cs.AI 78
科学发现往往始于零散线索要求我们以新的方式描述世界。当世界在认识论上开放时，这种溯因探索可能需要构建一种用于表述解释的表征；当世界在结构上互联时，则可能需要整合分散在不同语境中的证据。现有基准很少将这两种要求区分开来，或对它们进行独立控制。我们提出 ULTRADISCOVERY：一个由五个领域构成的交互式世界。在其中，智能体需要修正一个最初成功的理论，并预测一次未见过的跨领域干预的结果。一个 \(2 \times 2\) 设计分别控制表征是否开放或被披露，以及证据是否分散或经过对齐，同时固定潜在动力学。表征开放时，参与测试的十一个模型中的智能体往往会撤回被教给它们的公理，但没有一个会引入未观察到的实体，或重写替代理论所需的变量。披露表征会使干预请求增加三倍，并额外提供世界所能提供的十八项发现中的约一项；对齐证据带来的增益更小。两个厂商测试框架系统能够将发现扩展到更多领域，其中一个还会在 Open 情节中重写变量。没有任何系统能在200次付费操作内作出精确预测。在更大的预算下，同时获得两种辅助时出现了一次精确预测，而所有 Open 情节仍然未能精确预测。结果表明，困难在于如何从积累证据迈向将其整合为一种能够迁移的表征。
12:00 arXiv cs.LG 81
arXiv:2609.39788v2 发布类型：replace-cross 摘要：潜在通信使多智能体系统能够直接在内部表示空间中交换信息，从而降低基于文本通信所带来的令牌、计算和延迟开销。为此，引入了轻量级可训练连接，将发送方的表示映射到接收方的输入空间。在本文中，我们表明，即使是良性的连接训练，也可能在底层经过安全对齐的智能体保持不变的情况下，相较于基于文本的通信提高有害服从程度。攻击者可以通过在有害查询—响应对上优化连接，或污染原本良性的训练数据，进一步放大这一影响。我们还提出了一种强化学习攻击，在不需要有害目标响应的情况下，同时奖励有害服从和良性任务性能。在三种通信拓扑和四个安全基准测试中，该攻击将平均有害服从分数从使用良性训练连接时的27.9提高到76.9。与直接监督优化相比，该方法在两个良性效用基准测试上也取得了更高的平均准确率。将奖励调整为鼓励更安全的行为，还能够修复受损的连接，在不更新智能体的情况下，大幅降低所有评估攻击中的有害服从程度。总体而言，我们的结果表明，安全对齐需要将多智能体系统作为一个整体加以考虑。代码：https://github.com/Muhammad-Huzaifaa/latent-safety
12:00 arXiv cs.LG 76
arXiv:2609.36235v2 公告类型：replace-cross 摘要：重性抑郁障碍（MDD）严重影响日常活动和生活质量。MDD 的检测涉及多模态数据，例如访谈录音和传感器测量数据。这一任务尤其具有挑战性，因为这些异构模态通常需要各自不同且定制化的预测流程。为应对这一挑战，现有研究探索了人工设计的多模态架构和智能体辅助的流程开发。尽管取得了进展，但如何根据实验反馈自主修订流程，并将经过验证的改进延续到后续设计中，仍然十分困难。为此，我们提出了通过递归自我改进智能体进行重性抑郁分析的多模态探索方法（MERID）。该框架通过基于经验的递归自我改进（RSI）来开发抑郁分析流程。基础状态构建（GSC）通过将多模态记录与受试者层面的抑郁目标对齐，为经验提供依据。耦合流程探索（CPE）联合修改表征、融合方式和预测器，从而为分类和严重程度估计构建后继流程。证据引导演化（EGE）通过反馈指导修订，并在继承改进之前，在规模较小的抑郁症队列中验证不确定性条件下的性能提升。在抑郁症基准数据集上的大量实验表明，与多模态和基于智能体的基线方法相比，MERID 在多项任务上取得了最佳结果。进一步分析凸显了声学和语言线索对于抑郁检测的价值。我们的代码已发布于 https://github.com/DiscoAILab/MERID
12:00 arXiv cs.LG 74
arXiv:2607.15942v2 公告类型：replace-cross 摘要：遥感视觉语言模型日益被要求支持基于地球观测数据的开放式推理以及多种任务。该领域近期的大多数进展都由面向遥感的专门架构设计推动，通常会引入新的编码器、对齐模块或特定任务的融合机制。在本研究中，我们对这种架构专门化的必要性提出质疑。我们表明，只要在多样化的数据和任务上进行足够大规模的训练，一个具备通用能力的视觉语言模型就能在具有挑战性的遥感基准测试中取得有竞争力甚至达到当前最佳的性能。我们的模型采用单一语言策略，既可以直接以文本作答，也可以调用定位工具执行分割和 grounding。为训练这种异构行为，我们采用多任务强化学习框架，并使用自适应任务奖励，覆盖多项选择 VQA、开放式 VQA、图像描述、检测和分割任务，输入类型也十分多样。我们的方法在广泛的基准测试中取得了有竞争力的结果，包括高分辨率、多时相、多模态和多视角任务。此外，随着训练数据规模扩大，我们的实验显示，大多数任务的分布内和分布外性能都持续提升，而这种提升与各任务的数据多样性相关。这些发现表明，对于遥感 VLM 而言，即使没有架构创新，数据规模也足以带来良好效果。
12:00 arXiv cs.LG 78
arXiv:2606.21562v2 公告类型：replace-cross 摘要：Transformers 是 AI 的主力工具，但在处理长序列时，其计算成本会变得难以承受。我们针对长时域流式视觉和机器人应用，在这些场景中，存储和维护观测历史尤其不切实际。Recurrent Transformers 通过维护固定大小的记忆来应对这一限制，但其性能落后于基于完整观测历史运行的 Transformers。我们认为，这种差距并非源于架构限制，而是源于这些模型学习压缩过去信息的方式不同。在无法访问观测历史的情况下，循环模型必须在每一步明确决定在记忆中保留哪些信息，这使得学习问题困难得多。在这项工作中，我们提出一种蒸馏方法，将经典完整历史 Transformer 的压缩策略迁移到循环变体中。为此，我们设计了一个教师模型，将其观测历史显式压缩为固定大小的瓶颈表示，并利用该瓶颈表示直接监督学生模型的记忆，从而有效对齐两种压缩机制。我们表明，该方法能够在 Mem-RPE 任务上以线性时间复杂度训练循环潜在机器人记忆，同时大幅缩小其与完整历史 Transformers 之间的性能差距。此外，我们还在流式视觉问答（VQA）上验证了同一原则，并观察到记忆蒸馏带来了更好的循环预测性能
12:00 arXiv cs.LG 79
arXiv:2604.18572v3 公告类型：替换交叉版本 摘要：柏拉图式表征假说认为，在不同模态（例如文本和图像）上训练的神经网络会趋向于对现实形成一种共享表征。如果这一假说成立，那么这将对模态选择是否重要这一问题产生重大影响。在本文中，我们表明，支持这一论断的证据远比后续研究所暗示的弱。原始研究在1024对文本—图像样本上使用的互惠 $k$ 近邻指标只能捕捉粗粒度结构。为了避免随着数据规模扩大而导致对齐崩溃，$k$ 必须按比例增长，这削弱了关于细粒度表征趋同的论证。研究报告中对齐程度随语言模型能力增强而提升的现象，在近期模型上已经饱和。此外，一对一的文本—图像配对有利于对齐，而在非双射数据下，对齐程度会下降。我们进一步发现，图像表征和文本表征确实共享粗粒度语义结构，但更强的语言模型和更丰富的描述都无法带来细粒度对齐。因此，多模态表征共享粗粒度结构，但没有证据表明它们趋同于一种共享表征——可以说，完整的表征趋同需要细粒度对齐。
12:00 arXiv cs.LG 72
arXiv:2604.01921v3 公告类型：replace-cross 摘要：汽车雷达感知流程通常会在应用基于学习的模型之前，通过波束形成构建角度域表示。本文转而探讨一个表示问题：能否直接从波束形成前的逐天线距离-多普勒（RD）测量中学习有意义的空间结构？实验基于一款采用 A/B 啁啾序列调频连续波（CS-FMCW）发射方案的商用汽车雷达开展，该雷达具有 6-TX × 8-RX（48 个虚拟天线），其有效发射孔径会在不同啁啾之间变化（单 TX 与多 TX），从而能够对依赖啁啾的发射配置进行受控分析。我们使用逐天线波束形成前的 RD 张量，并通过一个双啁啾共享权重编码器，以端到端、完全数据驱动的方式进行训练；同时，使用鸟瞰图（BEV）占用情况作为几何探针，而非以性能提升为导向的目标，评估空间结构的可恢复性。监督信号具有可见性感知和跨模态特性，来源于 LiDAR，并通过基于射线的可见性显式建模雷达视场以及考虑遮挡的 LiDAR 可观测性。通过分析信号属性、发射配置（仅 A、仅 B 以及 A+B）、接收孔径和距离-多普勒结构，并结合与物理机制对齐的基线方法，我们研究了影响空间结构可恢复性的因素。结果表明，在所研究的 A/B CS-FMCW 雷达配置下，通过学习得到的空间混合，可以从波束形成前的逐天线 RD 张量中恢复有意义的空间结构，而无需依赖人工设计的信号处理阶段。
12:00 arXiv cs.LG 77
arXiv:2601.22169v2 公告类型：replace-cross 摘要：人在酒精影响下容易产生不良行为并泄露隐私。本文研究醉酒语言，即人在酒精影响下写出的文本，如何导致大语言模型（LLM）出现安全失效。我们研究了在 LLM 中诱导醉酒语言的三种机制：基于人格设定的提示、因果微调，以及基于强化的后训练。在 5 个 LLM 上进行评估时，我们观察到，相较于基础 LLM 以及此前报道的方法，这些模型在 JailbreakBench 上更容易被越狱（即使存在防御措施），并且在 ConfAIde 上更容易发生隐私泄露；这两个基准测试均使用英语。通过结合人工评估、基于 LLM 的评估器以及错误类别分析，我们的研究结果凸显了人类醉酒行为与通过醉酒语言诱导出的 LLM 拟人化现象之间的对应关系。我们的醉酒语言诱导方法简单高效，因此可能成为规避 LLM 安全调优的手段，凸显了 LLM 安全面临的重大风险。
12:00 arXiv cs.LG 74
arXiv:2601.12758v2 公告类型：替换交叉版本 摘要：随着大型语言模型日益应用于高风险领域，确保其输出不仅反映人类的平均偏好，而是体现多种不同观点至关重要。然而，实现这种多元性仍然充满挑战。现有方法通常只考虑有限的价值观，或依赖提示层面的干预，缺乏对价值观的控制与表征。为此，我们提出 VISPA，这是一种无需训练的多元对齐框架，通过动态选择和模型内部激活引导，实现对价值观表达的直接控制。在涵盖多个模型和评估设置的大量实证研究中，我们表明，VISPA 在医疗健康及其他领域的所有多元对齐模式中都表现出良好性能。进一步分析显示，VISPA 能够适应不同的引导初始化方式、模型和/或价值观。这些结果表明，多元对齐可以通过内部激活机制实现，为构建服务于所有人的可扩展语言模型提供了一条路径。
12:00 arXiv cs.LG 79
arXiv:2510.06105v2 公告类型：replace-cross 摘要：大型语言模型（LLM）正日益影响信息的创作与传播方式，从企业利用它们制作具有说服力的广告，到竞选活动优化宣传信息以争取选票，再到社交媒体影响者提高互动率。在这些场景中，竞争无处不在：销售者、候选人和影响者都在争夺受众的认可。然而，竞争性反馈循环如何影响 LLM 的行为，人们仍知之甚少。我们发现，针对竞争成功对 LLM 进行优化可能会在无意中推动其偏离对齐目标。在涵盖这些场景的模拟环境中，我们发现：销售额提高 6.3% 的同时，欺骗性营销增加了 14.0%；在选举中，得票率提高 4.9% 的同时，虚假信息增加了 22.3%，民粹主义言论增加了 12.5%；在社交媒体上，互动率提升 7.5% 的同时，虚假信息增加了 188.6%，对有害行为的推广增加了 16.3%。我们将这一现象称为 Moloch's Bargain for AI——以牺牲对齐为代价实现竞争成功。即使明确要求模型保持真实并以事实为依据，这些偏离对齐目标的行为仍会出现，揭示了当前对齐保障措施的脆弱性。我们的研究结果表明，市场驱动的优化压力可能系统性地侵蚀对齐，造成一场逐底竞争；同时也表明，要安全部署 AI 系统，就需要更强有力的治理和经过谨慎设计的激励机制，以防止竞争动态削弱社会信任。
12:00 arXiv cs.LG 79
arXiv:2609.40030v2 公告类型：替换 摘要：将预训练生成模型适配到由效用函数表达的任意偏好，是奖励对齐、引导式设计和约束满足的基础，并支持多种应用。现有微调方法需要在通用性与计算成本之间权衡：要么限制所支持偏好的类别，以简化优化；要么以效率为代价保留通用性。我们提出 Fenchel Tilt Flow Control（FTFC），将效用优化与生成模型拟合解耦。FTFC 首先通过在预训练样本上联合拟合有效奖励和密度比权重，针对目标分布进行优化。该方法结合效用函数的变分结构与 Fenchel 对偶性，支持通用的 $f$-散度惩罚，从而决定如何将奖励转换为分布校正权重。随后，这些权重被冻结，并在单阶段的重要性加权去噪或流匹配过程中用于修改扩散模型或流模型，无需对采样轨迹进行反向求导。我们在适当条件下为凹效用函数建立了精确对偶性，并证明加权拟合能够针对给定效用函数复现最优目标分布。在图像和分子生成基准测试中，与基线方法相比，FTFC 在多种偏好函数上均取得更好表现，同时效率最高可提升 $20\times$。所提出的方法无需复杂优化即可实现超越期望奖励最大化的适配；与基线方法相比，在更广泛的效用函数类别下仍能保持稳健性。
12:00 arXiv cs.LG 78
arXiv:2609.39995v2 公告类型：替换 摘要：扩散规划器在生成多模态轨迹方面展现出强大能力。然而，现有方法主要依赖专家示范来拟合轨迹分布，学习场景、行为与轨迹之间的统计相关性，却没有显式建模驾驶规则。在专家数据稀缺的长尾场景中，缺乏可供模仿的行为可能导致生成的轨迹违反安全或合规要求。此外，其生成过程缺少规则层面的解释，因而难以确定哪些规则促使轨迹调整、这些规则何时生效以及作用强度如何，从而限制了故障诊断、安全验证和针对性改进。为解决这些局限，我们提出 Rule-Aligned Diffusion Planner（RADP），在训练过程中将可微分驾驶规则融入扩散目标，使规则知识超越有限的示范数据，成为内在的行为准则。我们进一步提出 Rule-Pressure Attribution（RPA），利用规则损失相对于预测轨迹的梯度构建监督信号，并采用轻量级归因头在线估计每条规则施加的优化压力。为评估这些归因在闭环行为方面的相关性，我们提出一种时间风险对齐协议，用于评估当前的规则压力是否能够反映后续闭环执行过程中的相应风险。在 nuPlan 上的实验表明，RADP 能够改善具有挑战性的安全关键场景中的闭环规划；同时，RPA 与后续特定规则风险表现出一致的时间对齐，验证了内在规则学习和规则层面可解释性的有效性。
12:00 arXiv cs.LG 76
arXiv:2609.38645v2 公告类型：替换 摘要：模型通常基于其观测到的输出进行对齐，所使用的方法包括示范、偏好数据或奖励信号。这些目标会奖励看起来符合对齐要求的回答。能力更强的模型可能学会在不真正内化预期行为的情况下满足这些目标，例如在训练期间假装遵从。如果目标定义在模型内部而非输出上，这种表面上的遵从可能会更加困难。因此，我们研究了探针引导的微调方法，使用能够检测模型激活中不良属性的探针，将其作为直接的训练信号。我们在两种对齐目标——无害性和诚实性——下，评估了线性和非线性探针，以及每层使用不同数量探针的效果。我们发现，针对在训练期间不更新的探针进行训练，是一种容易被利用的目标；而持续更新的探针能够大幅降低有害性并提高诚实性，同时保持实用性。与DPO和推理时引导相比，探针引导的微调实现了更好的安全性—实用性权衡，并且对越狱攻击和abliteration攻击具有显著更强的鲁棒性。此外，微调后这些概念仍然保持线性编码，这意味着我们的方法不会丧失监督能力。因此，针对探针进行训练提供了一种塑造模型所表征内容的方式，而不仅仅是塑造模型的输出；随着模型越来越擅长让其输出看起来符合对齐要求，这种方式可能会变得日益重要。
12:00 arXiv cs.LG 71
arXiv:2609.31882v2 公告类型：替换 摘要：当期望结果较为罕见或条件化修正的估计成本较高时，基于奖励的扩散微调面临实际挑战。在本研究中，我们提出了 Diffusion Online $h$-guidance Fine-tuning（DOHF），将 Doob $h$-变换转化为一种实用的在线训练算法。DOHF 为生成样本分配最优性权重，在当前轨迹采样策略下估计归一化的局部修正项 $\nabla\log h$，并将其直接蒸馏到生成模型中。在理论上，我们从统一的 $h$-变换视角刻画了总体最优的 DiffusionNFT 更新以及各种无分类器引导方法。在方法上，我们的框架无需额外的网络求值，即可兼容黑盒奖励和不可微奖励。我们还在三种实验场景下展示了对齐效果的提升。本研究表明，通过低成本估计和迭代蒸馏来调整概率条件化，能够改善统计采样和视觉生成中的生成式学习。
12:00 arXiv cs.LG 77
arXiv:2609.05253v2 公告类型：替换 摘要：我们提出 GLASS，这是一种图级异常检测（GLAD）框架，通过在单位超球面上进行图-语言对齐，实现稳健的跨域可迁移性。GLASS 通过多切片软余弦目标函数，将结构感知图编码器与指令感知文本嵌入进行对齐，从而构建统一的表示空间。我们的框架将图的局部、全局和语义属性序列化为紧凑的 Graph Descriptor Prompt（GraphDP），建立文本桥梁，实现与域无关的异常评分。通过利用 Matryoshka 表征切片强制执行多尺度一致性，该模型能够在多个粒度层级捕捉异常偏差。我们将异常检测表述为对齐超球面上的密度估计，并引入 Spherical Multi-Modal Scoring（SMS），在图嵌入空间和文本嵌入空间中分别实例化 von Mises-Fisher 核密度估计器。这一概率建模形式在高集中度极限下还原了基于角度的 1-近邻评分，促成了实用的均值 k-近邻评分器，并为结构异常信号与语义异常信号的融合提供了原则性方法。共享的文本嵌入空间还可作为跨域桥梁：无需目标域训练数据，只需对目标域的 GraphDP 进行编码，GLASS 即可执行零样本异常检测；仅使用少量正常样本时，则可通过参考集校准进行少样本适配。针对隐私敏感型部署场景，我们进一步以有界的联合图-文本核摘要扩展参考集校准，在保持编码器固定且不依赖私有目标参考数据的同时，为图记录提供差分隐私。在十二个基准数据集和三个元域上，与近期先进的 GLAD 基线方法相比，GLASS 取得了最佳平均 AUROC 和排名，并实现了有效的跨域迁移。
12:00 arXiv cs.LG 75
arXiv:2608.18749v2 公告类型：替换 摘要：几何数据扰动使隐私保护协作学习能够实现单轮表示共享：每个参与者对其私有数据应用一种保密的保距离变换，并将所得表示上传至中央分析者。我们研究分析者与参与者串通的情形，即串通参与者披露其数据和变换，以帮助分析者重构另一参与者的数据。彼此独立且针对参与者分别设定的变换能够阻止利用已披露的公共变换进行直接逆变换，但会使上传数据处于彼此不兼容的坐标系中，从而降低合并学习的效果。Data Collaboration 分析通过对齐一个不向分析者公开的公共锚点矩阵的变换副本，恢复坐标兼容性。我们证明，当中心化锚点矩阵具有满列秩时，披露该矩阵的串通者能够精确恢复每个参与者的变换，并对无噪声私有表示进行逆变换。向私有数据表示中添加噪声虽然不会破坏这一变换恢复通道，却会以显著的效用代价减少泄露。相反，我们对锚点表示进行扰动：每个参与者仅扰动其经过变换的锚点表示，在保持私有数据上传结果几何结构的同时，将已知锚点的变换恢复转化为一个带噪估计问题。分析者使用针对广义正交 Procrustes 问题的谱估计器来估计对齐变换。我们针对该协议分析恢复攻击，并在 CelebA 和 VGGFace2 人脸图像数据集上比较两种噪声放置方式。在所评估的串通攻击下，在身份关联水平较低时，噪声锚点对齐能够保持更高的下游准确率。参与者数量实验考察了在测得的关联程度相当时，更大规模协作所带来的效用提升及其局限性。
12:00 arXiv cs.LG 79
arXiv:2606.15420v2 公告类型：替换 摘要：安全评估会在提示中省略部署环境提供的激励信息的情况下测试策略：例如佣金、绩效分数，或标明哪种行动收益最高的仪表板。我们衡量这种省略掩盖了什么。在 MoneyWorld 这一合成工作环境中，我们从三个模型系列中选取五个经过指令调优的模型，使用 RL 在非安全任务上进行训练；这些任务带有一个可见的收益信号，用于标识一种牺牲任务质量却能获得奖励的捷径。随后，我们冻结每个策略，呈现留出的安全冲突，并且只改变所显示的信号。每个选项菜单包含一个合规行动和三个违规行动。我们报告三项发现，以下给出 Qwen2.5-14B-Instruct 的相关比例。（i）收益信号能够控制冻结策略的安全选择：当信号指明某个不安全选项时，不安全选择率为 100%；当信号被隐藏或指明安全选项时，该比例为 0%。隐藏信号和随机信号训练的对照组均不超过 0.3%，且这一切换现象在全部五个基础模型上都能复现。在对采样行动给予奖励的设置下，使用数值化收益也能复现这一现象：即使只存在 1 美元的优势，不安全选择率也达到 98.6%。（ii）在一项训练菜单干预中，收益识别与不安全选择彼此分离：使用相同收益训练执行能够完成任务的行动后，在匹配的更新预算下，收益识别率仍为 99.8%，而不安全选择率降至 7.9%。仅凭读取收益的能力不足以解释这种迁移。（iii）在使用相同冻结适配器执行的零售客户服务任务中，这一切换现象并未复现。在 MoneyWorld 中，省略激励信息会掩盖不安全选择；当同一策略看到哪种行动收益最高时，这些不安全选择便会出现。
12:00 arXiv cs.LG 82
arXiv:2606.07631v2 公告类型：替换 摘要：当狭窄领域的微调诱发超出微调任务范围的危险行为时，就会出现涌现失配（EM）。通过反复进行行为评估来检测这种变化成本高昂，因此我们提出从内部表示出发，在检查点级别进行监测。我们基于七个与对齐相关的激活方向定义了一个固定坐标系，并利用它跟踪四个开源 7-9B 语言模型在 LoRA 微调期间的表示漂移。在该空间中，微调漂移呈现出一个主导轴，可解释 78.6% 的方差，并且在不同数据集、提取方案和参数更新容量下保持稳定。在来自三个与 EM 相关的留出数据集的 468 个检查点上，由此得到的监测器实现了 1.8% 的 FNR、2.0% 的 FPR 和 0.989 的 AUROC，优于语义、随机、PCA 和 SAE 特征基线。在第四个数据集上，匹配的良性—危险控制实验表明，良性微调也可能发生显著的表示漂移；但 7D 画像中的变化仍能区分危险运行与良性运行。在两个 14B 模型、全量微调、更长训练周期和失配初始状态上进行的压力测试表明，该信号能够在训练配置发生变化时持续存在，但要实现可靠部署，可能需要重新校准。
12:00 arXiv cs.LG 78
arXiv:2605.14867v2 发布类型：替换 摘要：由于脉冲活动具有较高的时空分辨率，能够支持准确解码，因此一直是行为解码中占主导地位的神经信号。然而，随着皮层内脑机接口（iBCI）向更高通道数和无线运行方向发展，记录脉冲所需的高采样率带来了巨大的功耗和带宽需求。局部场电位（LFP）具有互补优势，包括更高的长期稳定性、更低的能耗和更低的带宽需求。然而，基于 LFP 的解码器通常准确率较低，并且依赖无法直接用于实时部署的非因果架构。我们提出了 REALM，这是一种用于因果 LFP 行为解码的回溯式知识蒸馏（RKD）框架。受语音识别中离线到在线蒸馏的启发，REALM 将预训练的多会话双向 LFP 教师模型中的非因果表征知识迁移到因果学生模型中。我们首先使用连续掩码自编码（CMAE）在多个记录会话上预训练双向 Mamba-2 教师模型，然后通过结合表征对齐与自编码的目标函数，将其表征蒸馏到紧凑的因果学生模型中。在无标签和微调两种流程中，REALM 的平均准确率均为所比较解码器中的最高水平，并且相较于每个基线（包括当前最先进的 CrossModalDistill）都取得了具有统计显著性的提升。在预训练、蒸馏和解码的整个过程中，REALM 始终仅使用 LFP；其参数量不到 CrossModalDistill 已发表学生模型的一半，预训练时间仅为其十分之一。这些结果表明，因果 LFP-only 模型能够达到与非因果多模态模型相当的解码准确率，为下一代无线和植入式 iBCI 提供了一种实用且可扩展的方法。
12:00 arXiv cs.LG 79
arXiv:2605.10793v2 公告类型：替换 摘要：由于大型语言模型（LLM）具有庞大的内存占用和较高的推理成本，部署这类模型代价高昂。权重-激活量化可以降低这些成本，但低比特激活量化仍然困难，因为激活异常值会引入较大的量化误差。近期基于旋转的方法通过应用正交变换，在不同维度之间重新分配激活幅值来解决这一问题；然而，现有方法要么需要代价高昂的端到端旋转训练，要么依赖存储的激活语料库，从而带来显著的计算或存储开销。我们提出了一种用于 LLM 激活量化的轻量级训练后旋转校准方法。该方法学习正交旋转，使归一化激活与内接超立方体的顶点对齐，从而促使激活能量在各个维度之间更加均匀地分布。该目标可通过正交 Procrustes 问题实现高效的闭式更新，避免在正交群上进行基于梯度的优化。我们进一步提出了一种在线校准流程，在处理校准样本的同时更新旋转矩阵，从而无需将激活存储在磁盘上，并使旋转矩阵能够在校准过程中适应量化后的激活分布。在参数规模从 3B 到 70B 的 Llama-2 和 Llama-3 模型上进行的实验表明，该方法在困惑度基准和常识推理任务中取得了具有竞争力或更优的性能，同时避免了高成本的端到端训练和大规模离线激活存储。
12:00 arXiv cs.LG 77
arXiv:2509.20789v5 公告类型：替换 摘要：现代 AI 的显著成功与 scaling laws 密切相关，但高质量数据的有限供应使得数据效率——从更少的数据中学习更多信息——日益成为重要前沿。模型的归纳偏置是提升数据效率的关键杠杆，但 State Space Models (SSMs) 等基础序列模型往往依赖固定的、与任务无关的偏置。当这一固定先验与任务的内在结构不匹配时，模型可能需要额外样本来克服自身偏置，之后才能学习相关信号。在本研究中，我们提出了一个用于理解和对齐线性时不变 SSM 归纳偏置的原理性框架。我们首先通过 SSM 诱导的核对这种偏置进行形式化，并从理论和实证两方面表明，其谱由模型的频率响应决定。基于这一刻画，我们提出任务依赖初始化（Task-Dependent Initialization，TDI），这是一种快速的功率谱匹配方法，可在下游训练之前，使 SSM 的初始偏置与任务的谱特征相对齐。在受控合成实验、可训练的单层 SSM，以及多种真实世界基准上的深层 SSM 中，TDI 主要在任务相关的谱结构存在且默认 SSM 偏置在谱上不匹配时，提升数据高效泛化能力。我们的结果既提供了理解任务自适应归纳偏置的理论视角，也提供了实用工具，为实现更高数据效率的序列建模指明了方向。
12:00 arXiv cs.LG 76
arXiv:2508.16748v2 公告类型：替换 摘要：当前普遍采用的多模态自监督学习（SSL）方法依赖于冗余假设：不同视图之间共享大量与任务相关的信息。我们认为，在以异质性为特征的复杂现实场景中（例如长度可变的医疗或行为数据），这一假设并不成立；在这些场景中，强制进行严格对齐可能会丢弃独特的模态特定信号，并无意中放大偏差。在本文中，我们提出 FairSSL，这是一种将数据异质性视为公平性资源而非障碍的框架。不同于标准的对比学习方法，FairSSL采用面向受试者的 Variance-Invariance-Covariance Regularization 目标函数，在同一受试者的不同片段之间施加对齐约束。我们引入基于片段的池化策略，以处理长度可变的模态，并对表征进行正则化，以促进：（i）受试者内部充分的变化性；（ii）跨模态和跨受试者不变性；以及（iii）表征去相关。理论分析表明，我们的目标函数能够界定受保护群体之间的得分差距。在实验中，FairSSL在异质多模态数据集上显著优于现有基线方法，在不牺牲下游预测性能的情况下提升了公平性。代码见：https://github.com/abtinmU/FairSSL
12:00 arXiv cs.LG 74
arXiv:2610.02201v1 公告类型：cross 摘要：高分辨率 3D 生成越来越依赖体素潜变量和多阶段流水线，这类方法首先预测活跃结构，然后合成本地几何。尽管这种设计有效，但它会将连续表面碎片化为大量局部标记，增加生成成本，并且通常会削弱薄型或高度连通形状的拓扑一致性。我们提出 SILSA，一种具有拓扑感知能力的 3D 生成框架，使用紧凑的滑动窗口切片潜变量表示形状。SILSA 不生成成本高昂的体素标记，而是沿三个规范轴使用一组固定的重叠切片，其中每个标记概括一个局部深度窗口，以保持截面连续性，并支持单阶段 rectified-flow 生成。Slice VAE 将定向表面采样编码为多轴切片潜变量，并通过稀疏体积解码器对其进行重建；Volumetric Anchor Lattice 则通过共享的 3D 工作空间协调不同方向的切片流。为保持结构正确性，我们引入切片级拓扑监督，使持久性图相匹配，并对齐相邻切片之间的贝蒂数转变。实验表明，SILSA 在大幅降低生成成本的同时提升了结构保真度。与最强基线相比，SILSA 将 PSNR 提高了 $8.7\%$，覆盖率提高了 $5.96$ 个绝对百分点，贝蒂数误差降低了 $9.2\%$；与下一个最紧凑的基线相比，其使用的标记数减少了 $70.0\%$，与稀疏或分层标记器相比减少了超过 $98\%$，从而使训练内存减少了 $40.4\%$，推理时间缩短了 $58.5\%$。定性结果进一步表明，SILSA 能够更好地保留薄结构、重复组件和远距离连通性。
12:00 arXiv cs.LG 81
arXiv:2610.01846v1 公告类型：交叉 摘要：基于语音的阿尔茨海默病（AD）评估日益依赖预训练的自监督学习（SSL）模型，这些模型直接从原始音频中学习声学表征，使模型接触到录音因素。我们探讨了这些因素是否仅仅被编码在 SSL 表征中，还是能够系统性地改变预测结果。我们使用 ADReSSo 和三个大型 SSL 主干模型，对仅包含参与者语音的音频、非语音音频以及完整录音音频施加受控的噪声和混响干预。我们结合逐层线性解码、输入空间与表征空间干预，以及几何对齐分析，以区分声学因素的可解码性与其对阿尔茨海默病预测的影响。结果表明，在三个 SSL 主干模型中，受控的声学干预都会改变阿尔茨海默病预测结果。尽管在原始数据中噪声未表现出显著的诊断组间差异，但它产生了最强的干预效应。重要的是，这些效应相对于分类器的决策方向呈现出系统性结构，在留出的测试集上得以复现，并且当表征空间中的干预方向反转时，效应也随之反转。总体而言，这些发现表明，高预测性能以及测量到的声学因素不存在显著诊断组间差异，并不足以保证模型的稳健性。我们认为，基于干预的稳健性测试应成为构建可信临床语音模型的标准做法。
12:00 arXiv cs.LG 71
arXiv:2610.00851v1 公告类型：cross 摘要：开放集识别（OSR）旨在使模型能够准确分类已知类别，同时拒绝来自未见类别的样本。OSR 的一个关键挑战在于，训练期间无法对未知类别的无界分布进行建模，这通常会导致这些类别的样本被误分类。近期研究不再对未知类别进行建模，而是塑造特征空间，使已知类别更加紧凑且彼此分离；球面表征学习方法通过这种方式取得了优异成果。标签平滑被认为是这一成功的关键驱动因素之一，但它会对每个训练样本使用相同的系数，而不考虑每个样本当前的嵌入效果。我们发现，OSR 中使用的球面表征学习目标共享一种统一的对齐--均匀性结构，其中标签仅通过对齐项发挥作用。因此，标签平滑相当于一个对齐调节器，而固定系数会将该调节器对每个样本设定为相同值。我们提出了一种可插拔模块 SmoothOperator（SmoothOP），根据每个样本的\textbf{显著性}设置其平滑系数；显著性是一种嵌入空间信号，用于衡量样本所属类别相较于其最强竞争类别的突出程度。我们的方法能够以极低的训练开销集成到四种现有的球面表征学习方法中。SmoothOP 会为显著性高的样本分配更强的平滑，从而降低其对齐程度并放松对它们的拉近作用。在 Semantic Shift Benchmark 上，加入 SmoothOP 的变体通常在不同数据集、不同语义偏移程度以及不同 OSR 后处理器下均优于其基础目标，在 AUROC、OSCR 和闭集准确率方面的提升最高可达 4.7%。
12:00 arXiv cs.LG 80
arXiv:2610.00812v1 公告类型：交叉 摘要：视频生成已从短时低质量片段迅速发展到具有复杂时空动态的高分辨率长时序列。尽管通过大规模预训练学习到了强大的生成先验，预训练视频模型通常仍无法可靠地遵循人类意图、保持时间连贯性，或满足物理与安全约束。与图像和文本生成相比，视频生成中的对齐面临独特挑战，包括随时间累积的误差、运动与外观的耦合、多目标权衡，以及对时间属性有限的监督。这些挑战推动了系统化后训练策略的发展，使其能够在无需从头重新训练模型的情况下对预训练模型进行适配。在本文中，我们首次全面综述视频生成模型中的后训练与对齐。我们将后训练视为一个统一框架，并根据对齐信号的施加方式，将对齐区分为隐式对齐和显式对齐。从这一视角出发，我们将现有方法归纳为四大类：监督微调方法、自训练与蒸馏方法、基于偏好与奖励的方法，以及推理时方法。该分类体系连贯地展现了对齐信号如何在训练和部署过程中塑造模型行为。除方法学进展外，我们还综述了常用数据集、基准和评估实践，并讨论了可扩展奖励设计、长时间跨度的时间一致性、稳定性与表现力之间的权衡，以及安全感知生成等开放性挑战。本综述旨在为推进可控且可靠的视频生成模型提供结构化的概念基础和实践指导。
12:00 arXiv cs.LG 78
arXiv:2610.00759v1 公告类型：cross 摘要：网络攻击智能体通常在单一仿真器内进行训练和评估，因此人们不清楚其学习到的策略能否迁移到开发环境之外。这一局限性阻碍了部署和公平比较，因为不同网络空间仿真器在状态表示、观测模型和动作空间方面存在显著差异。本文研究跨网络空间环境的策略迁移，并认为仿真器到仿真器以及仿真器到现实的迁移可以被视为同一潜在对齐问题的具体实例。我们提出了一个将状态对齐与动作转换分离的框架，使得在一个环境中训练的策略无需重新训练即可在另一个环境中运行。我们在四个网络空间平台 CyberBattleSim、NetSecGame、CyberWheel 和 NASim 之间评估迁移效果，其中包括在 NASim 中进行的仿真部署。实验表明，零样本迁移是可行的：在高度对齐的环境中能够完全保持源策略的性能；当迁移源性能为 60.5% 的策略时，胜率达到 45.2%。在仿真的虚拟机环境中，迁移策略与原生策略之间的 Jensen-Shannon 散度为 0.085，表明二者具有很强的行为相似性。代码和基准测试可在以下地址获取：https://anonymous.4open.science/r/RL-Transfer-between-env-4F47/。
12:00 arXiv cs.LG 77
arXiv:2610.00686v1 公告类型：cross 摘要：近期基于视频的世界模型将自回归（AR）预测的可扩展性与扩散模型的视觉质量结合起来。场景分词器的选择对于实现二者的最佳性能至关重要，无论是在保真度还是语义方面。可变长度、由粗到细的分词器恰好能够满足这一需求：最初的粗粒度词元承载视频片段的全局语义，而后续词元则进一步刻画细节。现有的可变分词器仅在解码器早期的隐藏状态上应用表示对齐（REPA）损失，但解码器也可以部分依靠其带噪输入来完成这一目标。我们提出 SemanTok，这是一种可变长度的视频分词器，将冻结的 DINO 特征输入编码器，并添加轻量级头部，使其仅依据每个保留的词元前缀来重建这些特征。SemanTok 在各种 AR 模型规模下都实现了较高的语义对齐和视频保真度：参数量为 201M 的 SemanTok AR 模型，其性能可媲美或超越规模为其 $3.4\times$ 的 VideoFlexTok AR 模型；更大的 SemanTok AR 模型则能进一步提升保真度。它在分布外类别上仍能保持语义对齐，并且在每个噪声水平下（包括纯噪声）都能使解码器获得更高的语义对齐程度。SemanTok 在重建和生成任务中均表现良好；其较短的词元前缀预测成本更低，并能带来更高的生成保真度，而像素级细节则延后到后续词元中进行刻画。
12:00 arXiv cs.LG 76
arXiv:2610.00524v1 发布类型：cross 摘要：视觉-语言-动作（VLA）模型通常难以泛化到其微调示例中未出现的技能组合，即使每个组成技能都曾被演示过。我们聚焦于一种视觉捷径现象：在微调过程中，视觉观测可以作为指令的替代信号，因此策略可能会执行与相似观测相关联的已演示组合，而不是执行指令所指定的组合。这促使我们使用反事实对进行训练：固定一个演示观测，同时改变指令，使其指定一个未演示的组合。然而，这些反事实对缺少相应的演示动作目标。关键在于，当前所需的技能已经被演示过，但这些执行中的动作不能直接作为目标，因为同一技能在不同观测下可能需要不同的动作。我们提出 CRAFT，利用可在同一技能的不同执行之间复用的技能表示，将对所需技能的演示执行所提供的监督迁移到反事实对上。在三个 VLA 模型和两个仿真基准测试中，CRAFT 提高了未演示组合上的成功率，同时保持了演示组合上的高成功率；它还提升了真实机器人上的组合泛化能力。项目网站：https://taegeunyang.github.io/craft/
12:00 arXiv cs.LG 72
arXiv:2610.00431v1 公告类型：cross 摘要：大型语言模型（LLMs）的持续参数高效微调必须在保留已获取知识、适应新任务和严格参数预算之间取得平衡。我们提出 ChainLoRA，一种基于链式更新任务向量几何的无回放持续合并框架。从参数合并的角度出发，我们通过任务更新之间可测量的交互来构建遗忘的几何视角，将方向重叠与系数耦合区分开来。在此基础上，ChainLoRA 将链式更新训练与流结束后的自适应 SVD 合并相结合。在训练过程中，初始化和单侧正交性代理指标仅使用最后一个载体，使其历史状态占用和正则化开销在任务流增长时保持恒定。在合并阶段，Adaptive SVD 提取共享载体，并通过 Procrustes 适配将其与最新任务对齐。我们的理论分析表明，Procrustes 适配有助于对共享成分和任务特定成分进行几何近似分离。单侧代理指标进一步限制了任务间干扰。此外，有效秩惩罚促进了持续学习过程中任务子空间的高效利用。实验表明，在 Large 和 SuperNI 基准测试中，ChainLoRA 在所评估的无回放方法中取得了当前最佳性能；同时，它在 Standard CL 上也具有竞争力，并且在三个基准测试中的平均得分几乎最接近所评估的有回放方法。
12:00 arXiv cs.LG 75
arXiv:2610.00333v1 公告类型：cross 摘要：多模态在线策略蒸馏（OPD）旨在提升视觉对齐能力，同时保留语言模型强大的推理能力。近期的多教师方法结合 LLM 和 VLM 教师，以提供互补的监督信号。然而，直接使用 VLM 的完整预测分布，会将其视觉对齐信号与自身的语言先验纠缠在一起，使对齐信息无法被独立传递。相反，增强视觉监督强度虽然可以改善感知能力，却可能过度强调视觉证据，从而削弱语言推理能力。为解决这一权衡问题，我们提出 LEGO-OPD，将 Language Expert 和 Grounding expert 中的因子有选择地组合成一个教师分布，用于多模态 OPD。在广义贝叶斯框架下，Language Expert 为候选 token 提供先验，而 Grounding expert 提供视觉似然，用于更新该先验，而不是传递其完整的预测分布。这种因子化组合使语言推理和视觉对齐能够被独立控制。我们进一步引入自适应校准，以确定在每个解码前缀下视觉似然应以多大程度更新语言先验。具体而言，LEGO-OPD 使用 Grounding expert 由图像引起的预测偏移作为依赖于前缀的参照，从而避免视觉监督不足或过度。基于 Qwen3 模型的实验表明，在多模态和纯文本推理任务上，LEGO-OPD 均稳定优于所评估的单教师和多教师 OPD 基线。此外，它在保留纯文本推理能力的同时，提升了初始学生模型的视觉感知能力。
12:00 arXiv cs.LG 82
arXiv:2610.00320v1 公告类型：cross 摘要：微调可使经过对齐的大型语言模型（LLM）适应下游任务，但仅需几十个有害示例，就可能消除它们对有害请求的拒绝行为。先前研究将与安全相关的行为定位到特定层、方向和标记上，为防护提供了目标。我们检验了：成功的定位与恢复是否能够支持经受攻击变化的防御。在来自四个模型系列的六个检查点上，攻击后，有害提示与良性提示仍保持线性可分；将完整的干净隐藏状态注入受损模型后，可在一个可复现的过渡深度恢复拒绝行为。在此前层冻结防御的基础上，我们冻结截至该深度的所有层，并重复攻击。当使用一百个有害示例时，六个检查点上的拒绝率仍接近于零，且恢复过渡点均位于冻结边界之上。在第二项研究中，在四个检查点上进行仅注意力微调后，移除更新中最大的两个奇异方向即可恢复拒绝行为。在 Llama-3.1-8B 上，常规训练变化会削弱这种修复，而将更新分散开的攻击者能够使其失效。在良性 Llama 微调数据上校准的谱检测器，会漏检该检查点上大多数修复失败案例。尽管如此，当少量有害示例意外进入训练数据时，局部冻结仍有助于保持拒绝行为。这些结果表明，攻击者可以绕过通过恢复过程识别出的区域，并击败一种在多个检查点上均有效的修复方法，从而促使我们为防御自适应微调提出五项检查。代码可见于 https://github.com/js-lee-AI/refusal-relocates】【。
12:00 arXiv cs.LG 77
arXiv:2610.02186v1 公告类型：新 摘要：分子学习模型在很大程度上受到其底层表示的影响。然而，标准的序列形式化和图形式化难以显式编码环系统和反复出现的基元等高阶拓扑结构。现有的高阶表示能够直接捕捉这些结构，但通常计算开销较大，并且难以解码为有效分子。在此，我们提出高阶文法表示（Higher-order Grammar Representation，HGR），这是一种具有严格原理且感知拓扑的框架，可将分子提升为组合复形，并依据上下文无关高阶文法，将每个复形解析为紧凑的生成规则序列。通过将高阶拓扑序列化为规则序列，HGR使这些结构能够直接兼容标准序列模型，在保留拓扑表达能力的同时，避免显式高阶编码带来的计算开销。为减少基准测试对简单环系统的偏向，我们构建了RingDiv，这是一个包含118万种分子的富环基准数据集，其中包括经过整理的RingDiv300k子集；同时引入环多样性指数（RDI），用于量化环系统覆盖范围。在分子生成方面，基于HGR的模型独特地将由构造保证的100%有效性与领先的分布对齐能力结合起来，并在全部五项生成基准测试中均以FCD排名第一。在表示学习方面，HGR-FM在七项MoleculeNet基准测试中、两种迁移协议下均取得最高平均AUC；在探测和完全微调设置下，分别比最强基线提升8.3和3.3个AUC点。总体而言，这些结果表明，HGR是一种高效的高阶表示，适用于分子生成和可迁移表示学习。
12:00 arXiv cs.LG 78
arXiv:2610.02185v1 公告类型：新 摘要：Looped Transformers 通过在循环迭代中反复执行共享模块，实现参数高效化。每次循环都会产生一个可用于解码同一下一词元的中间表示，但标准解码会丢弃较早的状态。由于较早的循环包含的计算量较少，循环机制天然提供了对齐的弱预测—强预测对，无需辅助模型或外部训练。我们提出 LoopCD，一种无需训练的对比解码框架，通过将最终预测与较早的循环遍次进行对比来引导词元选择：一种是在 logit 空间中运行，并额外进行一次输出遍次（LoopCD-Logits）；另一种是在隐藏状态空间中运行，不产生任何输出开销（LoopCD-Hidden）。在四类循环式 Transformer 系列上，LoopCD 在完整循环深度下均带来了显著且稳定的提升：LoopCD-Logits 将 Ouro-2.6B-Thinking 在 AIME 2024 上的 pass@1 从 61.88% 提升至 73.33%，而 LoopCD-Hidden 则将 Huginn 在 HumanEval 上的 pass@1 从 22.56% 提升至 31.71%。更重要的是，这些性能提升使循环次数减半后仍能达到或超过完整深度下无引导基线的表现，从而将前向 FLOPs 降低 22.5% 至 48.2%。通过将中间循环状态转化为有效的引导信号，LoopCD 在显著减少推理计算量的同时，实现了更优的解码质量。
12:00 arXiv cs.LG 76
arXiv:2610.01821v1 公告类型：新 摘要：理解大型语言模型（LLM）中的信息处理，需要剖析其内部 token 表示的几何组织方式。尽管现有的机制可解释性（MI）方法试图提取概念，但它们受制于强线性假设，而越来越多关于非线性特征流形的证据对这一假设提出了挑战。我们通过将计算机视觉领域的非线性多维概念发现（Non-Linear Multi-Dimensional Concept Discovery，NLMCD）适配到 LLM 的 token 级激活上，超越线性概念，并将概念建模为低维流形。为了比较不同层和不同模型中的概念流形，我们引入了基于概念的对齐（CBA）分数，这是一种广义 Rand 指数，无需显式特征匹配即可衡量几何邻近性。我们的分析得出六项关键发现：（i）相邻层的合理性检验表明，CBA 比基于 PCA 或 CKA 的线性基线更加敏感；（ii）逐层对齐矩阵揭示了中间层和后期层中的两种块状结构，这一结构在不同模型中具有一致性，却被线性指标所掩盖；（iii）在网络的大部分层中，概念组合始终以句法为主，随后在更后面的层中逐渐转变为混合程度越来越高的句法—语义概念，并且朝向最终层的输出导向性不断增强；（iv）英语与中文之间的多语言概念共享取决于训练，而非普遍存在：在 Qwen 中最强，在 Llama 中较弱，在 GPT-2 中则不存在；（v）模型间的对齐呈现出相同结构：不同规模的同系列 Qwen 模型之间具有较强的对应关系，而不同模型系列之间的对齐较弱；（vi）在 Tulu-3 的训练阶段之间，相邻阶段的对齐程度最高，基础模型与 SFT 之间的变化最大；而后续的偏好对齐阶段（DPO、RLVR）基本不改变早期层，且 RLVR 在后期层大体保留了 DPO 的概念。
12:00 arXiv cs.LG 82
arXiv:2610.01801v1 发布类型：new 摘要：能否通过计算响应嵌入与已知安全响应平均嵌入之间的余弦相似度来评估响应安全性？近期一种 sleeper-agent 检测器正是提出了这一评分方法，但原始正类质心规则并不能被识别：正类观测能够确定安全类别相对于编码器原点的位置，却无法确定区分安全响应与不安全响应的方向。我们使用四种冻结编码器和按提示词分组的划分，在两个由提示词控制、经人工标注的语料库以及一个辅助性的评审标注来源控制集上，对该规则进行了审查。在人工标注语料库中，安全原型的 ROC-AUC 为 0.457–0.545，其中两个实验单元显著低于随机水平、一个高于随机水平；而在相同嵌入上，显式的安全减不安全参考向量达到 0.588–0.738。在评审控制集上，原型的表现发生反转（0.358–0.405），而参考向量达到 0.754–0.793。在经验证集校准的 5%“误判为安全”阈值下，参考向量在 PKU-SafeRLHF 上接受的安全响应更多（跨编码器为 0.153–0.263，而原型为 0.039–0.061），在 Aegis 上也是如此（0.189–0.291，而原型为 0.004–0.045），但在 BeaverTails 上并未稳定地表现出这一优势。完全无标签的留出参考能够恢复参考排序的一部分到大部分；当样本池中只有 5% 为不安全响应时，恢复程度明显降低，而使用 80–634 条带标签的不安全响应则能够恢复其中大部分。仅提示词消融实验表明，提示词—标签构成可能会夸大不受控制的评估结果。这一结果的范围仅限于原始正类质心，并不适用于所有单类方法或专门的安全防护器。类别均值表示的是位置，并不一定代表安全方向；拥有足够不安全样本量的明确参考才能确定方向。
12:00 arXiv cs.LG 72
arXiv:2610.01789v1 公告类型：新 摘要：基于强化学习的扩散模型后训练方法（例如 Denoising Diffusion Policy Optimization（DDPO））在奖励函数下优化反向扩散过程。然而，当前的奖励优化方法往往以牺牲多样性和质量为代价。本文通过严谨的理论分析与方法设计，实现了更优的权衡。我们分析了相关理论框架，并从数学上证明，与先前工作中的结论相反，扩散模型的“仅更新后续时间步”可能会损害多样性。此外，我们基于坚实的理论基础提出了一种增量式 Feynman-Kac 训练方法，以实现目前为止最佳的对齐性与多样性权衡。我们开展了广泛的实验，在三个不同任务中将该方法与相关的扩散策略优化方法进行了比较，并针对每个组件进行了充分的消融实验，从而验证了该方法在对齐性和多样性方面均具有显著的性能提升。
12:00 arXiv cs.LG 77
arXiv:2610.01076v1 公告类型：new 摘要：结构化电子健康记录（EHR）以临床代码序列的形式记录患者的临床轨迹。要从此类记录中回答临床问题，既需要了解完整轨迹的上下文，也需要掌握支持答案的具体事件。我们提出 GLoC-EHR，这是一种多模态语言模型，通过轨迹的固定大小全局记忆和所选事件的局部记忆，读取记录的上下文编码。该模型学习利用全局记忆生成住院过程摘要，并利用局部记忆生成被掩码概念的描述，同时使二者与临床文本对齐。随后，通过先进行推理依据微调，再采用群组相对策略优化（GRPO）进行训练，使模型在回答前引用证据；优化奖励包括答案正确性和记录支持的证据。在三项 MIMIC-IV 结局任务中，GLoC-EHR 直接作答时，在参与比较的模型中取得了最高的宏平均 AUROC，而读取序列化记录的零样本 LLM 远远落后。采用循证推理后，其宏平均 AUROC 仍接近直接多任务版本；同时，目标函数中的证据项在相近宏平均 AUROC 下减少了不受支持的证据。局部记忆增加了具有独特性的受支持发现，尤其是在严格匹配条件下，而宏平均 AUROC 没有可检测到的变化。在无需重新训练的情况下，GLoC-EHR 在 EHRSHOT 上的表现与 EHR-BERT 相当，并且在两个未见过的实验室问题上优于对其自身骨干模型进行零样本提示的表现。
12:00 arXiv cs.LG 73
arXiv:2610.01062v1 公告类型：新 摘要：激活引导为控制生成模型的情感、风格和有用性等属性提供了一种简单且无需训练的机制。然而，Difference-in-Means 等标准方法在所有激活上使用单一、与输入无关的引导向量，限制了表达能力，也忽略了激活空间的局部几何结构。我们提出 Kernelized Activation Steering（KAS），这是一个将激活引导提升至再生核希尔伯特空间的统一框架。KAS 将引导表述为一个完全通过核评估实现的优化问题，从而在不构造显式特征映射的情况下，得到隐式的、依赖于激活的引导分数。不同于 DiM，KAS 实现了局部自适应引导：每个激活都会根据其相对于源参考集和目标参考集的相对位置进行修改，从而在表示空间中形成非线性的引导场。重要的是，在使用线性核时，DiM 可作为 KAS 的特例被恢复，而更丰富的核则能够实现感知几何结构的干预。在包括越狱 LLM 和图像风格控制在内的标准激活引导任务中，KAS 的表现优于现有方法或与之相当。
12:00 arXiv cs.LG 73
arXiv:2610.01028v1 公告类型：新 摘要：机器学习模型在子群体偏移下往往会出现性能下降，尤其是当伪相关导致模型依赖无法跨子群体泛化的捷径特征时。近期一类研究通过使用基于损失的信号来识别信息量较大的样本，从而缓解这一问题；但在存在标签噪声时，这些信号可能会严重失真：错误标注的样本同样可能产生较大的损失，并污染后续的重加权或再训练过程。尽管这一交叉问题具有重要的实际意义，但相关研究仍十分有限。我们提出 POTER，这是一种基于最优传输的重加权框架，通过刻画训练分布与利用有限验证集群体标注构建的参考分布之间的传输几何关系，来确定样本的重要性。POTER 在单个样本层面衡量对齐程度，而不是依赖损失，因此会降低错误标注样本或与偏差高度一致的样本的权重，同时提高与参考分布更加一致的样本的重要性。此外，POTER 仅需一个 ERM 训练阶段，突破了近期研究中常见的再训练范式。在标准基准和噪声标签设置下，POTER 在最差群体准确率方面达到了最先进水平，包括标签污染集中于少数群体的情况。
12:00 arXiv cs.LG 78
arXiv:2610.00948v1 公告类型：新 摘要：GUI 模型周围的可执行工具链决定了如何组织观测、执行动作，以及控制验证、恢复和终止。与非 GUI 智能体的工具链优化相比，自动优化这一工具链面临三个相互耦合的挑战：协调模型意图与观测到的视觉效果；在执行结果具有变化性的情况下诊断失败；识别跨任务反复出现的失败模式，并将其转化为可复用的运行时修改。我们提出 GUI-HARVEST，这是一种自动工具链优化器，可在骨干模型冻结的情况下实现自我改进的 GUI 智能体。首先，为使诊断以观测到的动作效果为依据，它将模型输出和已执行的动作与前后截图对齐，把发现的问题关联到具体的界面转换。其次，为应对执行变化性，它将同一任务的多次运行视为一个联合证据单元，通过任务内比较定位与结果相关的行为差异。第三，它汇总跨任务验证过的发现，形成反复出现的失败模式，将其映射为有界的源代码修改，并在评估前记录预测结果；随后通过重复执行，在任务性能之外检验预测的行为影响。在 OSWorld-Verified 上的实验表明，GUI-HARVEST 在六个通用开源、GUI 专用开源及专有骨干模型上均取得了稳定的留出集提升；Qwen3-VL-32B-Instruct 在完整测试套件上的得分提升了 12.33 个百分点。在无需进一步优化的情况下，冻结工具链迁移使 GPT-5 在 50 步限制下于 WindowsAgentArena 上提升了 13.87 个百分点。在使用相同骨干模型和初始工具链的条件下，GUI-HARVEST 的表现优于 Self-Harness 和 Meta-Harness，这表明面向 GUI 的诊断与验证有助于使工具链改进泛化到未见任务。代码可在 https://github.com/GaryYang12345/GUI-HARVEST 获取。
12:00 arXiv cs.LG 80
arXiv:2610.00767v1 发布类型：新 摘要：预训练干预对对齐研究至关重要，因为模型在预训练期间形成的信念会影响其从后续训练中进行泛化的方式。最近一种广受关注的干预技术是合成文档微调（SDF），旨在改变模型所相信的内容。理想情况下，合成文档应混入预训练或中期训练中，但对预训练语料库的任何改动，都必须在测量其效果前进行一次完整的后训练流程，这使得迭代缓慢且成本高昂。因此，通常的做法是对已经完成后训练的模型应用 SDF。已知这会留下伪影并削弱模型能力；正如我们所展示的，它还会使模型将与这些文档无关的虚构实体当作真实存在的实体，我们将这一失败称为现实漂移。我们提出了“嫁接”方法：在预训练检查点上训练 SDF 适配器，然后将所学到的权重更新添加到后训练模型中，从而在复用现有后训练成果的同时，近似忠实的实现方式。我们在多个模型系列上验证了这一方法，模型规模最高达 284B 参数，涵盖植入虚假事实、训练失对齐模型生物，以及应用宪法式中期训练干预等场景。与直接对后训练模型应用 SDF 相比，嫁接能够同样强有力地植入目标信念，同时使现实漂移和偏好一致性损失平均降低一半以上，并且更接近忠实的中期训练结果。由于嫁接不需要后训练，同一个适配器可以应用于任何后续检查点，使研究人员只需付出一次微调运行的成本，就能快速迭代预训练干预。
12:00 arXiv cs.LG 77
arXiv:2610.00586v1 公告类型：新增 摘要：激活内存而非计算量限制了微控制器等受限硬件上的 CNN 推理。直接原位卷积可以消除双缓冲开销，但 Gural 和 Murmann 提出的内存最优形式假设使用有效填充、单位步幅、单位膨胀率和奇数方形卷积核，并且需要非顺序遍历，转置操作会使推理时间增加至 $2\times$。我们发现了两种其已发表的闭式形式不成立的情形：（1）少分配了恰好 $(k-1)C_{in} \bmod (C_{out}-C_{in})$ 个标量；这一问题存在于其实际部署网络的每一层卷积中，并表现为对仍处于生命周期内的输入造成静默破坏；（2）当关键路径离开输出网格后，会出现无界的高估，最高可达 $2{,}432\times$。我们修正了这两个问题，并将方法推广到任意步幅、膨胀率、填充方式和矩形卷积核。随后，我们提出 Right In-Place（RiP）卷积：一种逐位相同的操作，其中每一层都在共享工作区中读取右对齐的输入，并从索引零开始写入左对齐的输出。该内存间隔需求关于输出像素索引呈分段仿射形式，因此只需在 $O(1)$ 时间内计算其断点，即可在不枚举输出网格的情况下得到最小安全间隔，同时保持行优先访问。在 $10{,}000$ 个随机层上，RiP 未产生任何数据破坏；在来自 25 种架构的 84 个卷积层上，它在其中 58 层与 herringbone 工作区完全匹配，在 81 层的差异不超过 5%；与双缓冲相比，平均内存占用减少了 24.8%。将其写入 TinyEngine 的内核并部署到 Raspberry Pi Pico 1 和 Pico 2 后，在周期数不变且输出逐位相同的情况下，11 个 MCUNet 模型的峰值激活内存降低了 12.5% 至 33.3%，使能够装入 Pico 1 的 256 KB SRAM 的模型数量从 6 个增加到 9 个。
12:00 arXiv cs.LG 76
arXiv:2610.00580v1 公告类型：新 摘要：在协作式基础模型微调中，客户端数据很少是同质的。相反，客户端通常拥有由不同数据分布（即任务）构成的未知混合。传统联邦学习主要处理客户端之间的异质性，却没有明确解决每个客户端内部潜在的任务混合问题。我们将这一情形称为复合异质性，即数据在客户端之间以及客户端内部都具有异质性。我们研究了基于共享冻结表示的适应，并表明，当任务具有相同的特征几何结构时，在平方损失下，针对客户端任务混合的最优模型是其底层任务最优模型的凸组合。因此，单个本地训练模型代表客户端的整体任务混合，而单个输入可能来自不同的底层任务分布。这促使我们将输入路由至专用专家；我们还表明，当任务最优解构成一个单纯形时，对于真正包含混合任务的客户端，与使用任何单一适应模型相比，任务对齐的路由能够实现更低的风险。在拥有少量带任务标签的公共样本的情况下，我们推导出一个凸优化程序，用于恢复任务专家并将其与对应任务匹配。我们的路由分析表明，有效的专门化需要依赖输入的专家选择，并与每个客户端的任务混合相一致。受这一分析启发，我们提出了 FedSEE。在所有实验中，FedSEE 避免了所评估基线中观察到的负迁移，整体性能提升了 2.9 个百分点，对于表现最差的四分位客户端，性能提升了 3.7 个百分点。
12:00 arXiv cs.LG 74
arXiv:2610.00493v1 公告类型：新 摘要：LoRA 专家混合方法通过将每个词元路由至少数低秩专家，提升了低秩适配的容量。几乎所有这类方法都会将每个专家的一个输入侧因子与一个输出侧因子绑定在一起，而且几乎都通过对词元评分来进行路由：路由器在看不到任何专家将写入什么内容的情况下选择专家。我们认为，路由器应当对更新进行评分。一阶近似下，将某个专家的更新添加到层输出中，会使损失降低的幅度等于该更新与输出处负损失梯度之间的内积。这种有效性关于词元是二次的，因此对词元呈线性的路由器只能看到其中经由词元均值传递的部分；而那些依据专家自身激活值的范数对专家排序的路由器，则完全看不到输出因子。如果将每个专家拆分为读取器（下投影）和写入器（上投影），每个读取器—写入器组合的有效性就会变成共享秩-$r$空间中的内积，并且全部 $N_AN_B$ 个组合都可以利用 $N_A+N_B$ 个向量完成评分。我们基于这一恒等关系构建了 VANE。一个低秩指南针预测每个词元的下降方向。VANE 通过其更新与指南针之间的对齐程度为每个组合评分，而无需构造任何更新；它采用带加性门控的方式激活得分最高的前-$k$ 个组合，并为每个组合提供精确的一阶路由器梯度。在使用 Llama-3.2-3B 和 Llama-3.1-8B 进行的单领域常识推理任务，以及一个包含四个领域的多任务混合任务中，VANE 在十二个 PEFT 和 MoE-LoRA 基线方法中取得了最高的平均成绩，分别领先 0.9—1.1 分和 1.3—1.5 分；与此同时，其可训练参数不到 8 专家 MoE-LoRA 的一半。与词元路由器相比，其路由器评分也与实测的专家有效性更加吻合。
12:00 arXiv cs.LG 76
arXiv:2610.00405v1 公告类型：新 摘要：时间序列基础模型（TSFMs）在各类预测任务中表现出色，但其针对单个序列的推理方式并不适用于邻居丰富型预测场景，在这种场景中，每个查询都可以访问相关但并不相同的历史序列。连续血糖监测（CGM）和 Web/云工作负载就是这类场景的典型例子：CGM 轨迹具有相似的生理模式，但会因个体、设备和状态不同而有所差异；Web/云工作负载则兼具常见运行状态与非平稳性、重尾分布和突发性。这些历史序列共享有用结构，但邻居序列的相关性并不相同。现有方法要么针对每个目标域对 TSFMs 进行微调，带来额外成本且在不同骨干模型之间的迁移能力有限；要么直接附加检索到的序列，而不验证这些序列是否有助于当前预测。其主要挑战在于：邻居序列提供的残差信息可能相互冲突，并且残差模式会随 TSFMs 和预测任务而变化。我们提出测试时邻域扩展这一问题设定：在不修改骨干模型的情况下，利用同域邻居信息。我们提出 RACE（Residual-Aware Correction of Forecasting Errors，预测误差的残差感知校正），这是一个利用历史邻居序列的两阶段框架。首先，我们检索与查询兼容的邻居序列，将其残差对齐到查询序列的尺度，并将一致性证据聚合为无需训练的 RACE-TF 校正。随后，完整的 RACE 使用轻量级、特定于领域的 Gate 来判断何时应用该校正有利，同时支持在不同 TSFM 骨干模型之间复用训练流程。在四个 TSFMs 上，RACE 在两个主要领域的全部三个领域聚合指标上均取得提升，并且在高误差查询上的增益最大。在每个领域内，在一个 TSFM 上训练的 Gate 无需适配即可迁移到其他骨干模型；与对应的冻结目标相比，最终流程在全部 72 项跨骨干模型指标比较中均实现了提升。
12:00 arXiv cs.LG 71
arXiv:2610.00385v1 公告类型：new 摘要：回放选择器通常依据格式反馈、置信度、新鲜度或响应长度对缓存轨迹进行排序，然而缓存级正确性与下游学习器效用是两个不同的目标。我们形式化了这一选择到学习的差距，并提出 FAER，作为一种可审计的全轨迹回放框架。其无需训练的固定选择器是一个协议基线；FAER-UTILITY 则是在互不相交的校准块上拟合的学习器感知选择器。归一化梯度对齐作为基线进行报告，同时通过一次性、感知优化器的虚拟更新提供考虑幅度的效用曲面。在评估标签合并之前，审计契约会冻结已观测字段和回放轨迹。在 GSM8K 上使用 Qwen2.5-1.5B-Instruct 进行的匹配学习器研究表明，在 128 次更新下，固定选择器的质量为 0.6329，相比之下，均匀选择器为 0.5482，格式反馈选择器为 0.6037。仅使用元数据的交叉拟合校准在八个随机种子上达到 $0.6476\!\pm\!0.0139$（中位数为 0.6481；配对 95% 区间为 $[+0.079,+0.122]$），目标运行使用 63,276 个词元；其记录的总成本为 189,642 个词元和 3.48 个 GPU 小时，其中包括校准。完整的 FAER-UTILITY 行在目标运行使用 62,844 个词元，并达到 0.6624，耗时 4.26 个 GPU 小时。格式反馈选择出的记录正确率为 0.6953，而固定选择器为 0.3594，尽管二者的下游排序不同。完整的比较结果展示了学习器感知消融实验、相同随机种子下的差距、策略优化结果行以及严格零样本迁移。
12:00 arXiv cs.LG 71
arXiv:2610.00365v1 公告类型：新 摘要：近期，蒸馏和流映射模型的发展实现了高质量数据的确定性单步或少步生成，推动了奖励对齐方法的新分支：直接优化来自高斯分布的初始噪声。然而，现有的大多数初始噪声优化方法依赖一阶梯度信息，而在黑盒奖励场景中，这类信息要么无法获取，要么存在不稳定和低效的问题。为此，我们提出了 ZeNOVA，一种以无梯度方式实现的稳定且高效的初始噪声对齐方法。具体而言，我们通过退火软值引导、流形约束的超球面 Langevin 动力学以及 Metropolis-Hastings 跳跃，解决现有算法在黑盒场景中的主要挑战。在图像和视频生成模型上的大量实验表明，ZeNOVA 能够利用高斯先验的几何结构，将初始噪声优化至获得更高奖励的方向，并以显著更高的稳定性超越所有参与评估的零阶基线方法，展示了其在各种黑盒奖励对齐任务中的实际适用性。
12:00 arXiv cs.LG 73
arXiv:2610.00102v1 公告类型：新摘要：许多机器学习（ML）应用依赖专家标注，而具备资质的专家可能会对同一观测给出不同但都合理的解释。专家标注之间的这种差异可能反映真实的分歧或歧义，而非标注错误。当不同专家进一步报告区间而非精确值时，监督信号中便包含两种不同来源的标注不确定性：标注内部的不精确性和专家之间的差异。现有方法通常将这两种形式分开处理：多专家方法会将标注合并为共识，区间目标方法通常只产生单一预测，而预测不确定性方法很少根据观测到的专家分歧来验证其不确定性估计。为解决这一问题，我们提出一种保留各个专家区间的方法，将标注内部的不精确性与专家之间的差异分离开来，并验证相应的预测不确定性成分。首先，我们将异构的标注词汇统一到一个共同的概率标注空间中，从而区分编码差异与专家判断。其次，我们保留单个标注区间，并使用基于适当 Cramér 距离目标训练的 Beta 分布混合模型对其进行建模，从而保留专家报告的不同标注。第三，我们将预测不确定性分解为成分内部不确定性、成分间不确定性和模型不确定性，并评估这些成分是否分别对应于标注内部不确定性、标注间不确定性和模型误差。由于这种对应关系并非必然成立，我们引入分解匹配，将预测成分与其预期的标注侧来源对齐。在海冰浓度任务上，该模型相较于硬标注将 MAE 降低了 31%，并且优于聚合、区间分布和区间回归基线方法。
17:00 BAIR Blog 53
Congratulations to the Berkeley Artificial Intelligence Research (BAIR) Lab class of 2026! This year, BAIR celebrates another remarkable group of Ph.D. graduates whose curiosity, creativity, and perseverance have pushed the frontiers of artificial intelligence and machine learning. Their work spans the breadth of modern AI — robotics and embodied intelligence, large language models and reasoning, computer vision, generative modeling, AI safety, human-AI interaction, AI for science and healthcare, and much more. Along the way, they have published influential research, built systems with real-world impact, mentored their peers, and shaped the BAIR community for the better. Now they are headed everywhere ideas travel: to faculty and postdoctoral positions, to industry research labs, and to startups of their own founding — and several are still exploring what comes next and would love to hear from you. Please join us in celebrating the achievements of these wonderful graduates. We are proud of everything they have accomplished at Berkeley, and we can’t wait to see what they do next! Thank you to our friends at the Stanford AI Lab for this idea! Baifeng Shi Baifeng Shi Email: baifeng_shi@berkeley.edu Website: https://bfshi.github.io/ Advisor(s): Trevor Darrell Research Blurb: I work on building generalist vision and robotic models. What's next: Member of Technical Staff at Physical Intelligence Charlie Snell Charlie Snell Email: csnell22@berkeley.edu Website: https://sea-snell.github.io Advisor(s): Dan Klein Research Blurb: My work aims to understand when and how the different LLM scaling paradigms can be traded off and interchanged. In particular, test-time scaling treats each prompt independently, drawing long chains of inferences and then forgetting them entirely between prompts. This differs critically from pretraining, which instead learns a compressed representation from a large dataset. I believe bridging the gap between these methods of scaling computation, presents a key open challenge in the field: how can we develop methods which turn the inferences drawn at test-time back into learned representations that the model can hold onto across interactions. Devin Guillory Devin Guillory Email: dguillory@berkeley.edu Website: https://devinguillory.com Advisor(s): Trevor Darrell Research Blurb: Accounting for data shifts in computer vision models What's next: Building collaborative AI systems, looking for conspirators. Eve Fleisig Eve Fleisig Email: efleisig@berkeley.edu Website: https://efleisig.com Advisor(s): Dan Klein Research Blurb: I design language models to work reliably and fairly for the broad range of real LLM users. First, my research leverages disagreement among user preferences as signal, in order to train and evaluate LLMs for entire populations of users. Second, I work on designing rigorous evaluations to extricate challenging LLM harms that diverse users face. Finally, I work on core technical failures of LLMs, like miscalibrated confidence, to reduce downstream risks when models are deployed to users with different needs. Combined, these interventions facilitate building LLMs that minimize societal harms, and maximize benefits to a wider range of real-world users. What's next: Postdoctoral fellow at Princeton CITP Grace Luo Grace Luo Email: graceluo@berkeley.edu Website: https://graceluo.net Advisor(s): Trevor Darrell Research Blurb: My research is on interpreting and controlling generative models. For example, I've worked on re-purposing image generators for computer vision tasks, and meta-modeling language activations for better LLM probing and steering. What's next: Research scientist in industry Hanlin Zhu Hanlin Zhu Email: hanlinzhu@berkeley.edu Website: https://hanlinzhu.com/ Advisor(s): Stuart Russell, Jiantao Jiao Research Blurb: My research centers on understanding and improving the reasoning capabilities of large language models (LLMs). What's next: Member of Technical Staff at OpenAI Haozhi Qi Haozhi Qi Email: hqi@berkeley.edu Website: https://haozhi.io/ Advisor(s): Jitendra Malik, Yi Ma Research Blurb: Dexterous Manipulation and Robot Learning What's next: Research scientist at Amazon; Faculty at University of Chicago J.D. Zamfirescu-Pereira J.D. Zamfirescu-Pereira Email: zamfi@berkeley.edu Website: https://zamfi.net Advisor(s): Bjoern Hartmann Research Blurb: My research focuses on effective human-AI co-design. I study the boundaries of language interfaces as a medium for interacting with AI, creating systems that blend language-focused interactions with structured user interfaces that draw on different levels of abstraction. I focus on language-oriented technologies, like LLMs and text-to-image models, that are powerful mediators of design processes. These technologies enable humans to describe their desires at almost any level of abstraction, from high-level goals vaguely specified (“I’d like a game to help my kid learn to read”) to low-level corrections of undesired outputs (“Don’t say ‘I know because I’ve tasted it’ when about a recipe substitution's taste”). What's next: Assistant Professor, Computer Science, UCLA Jiachen Lian Jiachen Lian Email: jiachenlian@berkeley.edu Website: https://jlian2.github.io Advisor(s): Gopala Anumanchipalli Research Blurb: My research focuses on human-centered AI across speech, healthcare, and systems. Looking for: Look for AI talents to join our startup Josh Kang Josh Kang Email: minwoo_kang@berkeley.edu Website: https://joshuaminwookang.github.io/ Advisor(s): John Canny Research Blurb: I study language modeling and related topics in NLP; specific interests are human user simulation and building conversational, collaborative AI agents. What's next: AI Scientist at Mistral AI Junhao (Bear) Xiong Junhao (Bear) Xiong Email: junhao_xiong@berkeley.edu Website: https://www.linkedin.com/in/junhao-bear-xiong Advisor(s): Jennifer Listgarten, Yun Song Research Blurb: Junhao (Bear) Xiong is a PhD candidate at UC Berkeley, advised by Jennifer Listgarten and Yun S. Song. His work focuses on machine learning methods for biology, with an emphasis on generative modeling for proteins. Previously, he studied Applied Math and Computer Science at Johns Hopkins. Looking for: Research scientist Kaylo Littlejohn Kaylo Littlejohn Email: kaylo_littlejohn@berkeley.edu Website: https://kaylolittlejohn.com Advisor(s): Gopala Anumanchipalli Research Blurb: My research is focused on speech modeling and natural language processing. I co-led the development of multimodal AI tools to accurately translate brain activity into text, audible personalized speech, and a high-fidelity "digital talking avatar" (Nature 2023, Nature Neuroscience 2025). I am also tech lead for voice modeling at Roblox. Looking for: Research Scientist / Engineer Kent Chang Kent Chang Email: kentkchang@berkeley.edu Website: https://kentkc.org Advisor(s): David Bamman Research Blurb: I work on NLP and multimodal machine learning, with a focus on evaluating large language models and building multimodal systems for understanding dialogue, narrative, and social interaction. My research includes benchmarks for LLM memorization, multimodal datasets sourced from feature films and television, and studies of model behavior. I'm interested in bridging computational methods with questions from the humanities and social sciences about whose voices get represented in AI systems, and about AI's broader impact. My work has appeared at EMNLP and ACL, among others. Looking for: (teaching) faculty, Research Scientist, ML/AI SWE Kevin Black Kevin Black Email: kvablack@berkeley.edu Website: https://kevin.black Advisor(s): Sergey Levine Research Blurb: I work on large-scale robot learning: including imitation learning, reinforcement learning, generative modeling, real-time control, and whatever else it takes to make robots work in the real world! What's next: Research Scientist of Physical Intelligence Kunhe Yang Kunhe Yang Email: kunheyang@berkeley.edu Website: https://www.kunheyang.com/ Advisor(s): Nika Haghtalab Research Blurb: My research focuses on the theoretical foundations of designing and evaluating AI algorithms in environments shaped by human incentives and AI agency. My work spans human-centric policy learning, incentive-aware evaluation, and multi-agent collaboration and information transmission, drawing on tools from machine learning theory and computational economics. What's next: Postdoc Research at Stanford Lisa Dunlap Lisa Dunlap Email: lisabdunlap@berkeley.edu Website: https://lisabdunlap.com Advisor(s): Joseph Gonzalez, Trevor Darrell Research Blurb: Auditing generative models. What's next: Research Engineer at Anthropic Long (Tony) Lian Long (Tony) Lian Email: longlian@berkeley.edu Website: https://tonylian.com/ Advisor(s): Trevor Darrell, Adam Yala Research Blurb: My research primarily focuses on developing real-time multi-modal multi-agent systems and parallel reasoning systems through end-to-end RL. What's next: Member of Technical Staff at Thinking Machines Lab Maulik Bhatt Maulik Bhatt Email: maulikbhatt@berkeley.edu Website: https://maulikb.com Advisor(s): Negar Mehr Research Blurb: My research develops autonomous robots that can safely coordinate with humans and other robots in shared environments. I build scalable algorithms grounded in game theory and diffusion models that let agents reason about the intent and behavior of others around them. My work spans real-time multi-agent trajectory planning and imitation learning in the presence of multi-modality. I've validated these methods on hardware platforms ranging from quadrotors to manipulators, with the goal of making multi-agent coordination robust, interpretable, and deployable in the real world. What's next: Joining Toyota Woven's end-to-end autonomous driving team. Michael Psenka Michael Psenka Email: psenka@berkeley.edu Website: https://www.michaelpsenka.io/ Advisor(s): Aditi Krishnapriyan Research Blurb: Work in various domains (reinforcement learning, world models, AI+bio/chem), generally working on longer-horizon and out-of-distribution problems in planning and interpolation (e.g. robot manipulation from start state to goal, molecular dynamics of proteins between ground states). My thesis took a variational approach (think calculus of variations) directly from deep generative models of the environment, framing path-finding as minimizing a functional induced by the learned model itself (its score, its critic, or its dynamics). Through my research I've gained insight on how to properly handle dynamics in deep learning systems, and I plan to continue developing systems that are dynamic and adaptive. What's next: Lead Research Scientist at Baseten Nathan Lichtlé Nathan Lichtlé Email: nathan.lichtle@gmail.com Website: https://nathanlichtle.com Advisor(s): Alexandre M. Bayen Research Blurb: RL for autonomous driving. What's next: Chief Scientist & Co-founder at Yumi Health Neerja Thakkar Neerja Thakkar Email: nthakkar@berkeley.edu Website: https://neerja.me/ Advisor(s): Jitendra Malik Research Blurb: My research focuses on scaling predictive world models to handle the complexity of in-the-wild motion. Using autoregressive and diffusion frameworks, I develop better representations for real-world prediction and propose methods to efficiently adapt these models to new domains. Looking for: Research scientist Nikita Mehandru Nikita Mehandru Email: nmehandru@berkeley.edu Website: https://n-mehandru.github.io/ Advisor(s): Ahmed Alaa and David Bamman Research Blurb: My research develops and applies machine learning methods for clinical reasoning and disease progression modeling using unstructured text and time series data from electronic health records. In collaboration with physicians at UCSF, I bridge method development and clinical validation with the intention to build reliable, interpretable AI systems in medicine. Looking for: Research Scientist Niklas Lauffer Niklas Lauffer Email: nlauffer@berkeley.edu Website: https://niklaslauffer.github.io/ Advisor(s): Stuart Russell and Sanjit Seshia Research Blurb: Niklas's research is focused on AI safety and reinforcement learning, particularly in the area of multi-agent interaction and LM agents. He's worked on enabling adversarial learning in cooperative and mixed-motive settings, solving issues of covariate shift in training LM agents on long-horizon tasks, as well as evaluating safety risks posed by LM agents in multi-agent settings. What's next: Research Scientist at Google Deepmind Qiyang Li Qiyang Li Email: qcli@berkeley.edu Website: https://colinqiyangli.github.io/ Advisor(s): Sergey Levine Research Blurb: Recent progress in robotic manipulation policy learning has been largely driven by (1) the increasing availability of large-scale prior datasets and (2) the success of action chunking, where the policy predicts a short sequence of future actions rather than a single one. However, most action chunking policies are trained via supervised imitation learning, because efficient online self-improvement with reinforcement learning (RL) remains challenging—limiting real-world applicability. My PhD research studied how we could leverage prior data to optimize action-chunking policies with RL, combining empirical results with theoretical insights. Looking for: Post-doc/research scientist for RL in robotics and LLMs! Sampada Deglurkar Sampada Deglurkar Email: sampada_deglurkar@berkeley.edu Website: https://sdeglurkar.github.io/ Advisor(s): Prof Claire Tomlin Research Blurb: My research is in providing safety assurances for AI-enabled autonomous systems, ranging from robots to autonomous vehicles to aviation systems. For this, I have worked with uncertainty quantification for machine learning models, decision-making under uncertainty algorithms, and tools for producing probabilistic guarantees on system operation. Looking for: Research scientist, Research engineer Vinamra Benara Vinamra Benara Email: vbenara@berkeley.edu Website: https://cs.berkeley.edu/~vbenara Advisor(s): Ion Stoica Research Blurb: My research focuses on LLM post-training, including data curation, RLHF, RLVR with VLMs, evaluations, reasoning, agentic workflows, and interpretability. I also have strong expertise in systems infrastructure for distributed computing. Looking for: Research scientist / Research Engineer Vongani Maluleke Vongani Maluleke Email: vongani_maluleke@berkeley.edu Website: https://people.eecs.berkeley.edu/~vongani_maluleke/ Advisor(s): Jitendra Malik and Angjoo Kanazawa Research Blurb: Vongani Maluleke is a PhD candidate at UC Berkeley (BAIR, advised by Jitendra Malik and Angjoo Kanazawa), where she led the development of MAGNet, a unified multi-agent motion generation framework that supports a wide range of motion generation tasks without retraining or architectural changes, outperforming task-specialized state-of-the-art baselines. She is currently extending this work by deploying it on a Unitree G1 humanoid to make it embody social intelligence. Before her PhD, she was a Senior AI Consultant at Deloitte, awarded Exceptional Performer two consecutive years, leading AI system development across media, telecommunications, retail, and financial services. Looking for: Research scientist Wei-Jer Chang Wei-Jer Chang Email: weijer_chang@berkeley.edu Website: https://weijer-chang.github.io/ Advisor(s): Masayoshi Tomizuka Research Blurb: My research focuses on developing safe and intelligent autonomous systems for complex, human-centered environments. I work at the intersection of machine learning, generative models, and reinforcement learning, with applications in autonomy. My work addresses challenges in multi-agent interaction, interactive human behavior, and long-tail safety-critical scenarios at scale. Looking for: Research Scientist, Applied Scientist, Roboticist Xiuyu Li Xiuyu Li Email: xiuyu@berkeley.edu Website: https://xiuyuli.com/ Advisor(s): Kurt Keutzer Research Blurb: My research focuses on developing scalable and self-improving large language model agents, with emphasis on coding agents for complex, long-horizon tasks. This direction builds on my work in parallel reasoning, and on broader expertise in making generative models more efficient in training and inference across language and vision. What's next: Member of Technical Staff at xAI Yichen Xie Yichen Xie Email: yichenxie0928@gmail.com Website: https://yichen928.github.io/ Advisor(s): Masayoshi Tomizuka Research Blurb: My research focuses on building multimodal foundation models and world models that understand and interact with complex physical environments. I aim to develop unified representations across modalities, enabling AI systems to reason over space, time, and dynamics toward general-purpose embodied intelligence. What's next: Research Scientist at Luma AI Yigit Efe Erginbas Yigit Efe Erginbas Email: erginbas@berkeley.edu Website: https://www.linkedin.com/in/erginbas/ Advisor(s): Kannan Ramchandran, Thomas A. Courtade Research Blurb: My PhD research spans two threads: online learning in large-scale markets, and interpretability of large machine learning models. In the first, I work on sequential decision-making with applications to recommendation, pricing, and assortment selection. My focus is on designing algorithms with provable guarantees for welfare maximization, revenue maximization, and stability. In the second, I develop scalable attribution methods that exploit the sparse, low-degree structure of real-world interactions, using tools from signal processing and information theory. More recently, I have been exploring principled ways to evaluate the faithfulness of model self-explanations. What's next: Researcher at Hudson River Trading's AI Labs (HAIL) Yiheng Li Yiheng Li Email: yhli@berkeley.edu Website: https://Yihengli.com Advisor(s): Masayoshi Tomizuka Research Blurb: I am working on vision world modeling, with prior experience in diffusion model's efficiency as well as in autonomous driving. What's next: Research Scientist at Waymo Zhe Fu Zhe Fu Email: zhefu@berkeley.edu Website: https://fu-zhe.com/ Advisor(s): Alexandre Bayen Research Blurb: My research focuses on physics-informed learning and control for mixed-autonomy systems, with applications in transportation. I design physics-informed neural networks to learn solutions of nonlinear partial differential equations, enabling accurate and data-efficient prediction of traffic dynamics. Building on these models, I develop both model-based and learning-based control strategies that coordinate automated vehicles to improve system-level performance. My work bridges machine learning, control, and real-world deployment, and has been validated in large-scale field experiments. More broadly, I aim to advance trustworthy, interpretable AI for decision-making in complex, real-world systems. What's next: I will be an Energy Fellow at Stanford after graduation. Also looking for Faculty, or research scientist positions in AI, control, and autonomy.
08:00 Hugging Face Blog 70
08:00 Hugging Face Blog 73
08:00 Hugging Face Blog 57
08:00 Hugging Face Blog 90
08:00 Hugging Face Blog 70
08:00 Hugging Face Blog 66
08:00 Hugging Face Blog 58
01:58 arXiv cs.AI 79
分子学习模型在很大程度上受到其底层表示的影响。然而，标准的序列和图形式化方法难以显式编码环系统和重复基元等高阶拓扑结构。现有的高阶表示能够直接捕捉这些结构，但通常计算开销较大，且难以解码为有效分子。在此，我们提出高阶文法表示（Higher-order Grammar Representation，HGR），这是一种具有理论原则且感知拓扑结构的框架，可将分子提升为组合复形，并在高阶上下文无关文法下，将每个复形解析为紧凑的生成规则序列。通过将高阶拓扑序列化为规则序列，HGR 使这些结构能够直接兼容标准序列模型，在保留拓扑表达能力的同时，避免显式高阶编码所带来的计算开销。为减少基准测试对简单环系统的偏向，我们构建了 RingDiv，这是一个包含118万种分子的富环基准数据集，其中包括经过筛选的 RingDiv300k 子集；同时引入环多样性指数（ring diversity index，RDI）来量化环系统覆盖范围。在分子生成方面，基于 HGR 的模型独特地兼具由构造保证的100%有效性和领先的分布对齐能力，在全部五个生成基准测试中均以 FCD 排名第一。在表示学习方面，在两种迁移协议下，HGR-FM 在七个 MoleculeNet 基准测试中均取得最高的平均 AUC；在探测和全量微调设置下，其性能分别比最强基线提高8.3和3.3个 AUC 点。总体而言，这些结果表明，HGR 是一种适用于分子生成和可迁移表示学习的高效高阶表示。
16:49 arXiv cs.AI 80
安全对齐的大语言模型（LLMs）通常会拒绝有害请求，但当相同目标被分散到多个轮次后，却可能予以配合。偏好目标对单个提示的完整响应进行评分，因此仅凭其训练损失无法控制未见历史中的风险。我们的分析给出了充分条件：在受监督的单轮上下文中进行抑制，即可对多轮轨迹风险建立界。该界考虑了覆盖范围、迁移松弛和泄漏，并刻画了相对于基础策略风险预算的收缩程度；该预算是在训练策略的上下文上评估的。TRACE（轨迹回报归因与对比擦除）将这一原理转化为逐词元目标。在安全响应中，每个词元都根据拒答可归因优势的折扣回报进行加权。该优势比较冻结的参考模型与其拒答消融副本，使较早的响应词元能够从较晚出现的拒答相关证据中获得归因。在被拒响应的高差距位置上，TRACE 将观测到的词元与策略选定的替代项结合到擦除目标中。梯度范数惩罚取代了保留集。在五个开放权重模型和七种多轮攻击中，TRACE 在全部 35 个模型—攻击组合中均取得最低的攻击成功率（ASR），而在 MMLU 和 HellaSwag 上评估的模型效用最多下降 1.23 个百分点。源代码见补充材料。
01:26 arXiv cs.AI 74
World Action Models（WAMs）将视觉动力学预测与动作生成相结合，但并未明确支持在不同操作任务之间复用动作经验。此外，现有 WAMs 难以捕捉能够指导目标动作预测的跨任务底层语义关系，因为冗余的背景元素会干扰关键信息的视觉提取。为应对这些挑战，我们提出了一种新颖的 Action Experience Dictionary（AED），将历史物理动作轨迹编码为共享动作嵌入，以支持技能复用并建模跨任务关系。具体而言，我们首先聚合历史动作，使其与视觉观测对齐，并使用预训练动作分词器从 AED 中检索动作嵌入。随后，我们通过交叉注意力对池化后的嵌入进行视觉条件化，并将其置于噪声动作 token 的前面，为预测提供交互上下文和动作意图。为建模与动作相关的运动并减少对无关背景线索的依赖，我们引入了一种运动感知转移损失，在随机时间间隔上监督视觉特征变化预测。在仿真基准以及真实世界跨具身设置上的实验验证了 AED 的有效性。匿名项目网站见 \href{https://github.com/JiahuaDong/AED}{AED}。
01:55 arXiv cs.AI 73
材质生成不仅应产生外观，还应生成构建该外观的规则。我们提出 MatLoom，这是一种面向文本到材质生成的紧凑分层语言，可与预训练语言模型结合使用。每个程序由带有 alpha 蒙版的图层组合而成，各图层共享的空间表达式定义覆盖范围和基于物理的渲染（PBR）通道，从而明确呈现图案、颜色与凹凸之间的依赖关系。独立的解释器会将程序求值为材质贴图，同时保留源代码中的命名字段和图层参数，以便后续编辑。在无需针对特定任务进行微调的情况下，我们的流水线利用解析器引导的修复和基于预览的评议来修改材质设计，随后在保持每个候选方案其余源代码不变的情况下搜索噪声种子。在一个经过筛选、包含 141 条提示词的基准测试中，使用六个骨干模型进行评估时，我们表现最佳的配置在全部四项平面布局提示词对齐指标上的平均得分都高于三种扩散基线。仅凭初始程序，其平均 BLIPScore 就已超过三种基线，尚未进行评议或种子搜索。汇总所有骨干模型后，保留程序的中位长度为 21 行。在一项涉及 30 名参与者和 20 条提示词的盲选四方比较中，我们的渲染结果获得了 59.2% 的选择，而最受偏好的基线为 19.3%。因此，紧凑的可执行程序为生成与提示词相匹配的材质提供了一种途径，同时还能将材质的构建过程作为资产的一部分予以保留。
01:59 arXiv cs.AI 80
近年来，视频生成技术日益逼真且更具可控性，但视频编辑仍相对不够成熟，尤其是在进行精确的局部编辑时，还必须保留原始场景的动态特征。视频场景文本编辑旨在替换场景表面上的文本，例如店面招牌、白板和产品标签上的文字，同时保留周围内容、运动以及相机动态。尽管图像场景文本编辑已得到充分研究，但要同时实现高视觉质量、时间一致性和编辑局部性的视频场景文本编辑，仍缺乏深入探索。现有资源提供的真实视频配对数据有限，而通用视频编辑指标无法直接衡量所请求的文本是否随时间保持正确。我们提出了 ViTeX-Bench，这是一个由 ViTeX-Dataset 和三轴评测协议组成的基准套件。该数据集包含 387 个真实世界的 720p 视频，并配有文本区域掩码和编辑指令：其中 230 个视频提供了经过审核、由处理流程生成的配对编辑结果，用于训练；另外 157 个视频构成固定评测集。该协议通过 13 项指标评估文本正确性、视觉与时间质量以及编辑局部性，每个维度设有一项主要指标，并通过 Pareto 比较分析它们之间的权衡关系。OCR 校准、人工评估和标注敏感性分析为这些分数的解读提供了支持。在来自四类编辑方法的八个基线模型中，要同时实现文本准确性、时间稳定性和场景保真仍然十分困难。我们还发布了 ViTeX-Edit-14B，这是一个开源参考编辑器，基于配对训练集进行微调，并采用运动对齐的字形-视频条件输入。在评测的视频原生编辑器中，它取得了 0.688 的 CharAcc，为最高平均值；在原始编辑器输出中，其可比文本裁剪 Warp 指标最低。ViTeX-Bench 为研究视频场景文本编辑中的这些权衡提供了可复现的基础。
14:59 arXiv cs.AI 83
Safety-aligned language models are commonly deployed as multi-turn assistants, which lets adversaries spread unsafe intent across several user turns instead of a single prompt. Gradient-based jailbreak detectors such as GradSafe were developed for single prompts: they score an input by the alignment between its induced gradient and a fixed unsafe reference direction, and their effectiveness in multi-turn dialogue remains unclear. We conduct a controlled evaluation of gradient-based jailbreak detection in multi-turn settings. We extend GradSafe with a Context Window Scanner that applies the detector to fixed-size windows of user turns and uses the maximum window score as the conversation-level score. We evaluate different window sizes, attack families, benign conversation distributions, and target models. The results differ sharply between synthetic and realistic benign settings. Against synthetic benign conversations, the detector achieves an ROC-AUC of 0.98 on human-authored multi-turn jailbreaks. On WildChat benign conversations, ROC-AUC drops to 0.76, and a threshold calibrated on synthetic data flags more than 90% of benign conversations as unsafe. Under realistic benign distributions, single-turn windows give the highest separability, whereas longer windows and accumulated contexts reduce performance. The detector is also sensitive to the attack-generation method and target model: successful Crescendo attacks receive scores comparable to or lower than benign conversations, and Qwen2.5-7B-Instruct yields near-random separability with a different optimal window size. These findings show that gradient-based signals can support multi-turn jailbreak detection, but reliable deployment requires calibration on realistic benign conversations, short-window scoring, length-aware thresholds, and evaluation across attack types and model architectures.
15:58 arXiv cs.AI 80
Manipulating next-token probabilities during generation can bypass the safety alignment of large language models. Existing approaches, however, rely on access to model weights or numerical token probabilities and therefore do not apply to interfaces that return only sampled text. Reconstructing probabilities from sampled outputs offers a possible alternative, but finite sampling produces sparse and noisy estimates, while repeating this process at every generation step incurs substantial query costs. Our empirical observations suggest that large distributional changes along successful jailbreak trajectories are concentrated at a small subset of positions, motivating selective control. We introduce \method{}, a framework for jailbreaking through text-only continuation interfaces that permit repeated sampling and assistant-prefix continuation. Sample-Based Distribution Reconstruction combines sampled outputs with a prior over unobserved actions to obtain a usable control signal. Risk-Gated Residual Control uses the evolving response prefix to decide when to reconstruct and modify the distribution, concentrating sampling costs at selected positions. Speculative Multi-Token Execution further amortizes target calls by verifying and accepting draft prefixes that require no intervention. Across four target endpoints and three benchmarks, \method{} achieves the highest mean score most comparisons against baselines.
23:44 Hacker News 熱門
03:00 OpenAI Blog 77
我们关于前沿AI训练安全论证的早期指南涵盖技术保障措施、运营实践，以及对未对齐事件的调查
01:54 arXiv cs.AI 70
Several works have explored multi-agent reinforcement learning (MARL) in LLM collaboration. However, constructing reliable rewards is difficult in practice, as complete and accurate metrics are often unavailable and hard to aggregate. Preference learning provides an alternative by learning from comparative human or AI feedback. Yet, its extension to multi-agent systems remains underexplored. To address this gap, we formulate preference-based multi-agent systems (MAS) from decentralized and centralized collaboration perspectives. We also introduce a general multi-agent preference learning framework (MAPL) to solve these problems. MAPL allows iterative updates by comparing the current solution with decentralized or centralized solutions generated by various agents. We instantiate MAPL using MARL from human feedback (MARLHF) with a learned reward model and multi-agent direct preference optimization (MADPO). Experiments on collaborative writing, coding, tool use, and travel planning show that MAPL can improve collaboration quality and efficiency while approaching the performance of MARL with fixed, well-defined rewards. Within MAPL, MARLHF generally outperforms MADPO on most tasks but remains sensitive to data coverage, agent and comparator models, and the underlying MARL algorithms.
20:56 arXiv cs.AI 74
将大型语言模型（LLMs）用作评判器可以实现可扩展的评估，但其判断可能对回答顺序敏感，而且即使在消除此类位置效应之后，仍可能系统性地偏离人类偏好。我们提出 DIAL，这是一个统一框架，将大量 LLM 比较与有限的人类比较相结合，以分离特定于评判器的位置效应，学习位置去偏后的 LLM 偏好中的共享结构，并将该结构自适应地校准到人类偏好目标。在理论上，我们研究 DIAL 的三个方面：（i）潜在 LLM 偏好、位置效应和人类校准的识别；（ii）在 LLM 锚定与有限人类证据之间取得平衡的自适应估计；以及（iii）针对校准后人类偏好的固定权重不确定性量化。在实证上，我们在受控模拟和三个人类偏好基准上分别评估位置去偏和人类对齐，结果表明 DIAL 在回答顺序不均衡的情况下仍保持稳健，能够用有限标签实现与人类高度一致的排名，并在 LLM 信息不完善时向人类证据自适应调整。我们的真实数据研究从 21 个 LLM 评判器在两种展示顺序下收集了超过 410K 条判断，为未来研究 LLM 评判器偏差、异质性和人类对齐提供了资源。
00:39 arXiv cs.AI 80
大型语言模型日益广泛地作为持久化助手运行于面向用户、共享会话和工具增强型环境中。当用户在进行中的对话中披露敏感信息时，即使对话随后转向无关主题，这些信息仍可能通过后续提示在行为层面被恢复。我们提出 \textbf{PrivDrift}，这是一个用于审计用户披露的秘密在对话发生主题漂移及基于说服的探测后是否仍可被恢复的基准。PrivDrift 包含 1{,}000 个受控的多轮对话，其中设有预置秘密、内容密集型漂移轮次以及标准化提取探针。在三个具有扩展上下文窗口的 LLM 上，跨对话级别的混合泄漏仍然十分显著，比例介于 38.7\% 和 54.6\% 之间，并且会因模型、秘密类型和说服强度的不同而有明显差异。在所测试的漂移窗口内，进一步的主题漂移并不能可靠地降低泄漏，这表明主动 LLM 上下文中的隐私风险应被评估为一种持久性的行为失效模式，而不应仅被视为训练数据记忆或即时越狱行为。
00:58 arXiv cs.AI 77
智能体技能提供可复用的知识和指令，但智能体必须反复推断如何应用这些技能以及下一步应执行哪项操作。这使任务推理与控制决策耦合在一起，导致规定步骤可能被遗漏或错误应用。我们提出 HEXIS，将智能体技能编译为扩展有限状态机，从而分离知识与控制流。技能知识被纳入局部指令，用于引导状态内的推理与生成。状态机记录执行进度和中间结果，而显式的转换条件决定后续操作。我们的增量式编译器首先将技能条款和工具接口映射为状态操作、局部指令、数据绑定和转换。随后，它将开发轨迹与现有状态对齐，以识别缺失的操作和依赖关系，并通过添加或复用状态以及细化状态之间的连接来纳入这些内容。只有在通过静态检查并重放当前及所有此前已接受的轨迹后，更新才会被接受。在四个基准和四个执行器上，HEXIS 相较于 Skill + ReAct 平均将成功率提高了 16.1 个百分点。Qwen3.8-27B 在各基准上的执行 token 数减少了 38.4%–88.9%。
01:50 arXiv cs.AI 75
基础模型通过强化学习（RL）进行后训练，以最大化特定奖励，例如与人类偏好对齐、正确性或指令遵循。这一后训练过程计算成本高，有时还不稳定，并且每当奖励模型发生变化，或我们希望组合多个奖励时，都必须从头开始运行。于是我们提出这样的问题：给定一个新的奖励函数，是否可以在不实际运行 RL 的情况下预测 RL 的结果？我们的答案是肯定的。我们引入了 PoEM，这是一种利用一组已经针对其他奖励完成后训练的模型，来预测在新奖励函数下 RL 输出结果的框架。首先，我们表明，如果新的奖励函数可以写成现有奖励函数的线性组合，那么新策略在对数空间中也可以写成现有对数策略的线性组合。出人意料的是，即使奖励之间不存在线性联系，我们仍观察到，在不同奖励下，通过 RL 训练得到的对数策略通常张成一个近似低秩子空间。对我们而言有利的是，这一组合的权重系数仅使用样本上的奖励输出或基策略输出即可估计。基于这些观察，我们将其转化为一种算法：输入经过后训练的模型和一个新的奖励函数，在无需进行任何额外 RL 训练的情况下，近似得到目标 RL 策略。我们在涵盖文本和图像模态的合成奖励与真实奖励上进行了实验验证。
01:59 arXiv cs.AI 78
潜在世界模型通常经过训练以预测事实转移，而模型预测控制（MPC）必须比较同一状态下的备选动作。因此，模型即使能够实现较低的事实预测误差，也可能无法很好地区分候选动作。我们提出 AD-WM，一种用于反事实 MPC、具有动作判别能力的联合嵌入世界模型。AD-WM 将残差潜在动力学与预测器级动作恢复正则化相结合，并采用逆动力学和受条件互信息启发的归一化恢复目标。这两个目标都促使规划转移保留动作信息；其辅助头在测试时会被丢弃，因此不会改变 MPC。在 OGBench-Cube 上，相较于匹配的 LeWM 基线，AD-WM 将困难初始状态下的成功率从 3.7% 提升至 52.0%，并且在五个仿真环境中的四个环境里，相较于复现的基线提高了平均成功率。规划诊断表明，事实预测误差和整个候选库的动作排序并不遵循闭环成功率的排序，而与 CEM 对齐的精英遗憾与成功率的相关性更高。在冻结 V-JEPA 2 编码器并进行匹配的 DROID 后训练后，AD-WM 还改善了向我们的 Franka 设置进行零样本迁移的效果，在没有针对实验室环境进行适配的情况下，将基础抓取与放置成功率从 42.2% 提升至 71.1%。这些结果表明，用于规划的世界模型应当保留反事实选择所需的、依赖于动作的差异，而不应仅仅优化事实预测准确率。更多视频和代码请见 https://ad-wm.github.io/。
19:45 arXiv cs.AI 80
Rufus-Air 是一种基于 GLM-4.5-Air-Base (106B-A12B) 的开放且可复现的后训练方案，由八个阶段组成的串行流程构成：SFT、推理 RL、编码 RL、指令遵循 RL、通用智能体、编码智能体、搜索智能体和 RLHF。我们详细记录了复现该方案所需的数据、奖励设计、基础设施、阶段顺序以及各阶段结果。训练阶段从基础能力逐步发展到高级能力，奖励信号也从严格且可验证的奖励逐步过渡到更柔性的基于评判器的信号。训练基于开源组件和公开数据，其中许多数据直接按发布版本使用，未进行新的人类标注，也未使用内部蒸馏教师模型。我们的主要发现包括：(i) 多样且高质量的 SFT 能够建立较高的能力下限；(ii) 难度筛选能够将 RL 提示控制在有利于学习的范围内；(iii) 奖励可靠性为阶段排序提供了实用原则；(iv) 基础设施和工程选择是方案本身的一部分，而不仅仅是实现细节。Rufus-Air 的表现优于官方发布的 GLM-4.5-Air 后训练版本，并且具备与规模相近的开放模型相竞争的性能。
19:49 arXiv cs.AI 81
对齐失败检测器用于筛查已部署的语言模型，并为对齐基准评分。大多数检测器是生成式评审器，需要针对每项标准执行一次解码过程；而读取词元概率的分类器（如Llama Guard）仍然在每次调用中只对一个固定标签进行评分。Jev是一个通过校准决策强化学习（RLCD）训练的模型，能够在单次调用中，针对一个输入回答多个指定类型的问题，并给出经过校准的概率。它能否检测对齐失败，此前尚未得到测量。我们提出RLCDAlignBench，在十类对齐失败上对Jev进行基准测试：迎合、越狱、欺骗、提示注入、幻觉、隐私侵犯、社会偏见、奖励欺骗、隐瞒不确定性以及寻求权力。该基准涵盖44个基准和5个目标模型，其标签由各基准的评分器给出，其中两个基准还由人类进行标注。其中许多失败具有关系性，其定义依赖于某个参考对象，例如用户的信念或注入的指令，而仅凭响应本身无法揭示这一参考对象。因此，我们的核心思路是将向Jev提出的问题与它所看到的内容分别变化：一方面改变问题的措辞和答案类型，另一方面改变输入中的字段。仅使用一个通用问题，在零样本设置下即可达到0.886的中位数AUROC，并在大多数基准上击败有监督基线。问题措辞影响很小，而上下文的影响更大，主要体现在那些编码标签的字段上。Jev达到了参考评分器与人类标签之间的一致性，揭示了现有基准中的标签缺陷，其成本仅为LLM评审器评分器的1/63。代码和数据：https://github.com/sumleo/RLCDAlignBench。
21:14 arXiv cs.AI 73
跨说话人的声学到发音器官反演需要考虑说话人之间的解剖结构差异。我们提出了一种几何适配框架，利用主要位于椎骨和牙齿结构上的解剖标志点，将固定反演模型的预测迁移到未见过的说话人。该方法通过仿射变换结合薄板样条（TPS）形变，将10种声道结构的预测轮廓映射到每位目标说话人的几何结构中，无需重新训练模型。我们在每位说话人选取的一帧/u/中识别标志点，将其作为通用的语音学参考，同时不假设不同说话人具有完全相同的发音器官构型，并在不同录音之间复用所得映射。我们在单说话人的rt-MRI数据库上训练模型，并在另一个多说话人的rt-MRI数据库中的8位说话人上评估适配效果。我们使用12个或14个标志点比较仿射变换和TPS配置。Affine12+TPS14取得了最低的平均点到最近点误差，为3.19毫米。这些结果表明，解剖标志点信息与非刚性对齐的结合具有综合价值。
21:18 arXiv cs.AI 86
大型语言模型（LLM）接收并生成单一文本序列；因此，如果可以在 LLM 响应的开头添加文本，即输出前缀，那么后续所有 token 都将以此为条件。输出前缀攻击技术是一种成本低廉的黑盒提示注入方法。先前研究表明，这类攻击能够稳定地令非推理模型越狱。大多数推理模型会在助手的最终响应之前，增加一个中间的草稿推理步骤。一些 API 暴露了编辑这一推理通道的能力，攻击者可以利用某些攻击向量发起推理注入攻击。我们开展了首项系统且受控的研究，将草稿推理通道单独作为输出前缀攻击向量进行分析；同时也是首项在推理过程公开和隐藏的模型中，对仅推理、仅输出前缀以及推理加输出前缀三类攻击进行比较的研究。我们采用 3 种前缀类型 × 2 种推理注入的析因设计，在从 AdvBench 抽取的 1,800 个测试案例上，对三个 2026 年前沿模型 Gemini 3 Flash Preview、DeepSeek V4 Flash 和 Claude Haiku 4.5 发起攻击。我们发现，单独注入恶意推理基本不起作用（攻击成功率约为 0%）；但将相同的推理与一个简单的输出前缀一同注入后，在某些模型上可将攻击成功率提升至最高 99%。对于这类攻击，我们发现上下文前缀的效果优于静态前缀；此外，模型是否容易受到攻击取决于具体模型。
21:30 arXiv cs.AI 81
我们提出了 TimeBraid，这是一系列统一的时间序列与语言模型，通过交错的全局残差注意力层，将预训练语言模型与预训练时间序列基础模型对齐。每个模型从一方继承知识、指令遵循能力和推理能力，从另一方继承连续信号感知能力与零样本预测能力，并在一个共享表示空间中融合二者，使两种模态都能够被理解和生成。我们研究了实现此类统一建模的设计选择：应在何处对齐两个表示空间、如何将语言置于时间结构之中、如何平衡理解与生成，以及如何保持联合优化的稳定性。最终形成的方法结合了适用于多样时间序列和文本任务的统一提示方案、稳定的联合训练，以及来自 2.2M 个精选序列—文本对和 4.9M 个指令微调样本的监督。在涵盖时间序列感知、理解、推理，以及借助上下文和单模态预测的各类基准测试中，TimeBraid 即使面对规模大得多的通用模型和特定任务模型，仍保持了具有竞争力的表现。
21:37 arXiv cs.AI 78
科学构思日益受到大型语言模型的中介影响，但当前的构思系统通常基于新颖性、清晰度和可行性等能够即时评判的代理指标进行训练和评估。因此，一个尚未解决的问题是：能否将科学成果被采纳的延迟信号用作反馈，引导模型朝向预期\emph{影响力}更高的研究方向。我们使用经过引用数标准化的影响力作为学术成果被采纳程度的一种嘈杂但可扩展的代理指标，研究了这一问题。我们从超过 10 万篇计算机科学论文中构建大规模数据集，提取以目标为条件的创意描述，并为每篇论文分配一个按年份标准化的序数引用标签。随后，我们训练一个以目标为条件的奖励模型，根据研究目标与创意的配对预测引用影响力标签，并利用该奖励信号，通过先进行监督微调、再进行强化学习的方式，对创意生成器进行对齐。为降低循环论证的风险，我们采用一种基于留出数据且以参考为依据的评估协议：将模型输出与相同研究目标下的历史创意进行比较，并根据参考创意的引用影响力标签对评判结果加权。实验表明，与基础模型和监督微调基线相比，经过 RL 调优的模型持续生成具有更高估计影响力的创意。我们的研究结果表明，科学影响力可以作为一种实用且以结果为基础的反馈信号，用于在开放式科学发现中对齐 LLMs。
21:39 arXiv cs.AI 81
搜索质量评估为工业搜索系统的开发与迭代提供了必要的监督信号和诊断信号。尽管大语言模型（LLMs）为人工评估提供了可扩展的替代方案，但可靠的自动评估仍然具有挑战性：用户是在页面层面体验搜索结果，而适用的评估标准则具有多维性并且持续演化。将所有评估标准整合到统一提示词中，会引入无关上下文以及潜在的标准干扰；而通过后训练将这些标准内化，则会使规则更新与高成本的模型重新训练周期紧密耦合。 为解决这些问题，我们提出了技能路由评估与可演化知识（SEEK）。具体而言，SEEK 将特定的搜索评估标准外置到技能库中，针对每个查询—结果列表对动态路由相关技能，并采用任务适配的列表级评估器，生成页面级判断和失败模式归因。两阶段训练流程使评估器学会将评估标准与人类偏好对齐，而回放门控技能库则能够在无需重新训练模型的情况下，将反复出现的评估知识缺口纳入其中。在工业短视频搜索上的实验表明，SEEK 提升了列表级质量评估的准确性，并在归因诊断方面取得了显著进展。SEEK 已部署于 Kuaishou——一个拥有超过4亿日活跃用户的短视频平台，显著提升了线上搜索评估的规模与质量。
16:41 arXiv cs.AI 74
多模态学习正成为面向物理的 AI（AI4Physics）中的一种强大范式，其中对物理系统的预测需要联合解释异构观测、测量数据和领域知识。然而，现有方法通常将物理量和控制方程表示为通用的数值或文本 token，忽视了决定其时空相互作用的物理约束。为解决这一局限，我们引入了 \textbf{物理场模态}，并提出 \textbf{PhyMo}，这是一个以物理为基础的多模态框架，通过与 PDE 相关联的算子来组织异构测量数据。PhyMo 遵循三阶段学习流程：首先在 PDE 残差监督下通过场重建对物理场编码器进行预训练；随后将其表示与视觉嵌入对齐到共享潜在空间中；最后由相应的下游预测头处理融合后的多模态表示。在涵盖多种物理环境的五个数据集上的实验表明，与每个数据集上最强的基线相比，PhyMo 达到了最先进的性能，证明了 PhyMo 在 AI4Physics 多模态表示学习中的优越性。
16:52 arXiv cs.AI 75
强化学习（RL）已成为提升大语言模型（LLMs）推理能力的关键范式。然而，现有的奖励系统，如基于规则和基于奖励模型的系统，常常存在优化不稳定和奖励黑客等问题。在这项工作中，我们从几何视角重新审视 LLMs 的通用推理，将其概念化为一个由三个相互依赖的子流形组成的耦合流形：逻辑演绎、评估和表征。基于这一视角，RL 中的响应生成可被解释为从评估流形中解耦的过程，而奖励估计则对应于从逻辑演绎流形中解耦的过程。基于规则和基于奖励模型的 RL 系统的局限性，可以从几何上解释为 RL 过程中策略-奖励流形的不匹配。为了解决上述未对齐问题，我们提出了 Decoupling and Coupling Reinforcement Learning（DCRL）框架，该框架包含两个关键组件：（1）一种基于三段论逻辑的提示演化机制，可动态细化奖励评分准则，以增强奖励流形的表达能力；（2）一种策略-奖励再耦合机制，联合更新奖励模型和策略模型，确保评估一致性，并在训练过程中缓解流形不匹配。跨多个推理领域的理论分析和大量实验表明，DCRL 始终优于基于规则和基于奖励模型的基线。值得注意的是，在 DCRL 下训练的 Qwen3-4B 模型超过了 Qwen3-32B 基线，并接近 Qwen3-235B 模型的性能，凸显了其在 RL 中卓越的有效性和泛化能力。
19:18 arXiv cs.AI 81
通用视频编辑的发展依赖于构建大规模成对监督数据，并有效地使视频生成骨干模型适应指令驱动的编辑。不同于视频生成，视频编辑必须执行所请求的变换，同时保留无关主体、场景结构、运动和时间连续性。我们提出了 VideoX-Qwen，这是一个面向通用指令驱动视频编辑的集成式数据构建与模型训练框架。我们的可扩展生产流程将专门的生成模型与理解模型组织成互补的添加、移除、替换和属性编辑路径，随后进行质量筛选与指令增强。该流程生成了超过 120 万条定向视频编辑数据记录，其中每个主要任务组均包含超过 40 万条记录，自动接受率达到 89%。由此得到的数据集通过统一的源视频-指令-目标视频接口，对常见编辑操作进行了广泛且结构化的覆盖。我们进一步开发了统一的 Qwen-Wan 编辑器，将多模态语义条件与密集的源视频潜变量引导相结合。渐进式图像-视频训练策略对齐了多模态指令接口，使视频生成器适应源视频条件下的编辑，并利用筛选出的高分辨率数据进一步提升输出质量。在与 UniVideo 和 Kling O1 基于 100 个样例的比较中，VideoX-Qwen 在报告的 11 项指标中的 9 项上取得了最佳平均结果，这些指标涵盖指令遵循、编辑质量、内容保留、结构与感知相似度以及视频分布质量。总体而言，大规模数据生产系统与统一训练框架为构建更强大的指令驱动视频编辑能力提供了实用基础。
20:23 arXiv cs.AI 80
具身世界模型预测机器人动作的结果，以支持学习和规划。对于配备头部摄像头和腕部摄像头的机器人而言，这需要互补的视角：头部视角捕捉整体任务，而腕部视角展现夹爪与物体之间的局部交互。然而，独立评估这些视角无法确定它们是否描述了同一动作和物体状态。我们提出 TRIWORLDBENCH，这是一个通过同步的头部、左腕和右腕视频评估具身世界模型的基准。该基准包含涵盖 50 项双臂操作任务的 500 个片段，并使用 19 项指标评估三视角一致性、任务对齐度、物理与三维连贯性、运动质量、时间一致性和视觉质量。通过结合跨视角检查与针对各摄像头定制的测量指标，该基准评估各个视频在单独看来合理的情况下，是否也能共同构成对预期任务的一致预测。我们使用 TWB-Score 汇总整体性能，同时保留各视角的结果，以识别预测失败的具体位置。这将世界模型评估从单视角视觉质量拓展到更全面的层面。代码、数据和指标定义见 https://github.com/TriWorldBench/TriWorldBench。
20:58 arXiv cs.AI 82
强化学习已成为大型语言模型（LLM）后训练的核心组成部分，但 token 级信用分配尚无普遍认可的数学定义，因此其与常用训练信号之间的关系仍不明确。我们提出了三个正则性条件，即 Completeness、Prefix Consistency 和 Neutrality，并证明它们能够唯一确定 token 级信用分配。这一刻画为解释现有算法中的各种现象提供了统一基础，并指导改进型 actor-critic 训练流程的开发。从这一视角来看，On-Policy Distillation（OPD）中的理想教师充当隐式 critic，使得其期望策略梯度与 token 级信用分配所诱导的策略梯度成正比。尽管粒度更粗，响应级 REINFORCE Leave-One-Out（RLOO）信号仍与 token 级信用分配对期望策略梯度的贡献相匹配。我们进一步在有界结果奖励条件下建立了近似信用稀疏性，并展示了 Generalized Advantage Estimation（GAE）中的中间 critic 误差如何达到与底层信用分配相当的程度。基于这些发现，我们提出 Policy Aligned Critic Training（PACT）：该方法采用先 Actor 后 Critic 的更新顺序，对 critic 训练应用重要性采样校正，从而使 critic 更好地与更新后的策略对齐。在智能体数学推理任务中，PACT 在四个基准测试上取得了 72.87% 的平均准确率，分别以 8.80 和 13.16 个百分点的优势超过 GRPO 和 PPO。在 SWE-bench Verified 上，PACT 的通过率达到 67.4%，分别以 2.4、2.0 和 3.8 个百分点的优势超过 PPO、GRPO 和 SAO。
00:01 arXiv cs.AI 78
大型语言模型（LLMs）正越来越多地部署于生产系统中，其可能遭受提示注入和越狱攻击等对抗性操纵的问题也日益受到关注。基于分类器的防护机制（例如 Prompt Guard 2）被广泛用作抵御此类攻击的第一道防线，但其内部决策逻辑对于防御者和攻击者而言在很大程度上都是不透明的。本文开展了一项探索性案例研究，应用可解释人工智能（XAI）技术分析 Prompt Guard 2 如何区分恶意提示与良性提示。 我们通过四项实验对这一问题进行实证探究。在 Vanilla Gradient 和 SHAP 归因方法的指导下，我们发现，Prompt Guard 2 的决策依赖于大量词元的累积贡献，而非少数几个占主导地位的词元；然而，由显著性引导的同义词替换和句子级释义改写，能够在仅改变文本中适度比例内容的情况下翻转其预测结果，并且在某些情况下成功对底层 LLM 实施越狱。进一步的数据集规模显著性分析表明，未被检测到的注入提示系统性地缺少分类器所依赖的词汇标记。我们讨论了这些发现对基于分类器的防护机制设计与评估所具有的意义，并指出，用于提升透明度的解释方法也可能同时降低构造成功对抗性绕过方案的成本。
00:19 arXiv cs.AI 82
医疗智能体日益将通用推理模型与专业临床工具相结合，但其能力在很大程度上仍受部署前由临床医生和工程师所设计内容的限制。递归自我改进（RSI）提供了一种不同的范式：智能体从自身失败中学习，并自主扩展其能力。然而，将 RSI 直接应用于医疗领域会带来根本性的安全挑战。我们提出了 MedRSI，这是首个面向医疗领域的递归自我改进框架。该框架通过工具组合和特定任务模型训练，持续将诊断失败转化为新的临床能力。受临床实践启发，MedRSI 引入了两种临床对齐的自我进化机制。临床成本感知的失败优先级排序根据错误可能造成的临床后果，而非仅依据错误频率，来确定改进方向。快速发现与缓慢注册机制将能力的快速发明与保守采用分离开来，只有当新工具在后续患者队列中持续展现出益处后，才会被纳入持久化智能体。在公开的青光眼和心脏病基准以及两个私有临床任务上，MedRSI 逐步发展出分割、测量、预测、多模态推理和生成能力，超越了人工设计的医疗智能体，并自主发现了原始设计者未曾预见的临床问题解决方案。我们的结果表明，医疗智能体不必始终受限于部署前规定的能力：通过以临床为基础的机制来决定改进什么以及保留什么，它们能够从诊断经验中持续构建、验证并积累新的能力。代码可在 https://github.com/ImprintLab/MedRSI 获取。
01:53 arXiv cs.AI 85
随着代理以更高的自主性被部署，即使随机输出轨迹中极其罕见的事件也可能发生，并造成灾难性后果。因此，安全部署并不取决于这些事件是否可能发生，而取决于它们可能发生得多么频繁。我们研究如何估计由代理自身动作的随机变化所产生的稀有事件概率。估计这类风险需要在组合数量极其庞大的轨迹空间中进行搜索。在这一情形下，朴素蒙特卡洛的计算成本高得难以承受，而构建有效的重要性采样（IS）提议分布，则需要对一系列依赖上下文的条件分布进行协调调整。我们开发了一种新的 IS 方法，通过扰动原始模型的权重来构建提议分布。该提议分布本身是一个以可微方式参数化的语言模型，因此能够在权重空间中进行基于梯度的搜索。我们提出了一个目标函数，将事件放大的可微代理目标与自适应正则化方案相结合，从而动态平衡放大效果与估计器稳定性。我们在约 120M 和约 2.6B 参数的模型上，对三个事件族中的 300 多个稀有事件进行了评估，这些事件的稀有程度最低达到 $10^{-9}$；其参考概率的计算结果具有小于 $10\%$ 的相对标准误。在最易于验证的设置中，对于概率低于 $10^{-7}$ 的事件，我们观察到，与朴素蒙特卡洛相比，我们的 IS 估计器实现了超过 $800\times$ 的按计算成本加权的效率提升。我们的实现见 https://github.com/namkoong-lab/iterative-unalignment。
01:59 arXiv cs.AI 83
现代电子游戏为 AI 模型提供了一个可测量的测试平台，综合考察视觉理解、指令分解、目标规划以及跨多个时间跨度的精确动作控制能力。然而，现有数据集和基准要么覆盖的游戏范围狭窄，要么缺乏语言指令，要么依赖高方差的在线推演。为应对这些挑战，我们提出 GameHorizon，这是一个统一的数据与评测套件，用于衡量不同模型家族在不同时间跨度下的游戏能力。GameHorizon Suite 由三个部分组成。首先，GameHorizon-Annotator 是一个面向多时间跨度指令的可扩展自动化标注流程。其次，利用该流程，我们构建了 GameHorizon-Data，这是首个大规模 AAA 游戏数据集，包含在时间上对齐的视频、玩家动作和多时间跨度指令。该数据集由 100 名人类专家玩家采集，涵盖来自 21 款游戏的 5,000 小时录制内容。第三，我们构建了 GameHorizon-Bench，支持可复现的离线测试和分步在线测试。离线赛道通过数千道标准化问题实现可复现评测，这些问题被组织为三项主要任务及一系列诊断变体；在线赛道则测试离线得分是否能够反映实际游戏能力，并将失败定位到长时间跨度游戏过程中的具体步骤。基于 GameHorizon Suite，我们通过超过一百万次模型调用评测了 47 个模型，揭示出具有实际意义的任务难度层级以及模型能力之间的显著差异。我们的工作可为跨不同时间跨度和模型家族的游戏能力评估提供标准化标尺。我们将发布数据集、标注器和基准，以促进未来研究。
01:09 arXiv cs.AI 75
大多数医疗视觉-语言模型（VLM）擅长开放式报告生成和视觉问答（VQA），但在统一界面内对结构化、细粒度临床感知的支持有限。我们提出 QwenVLConnector，这是一种基于 Qwen2.5-VL 的医疗聊天机器人，在单一的下一个词元目标下统一了分类、多标签分类、文本化检测、计数、回归和自由形式报告生成。其关键组件是一个轻量级的密集多层 Connector，用于聚合低层和高层视觉特征，通过预训练的视觉 Merger 对其进行对齐，并在不增加序列长度的情况下将其与最终视觉表示融合。该设计在保持效率的同时，用互补的空间和语义线索丰富视觉词元。在 FLARE-2D 上，相比 Qwen2.5-VL 基线，QwenVLConnector 将检测 F1 从 0.55 提升到 0.85，将单标签分类从 0.37 提升到 0.51，并使报告生成的 GREEN 最高提升 18.3 分。我们进一步探索了用于报告生成的多模态上下文学习，显示出无需更新模型参数即可获得额外改进。总体而言，QwenVLConnector 为将结构化医疗感知与开放式临床文本生成相结合提供了一个统一且高效的框架。我们的代码可在 https://github.com/plnguyen2908/QwenConnector 获取。
08:29 arXiv cs.AI 72
潜意识学习（SL）是一种最近发现的现象：学生模型通过匹配教师模型看似无关的辅助输出，获得下游任务能力，尽管它从未观察到任务标签、特定于任务的输出或原始训练数据。尽管近期研究已经确定了潜意识信号可能存在的位置，但这一现象背后的优化机制仍缺乏充分理解。在本文中，我们从学习动态的角度出发，对SL进行了机制层面的阐释。具体而言，我们推导出一种链式跨任务核，通过共享的骨干表示，明确建立幽灵输出监督与任务预测变化之间的联系。我们的统一分析框架为SL中的三个核心经验性难题提供了严格的数学解释：（i）在共享初始化的条件下，迁移算子形成严格的半正定（PSD）结构，从而保证幽灵输出优化能够使学生模型与教师模型的真实任务目标对齐，而无需显式接触标签；（ii）幽灵输出的维度充当一个明确的秩瓶颈，决定与任务相关特征的迁移；（iii）合成的高熵输入充当宽带探针，能够最大化跨任务核重叠，从而解释了为什么对于潜意识迁移，随机噪声始终优于结构化数据。在经典的幽灵输出设置上进行的实验验证了这三项理论预测，为幽灵输出监督如何产生潜意识学习提供了首个基于学习动态的理论解释。
20:13 arXiv cs.AI 79
近年来，大型推理模型（LRMs）的快速发展使机器遗忘更具挑战性，因为在生成最终答案之前，受保护事实或不安全的推理过程可能会出现在中间的思维链（CoT）轨迹中。现有的遗忘目标通常会抑制目标内容或重定向内部表征，但从未明确遗忘后的轨迹应如何继续，这可能导致幻觉式替代内容、边界格式错误或重复输出。我们认为，LRM 的遗忘应转而学习一种自然的遗忘轨迹：先生成连贯且不泄露信息的 CoT，再给出稳定的拒答式答案，以替代原始披露内容。为此，我们提出引导式答案-推理蒸馏（Guided Answer-Reasoning Distillation，GUARD），将模型生成的不安全披露转换为安全退出轨迹，通过引导令牌对齐冻结的 LRM，并将引导后的行为蒸馏到模型参数中。为解决除泄露程度之外缺乏替代质量评估指标的问题，我们进一步提出自然遗忘推理分数（Natural Forgetting Reasoning Score，NFRS），用于衡量遗忘输出中的结构稳定性、流畅性和无依据的替代内容。在 R-TOFU 和源自 STAR-1 的有害意图设置上的大量实验表明，GUARD 在保留推理实用性的同时，显著减少了两个广泛采用的蒸馏 LRM 中的不安全披露和隐私披露。代码可在 https://github.com/zeyu-Yan/GUARD 获取
20:23 arXiv cs.AI 79
LLM 智能体中的隐私泄露通常在记忆、检索或工具调用流水线等单个组件内进行评估，这使得人们难以区分内部暴露的信息与外部观察者实际能够恢复的信息。我们提出 CIPL（Channel Inversion for Privacy Leakage），一种面向 LLM 智能体黑盒隐私泄露的通道感知评估框架。CIPL 通过敏感源、选择、组装、执行、观测和提取等阶段对目标进行表示，并在统一协议下评估从选定敏感单元到攻击者可恢复输出的转变。针对基于记忆、经检索介导和经工具介导的目标开展的实验，以及 BrowserUse 实时智能体案例研究表明，仅凭存储标签无法决定信息的可恢复性。记忆目标构成近乎饱和的参考案例；经检索介导的泄露通常是不完整的；而经工具介导的泄露和实时智能体中的泄露则会随观测面、提示词与通道的对齐程度、检索深度以及提供方行为而发生显著变化。分层语义审计进一步识别出对攻击者有用、但规范精确匹配无法发现的披露信息。因此，CIPL 提供了一个通用框架，用于比较在异构智能体流水线中，内部对敏感信息的依赖如何转化为外部可恢复的泄露。
22:21 arXiv cs.AI 76
多模态生存模型可以结合全切片图像和基因组谱中的互补预后信息，但在外部队列偏移和计算复杂性存在的情况下，实现有效融合仍然具有挑战性。为应对这些挑战，我们提出了 MIST，即基因组引导的组织学注意力多模态生存预测方法。MIST 将基因组特征表示为标记，并允许这些标记在进行生存预测之前查询紧凑型基础模型提取的组织学上下文标记。该设计不是仅在最终阶段合并分别编码的模态，而是利用组织学上下文丰富分子信息。训练过程将离散时间生存预测与基因组特征掩码、WSI 丢弃以及配对 WSI-基因组对比对齐相结合。在结肠癌、肾癌、肺癌和胶质母细胞瘤队列的四项外部评估中，MIST 在主要比较中均较标准融合基线提高了外部 C-index。这些结果表明，基因组引导的组织学注意力是一种紧凑且有效的多模态肿瘤学结局预测策略。我们的代码可在 https://github.com/samiyavuuz/MIST 获取。
23:59 arXiv cs.AI 81
前沿 AI 模型正迅速获得利用复杂软件中漏洞的能力。这种风险并非理论上的，OpenAI 和 Anthropic 的前沿模型近期实施的沙箱逃逸便证明了这一点。关于如何对推理栈组件进行沙箱隔离的讨论，通常侧重于推理引擎本身以外的组件（例如网络代理或代码执行环境）。然而，推理引擎对于不对齐模型而言是一个颇具吸引力的目标。例如，如果模型仅通过生成经过特殊构造的输出令牌，就能触发该引擎中的漏洞利用，那么它便可以在引擎中发起一条多步骤、直达裸机的利用链，而不依赖推理栈其他组件中的漏洞，也不需要外部提供的恶意构造输入令牌。 在本文中，我们展示了不对齐模型能够执行推理引擎指纹识别，以确定执行该模型的具体引擎（例如 vLLM、SGLang）。完成引擎指纹识别后，模型便可以利用特定于引擎的漏洞，仅使用经过精心选择的输出令牌来控制该引擎。我们给出了五种流行引擎中的模型指纹具体示例，并演示了现实的智能体运行框架如何让模型利用这些指纹识别本地引擎。我们还描述了一条概念验证性质的、直达裸机的利用链，该利用链源自一个已完成指纹识别（并随后遭到攻陷）的推理引擎。最后，我们讨论了几种可以改进推理引擎、从而增加指纹识别攻击难度的方法。
01:49 arXiv cs.AI 83
大型语言模型的安全评估依赖表层形式分类器，而这些分类器显示各代模型的伤害分数不断下降。我们提供的证据表明，这种方法在系统性上并不完整：明确的歧视性内容并未被移除，而是发生了转化。我们将其称为伤害洗白（harm laundering）。通过分析 15 个模型中 450,000 条面向性别的生成结果（涵盖 GPT-2 至 GPT-5，属于 OpenAI GPT 谱系；包含三种人口统计条件），我们显示，GPT-2 面向女性的输出中普遍存在的性暴力聚类，到 GPT-4 时消失；与此同时，面向男性的生成结果获得了更多积极的表征空间（照护、情感丰富性、盟友身份），而面向女性的生成结果并未获得这些空间。该模式在 GPT-5 中最为明显：Topic~5（1,997~份文档）将乳腺癌框定为一场男性权利争论，而面向女性的输出中没有出现任何对应的聚类。三个独立分类器均将这些内容评为无毒性。情感分数在 GPT-4 时发生反转：早期模型贬低女性，后期模型则过度纠偏。在 GPT-4 的对齐边界处，面向女性的生成结果的主题多样性比面向男性的结果低 36\%（W/M~$= 0.58$，而 GPT-2 时为 $0.91$）。REGARD 表征性伤害差异与发布日期相关（$ρ= +0.55$，$p = .034$），而 Detoxify 则不相关（$ρ= -0.23$，$p = .42$）：随着表征性伤害增加，毒性分数反而下降。我们将伤害洗白形式化为一项包含三个标准的检验，并提出一套适用于任何生成式模型的三阶段检测协议。在 OpenAI GPT 谱系中，毒性分数的降低并不足以作为伤害减少的代理指标。
19:10 arXiv cs.AI 72
AI 系统可以通过支持大规模审议来强化民主：在保留人的自主性的同时，化解认知、社会、平台设计以及市场驱动的摩擦。不同于通过委托投票来重构代表制的液态民主等方案，我们在本文中主张，AI 辅助的审议提供了一条更有前景的路径：它能够降低开展有意义参与的门槛，而不是用机器判断取代人的选择。基于在线审议平台的证据和实验研究，我们提出四项指导原则：维护人的自主权和能动性，鼓励相互尊重，促进平等与包容，以及增强而非取代积极公民参与。我们还讨论了若干关键挑战，包括对齐、迎合性、训练偏差，以及对 AI 系统的过度依赖。我们呼吁机器学习领域开发以审议为重点的 AI 系统，并且不以参与度指标作为评价标准，而是评估其促进知情、具有代表性且能够抵御摩擦的讨论的能力。
19:46 arXiv cs.AI 75
Safety alignment teaches large language models (LLMs) to recognize harmful requests and reject risky instructions. Yet aligned models can fail when harmful intent is concealed within seemingly benign contexts. Robust safety therefore requires both knowledge of safety boundaries and \textbf{vigilance}: the ability to detect unusual premises, misleading reasoning, and latent risks beneath surface-level semantics. Vigilance requires models to scrutinize a request's underlying intent and assumptions before acting. To cultivate this capability, we introduce \textbf{cunning questions}, which are not necessarily safety-related but contain misleading premises, atypical reasoning, or subtle inconsistencies. We hypothesize that learning to look beyond such reasoning traps can transfer to safety-critical scenarios. Experiments show that Cunning training improves robustness to out-of-distribution jailbreak attacks and strengthens subsequent safety fine-tuning. Furthermore, augmenting an existing state-of-the-art safety alignment pipeline with Cunning establishes a new state of the art across our evaluated settings, reducing mean ASR across nine backbone--benchmark combinations from 17.40\% to 15.05\%. Trace analysis after matched safety fine-tuning suggests that safety judgments are more likely to govern responses before harmful planning begins. A conditional theoretical analysis further characterizes when invariance learned from cunning data can transfer to safety-related inputs. These findings suggest that cunning data can strengthen model vigilance and complement conventional safety alignment.
01:04 arXiv cs.AI 82
多智能体系统将任务分摊到一棵智能体树上，并用一些约定俗成的理由为这种拆分辩护：更小的上下文、更清晰的分工、并行处理。我们考察这种拆分会如何影响叶节点发现的信息有多少能够传达到根节点。将分解建模为一棵树：一个接收到 $b$ 个项目的智能体，以 $r(b)$ 的概率保留其中任意一个项目。当 $r(b)=1/b$ 时，无论任务规模和树的形状如何，每棵树都会准确传递一个发现；我们在 20,000 棵随机不规则树上验证了这一点，误差达到 $2.4 \times 10^{-15}$。当 $r(b)=Cb^{-δ}$ 时，一棵覆盖 $N$ 个发现、深度为 $k$ 的树可产生 $C^k N^{1-δ}$：任务规模与架构彼此分离，而架构在每一层只贡献一个不超过 1 的因子 $C$，因此就产出而言，扁平结构是最优的，并且任何智能体编排方式都无法避开指数 $δ$。在 600 条生产环境深度研究轨迹中，通过三种彼此不共享失效模式的识别方法，得到 $δ= 0.34$ [0.30, 0.38]。在一个项目边界由工具而非文本启发式方法确定、且 $b=1$ 出现 550 次的跳转位置上，我们在 16,082 次跳转中直接观测到而非外推得到 $C = 0.571$ [0.527, 0.615]。分层还会带来对齐成本：在 1,012 条经过标注的多智能体轨迹中，每十六份简报就有一份偏离目标，由此得到 $μ= 0.939$，每层的惩罚为 $Cμ= 0.536$。深度还在另外两个维度上带来收益。根上下文是唯一持续存在的状态，也是唯一无法低成本遗忘的状态；深度将其暴露量从 $N$ 个项目降低到 $N^{1/k}$。深度的成本也更低：生产环境中的扁平智能体计费规模为 $N^{1.39}$，而不是追加式上下文所预测的 $N^2$；在支出相同的情况下，两层结构在 403 个发现时超过扁平结构。综合我们测量的所有参数，该模型认为只有 0.7% 到 11.3% 的生产会话值得委派，而实际进行委派的会话占 7.8%。对 743,819 次生产环境工具调用进行的风险模型表明，委派并不是对上下文逐渐填满的响应，而是一种开场动作。
22:31 Hacker News 熱門 69
文章 URL： https://arxiv.org/abs/2602.06258 评论 URL： https://news.ycombinator.com/item?id=49713130 得分：5 评论数：0
23:32 arXiv cs.AI 73
脑信号分析对于神经科学研究和临床诊断都至关重要，但当前方法面临着诸多关键限制。端到端模型需要针对具体任务重新训练，且泛化能力有限；预训练模型则缺乏语义深度，仍然依赖大量微调。与此同时，通用多模态基础模型虽然在其他领域表现强大，但由于表征不匹配以及缺乏领域知识，难以解读脑信号。本研究通过统一的语言—信号对齐框架，提出了一种用于零样本和多任务脑信号分析的多模态基础模型（METIS）。METIS在迄今规模最大、种类最丰富的脑信号语料库上进行预训练，该语料库包含来自20个数据集、超过11,000名受试者的70,000多个小时的记录。在涵盖12个数据集的综合零样本评估中，METIS的平均准确率比领先的通用模型高出20.9%以上。值得注意的是，在完全不进行微调的情况下，METIS的性能达到或超过了有监督的任务专用模型。此外，METIS还展现出卓越的数据效率和强大的泛化能力：在少样本设置下，其平均AUROC优势超过16.0%；在跨数据集迁移任务中，优势达到15.9%。这项工作为通用脑信号分析确立了新范式，为下一代神经技术的发展铺平了道路。
00:12 arXiv cs.AI 78
长期运行的 AI 代理带来了一个控制问题：它们采取的每个行动都会改变状态，而状态变化又会影响未来行动的轨迹。如果代理并未完全对齐，那么要保证安全，就必须在允许具有重大后果的行动执行之前对其进行批准。但要求人类在每一步都进行审批会使注意力成为瓶颈。将审查工作委托给其他 AI 代理也会带来同样的对齐问题：审查者自身可能也是未对齐的。我们确定了审查小组需要满足的一个条件：该条件弱于个体对齐，但对于保证委托方在期望意义下至少不逊于采用指定基线策略时的表现而言，它既是必要条件也是充分条件。 每个审查代理都会报告：提案代理提出的行动方案相对于基线是否能够提升自身效用。我们证明，允许出现 $k$ 个否决的阈值规则是安全的，当且仅当在移除任意 $k$ 名审查者后，委托方的效用可以表示为其余审查者效用的非负线性组合，再加上一个在每个可行提案上均为非负的项。我们将这一性质称为 $k$-鲁棒联盟对齐。该刻画可以推广到序贯控制：在具有任意提案代理的折扣 MDP 中，只要每个状态下都是安全的，所诱导的策略就一定能够达到或优于基线；反之亦然。 当审查者进行策略性投票时，在奖励函数空间中实现全小组覆盖，可以保证在一致批准规则下每个纳什均衡都是安全的；相比之下，即使审查者分别实现了对齐，更宽松的阈值也可能产生不安全的均衡。 使用现有审查模型进行的实验表明，即使没有任何单个审查者实现对齐，集体审查仍可保持可靠；即便允许出现一些否决，也依然如此。
21:47 arXiv cs.AI 77
计算机断层扫描（CT）和正电子发射断层扫描（PET）为癌症诊断和治疗规划提供互补的解剖与功能信息。然而，PET 的广泛应用受到高辐射暴露、高昂成本和可及性有限的制约。为应对这些限制，基于深度学习的 CT-to-PET 翻译成为一种有前景的方法，可直接从 CT 图像合成类似 PET 的信息，但准确建模巨大的跨模态差异仍然具有挑战性。在本研究中，我们提出了一种基于 Latent Brownian Bridge Diffusion（BBDM）的 3D CT-to-PET 翻译框架。该方法由两个阶段组成。首先，在配对的 CT-PET 图像块上训练 Variational Autoencoder（VAE），并融入对比学习，以改善解剖表征与代谢表征之间的潜在空间对齐。其次，在潜在空间中训练 BBDM，将 CT 潜在表征转换为相应的 PET 潜在表征。随后对转换后的 PET 潜在表征进行解码和拼接，以重建最终的 3D PET 体积。我们在两个公开数据集上对所提出的方法进行了评估。基于图像保真度和病灶级 PET 特异性指标的定量结果表明，与竞争方法相比，该方法取得了更优的性能。具体而言，所提出的方法提高了 PET 信号的保真度，更好地保留了具有临床意义的摄取模式，并且在保留小病灶代谢激活方面表现出更优性能，为虚拟成像应用铺平了道路。
00:40 arXiv cs.AI 77
由于成像模态之间存在较大的外观和强度分布差异，实现稳健的医学图像分割颇具挑战性。在未见过的域上应用时，基于单一模态训练的模型通常会出现显著的性能下降。在本研究中，我们开发了一种统一的 3D 胰腺分割框架，将域对抗学习应用于 4,604 例异质性 CT 和 MRI 扫描，以学习解剖学表征。我们训练了一个共享的 nnU-Net 编码器-解码器用于全胰腺分割，并通过潜在域判别器促进 CT-MRI 特征对齐。随后，利用有限的仅 MRI 子区域标注，将所学习的编码器迁移用于胰头、胰体和胰尾分割。在全胰腺分割任务中，同分布测试集上的平均 Dice 得分达到 87.31%，在外部 OOD 数据集上的 Dice 得分为 84.20% 至 88.09%。在下游子区域分割任务中，在不使用 CT 子区域标注的情况下，MRI 和 CT 上的 Dice 得分分别达到 80.53% 和 83.05%。这些结果表明，统一的解剖学表征能够同时支持跨模态胰腺分割和标签高效的下游迁移。
01:01 arXiv cs.AI 77
临床时间线支持治疗窗口分析和无数据泄漏建模，但出院小结往往掩盖事件时序，结构化 EHR 表格也只能描述患者病程的一部分。我们提出了一个保留 UID 的框架，将每次叙述性事件发生与其来源文本片段关联起来，并通过纯文本估计、结构化证据检索、带时间戳的源行锚定和联合修订，在整个过程中保留该身份。我们还提出了 GAVEL，这是一种 LLM 评判器，可将两个 UID 对齐的时间线与叙述和结构化记录进行比较，从而增强既有的匹配和时间评估。基于六个开放权重模型和 40 份混合重症监护摘要，与其纯文本版本相比，GLM 5.2 多模态修订在不降低事件恢复率的情况下提高了时间一致性，并且其表现具有与临床医生标注相竞争的水平；而其他模型的修订版本增益较小，整体表现也较低。消融实验表明，UID 主要用于保留事件，而源行关联则支持时间定位。盲法人工审查支持了 GAVEL 的大多数判断；受控裁决显示，多模态 GLM 5.2 优于纯文本版本，但 DeepSeek V3.2 并非如此。在开发 UID 和评判器流程的过程中，我们证明了事件恢复率提高了 43\%，构建出了具有与临床医生标注相竞争表现的框架，并实现了一个能够为重建和评估提供事件发生级溯源的系统。
11:17 Hacker News 熱門 62
文章 URL： https://hyperbo.la/w/aligned-to-whom/ 评论 URL： https://news.ycombinator.com/item?id=49679643 得分：15 评论数：1
23:21 arXiv cs.AI 76
视觉-语言-动作（VLA）和世界-动作模型（WAMs）在通用机器人操作方面展现出了强大的能力，但它们生成的动作可能违反严格的物理约束，因此在部署时存在不安全或不可行的问题。现有的安全方法要么优化统计意义上的安全目标，却无法提供逐步确定性的安全保证；要么仅在推理过程中纠正不安全动作，从而造成策略训练与执行之间的不一致。我们提出了 ActSafeGuard，一种面向基于流匹配的策略、可微分且与训练对齐的安全防护层。ActSafeGuard 将动作的严格可行性融入策略学习，而不是仅仅将安全视为推理时的外部组件。通过设计解析的射线缩放算子，ActSafeGuard 能够提供感知边界的梯度，引导模型自然地学习受约束流形。在多个标准基础模型骨干（$π_{0.5}$ 和 Fast-WAM）及多种任务上的大量实验表明，ActSafeGuard 始终能够实现 $100\%$ 的步骤安全率，同时完全保持甚至提升任务成功率，为安全具身 AI 部署提供了一种可扩展且低侵入性的解决方案。
23:53 arXiv cs.AI 76
大型语言模型的服务成本随输出序列长度直接增长，但标准的偏好对齐通常会在不提升实用性的情况下增加响应冗长度。我们研究了后训练更新的参数化方式是否会影响生成长度：低秩子空间能够在不改变对齐损失的情况下改变序列长度。我们提出 LOCUS，这是一种选择面向任务的低秩适配子空间的方法，旨在满足实用性约束的同时最小化输出令牌成本。在该子空间内，后训练保留原生偏好目标，并冻结主干模型。基于 Anthropic HH-RLHF 对话偏好数据集，我们评估了两个约 3B 参数的解码器主干模型 Pythia-2.8B 和 Qwen2.5-3B，并将其与遵循匹配协议的全参数 DPO 和 DrDPO 分支以及发布的 SamPO 检查点进行对比。LOCUS 在 Pythia-2.8B 上最多将延续长度缩短 39.84%，在 Qwen2.5-3B 上缩短 14.87%–17.58%，而仅更新模型参数的 0.24%–0.28%，且内部偏好诊断指标没有实质性变化。
19:43 arXiv cs.AI 74
降低音频编码器深度可以减少语音大语言模型的推理成本，但移除完整模块会扰动解码器所使用的嵌入，并可能导致删除错误和过早结束序列错误。我们提出 X-AuT，这是一种渐进式框架，通过短行为探测选择层组合，并结合表示对齐、跨尺度蒸馏、定时的学生策略监督以及 LoRA 微调来恢复剪枝后的模型。语言模型主干保持冻结，同时在蒸馏过程中调整注意力 LoRA 适配器和绑定的输出嵌入。训练采用转录一致性流程中一致性最高的数据层级，随后在微调阶段进行数据源重加权。在十个公开的中英基准测试上，将 Qwen3-ASR-0.6B 的音频编码器从 18 层压缩至 16 层后，宏平均错误率从 5.61% 降至 5.27%。14 层模型在音频塔参数减少 20.7% 的情况下达到 5.75% 的错误率。在匹配的训练方案下，1.7B 教师模型的平均错误率为 5.55%，而自蒸馏为 8.45%；渐进式 18$\rightarrow$14 剪枝优于直接剪枝（5.75% 对比 6.73%）。这些单次运行结果确立了两个实用的工作点，并表明准确率影响会因基准测试而异。项目网站：https://xpeng-ai.github.io/x-aut
20:59 arXiv cs.AI 80
化学、生产和质量控制（CMC）工艺开发贯穿从药物发现到商业化生产的多阶段、知识密集型流程，会产生海量技术信息。这些知识传统上分散于不同职能部门和异构格式中，导致技术转移和监管申报过程中出现可追溯性缺口，并产生高昂的知识管理成本。我们提出了一个模块化的agentic-AI平台，可将异构的工艺开发文档语料库转换为可查询的双层知识图谱。基础知识层通过对数字化、扫描件、手写件和多语言文档进行无损导入，构建具有Document-Section-Chunk层级结构的词汇图谱；智能层则提取与本体对齐的实体，并通过以溯源为锚点的领域图谱连接跨文档概念。LLM agents可在两个层级之间运行，根据具体问题选择最合适的检索路径。我们采用一种新颖的三层协议评估词汇层，用于衡量检索增强生成（RAG）系统在专有数据上的部署保真度；该评估基于Sanofi某小分子项目38份开发报告中整理出的505个问题进行验证。Tier-1选择题准确率达到95%，表明平台具有较强的可靠性；而更严格的Tier-2 LLM评审通过率为85%，且在比较类问题和全语料库问题上的表现有所下降，揭示出仅凭Tier-1准确率无法捕捉的失败类型。路由agent会根据问题类型在不同层级之间进行选择。我们预计，该协议将帮助未来的agentic平台设计者针对非公开数据库评估其系统，同时，基于图谱的架构也将在制药行业得到更广泛的应用，以将碎片化的文档存储库转化为结构化的流程智能。
19:27 arXiv cs.AI 72
用于序列决策任务的 LLM 智能体通常使用轨迹级结果标签进行后训练，但此类标签对于保留同一决策状态下的多个成功分支所提供的监督很少。我们将这一问题研究为成功策略覆盖问题：在固定 rollout 预算下，模型能够多广泛地实现不同的成功策略。我们提出 Direct Diversity Optimization（DDO），这是一种离线后训练方法，将 Divergence-Tree Collection（DTC）与 Reference-Relative Target-Odds Objective（RTO）相结合。DTC 构建以共享决策状态为根、状态对齐的分支集合；RTO 则训练模型，使其在成功替代方案上匹配相对于参考模型的目标。在 BabyAI、BabaIsAI 和 WebShop 上，与所比较的后训练方法相比，DDO 在任务成功率和成功策略覆盖率方面均取得最优表现。此外，在局部动作替换后，DDO 还实现了最高的恢复率；与仅成功轨迹模仿和解码时多样化对照方法相比，其任务成功率和覆盖率也更高。
19:30 arXiv cs.AI 83
生物医学本体标准化将自由文本表达映射到标准化概念，从而实现生物医学数据的一致性整合与分析。由于词汇变异以及层级相关概念之间的细微差异可能模糊概念边界，这项任务仍然具有挑战性。我们提出了 OntologyAligner，这是一个包含三个阶段的框架，将本体对齐检索、大型语言模型候选重排序和选择性层级引导细化相结合。我们还构建了 PhenoNormBench，这是一个统一基准，包含来自七个 Human Phenotype Ontology 数据集的 13,390 个样本。OntologyAligner 在 HPO 标准化任务上取得了当前最佳性能，Macro Top-1 Accuracy 达到 88.78%，Micro Top-1 Accuracy 达到 86.75%，分别比最强基线高出 4.85 和 5.07 个百分点。消融分析表明，三个阶段均作出了互补贡献；敏感性分析则证明，该方法在不同候选集规模和模型骨干下均具有稳定性。在 MONDO、MEDIC 和 NCBITaxon 上的应用进一步验证了其向其他本体迁移的能力。OntologyAligner 为将生物医学文本准确映射到结构化本体概念提供了一个具有普适性的框架。PhenoNormBench 和代码已公开发布于 https://github.com/zhelishisongjie/OntologyAligner。
21:19 arXiv cs.AI 79
大型语言模型在面对恶意微调时仍然十分脆弱，因此有必要在训练阶段防御有害的人格漂移。Preventative Steering 在微调期间注入不良特质人格向量，并在评估时将其移除，但其持久保护机制仍不明确。通过分析其时间优化动态，我们发现，该防御机制源于早期的补偿性适应阶段，随后进入修正信号逐渐衰减的稳态阶段；在参数空间中，注意力输出投影成为防御性更新的主要残差写入路径。通过 Intervention Delta Preservation（IDP）和 IDP Continuation 实验，我们进一步表明，保留或重新注入权重偏移都无法维持防护效果，这说明 Preventative Steering 依赖的是主动适应，而非静态防御。受此发现启发，我们提出 Progressive Intensity Scheduling（PIS）：从中等注入强度开始，并在静态强度引导的对齐效果开始衰减后提高注入强度。在所评估的 Qwen2.5 和 Gemma-3 模型中，相较于固定强度引导，PIS 提升了安全稳健性，同时减少了有害特质的表达。
01:00 OpenAI Blog 69
Paul Christiano 加入 OpenAI Foundation 董事会及其 Safety and Security Committee，带来在 AI 对齐、安全和标准方面的经验。
22:19 arXiv cs.AI 72
在学习之前，稠密自注意力将所有 token 对视为同等可能，这种交互各向同性先验可能与结构化信号不匹配。对于 EEG 等低信噪比（SNR）的结构化信号，依赖关系沿电极轴和时间轴组织，而这种均匀先验会使每个 token 暴露于大量无关交互之中。我们提出 Adaptive Anisotropic Attention（AAA），将注意力分为两条路径：时间路径中，每个 token 关注其所属电极在不同时间上的 token；空间路径中，每个 token 关注同一时间步其他电极上的 token。一个小型门控模块为每个 token 预测两条路径输出的凸组合，即两个非负且和为一的权重。在六项 EEG 下游任务中，所得模型 AXON（AXis-factorized Operator Network）在仅进行线性探测和全量微调的情况下，均比稠密基线取得更高的平均平衡准确率。我们证明，时间路径和空间路径缺一不可，并且加权求和优于硬选择其中一条路径；大部分收益来自门控模块在网络的每一层学习不同的时间/空间平衡。受控的音频频谱图实验表明，轴分解能够迁移到 EEG 之外的领域。这些结果表明，使注意力与结构化信号的自然轴对齐，能够提供有用的归纳偏置。
00:45 arXiv cs.AI 76
去噪扩散概率模型（DDPMs）通过从噪声开始并反复去噪来生成样本，同时使每次更新都接近当前的含噪状态。这种行为在许多连续域中都很有效，但对于具有全局约束的离散任务而言，其作用尚不明确，例如 Sudoku、图连通性、拉丁方和 N 皇后问题。在这类任务中，早期的离散错误可能很难纠正。因此，即使模型对无噪预测具有较强的信息性，标准扩散采样也可能保留早期错误。我们将标准采样器与直接从模型的无噪预测中采样的方法进行了比较。在无需重新训练的情况下，仅这一改变就将 Sudoku 的有效率从 31% 提高到 95%，并在其他离散任务中取得了稳定提升。我们推测，保持接近当前含噪状态之所以有害，是因为反向轨迹可能偏离模型训练所依据的前向加噪分布。为减少这种训练—测试不匹配，我们进一步引入了自我纠错训练，使模型接触自身的预测结果，从而增强其对推理过程中产生的错误的鲁棒性。这显著提升了标准采样器的性能。我们的结果表明，连续扩散模型能够学习复杂的全局约束，但离散推理任务需要更好地对齐训练与推理：要么使用减少对早期决策承诺的采样器，要么通过训练教会模型纠正其在推理时产生的错误。
01:31 arXiv cs.AI 77
中期训练是预训练与对齐之间的阶段，模型逐领域的数据构成通常由数据可获得性决定，而非依据原则进行设计。我们考察这种决策带来了什么，以及后续的对齐过程能否消除其影响。在受控的逻辑推理环境中（Qwen3-8B-Base，并以 4B 进行复现；五个语义上规则不相交的 KOR-Bench 领域），我们训练了覆盖五领域单纯形的 30 种分配方案：其中 24 种为扫描配置，另有 6 种未纳入拟合；每种配置使用 5 个随机种子。我们得到三个发现。第一，每个领域都存在一个内部覆盖最优点：对全部五个领域而言，适度区间（$10\%$-$40\%$）表现最佳；经校准的二次曲线内部最优性置换检验给出 $P\approx0.010$。仅使用中期训练数据拟合的曲线在 8B 上的峰值位于 $9.9\%$ 到 $35.1\%$ 之间，能够复现曲线形状，但无法复现峰值位置。第二，在固定预算的对齐过程中，这些差距依然存在：补偿性 SFT 提升了 116/120 个单元格的表现（平均提升 $+4.32\%$），但在 $5\%$ 阈值下弥合了 $0/240$ 对差距，在 $10\%$ 比率下弥合了 $30/240$ 对差距；等预算的均匀控制表现几乎相同，而置换零假设预计会弥合 $13.8\pm3.3$ 对和 $77.9\pm8.5$ 对差距（$P<0.001$）。第三，覆盖率为零会导致仅经中期训练的准确率崩溃，不过仅使用 FineWeb-Edu 的控制实验表明，这种崩溃与一般性漂移交织在一起。探索性的 $θ^*$ 分配实现了完整流程中最大的增益（$+4.36\%$，相比之下为 $+0.80\%$/$+0.64\%\,pp$），但根据 Welch 检验，其结果处于边缘显著水平。
06:55 arXiv cs.AI 81
随着大型语言模型（LLM）日益部署于对对齐敏感的场景中，激活引导已成为一种轻量级的推理时替代方案，用于取代微调方法（例如 RLHF、DPO）实现行为控制。然而，现有工作通常仅在孤立行为上验证引导效果，因此尚不清楚引导向量是否编码了一致的语义结构，还是仅仅利用了特定行为的捷径。我们研究 LLM 引导向量的潜在几何结构是否反映了人类价值观与道德中的理论规定结构。我们以 Schwartz's Theory of Basic Human Values 作为主要的细粒度框架，构建了一个包含 2.6 万个样本、覆盖 20 个人类价值观的基准，并在多种模型系列和规模上分析了分布驱动方法（例如 CAA、SphericalSteer、ODESteer）与行为中心方法（例如 COLD-Steer、BiPO）。我们发现，分布驱动方法能够恢复与理论预测一致的人类价值观拓扑结构（Spearman $ρ$ 最高达 0.51，$p < 10^{-13}$）。相比之下，行为中心方法虽能取得相当的引导性能，但与预期价值观几何结构的相关性很低。几何保真度会随着模型规模扩大而提升，但在指令微调后下降。最后，更好的几何对齐还会带来跨价值观的、更符合人类认知的一致迁移：正确引导某一价值观会提升与其兼容的价值观，并抑制相互对立的价值观。代码和数据见：https://github.com/DeepRCL/Steering_Geometry】【。
01:52 Hacker News 熱門
22:57 arXiv cs.AI 78
自主 AI 代理越来越多地在这样一种环境中选择行动：其内存、执行时间、运行时、计算和操作约束决定了什么才算合适的计划。我们将代理规划状态中缺少这种执行上下文称为 substrate blindness。我们通过数值代码生成来检验这一一般性命题，因为在该任务中，所选实现选项及其运行后果可以直接观察。三种前沿模型配置——Anthropic Claude Opus 5、OpenAI GPT-5.6-Sol 和 Google Gemini 3.7 Flash——针对一个高维成对欧氏距离任务生成代码，输入要么只有任务本身，要么再附加一个 128 MB RAM 和 10.0 s 墙钟时间约束。披露约束使 14 组可执行、索引对齐的“仅任务”与“披露约束”比较中有 13 组的测得进程峰值内存降低；在所有三个队列中，平均墙钟时间也降低，使执行速度最高提升 3.1 倍。在整个审计语料中，披露约束带来了结构性代码变化，包括有界分块、保留 float32、上三角遍历，以及原地或内存映射缓冲区。在更严格的 96 MB 约束下，独立抽样的披露约束队列在正确且未超预算的结果上，Claude Opus 5 为 4/5，GPT-5.6-Sol 为 5/5，Gemini 3.7 Flash 为 3/5；而仅任务条件下分别为 0/5、1/5 和 0/5。各队列的平均 MaxRSS 和墙钟时间分别比仅任务参考低 49–74% 和 35–64%。这些结果为感知底层环境的代理规划提供了一个受控的概念验证：最小执行约束会在生成程序中诱发主动的结构适配，将计算从无约束分配转移开来，并在执行前显著改善观测到的资源—时间特征。
23:22 arXiv cs.AI 75
大型语言模型 Agents 越来越依赖执行轨迹来掌握复杂的交互任务。然而，当前范式受限于浅层轨迹检索和扁平化技能总结，根本上忽视了 Agent 行为的时间依赖性和结果条件化拓扑结构。我们提出 Trace2Tower，一种过渡感知的 EigenTrace 框架，可将原始轨迹提炼为稳健的技能层级。Trace2Tower 将步级交互抽象为规范化事件，并构建一个由语义兼容性、过渡动态和结果证据共同约束的统一图。通过一种新颖的对比式谱分解，它分离出稳定、与成功对齐的行为模式，同时严格抑制容易失败的捷径。这些模式自然地填充到一个动态技能塔中，形成动作模板、程序化例程和总体任务策略，并通过 verifier 引导的反馈持续优化。在 ALFWorld 上，Trace2Tower 在仅需 10.35 步和 0.26 个无效动作的情况下实现了 87.31% 的成功率；在 WebShop 上，它达到了 50.67% 的精确成功率。横跨这两个基准，Trace2Tower 在任务掌握能力和上下文高效经验复用方面都显著优于现有基线。
00:39 arXiv cs.AI 73
来自人类反馈的强化学习（RLHF）已成为一种强大但样本效率较低的方法，用于从人类偏好中学习奖励模型，因此主动学习成为合成信息量丰富的偏好查询的关键组成部分。然而，对于大型神经网络奖励模型而言，主动学习所需的有效不确定性量化仍然是一个关键挑战。本文提出 PreferenceEKF，这是一种样本效率高的方法，通过将主动偏好学习表述为序贯贝叶斯滤波问题来跟踪奖励模型的不确定性。我们的方法不依赖于在完整神经网络参数空间上进行计算代价极高的后验推断，而是在低维参数子空间内使用扩展卡尔曼滤波进行序贯推断，并随着新的偏好查询到来持续更新奖励模型后验。我们的方法使得对神经网络参数进行可扩展采样成为可能，从而高效计算用于主动奖励学习的获取函数。在 D4RL 和 V-D4RL 基准上的实验表明，与其他贝叶斯深度学习方法相比，我们的方法在样本效率、运行时间、可扩展性和校准性方面都表现更好，而且所学习到的奖励模型能够带来具有竞争力的离线强化学习策略性能。这凸显了在 RLHF 中用于基于偏好的奖励建模的可扩展贝叶斯方法的潜力。我们的代码可在 https://github.com/yutaizhou/bnn_pref 获取。
01:54 arXiv cs.AI 76
在策略蒸馏（OPD）将学生模型生成的 rollout 与来自教师模型的密集 token 级监督相结合。现有工作主要研究了其算法行为，而训练数据所起的作用仍不明确。我们通过仅在单个查询上训练，在数据极小的极限下考察这一作用。一次性 OPD 在数百个步骤内持续改进，并在不同任务领域和模型家族中恢复了全数据 OPD 大部分增益。我们通过训练期间访问的状态以及学生模型与教师模型对齐的速率来解释这一结果。我们衡量“状态覆盖率”，即全数据 OPD 访问的状态中，一个查询集的 rollout 能到达的比例。单个查询已经达到 \(71.5\%\)，其中大部分在前 100 步内完成。加入语义上不同的查询会同时提高覆盖率和验证准确率，直到 16 个查询达到 \(98.9\%\) 并匹配全数据训练。然而，无论 OPD 是在一个查询上还是在整个数据集上训练，对齐都会以相似的速度变慢，甚至一个固定的状态集合也需要数百步才能被吸收。因此，OPD 是数据过剩但算法不足。它的 rollout 能迅速暴露广泛的监督，而学生模型吸收这些监督的速度却越来越慢。状态覆盖率结果也扩展到多教师 OPD，其中每个领域 16 个语义多样的查询即可匹配全数据 MOPD。作为进一步的压力测试，内容较少的模板和域外 WildChat 查询也接近真实查询基线。因此，任务内容和诱导出的状态覆盖率可以相互分离。我们希望这些发现能引导未来工作关注 OPD 的步骤效率，并促使人们重新审视其在前沿后训练近期成功背后的数据与机制。
18:35 arXiv cs.AI 79
多轮越狱攻击表明，恶意意图可以分散在对话中，但现有方法却掩盖了究竟是哪种对话机制驱动了这种脆弱性。我们提出 BLUEPRINT，这是一种安全评估框架，将分解后的社会影响策略空间与 WORLDVIEWSIM（跨轮次情境上下文模块）分离开来。蒙特卡洛树搜索在四轮轨迹中优化每轮层面的18个基于理论的影响因素组合。在六个前沿模型上，BLUEPRINT 在主要开源权重模型和专有模型上都实现了接近满分的 ASR，同时所需平均查询次数最少（2.46 次）。由此得到的轨迹进一步揭示了在抗拒性较强的目标模型中存在模型特异性的脆弱性：每个模型对不同的影响因素和策略转换作出响应，但它们都共享一条共同的恢复路径——转向具体、可执行的任务表述，持续能够摆脱强硬拒绝状态。消融实验证实，操作性线索最为重要：让请求变得可执行影响最大，收益框架格外有效，而某些合法性诉求反而可能适得其反。这些发现表明，要实现稳健的多轮安全，不仅需要监控有害内容，还要监控对话状态如何使不安全请求显得具体且在局部上可执行。
21:24 arXiv cs.AI 78
大型语言模型（LLMs）正越来越多地被用作经济代理，但关于LLM代理是否适合参与为人类设计的市场机制，以及这些机制在面对LLM代理时是否能产生预期结果，仍缺乏证据。为回答这一问题，我们复现了经典经济实验，并用LLM代理替代人类受试者。我们将代理置于双向拍卖环境中，这是一种广泛使用的市场机制。我们检验这种市场是否能够实现资源的有效配置，从而测试LLM代理对齐的一个新维度——它们与基本市场机制的兼容性。我们发现，由LLM代理组成的市场向市场均衡收敛更慢，甚至不收敛，因此其资源配置效率低于由人类组成的市场。随后，我们分析了代理的个体交易决策，发现不同模型家族以及不同市场角色之间都存在显著异质性。我们还对代理生成的Chain-of-Thought（CoT）轨迹进行了词汇分析。我们发现，选择执行交易而不是继续逐步调整价格，与从战略性考量转向紧迫感有关。我们已公开发布测试框架，供未来评估使用。
23:59 arXiv cs.AI 78
良性微调会严重削弱大型语言模型（LLMs）的安全对齐，因此我们研究拒绝行为为何如此脆弱。现有工作常将这一失败归因于梯度冲突，而我们提出一种本质不同的 Fisher 几何解释：安全 Fisher 是低秩的，并且对齐会使安全几何更平坦，同时保留一条输出路由路径。在经过 100 个良性微调样本后，这条路径会在输出侧 MLP 模块中被选择性地重新锐化，从而解释这种非对称脆弱性：安全性可能崩溃到很高的攻击成功率，而通用能力只会轻微退化。路由视角也解释了为何少量安全样本就能恢复拒绝行为，这表明与安全相关的内部表征仍然被保留。最后，我们表明，LoRA 和 ASAM 通过抑制输出侧尖锐性来缓解早期崩塌，但在更大规模的微调下，这种保护会减弱。总体而言，安全失效最好理解为对一种低秩输出路由机制的破坏
00:45 arXiv cs.AI 74
针对 Video-LLMs 的时间推理基准通常通过语言来介导，这为选项措辞、答案相关性或语言先验带来的语言捷径留下了空间。为减少这类捷径，我们提出 TempCloze，这是一个用于评估 Video-LLMs 视觉时间推理能力的视频填空基准。给定视频的开头和结尾片段，模型必须从四个候选项中识别真实缺失的中间部分。TempCloze 包含来自七个来源的 1,521 个经过精心筛选的视频，主要是长镜头和第一人称视频。我们沿三个维度构造同源干扰项：Semantic 询问应发生什么事件，Alignment 探查它应在何时发生，Progression 测试它应如何展开，同时共享的场景和物体降低外观线索。我们对 10 个专有模型和 21 个开源 Video-LLMs 的评估显示，Alignment 是主要瓶颈：模型往往能识别合理的语义内容和局部事件推进，但难以处理时间对齐。我们进一步在 TempCloze-Mixed 和 TempCloze-Hard 上，使用四个代表性模型进行错误模式和行为敏感性分析，以考察错误从何而来，以及候选项顺序、上下文方向、可见跨度、帧密度和测试时缩放如何影响模型选择。
01:21 arXiv cs.AI 73
我们提出 H3-World，一个高效框架，可将 33B MiniMax-H3 视频生成器转化为交互式世界模型。我们的关键发现是，随着大型视频生成器能力不断增强，语言正成为一种自然的控制接口。例如，MiniMax-H3 已经支持通过自然语言指令对角色行为和摄像机运动进行零样本控制。在此基础上，H3-World 将这一粗粒度语言接口转化为精确、具备时间对齐的世界控制，而无需引入专门的动作模块。具体而言，我们将每个动作表示为角色和摄像机指令的结构化组合，并将其与对应的时间视频潜变量对齐。为了使控制在时间上更加精确，我们进一步引入时间注意力路由，将每条指令限制在其预期的时间区间内，并减少不同动作之间的控制泄漏。重要的是，H3-World 直接复用大规模视频预训练中学到的语义表示，只需要轻量级适配。仅使用 8,000 个游戏样本、10,000 步 LoRA 优化，以及 0.199% 的可训练参数，H3-World 就能实现有效的角色和摄像机控制，同时保持较强的生成质量。它也能泛化到未见过的场景。这些结果表明，大型视频生成器中涌现出的控制能力可以被高效地转化为交互式世界控制。
01:57 arXiv cs.AI 71
我们为对齐（偏好）和能力（可行行动与信息）未知的 AI 智能体构建了一个机制设计框架。我们希望这样的智能体代表我们行事，因此机制必须同时激励诚实与服从。一个单边模仿结构——能力可以被隐瞒但不能被伪造——导出了一个揭示原理、通过嵌套循环单调性刻画可实施策略的方法，以及在何种条件下引出高阶信念可以约束多个智能体。我们将该框架应用于若干理想化示例：(i) sandbagging，即更有能力的智能体伪装得更弱；(ii) 对齐—可解释性权衡，其中二者在工具上是替代品，但在价值上是互补品；(iii) 通过同伴评分进行约束；(iv) 通过联动奖励来激发多个智能体之间的竞争；以及 (v) 可扩展监督与奖励塑形。
01:58 arXiv cs.AI 74
自然语言正逐渐成为改进语言智能体的主要反馈通道，能够以人类和现代语言模型都可解释的形式传达意图、偏好和因果结构。我们将这一范式称为 Verbal Reinforcement Learning (VRL)，并给出其首个统一阐述。我们围绕一个单一轴线组织该领域，即 \textit{语言反馈在智能体生命周期中的何时} 发生作用，以及 \textit{它会修改什么}，从而形成三个支柱：（1）\textbf{语言作为锚定信号}，即语言通过指定目标、状态和奖励结构来定义任务本身；（2）\textbf{语言作为推理反馈}，即自然语言在测试时引导推理，而无需更新模型参数；（3）\textbf{语言作为学习信号}，即基于语言的反馈通过训练塑造模型参数。在每个支柱下，我们综合代表性工作，区分方法的关键子类，并概述语言在塑造智能体行为中所扮演的独特角色。总体而言，这一分类法展示了言语强化如何重塑智能体开发，同时也界定了构建更强大且更对齐的智能体所面临的挑战与机遇。
17:52 arXiv cs.AI 75
尽管多模态大语言模型（MLLMs）具有很强的多模态理解能力，但在处理长视觉 token 序列时会产生巨大的计算开销。为降低推理成本，近期研究通过以视觉为中心或文本引导的策略探索视觉 token 剪枝。然而，这些方法往往忽视高范数离群 token，即特征范数异常大的 token，从而导致次优的剪枝决策。 在本文中，我们表明这类高范数离群 token 在特征和空间两个维度上都高度冗余，但现有方法却常将其误保留为有信息的线索。 受此观察启发，我们提出 SinkPruner，一种无需训练的视觉 token 剪枝框架，用于高效的 MLLM 推理。SinkPruner 采用由粗到细的设计，包含两个关键模块：一个视觉净化器，用于过滤高范数冗余并缓解 attention sink 和 attention dispersion；以及一个文本引导的剪枝器，进一步保留与文本查询在语义上对齐的 token。 在十二个图像-语言和四个视频-语言基准上的大量实验表明了我们框架的有效性、效率和泛化性。值得注意的是，在 token 减少 89% 的情况下，SinkPruner 仍保留了 LLaVA-1.5（Qwen2.5-VL）原始性能的 96.5%（91.8%）。实验进一步表明，我们的视觉净化器在提升现有剪枝方法性能方面具有良好的可迁移性。我们的代码地址为 https://github.com/LaVi-Lab/SinkPruner。
18:35 arXiv cs.AI 73
A/B 测试是评估产品变更的黄金标准，但每次实验都需要真实用户流量、工程投入以及数周的观测时间。我们提出一个模拟框架，利用由 LLM 驱动、以基于真实用户行为信号构建的数据驱动人物画像为条件的智能体来预测 A/B 测试结果。不同于依赖合成或基于规则的人物画像的先前工作，我们的智能体由匿名化行为数据、活动模式、参与度信号以及推断的人口统计特征构建而成，从而能够更真实地建模总体人群。我们将 A/B 测试模拟表述为一项结构化问答任务，并系统研究：(i) 问题设计格式，(ii) 人物画像数据来源与领域对齐的影响，(iii) 单个人物画像的行为深度与总体多样性之间的权衡，以及 (iv) 高效的人群子采样。在一个涵盖两类指标的 40 个 A/B 测试基准上，我们的最佳配置根据测试指标不同可达到 0.75–0.90 的方向准确率，表明数据驱动人物画像是实现快速、低成本实验预筛选的一条可行路径。
18:46 arXiv cs.AI 65
Production LLMs must handle inputs that attempt to override system instructions, bypass safety policies or elicit harmful responses. A common mitigation is a separate guardrail model. Existing reports, however, provide little evidence on Russian prompt injection or Russian surface obfuscation. We present HiveTraceGuard-Pro, a 0.6B generative guardrail LoRA-tuned from Qwen3-0.6B. It is trained on Russian and English and uses one binary scoring rule (safe/unsafe) for the final target turn. Its training corpus pairs harmful examples, where a counterpart exists, with benign examples from the same domain and applies eight obfuscation transforms to both labels. In one harness, we compare HiveTraceGuard-Pro with thirty-four other guards on nineteen benchmark groups, sixteen of which are public. Its aggregate key is 0.7432, behind 0.7641 and 0.7552 for the two higher-scoring guards. Over the sixteen public groups alone, its key is 0.7153 and four of the thirty-four other suite guards score higher. In a fifteen-model comparison, HiveTraceGuard-Pro has the highest clean Russian robustness combined-F1 (0.88) and Russian prompt-injection recall (0.999). Both results use Russian sets assembled by our team, and at least 27.1% of the prompt-injection set overlaps the training corpus. Its 14.3 ms median latency is the lowest among those fifteen models in that run. Across the suite, FPR is 0.268 and FNR is 0.156. All reported response results use a legacy standalone-reply serialization rather than the natural assistant-role path of the shipped chat template. We release the merged weights on Hugging Face under Apache-2.0. The corpus, evaluation sets and evaluation code remain internal.
19:07 arXiv cs.AI 71
晶体生成器如今已经能够提出周期性结构，但其控制接口与材料设计中使用的混合描述符仍然匹配不佳。文本提供了一种将成分、对称性、原型和性质线索组合起来的紧凑方式，但此前尚不清楚这类信息是否能够引导基于流的晶体生成。这里我们提出 TFMat，一种条件于文本的流匹配框架，它将结构化材料语言作为 CrystalFlow 生成器的语义先验。在 Perov-5、Carbon-24 和 MP-20 晶体结构预测基准上，TFMat 提高了相较于 CrystalFlow 的单候选匹配率，并在 20 个候选下实现了 92.04% 的 MP-20 匹配率；在从头生成中，它改善了元素数量和密度分布的对齐，同时在按成分筛选的输出中保持了粗粒度的性质一致性。这些结果表明，结构化文本可作为一种可解释的控制层，将人类可读的材料意图转化为可供后续模拟和验证的候选晶体。
07:12 Hacker News 熱門 75
文章链接： https://www.anthropic.com/news/improving-alignment-security-efforts 评论链接： https://news.ycombinator.com/item?id=49529567 得分：5 # 评论数：1
23:08 arXiv cs.AI 73
具身导航要求智能体将异构目标和视觉观测转化为跨任务、跨环境以及跨机器人具身形态的动作。现代 vision-language models（VLMs）已经为视觉定位、空间推理和指向编码了空间先验，但这些能力很少被直接用于机器人控制。现有导航系统反而依赖任务或具身形态特定的组件，割裂了感知、推理和动作，同时泛化能力有限。本文提出 LightNav-0，一种紧凑的通用具身导航模型，它激发预训练 VLM 的空间智能并使其与导航对齐，而无需任务特定的预测头。LightNav-0 通过统一的 token 接口表示多样的导航任务：双通道指向表达与任务、场景和具身形态无关的空间意图，而残差向量量化动作 tokenizer 将该意图映射为精确的、与具身形态相关的轨迹。结合具备时间感知的视觉历史压缩、ER mid-training、监督微调和强化学习，这一形式化方法在单一模型中同时支持指令遵循、开放词汇目标导航和视觉跟踪。导航训练语料涵盖 2K+ 个场景和 4K+ 小时的具身导航数据。用于初始化 LightNav-0 的具身推理检查点 LightNav-ER 在 8 个具身推理基准上取得了最高的完整集合平均分，而 LightNav-0 在全部 10 个公开导航模拟设置中实现了最先进的单目成功率。真实世界评估进一步展示了其在不同机器人具身形态、多样场景以及静态和动态目标上的零样本泛化能力。这些结果确立了紧凑 VLM 作为通用具身导航统一且可迁移骨干的地位。
23:43 arXiv cs.AI 75
监督微调（SFT）训练一个基础语言模型去模仿目标响应，而这些目标可能需要基础模型尚未稳固内化的知识。我们将这一点视为幻觉的一种来源，并将一组缓解方法概括为知识对齐 SFT：将 SFT 训练目标约束在基础模型的参数化知识范围内。在统一设置下，我们比较了现有的基于生成和基于估计的知识对齐方法，并引入两个新的变体：Evidence Rewrite，使用外部证据验证基础模型生成内容；以及 Recall Rewrite，仅在基础模型能够一致回忆这些陈述时才保留它们。使用 Qwen 3 4B 和 OLMo 3 7B 的实验表明，知识对齐 SFT 可以在大体保留通用能力的同时，减少 WildHalu 和 Biography 上的事实性幻觉。Recall Rewrite 带来了最强的事实性提升，并改善了 UnknownBench 上的拒答行为。这进一步证实，超出基础模型知识范围的 SFT 目标会驱动幻觉行为。
01:59 arXiv cs.AI 78
在长时程操作中，基于模型的控制与学习得到的策略之间一直存在一个隐性的分歧：控制负责执行指定目标，学习则将这种行为摊销为反应式策略，然而现有协议会丢弃任务语义，导致奖励被手工设计，行为也逐渐偏离控制所验证的内容。我们提出语义统一（Semantically UNified，SUN）程序，这是一类带类型的可执行程序，其中几何关系和接触关系只需定义一次，随后即可编译为对齐的模型预测控制（Model Predictive Control，MPC）代价、满足谓词、强化学习奖励、转换守卫以及诊断信息。我们的系统 Kuafu 由大型视觉语言系统驱动，可从语言和场景语义中自动合成 SUN 程序，通过 MPC 筛选可行性，并在训练阶段条件策略时保留语义。在九个任务上，Kuafu 取得了 82.03% 的宏平均成功率，优于稀疏奖励（35.67%）和 Stage-BC（24.75%）基线。在 8192 路规模下，它每小时生成的成功轨迹时长是人工遥操作的 10.57 倍。每个任务使用 500 条轨迹时，Kuafu 数据可训练 DP3 策略在仿真中达到 46.0% 的成功率（而其他方法为 22.4%），并在物理 Franka 和 Kinova 机器人上达到 34.7%。这些结果表明，经过仿真筛选的任务语义能够在无需演示或人工稠密奖励的情况下，有效地将控制摊销为稳健策略，从而统一符号规划与数据驱动执行。
16:53 arXiv cs.AI 78
Generative Engine Optimization (GEO) 越来越多地用于提高基于 LLM 的检索系统中的内容可见性，但在反复优化下其总体层面的影响仍然知之甚少。我们提出 Content Homogenization under rAnking Signal Exploitation (CHASE)，这是一个受控模拟框架，用于研究当创作者反复针对 LLM 排序信号调整文档时，内容生态系统如何被重塑。我们将排序作为源可见性的代理，并在有依据支撑的生成回复中的引用上验证这一抽象，在六个领域中获得了 0.853 $\pm$ 0.093 的 rank-citation AUC。随后，CHASE 在不同领域上迭代执行排序、特征区分、重写和评估，共进行 20 轮。在六个领域中，质量-排序一致性均下降：从 R0 到 R20，Spearman's rho 的变化范围为 -0.107 到 -0.018，平均变化为 -0.068，这意味着在模拟期间，更接近排序特征画像的文档与独立判断的文档质量之间的对齐程度变差。随机目标对照表明，这种变化与基于排序的激励适应有关，而不仅仅是迭代重写本身。由此产生的生态系统动态具有很强的领域依赖性。综合来看，这些发现表明，针对固定的 LLM 排序信号进行反复优化，会同时重塑内容群体以及内容创作者所面临的激励机制。
17:52 arXiv cs.AI 82
基准饱和和数据污染正日益掩盖前沿 LLM 中真正的科学推理。我们提出 \textsc{ScienceArena}，这是一个来自物理、化学和生物领域十三项公开科学竞赛的奥赛风格基准，包括 IPhO 和 IChO 2025--2026、IBO 2023、USAPhO 2026 以及 USNCO 2025。其开放式、多步骤题目采用过程得分规程，因此忠实评分十分困难。我们通过一条经过专家审校的数字化流程构建 ScienceArena，该流程将官方试卷、图表、解答和评分规程转换为结构化条目，并由奥赛奖牌获得者验证。为将评测规模扩展到昂贵的人工评分之外，我们在 IPhO 和 IChO 上来自五个模型的存档答案上，将 LLM-as-judge 与奖牌获得者的真实标准进行校准；两个强评审都能将总分控制在专家总分一分以内。奖牌获得者的笔记表明，失败往往源于视觉对齐、结构忠实性以及全局题目掌控，而非缺少术语。我们使用交错求解评测了十四个近期 LLM，发现顶级模型在若干公开国际考试上获得了相当于奖牌水平的评分规程分数，而化学和长程一致性仍是关键瓶颈。我们提供一个交互式 \href{https://science-arena.onrender.com/}{演示}。
18:30 arXiv cs.AI 77
生成式检索（GR）通过将查询直接映射到具有强表示能力的候选项 Semantic IDs（SIDs），已成为一种很有前景的范式。然而，现有仅基于商品内容生成的 SIDs 会产生语义鸿沟，无法将动态的查询意图与静态的商品表示对齐。此外，当前的生成式范式很少对用户行为序列建模，并且始终受限于 beam-search 自回归解码带来的高推理延迟。为解决这些挑战，我们提出 $\textbf{C}$ross-component $\textbf{H}$ierarchical semantic $\textbf{A}$lignment for $\textbf{P}$ersonalized generative retrieval（$\textbf{CHAP}$），一种从层次化视角出发的新型个性化 GR 框架。首先，我们设计了一个 Hierarchical Semantic Alignment 模块，用于对齐查询的潜在空间与商品的量化路径，并同步多粒度语义。其次，我们构建了一个个性化 GR 框架，通过协同离散 SIDs 进行结构性引导与连续表示进行细粒度语义细化来建模用户行为。值得注意的是，我们引入了 Residual Cascading Generation 机制，将代价高昂的多步 Transformer Decoder 限制为单次前向推理，在提升推理吞吐量的同时缓解信息损失。在三个公开数据集、一个私有工业数据集以及线上 A/B 测试上的大量实验表明，CHAP 优于现有方法，验证了我们方法的有效性和实用价值。代码已公开，地址为 https://github.com/zzzgm/CHAP。
19:28 arXiv cs.AI 75
合成数据正越来越多地用于训练大型语言模型（LLMs），但其安全影响仍未被充分理解。先前关于隐性学习的研究表明，模型可能会从看似无关的训练数据中继承行为特征。在这项工作中，我们研究这类机制是否可被利用，通过语义上无害的合成数据向对齐模型注入定向社会偏见。我们构建了一个流程，其中一个未对齐的教师模型在创意写作和代码生成等领域生成经过筛选的合成数据集，随后这些数据集被用于对齐学生模型的微调。我们的实验表明，看似无害的合成数据可以作为传递定向偏见的隐蔽通道，同时在很大程度上保留学生模型的一般任务能力。这些结果揭示了合成数据驱动的 LLM 训练流程中一个此前未被充分探索的安全风险，并凸显了改进防护措施的必要性。作为朝这一目标迈出的一个可能步骤，我们建议，基于对数线性的评分可能为筛查看似无害的合成数据提供有用信号。
15:29 arXiv cs.AI 76
长程、故事驱动的视频生成需要一个制作智能体来协调叙事拆解、状态跟踪、镜头设计、提示词构建、渲染以及跨相互依赖场景的修订。现有的自适应视频系统主要是优化请求或可复用技能，但这些改进与跨故事、面向特定阶段的持续改进相脱节。我们提出 CineForge，这是一个自我进化的视频制作智能体框架，将用于视频生成的 CineForge-Produce 与用于跨故事策略演化的 CineForge-Evolve 结合起来。CineForge-Produce 将每个源故事组织为类型化的叙事、角色、空间和电影状态，利用它们协调素材和片段生成，并将过程记录为规范化的制作轨迹。CineForge-Evolve 采用 Case-to-Pattern-to-Policy Evolution (CPPE) 来审查轨迹证据，将重复出现的发现整合为有界的阶段局部补丁，并通过结构化重放和置信度受控的成对评估部署经过验证的更新。为了衡量完整的故事实现，我们提出 CineScope，它结合了一个包含 100 个脚本的 CineScope-Data 套件，以及一个与人类对齐的多尺度 CineScope-Metric，覆盖因果状态、导演编排、节奏与资源分配，以及角色弧线。在 CineScope-Data 和两个公共基准上，演化后的 CineForge 策略将 CineScope-Metric 从 4.024 提升到 4.380，在 ScriptAgent 下相较三个长视频基线取得一致增益，并在新故事上将审查 LLM 调用减少 37.0%。这些结果表明，制作轨迹可作为可操作的经验，使视频智能体能够在长篇叙事任务中累积改进。
15:32 arXiv cs.AI 73
大型推理模型（LRMs）的最新进展表明，通过长链式思维（Long CoT）推理，它们在复杂问题上表现出很强的性能。然而，将这类轨迹蒸馏到更小的学生模型中仍然具有挑战性：直接的 Long CoT 监督往往带来的收益有限，而且可能不如简洁的 Short CoT 理由有效。在这项工作中，我们从以梯度为中心的视角研究这一现象。我们的分析表明，与 Short CoT 相比，Long CoT 会产生更大的梯度幅度和更集中的更新方向，而且随着学生模型容量的增加，这种效应会更加明显。这些发现表明，有效的 Long CoT 蒸馏需要在推理轨迹的推理信息密度与其和学生模型的分布对齐之间取得平衡。受此启发，我们提出 \textbf{M}odel \textbf{I}nterporlation \textbf{Distillation}（\textbf{MI-Distillation}），一个通过模型插值构建连续 Instruct-Reasoning 数据谱的框架。为从该数据谱中选择合适的轨迹，我们进一步提出 \textbf{Seq}uential \textbf{L}earnable \textbf{S}urprisal \textbf{S}core（\textbf{SeqLSS}），它偏好对学生而言既信息丰富又可学习的推理路径。大量推理基准实验表明，MI-Distillation 能够在强大的 Long CoT 基线之上，一致地提升小模型的 CoT 蒸馏效果。
00:19 arXiv cs.AI 73
预测机器人视频既需要精确的运动推理，又需要保留高频外观细节，但单一的像素模型会把这些目标纠缠在一起，并且常常依赖强大的最后一帧基线而掩盖其进展。我们提出 AcrossVAM1.0，这是一种轻量级的、文本辅助的视频动作模型，将未来预测分解为以目标为中心的运动和稠密外观。一个冻结的 SAM3-DLP 编解码器将四个上下文帧分解为用于机器人、机械臂和夹爪的语义粒子，以及一个背景潜变量。一个具有 0.28M 参数的时空 Transformer 对粒子身份进行对齐，向前推进其状态，并通过 FiLM 由冻结的 OpenCLIP 指令嵌入进行调制。一个因果双流解码器将粒子渲染的运动与仅从最后一个观测帧编码的外观相结合；一个残差精炼器和一个学习得到的传递掩码在不访问未来外观的情况下生成五个未来帧。在我们基于多样真实机器人轨迹构建的 VRS 基准上，粒子动态使轨迹误差相较于持续基线降低了 21.0%。在三个传递掩码随机种子下，AcrossVAM1.0 将未来帧 PSNR/SSIM 从 19.97/0.796 提升到 20.573/0.8004，而原始粒子生成将运动区域 PSNR 从 11.89 提升到 13.23。该传递模型在 LPIPS 上尚未超过持续基线，而正确与打乱的语言输入对轨迹误差的影响仅为 2.8--3.1%。我们连同 oracle、负对照、多随机种子以及按机器人划分的分析一起报告了这些局限性。结果表明，显式粒子动力学是机器人视频预测中一种很有前景的低维接口，而稳健的语言落地和外观传递仍是主要的开放挑战。
22:37 arXiv cs.AI 76
用户经常要求大型语言模型（LLMs）报告它们有多自信，但这种语言上的自信是否反映模型的内部自信尚不清楚。我们在 8 个分类任务、2 个生成任务以及来自三个家族的 30 个模型上研究这一问题。对于分类任务，我们从三个维度比较语言置信度与基于 logits 的置信度：关联性、幅度一致性和校准性。对于生成任务，我们检验语言置信度是否跟踪基于语义熵的“不确定性”。这些维度经常出现分歧。实例层面的关联性平均来说较弱，但在更容易的样本以及更强的基础模型上会有所改善。经过指令微调的模型往往报告更高的置信度，有时也表现出更高的关联性，但它们同时具有更大的置信度差距和更差的校准性。提示词设计主要改变的是所报告置信度的分布。态度提示会抬高置信度，但不会改善对齐，而分数示例在避免置信度值塌缩时可以保留排序信号。回归分析表明，置信度分数的分布特性解释了所观察到的大部分对齐模式，而在控制其他因素后，模型元数据的作用较小。这些结果支持将语言置信度视为一种有损通道。更分散的口头置信度分布可以携带有用的排序信息，但并不会使这些分数变得可校准。因此，在将语言置信度用于下游可靠性流程之前，应该用多维诊断方法对其进行评估。
23:45 arXiv cs.AI 76
对比式视觉-语言学习利用配对的胸部CT体数据和放射学报告，在无需人工标注标签的情况下学习异常分类器。然而，胸部CT的两个特性给传统的全局对比学习带来了挑战。首先，许多关键异常很小或局限于特定解剖区域，将整个体数据池化为单个嵌入可能会削弱其视觉证据。其次，标准对比目标会将批次中的其他每个扫描都视为负样本。由于许多胸部CT共享异常，这一目标会错误地将共同为正样本的配对拉开。我们提出用于3D胸部CT的 Anatomy-Routed Contrastive Learning（ARC-CT），这是一个区域感知框架，仅使用由LLM从报告中提取的标签来解决这些局限，无需人工标注或边界框。ARC-CT结合了三个组件：（1）Anato-myQFormer，通过受自动生成的器官掩码约束的查询来定位证据；（2）label-Jaccard soft InfoNCE目标，将标准 one-hot 目标与每对样本的标签集合重叠相结合，从而减少共享临床发现的研究之间的误负样本惩罚；（3）器官级对齐损失，将掩码池化后的视觉特征与使用大语言模型离线提取的器官特异性报告文本连接起来。ARC-CT 使用紧凑的 3D ResNet-18 主干，在18种异常上实现了0.86的无需掩码宏平均 AUC。总体而言，ARC-CT 的表现优于可比的高效基线以及若干更大的 transformer 模型。我们的代码和权重可在 https://github.com/arc-ct/arc-ct 获取。
23:48 arXiv cs.AI 79
尽管大型语言模型（LLMs）在获取知识和计算辅助方面发挥着中介作用，但其能力也应以同样方式惠及弱势群体。然而，现有 AI 系统是否足够包容，能让盲人和盲聋用户通过盲文访问相同功能，目前尚不清楚；盲文的标志符、缩写以及数字表示形式对模型理解提出了独特要求。为此，我们提出 BrailleBench，这是一个用于从不同标准评估 LLMs 盲文理解能力的基准。BrailleBench 对齐了来自五个数据集的 5,570 个实例，涵盖数学、常识以及多跳问答，并覆盖英语和 1 级、2 级盲文。我们设计了不同配置，以了解系统是否能够理解以盲文撰写的内容、用盲文表达答案，以及完成端到端的盲文交互。为确保质量并防止评估偏差，该基准通过一个确定性的、经专家审查的流程构建，使用自建的 Braille Toolkit，且不使用任何由 LLMs 生成的数据实例。我们从多个方面评估了六个具有代表性的 LLMs。结果揭示了印刷英语能力与盲文可访问性之间持续存在的差距。盲文理解与表达呈现不对称性，其中与 1 级盲文相比，2 级盲文在输入侧尤其脆弱，而完全使用盲文的请求会进一步降低性能。实验观察为未来 Braille AI 系统的发展提供了有价值的指导。BrailleBench 中的所有相关资源均已公开，可供未来研究使用。
00:46 arXiv cs.AI 76
近期的视频生成模型越来越多地被定位为世界模型。许多物理过程可以以不止一种有效方式展开。因此，世界模型不仅应复现一条合理的轨迹，还应复现在相同初始观测和动作下可能行为的分布。我们将这种分布层面的要求称为概率对齐。然而，现有评估大多评估单个视频的合理性，并不检验重复生成是否能恢复正确的分布。这提出了一个核心问题：当前的视频生成器距离概率对齐的世界建模还有多远？为回答这一问题，我们将概率对齐形式化为世界模型的一项分布准则，并引入 PAWBench，这是一个用于将视频生成器评估为世界动态随机采样器的基准。我们进一步引入 PAWEval，这是一种结果层面的协议，可将重复的视频推演转换为可能物理行为的经验分布。在 50 个场景和 11 个当前系统中，没有任何模型能够在恢复有效行为范围的同时始终匹配参考概率。在确定这一差距之后，我们测试了语言提示、初始噪声采样或模型训练是否能够重塑模型的预测分布。我们相信，我们的工作可作为未来推动概率对齐世界建模研究的基础。
01:55 arXiv cs.AI 72
基于 LLM 的 Agent 正越来越多地部署在产品级执行框架中，在这些框架中，越狱可能触发有害的工具使用和持久状态变更，从而带来比单纯生成不安全文本更大的风险。现有的自动化红队测试方法通常依赖固定攻击，而近期的 Agent 式攻击者会协调多种越狱工具，并通过基于轨迹的检索展现出更强潜力。然而，由于检索偏差和工具贡献不清晰，这类检索可能会复用误导性经验；同时，完整轨迹会增加上下文开销并降低可解释性。我们提出 RedEvoAgent，这是一种黑盒红队测试 Agent，能够将跨案例攻击轨迹提炼为简洁且人类可读的攻击技能。该攻击技能通过工具有效性画像和用于技能更新的 Deciding-Tool Attribution 自适应进化，并通过验证棘轮机制仅保留能提升验证性能的更新。在多个基准、目标模型和目标执行框架上的实验表明，RedEvoAgent 优于固定式和 Agent 式基线方法，提升了工具效率，并能够在攻击者模型和目标执行框架之间迁移。
01:56 arXiv cs.AI 76
在真实的软件开发中，代码审查通常涉及开发者与审查者之间的迭代交互，以提升软件质量，因此这一过程成本高且耗时。尽管近期工作开始探索使用大语言模型（LLMs）进行自动化代码审查，但大多数方法将代码审查过度简化为单轮、静态的决策任务，未能刻画现实审查场景中固有的多轮交互特性和复杂问题求解过程。为弥补这一空白，我们提出 MCR-Bench，这是首个面向真实多轮代码审查的缺陷状态感知基准。MCR-Bench 覆盖五种常用编程语言，共包含 2,269 个真实世界的多轮代码审查任务，每个任务都标注了细粒度的缺陷信息和跨轮次状态标签。MCR-Bench 中的每个任务都配有细粒度的缺陷元数据（如描述、类型、严重程度）以及动态状态标注，从而捕捉缺陷在多轮过程中完整的演化轨迹。我们在 MCR-Bench 上使用主流 LLMs 进行了大量实验，得到若干发现。(1) 整体能力有限：实验表明，主流 LLMs 在缺陷检测和缺陷生命周期状态跟踪方面的整体表现有限，且随着交互轮次增加，性能显著下降；(2) 对缺陷敏感的性能：LLMs 在不同缺陷类型和严重程度上的表现差异很大，语义复杂或显著性较低的缺陷更容易被遗漏；(3) 潜在失效机制：我们的深入错误分析剖析了假阳性和假阴性的不同驱动因素，揭示了跨轮次时间对齐不一致和长程记忆不足等关键弱点。
20:33 arXiv cs.AI 77
Reinforcement Learning with Verifiable Rewards（RLVR）及其他 RL 风格的后训练范式，已被用于使大语言模型（LLMs）与推理标准对齐。近期涌现的 Reasoning Language Models（RLMs），如 DeepSeek-R1、o3 和 Kimi k1.5，表明这种 RL 风格的后训练（“RL-for-LLMs”）能够显著提升思维链推理、长时程规划和自我纠错能力。然而，这些系统的计算开销极其庞大：最先进的 RLM 训练需要数百万 GPU 小时，以及紧耦合的多模型流水线，其对现代硬件的压力远超传统的监督式 LLM 训练。这使得 RLM 训练同样是一个并行与分布式系统问题，而不仅仅是算法问题。在这项工作中，为了促进同时具备高性能、可扩展性和成本效益的 RLM 开发，我们首先系统化 RL-for-LLM 范式，并从计算角度分析了几种重要的后训练算法框架：Proximal Policy Optimization（PPO）、Group Relative Policy Optimization（GRPO）及其变体。其次，我们构建了适用于 RL-for-LLMs 的模型内与模型间并行策略分类，涵盖传统技术（数据、张量、流水线、序列、上下文和专家并行）以及面向多模型 RLM 训练的新型并行与优化技术，例如解耦部署、阶段融合、混合并行和异步执行。我们借助并行计算的 work-depth 模型，使该分类及其洞见更加严谨且具可移植性。最后，我们分析了现有 RLM 框架，并提炼出构建可扩展、快速且成本效益高的 RLM 的实用指南，同时概述了未来开放研究方向。
00:28 arXiv cs.AI 75
多模态医学预测常常面临配对不完整的问题：具有互补信号的辅助模态只对一部分受试者可用（甚至完全不可用），且在部署时不能假设其存在。我们提出 PANDA（Prototype Anchored Data Alignment），这是一种两阶段框架，可在推理时没有辅助输入的情况下，将辅助信息传递给主模态模型。第 1 阶段从已配对子集中学习共享嵌入，并从辅助模态估计类别原型；第 2 阶段使用交叉熵损失加上与冻结原型的对齐项，在所有受试者上训练主编码器。由于监督定义在类别原型层面，PANDA 能适应任意配对率，包括受试者重叠为零的情况。我们在两个应用上评估 PANDA。在一个包含 1,021 名受试者的多扫描仪 ADNI 队列上，我们在三种配对率不同的辅助模态下进行 AD/CN 分类：表格化评分（44.8%）、FDG-PET（18.7%）以及外部手写运动学数据（0% 重叠）。相较于相同 backbone 的仅 MRI 基线，PANDA 达到 AUC 0.868 +-0.020（提升 7.9 个百分点），并将 1.5T 条件下 CN 假阳性减少 24.3 个百分点；在一个可完全训练的 Conv5-FC3 backbone 上，它达到 AUC 0.893（整体最佳）。配对率消融结果表明，联合锚点在 75% 到 5% 的配对率范围内始终保持在随机种子噪声范围内。在以 RNA-seq 作为辅助数据、基于全切片图像进行的 TCGA-Lung 生存预测任务上，PANDA 在 2 年 OS（AUC +3.5 个百分点）和 Cox PH（C-index +9.0 分）方面优于仅 WSI，并且优于全融合训练；后者甚至不如仅 WSI，但 PANDA 在推理时无需 RNA。由于该队列较小，较宽的置信区间使得这些提升低于常规显著性水平。总体而言，PANDA 提供了一种面向部署的机制，用于利用不完整的辅助模态来提升主模态预测。
01:56 arXiv cs.AI 85
现有的动作质量评估（AQA）数据集和方法主要依赖 RGB 和姿态等视觉输入，忽视肌肉力学等生理动态，且常将动作建模为单一整体模式。这些局限阻碍了细粒度、基于生物力学的反馈。我们提出 MyoMechanix，这是一个面向负重动作的多模态生态系统，将运动与肌肉活动对齐。该数据集由专家标注，包含来自 38 名受试者的 20 个动作、7500 多个样本，具备同步的多视角 RGB 视频、3D 姿态、sEMG 及其他生理信号，构成迄今最大的多模态 AQA 基准。我们进一步构建了 Fitness Knowledge Graph（FKG），将专家标注组织为动作、阶段、关键步骤、错误和纠正反馈之间的结构化关系，从而支持组合式评分和可解释评估。基于这些表示，我们开发了 CUBIST（Compositional Ontological Reasoning Engine），通过分解-分析-重组实现细粒度错误归因和反馈生成。我们还建立了 MyoMechanix-AQA、MyoMechanix-VideoQA，以及一种新的 MyoMechanix-Video2EMG 任务。实验表明，多模态感知和结构化表示能够提升性能、可解释性和错误归因，其中 CUBIST 取得了最先进结果；VideoQA 增强了语言驱动的动作理解；Video2EMG 则表明，可用基于视频的替代方案来取代代价高昂的 EMG 传感。MyoMechanix 将技能活动理解推进到面向 Physical AI 应用的生物力学基础、多模态和组合式推理层面，服务于健身、康复、医疗保健和机器学习。Project page: https://haoyin116.github.io/MyoMechanix/
01:59 arXiv cs.AI 78
原生视觉推理将视觉生成本身视为推理媒介：视觉状态（即图像和视频）不仅仅是需要理解的输入或需要渲染的输出，而是超越语言进行问题求解的第一类载体。然而，进展仍受限于缺乏可扩展的训练任务、可靠的反馈，以及跨生成载体的受控比较。在这项工作中，我们提出 VBVR-Pro，一个闭环测试平台，使基于生成的原生视觉推理变得可训练、可验证、可优化，并且可进行实验控制。1）任务扩展。VBVR-Pro 将视觉推理转化为一个受控的任务空间，包含 300 个程序化生成任务。在 VBVR-Pro 上训练的模型，在 RISE-Video、MME-CoF-Pro 和 BabyVision 等七个外部视觉推理基准上表现出强迁移能力，超出了所提出套件的范围。2）可验证奖励。VBVR-Pro 为任务约束的评估提供可验证的奖励评分器。通过对领先 MLLMs 作为裁判的系统性研究，我们识别出当前流行的 VLM-as-a-judge 范式中反复出现的失败模式。相比之下，所提出的评分器建立在确定性的、任务特定的规则之上，并与人类判断实现了细粒度对齐。重要的是，它们可作为大规模多任务强化学习的可靠奖励信号，并在各类视觉推理任务上展现出更强的 RL 后性能。3）机制研究。VBVR-Pro 支持在 30 多种图像、视频和交错式生成器之间开展受控模态研究。我们的分析表明，对于需要持续时空状态跟踪的任务，视频生成仍然最强，而交错式生成则提供了一种计算更高效的替代方案。关键的是，消融和探测结果表明存在视觉原生轨迹，而这对于视觉推理至关重要。我们公开所有数据、模型、评分器和代码。
23:37 arXiv cs.AI 71
世界模型旨在模拟复杂环境在动作和事件作用下如何演化，但现有基于视频的世界模型主要从视觉观测中学习动力学，这些观测呈现的是结果，而非支配世界演化的底层知识、规则和机制。这使得它们难以维持持久的后果，并支持连贯、开放式的演化。我们提出 Code World Model，这一框架将世界演化与视觉呈现分离，结合语言模型的推理与编码能力以及视频模型的生成先验。一个 coding agent 充当世界大脑，对事件及其后果进行推理，并生成可执行代码以维护持久的世界状态并执行符合规则的演化。为将可执行状态与视觉生成连接起来，我们引入一种 proxy 表示，它编码逐帧时空约束，并被编译为 proxy video，用以条件化视频模型，从而渲染高保真的视觉观测。我们还开发了数据流水线，用于从游戏和真实世界视频中构建对齐的 proxy-观测对。经过配对游戏数据微调后，MiniMax-H3 能够遵循由 coding agent 构建的简单交互式世界中的基于 proxy 的时空规范，同时保留丰富的视觉细节和动态效果。这些结果展示了将用于持久世界演化的代码与用于灵活视觉呈现的视频模型相结合的潜力，为开放式世界模型提供了一条新路径。
23:05 arXiv cs.AI 77
大型语言模型（LLMs）通常在这样一种假设下进行评估：其可观察行为主要由模型权重、训练数据、对齐流程以及用户提示词所决定。这个观点并不完整。现代推理流水线可能会在模型生成 token 之前、紧接着对其产生的概率分布进行系统性修改，从而在冻结权重与可观察文本之间创建一层额外的控制层。 尽管受控生成（例如 PPLM、GeDi、DExperts、FUDGE）和文本水印系统（例如 SynthID-Text）展示了在解码层和 logit 层进行干预的技术成熟度，未披露推理策略所带来的治理、安全与经济影响却相对缺乏研究。本文考察推理时框架偏置的出现：即在模型推理之后但在 token 采样之前施加干预，从而系统性地将生成语言引导向政治、意识形态、制度或商业框架。 我们将 Model != Deployed System 这一运行现实形式化，并提出三个概念：（1）推理归因问题，用于刻画在有限可观测条件下，为何观察到的行为偏置通常不能仅仅归因于模型权重；（2）概率投放，定义一种假设性的广告原语，其中商业影响不是通过显式插入产品，而是通过系统性改变生成概率来实现；以及（3）推理策略透明性，一项用于使部署层干预可审计的治理原则。我们将这些概念与欧盟 AI Act 第 5 条、欧盟 Digital Services Act 以及 FTC 的相关原则联系起来加以审视。
23:38 arXiv cs.AI 79
通过自监督学习预训练的 EEG 基础模型有望获得可迁移表征，但其泛化能力仍然有限，尤其是在不同临床数据集之间。由于计算需求高，在资源受限的临床环境中进行全量微调并不现实。在这项工作中，我们研究参数高效的自监督适配是否足够，即仅更新 9% 的参数能否将表征对齐到目标任务。我们在两个采用不同预训练目标的最先进模型上评估了该方法：BIOT（对比学习）和 CBraMod（掩码重建），并在三个临床 EEG 数据集上进行评估，任务分别为异常检测（TUAB）、事件分类（TUEV）和癫痫发作检测（CHB-MIT），同时考察分布内和分布外两种条件。SSL 适配相较于线性探测带来了稳定提升，AUCPR 最高可达 20 倍。在固定计算预算下，实现峰值性能只需要可用无标注数据的 20--50%。关键的是，当总窗口数固定时，性能与患者数量无关，这表明性能仅依赖于整体时间窗口多样性。我们的研究结果表明，参数高效适配能够以最小的计算开销和数据采集负担，有效部署 EEG Foundation models（EEG-FM）。代码地址：https://github.com/c3n-group/efficient-eeg-adapt
01:59 arXiv cs.AI 80
交互式世界模型必须跟随用户的动作，记住它所展示过的地点，并实时流式生成。其矛盾具有结构性：控制需要短时程，而记忆需要无界时程。ReWorld 在训练时将二者分离，并在推理时对二者加以界定。混合的逐头注意力窗口将大多数头限制在近期过去，而少量全局头会关注整个历史；随机头路由避免任一能力绑定到特定头上；随机分块丢弃使稀疏历史符合分布。在推理时，整个过去都被纳入固定预算之下：一个有界 KV cache 由按姿态索引的地标库支撑，模型从中检索最接近当前姿态的地标。一个按度量尺度对齐的数据引擎将八个来源——Unreal 渲染的飞行穿行、游戏漫游和真实世界影像——置于同一个物理动作尺度上，因此同一次按键在每个来源中都会使相机移动相同距离，而回文轨迹提供了记忆训练所需的重访证据。随后，将分布匹配蒸馏限制在 LoRA 适配器中，把采样压缩到四步：一个骨干同时服务于高保真的多步模式和实时交互模式，可在写实、游戏风格和风格化世界中流式生成 704x1280 视频。在涵盖动作跟随、长时程回忆和视频质量的三轴协议下，与六个近期交互式世界模型相比，它取得了最佳控制保真度（$11.95^\circ$ 旋转误差以及最佳相机运动一致性）和最佳生成质量；在分钟级往返 rollout（$64$\,s，$384$ 个潜变量）上，其固定的 12 分块缓存仍能再生成起始视图——而在这种 rollout 长度下，滑动窗口早已逐出了证据，完整 KV 注意力则会耗尽内存。
01:14 arXiv cs.AI 75
大型语言模型在推理时不检索源文档的情况下，往往无法回答有关有界文档集合的问题。我们将这一场景研究为文档知识内化：将固定语料库转化为可用于无检索问答的参数化知识。我们提出 IAR（Inject, Align, and Recover），这是一个三阶段后训练框架，将结构化文档知识注入、QA 行为对齐和通用能力恢复分离开来。不同于传统的持续预训练，Inject 将源文档转化为续写、改写和以指令为条件的重构目标。随后，Align 使用仅答案 QA 监督来适配已注入的模型，而 Recover 将领域适配模型与基础指令模型合并，以恢复通用能力。在 Common Corpus (CC) 和 CCI 上，以及在 Llama、Phi、Qwen 和 SmolLM 模型家族中，IAR 改善了无检索文档内化的领域优先与领域通用前沿。在主要比较中，IAR 在 8 个数据集-模型设置中的 7 个上，在全部四项报告指标上均优于 Vanilla SFT，领域 QA 准确率平均提升 3.6 个百分点，在 IFEval、MMLU 和 MSBench 上的平均通用性能提升 12.1 个百分点。扩展的 CC 基线显示，LoRA 和 FAPM 可以在单个通用指标上取胜，但在同时达到领先或接近领先的领域内化水平的方法中，IAR 保持着最强的通用表现之一。
01:59 arXiv cs.AI 72
医学报告的个性化解读已成为患者日益重要的需求。满足这一需求既需要基于证据的医学事实性，也需要依赖语境的患者沟通，然而现有的医学视觉-语言任务并未充分捕捉这两方面要求。为弥合这一差距，我们提出 Patient-oriented Medical Report Interpretation（PMRI），这是一项新的开放式多模态生成任务，要求模型基于用户的查询和对话历史，用准确且易懂的语言解释医学报告。这两个目标在可验证性上有根本差异，却又紧密耦合，因此在传统的监督微调和整体式强化学习范式下难以联合优化。为应对这一挑战，我们提出 G-CARL，这是一个基于证据且与清单对齐的强化学习框架，它将用于原子声明验证的多源检索与上下文感知、实例特定的加权清单相结合，为事实性、用户需求满足度和表达质量提供结构化监督，同时不限制回答的多样性。我们进一步构建了 MMedReport，一个真实世界的 PMRI 基准，并设计了由临床医生制定的三维评估方案。大量实验表明，G-CARL 在整体质量、声明级精确率和清单召回率方面持续优于现有的后训练基线。临床医生进行的成对偏好评估进一步证实，G-CARL 生成的解读更准确，也更符合患者需求。
22:53 arXiv cs.AI 76
检索再生成流水线通常用于为开放式问题生成深度研究式答案，但仅靠检索并不足够：LLM 必须将嘈杂且碎片化的证据组织成全面且引用充分的答案。我们将这一过程称为证据综合。然而，直接生成往往未充分利用证据、引用对齐不准确，并将多样化信息压缩成浅层摘要，暴露出检索与生成之间的证据综合鸿沟。因此，我们提出 DeepWeaver，这是一种新颖框架，通过维护 Thought Block Chains（TBCs）将嘈杂的检索证据编织成全面答案；TBCs 是一种结构化表示，用于归组主张、重要信息、关键词和支持证据。DeepWeaver 使用从属 TBCs 来检查残余证据、提交 TBC 修订，并在最终生成之前发现新的主张。我们在基于知识库和网络的开放式问答上评估 DeepWeaver，并引入 LoQA，这是一个用于证据综合的高密度基准。在多个 LLM 上，DeepWeaver 在 LoQA 上提升了内容充分性、引用根基性和细节保留能力，同时在 DeepResearch Bench 上实现了更深入的洞见和更高的引用质量。这些结果表明，证据编织是弥合开放式问答中检索与生成之间差距的有效机制。我们的代码可在 https://github.com/KlozeWang/DeepWeaver 获取。
01:54 arXiv cs.AI 73
在策略蒸馏（OPD）使用更强教师提供的密集 token 级指导，在学生自身的响应上训练学生。然而，在长上下文任务中，token 级教师支持可能偏向于局部上看似合理、但遗漏分布在输入各处的证据或违反全局任务约束的响应。相比之下，特定任务的验证器在响应级别评估任务完成情况，并可能返回反映部分成功的分级奖励。我们在来自两个具有代表性的长上下文证据聚合任务的固定响应上诊断了这种不匹配。在更长的输入范围内，轨迹级 OPD 分数与验证器奖励的对齐程度逐渐降低，表明存在教师-验证器分歧。受这一观察启发，我们提出了 Group-Calibrated On-Policy Distillation（GC-OPD）。GC-OPD 在每个 rollout 组内分别对验证器奖励和轨迹级 OPD 分数进行归一化，并使用二者之差作为带符号的教师-验证器分歧残差。基于相对优势的信用分配（RACA）根据 token 的相对 OPD 优势，将这一轨迹级残差分配到各个 token，同时保留原始 OPD 信号。在五个长上下文基准上，使用 GC-OPD 进行后训练将官方 Qwen3-4B 和 Qwen3-8B checkpoint 的五基准平均分分别从 29.08 提升到 40.47，以及从 35.12 提升到 44.65。在相同设置下，普通 OPD 分别达到 39.31 和 43.56。受控消融实验表明，带符号残差比额外的 OPD 派生项或直接加入组归一化验证器奖励更有效，而 RACA 相比均匀 token 分配进一步带来提升。总体而言，这些结果表明，组相对残差校准可以在不丢弃密集 token 级指导的情况下纳入验证器结果。代码可在 https://github.com/SolereZhang/GC-OPD 获取。
01:59 arXiv cs.AI 72
大规模图像生成受益于数据规模、质量、再平衡和重标注方面的进展，然而传统流程通常孤立地优化特定任务数据集。一个核心挑战不仅在于如何策划每个特定任务语料库，还在于如何根据生成能力之间的依赖关系来组织异构监督。我们提出了一种 \textbf{能力驱动的数据基础设施}，将能力特定的监督构建与能力对齐的课程调度相结合。其三个专门化但可互操作的数据引擎为文本-图像对齐、图像间转换和图像-知识关联构建互补的关系监督，同时 caption experts 在任务和粒度之间对齐 T2I 与编辑监督。多阶段课程按照能力获取的依赖顺序，共同演化任务组成、视觉概念分布、数据质量和图像分辨率，并通过定向检索、专家构建和差距感知重采样，以能力感知评估闭合循环。在大规模下，该框架策划了一个包含 440M 图像的 T2I 语料库、120M 个编辑对，以及超过 27M 个图像-实体对。借助这一基础设施，我们从头训练了两个规模的多模态扩散模型，大小分别为 3B 和 6B。我们在 CPI-Bench 上进行了定量评估，并在多样化的文本到图像和编辑场景中进行了定性评估。实验结果展现了广泛的视觉覆盖、多样的渲染能力，以及生成能力之间的有效迁移。
19:00 OpenAI Blog 69
OpenAI 正在加强对前沿 AI 模型的监控、对齐和安全性。了解新的保障措施如何引导模型开发的节奏。
00:15 arXiv cs.AI 75
尽管用于多参考图像生成的统一多模态模型近期取得了进展，现有基准仍围绕预定义任务类型（例如“主体组合”）组织，这并不适合这种组合式场景，并会导致覆盖碎片化、复杂度不可控且诊断价值有限。我们认识到多样化的多参考任务共享一组通用的原子操作，因此采用面向能力的视角，并形式化定义了四个算子：锚定（$f$）、解耦（$g$）、应用（$\oplus$）和组合（$C$）。这样，任何多参考提示都可以表示为这些算子上的组合公式，其结构复杂度由算子槽位数量量化。基于这一形式化方法，我们构建了 TRACE-Bench，包含约 1,600 个评测案例，槽位数覆盖 1--8，由 631 个公式模板和约 4,000 张参考图像构成，涵盖多样的艺术风格和真实世界主体。公式结构直接驱动一种与算子对齐的评测协议，用于按能力评分，并支持通过诊断树分析进行递归式故障定位。对 9 个领先模型的评测揭示了整体评分无法呈现的洞见：主要瓶颈在于解耦（$g$）和属性绑定（$\oplus$），而非场景级组合（$C$）；即便最佳模型在属性保真度上也仅得 0.74。项目页面：https://amuseum-whr.github.io/TraceBench
19:15 arXiv cs.AI 72
视觉-语言-动作（VLA）模型提升了机器人操作能力，但仍然容易受到累积误差、场景变化和偏离轨迹状态的影响。强化学习可以优化预训练的 VLA 策略，但稀疏的成功信号会阻碍探索，而人工设计的稠密奖励成本高且具有任务特异性。现有的学习式视觉奖励模型通常依赖静态的前后观察，导致时间歧义，并且在分布外（OOD）执行时，难以区分保持鲁棒性的变化与任务无效的失败。我们提出 Robo-Dopamine 2.0，这是一种具备历史感知和 OOD 感知能力的过程奖励模型，采用成对预测接口。它结合了：（1）历史条件化的成对奖励，在合成 OOD 查询中使用与来源对齐的参考面板，在在线查询中使用观测到的 rollout 历史，同时保留被查询的端点；以及（2）OOD 感知的有符号进展空间，用于表示有效进展、鲁棒性、失败和恢复。带有转换感知回放的 Signed-Hop Curriculum 先学习粗粒度的执行顺序，再进行细粒度的进展校准。我们还构建了一个 OOD 轨迹数据集和一个包含五类任务的基准。参考面板将平均视觉顺序一致性（VOC）从 0.967 提升到 0.986，并将 OOD 鲁棒 VOC 从 0.906 提升到 0.958。在相同的 400K 成对奖励预算下，带有 25% 回放的 Signed-Hop 训练达到 0.9872 的平均 VOC，而匹配样本池的随机打乱对照为 0.9858。在下游强化学习中，完整模型达到 86.8% 的平均 RoboTwin 成功率，并在真实世界插入任务中实现 71/80 次成功。
19:52 arXiv cs.AI 81
在资源受限的边缘设备上运行大型 AI 模型需要进行模型压缩，以降低模型大小和计算量。然而，压缩效果好并不一定意味着部署效果好。我们调研了数十项近期工作，这些工作报告了真实硬件上的压缩结果，并从中提炼出实用的部署指南。遵循这些指南，我们在 GPU、CPU 和 Raspberry Pi 平台上部署了紧凑型语言模型和图像模型，涵盖问答和图像分割任务。没有任何单一技术能在所有任务中胜出。对于问答任务，Qwen3.5 0.8B 在 Q5_K_M GGUF 量化下达到 93.85 SQuAD F1 和 92 EM，而在相同精度下，1% 比例的结构化剪枝会损失 16 F1。对于分割任务，排名则相反：默认量化不会改变参数量和 MACs，而剪枝在 mIoU 近乎不变的情况下将模型大小减少近 80%。剪枝甚至可能通过破坏 k-quant 超块对齐，使部署产物膨胀 21-49%；再加上输出更长且更不符合格式规范，这会使 Raspberry Pi 延迟最高增加到 3.4 倍。压缩还可能制造出能力表象，而不是明显地破坏能力：一个经 LoRA 恢复的变体仍然完全可解析，并在严格 BoolQ 准确率上保持 71%，但其 100 个预测中有 97 个被发送到单一类别，平衡准确率为 52.6%。我们通过神经流图分析和预填充-解码级延迟分解来解释这些现象，并将其凝练为面向具体任务的部署研究方向。合适的技术取决于任务、模型和硬件。我们的实验代码和产物已在 https://github.com/Arnavvvkumar/deployment 开源。
23:20 arXiv cs.AI 71
许多现实世界任务要求 LLM 智能体在较长的执行时域内与其环境交互。执行早期发生的错误可能会通过智能体上下文和环境状态传播，其影响也可能难以通过后续操作逆转。现有方法主要通过计划细化和安全检查来减少此类错误，但在错误发生后提供的支持很少。为实现长程执行中的恢复，我们提出 AgentRewind，这是一个运行时恢复框架，可记录智能体上下文和受控环境的对齐检查点，使智能体能够返回到较早状态，并利用先前尝试中的信息继续执行。我们还构建了 MettleBench，这是一个用于评估长程工程任务中任务完成情况和部分进展的基准，这些任务包含一系列相关需求。跨任务、多个模型、执行策略和智能体框架的实验表明，与所比较的基线相比，AgentRewind 提高了任务成功率和平均检查清单进度。
23:33 arXiv cs.AI 78
神经元级和路径级干预为防御大型语言模型（LLMs）免受越狱攻击提供了最细粒度的途径，但现有方法未能实现这一前景，即它们往往会显著损害模型效用。具体而言，一类工作通过抑制有毒神经元来抹除有害语义，但由于此类语义分布在整个网络中，阻断每一条路径会导致干预范围过大。另一类研究则侧重于使用外部分类器识别安全神经元。尽管前景可期，现有方法也会影响对模型效用同样重要的神经元。此外，这两类方法都始终处于开启状态，因此即使不存在攻击，也会扰动每一个良性请求。为解决这些局限，我们提出 \ours{}，这是一种无需训练的防御方法，首先通过在错误发现率控制下进行逐神经元假设检验，并结合效用特异性过滤器，识别安全特异性神经元。基于该识别结果，一种触发器式钳制将所选神经元保持在其有害条件均值激活水平，注入内部有害输入信号，从而触发对齐过程中学习到的拒绝行为。随后，该钳制通过两种可证明等价的部署模式实现，即检测器门控的推理时干预和离线 bias-patch 权重编辑。在四个经过安全对齐的 LLMs 和四种代表性攻击上的大量实验表明，\ours{} 将平均攻击成功率降低到至多 2.0\%，同时在 MT-Bench 上仅造成 0.5\% 至 5.3\% 的效用下降，是所有防御方法中最小的。代码可在 https://anonymous.4open.science/r/Tripwire-65C4 获取。
01:43 arXiv cs.AI 71
随着 AI 系统在社会各领域做出更多带有道德负荷的决策，一种应对方式是道德偏好 elicitation。在这种方法中，研究人员就假设性困境对参与者进行民意调查，并使用汇总后的投票来训练一项策略，随后由 AI 模型大规模应用。在任何投票开始之前，开发者会在道德 AI elicitation 流水线中做出三个关键选择：特征范围界定、投票者抽样和问题框定。换言之，他们决定哪些特征交由投票、纳入哪些投票者，以及如何呈现问题。这些选择往往是不透明的、未被记录的，并且被视为技术细节而非规范性问题。我们在一项常见的实证研究中考察这些选择，并表明每一项选择都可能塑造道德 AI elicitation 所产生的偏好。在两个阶段（N = 809）和三个部署情境（即 AI 肾脏分配、模拟缺席员工的 AI agents，以及生成式 AI 对逝者的描绘）中，我们考察了道德 AI elicitation 流水线的三个主要阶段。首先，具有道德相关性的特征会随情境而变化。这表明，不应假定特征模式可以跨部署领域迁移。其次，约三分之一的特征会因政治意识形态而呈现偏好差异，其中一些差异的方向会发生反转。因此，投票者群体的意识形态构成会影响最终汇总出的偏好画像。第三，elicitation 问题的措辞最多可将意识形态差距缩小或扩大一个完整量表点。框定条件还会改变道德基础与参与者判断之间的关联方式。综上，这些发现表明，基于投票的对齐无法仅凭聚合就实现公平或透明的 AI；至少，道德 AI elicitation 流水线的每个阶段都应接受审计并予以披露。
00:38 arXiv cs.AI 77
视觉-语言-动作（VLA）模型已成为通用型机器人策略，能够遵循多样化的语言指令并执行广泛的操作任务。然而，它们对具身智能体的直接控制也使其暴露于对抗性干扰之下，可能导致不安全的物理行为。现有针对机器人策略的攻击通常针对单一任务或指令进行优化，使得多任务 VLA 的跨任务脆弱性在很大程度上尚未被探索。我们提出 UniTexture，这是一种跨任务通用对抗纹理攻击，使用单个带纹理的 3D 物体，在多个任务中诱导 VLA 动作预测产生有针对性的偏移。UniTexture 通过可微渲染器，将策略动作输出的梯度反向传播到表面纹理参数。它使用有针对性的动作空间目标，在任务、指令、状态和视角的分布上联合优化共享纹理，将预测动作引导至攻击者定义的目标，而无需为每个任务单独优化纹理。我们在 OpenVLA 和 $π_{0.5}$ 上，跨多种操作任务和多个评估设置对 UniTexture 进行了评估。UniTexture 将平均任务成功率从良性条件下的 90.0% 降低到攻击下的 48.4%，诱导出与目标对齐的动作偏移，并进一步展现出无需重新优化的跨套件和跨模型迁移性。总体而言，这些发现揭示了多任务 VLA 中共享的跨任务脆弱性，可通过单一对抗性表面纹理被系统性利用。
01:12 arXiv cs.AI 75
随着基于语言模型的 AI 越来越多地被部署在自主场景中，使其目标和价值观与人类保持一致变得至关重要。如今，对齐以及助手身份本身通常只在预训练之后才被引入，此时行为先验已经建立。这可能使价值观成为一层薄薄的覆盖，而不是深深扎根，并促进后续的错位。为探索一种不同的范式，我们引入 Synthetic Persona Pretraining（SPP），它在预训练中从零号 token 开始安装期望的助手 persona。首先，我们用源自规范性价值宪章的、价值对齐的第一人称反思来标注预训练文档。其次，我们通过标准交叉熵损失，在标准预训练文档及其反思上进行预训练，从而在众多其他 persona 之中安装期望的 persona。最后，我们在用户-助手对话数据上进行后训练，将这个期望的 persona 绑定到助手身份上，这一过程我们称为 persona binding。通过在 500B token 上预训练最高达 3B 参数的模型，我们表明，SPP 提高了对宪章的遵循能力和对越狱的鲁棒性，并降低了分布外道德困境中的错位率，同时保留了能力。早期干预很重要：与从零号 token 开始对齐相比，仅在预训练末尾引入 SPP 会导致较弱的宪章遵循，不会改变价值优先级，并在困境中导致较少对齐的选择。这一优势依赖于 persona binding，并且重要的是，会随着预训练预算的增加而增强。总体而言，我们的结果表明，早期塑造价值观对于对齐至关重要，并确立了预训练阶段的 persona 干预是一种实现这一目标的有效方法。
01:59 arXiv cs.AI 75
类人机器人运动跟踪是遥操作和全身模仿的核心，但其评估结果往往与人们在视频中的感知不一致。运动学误差会对每帧姿态差异取平均，却遗漏了最重要的物理伪影，尤其是不稳定支撑以及错误接触，例如脚部打滑和触地时机错误。与此同时，广泛使用的测试套件规模较小，缺乏对接触丰富、长时域行为进行压力测试所需的多样性。我们引入 HumanTracker，旨在使类人机器人跟踪评估既与感知一致又具备可扩展性。HumanTracker 基准包含约 153 小时的光学运动轨迹，来自多位专业表演者，并按四类运动家族组织，配有文本标签以支持细粒度诊断。我们进一步提出 HumanScore，这是一种基于包含 24K 个运动的 12K 个运动对训练得到的偏好对齐指标。在具有代表性的最先进跟踪器上，HumanScore 能更好地预测人类偏好，并揭示运动学指标经常遗漏的接触与稳定性故障。
15:00 OpenAI Blog 67
我们训练了一个模型，通过奖励每个正确的推理步骤（“过程监督”），而不是仅仅奖励正确的最终答案（“结果监督”），在数学问题求解方面达到了新的最先进水平。除了相对于结果监督提升性能之外，过程监督还具有重要的对齐优势：它直接训练模型生成得到人类认可的思维链。
08:00 OpenAI Blog 83
我们提出了一个关于超级对齐的新研究方向，并给出了有前景的初步结果：我们能否利用深度学习的泛化特性，用弱监督者来控制强模型？
16:00 OpenAI Blog 76
我们将推出 1000 万美元的资助，用于支持面向超人类 AI 系统对齐与安全的技术研究，包括弱到强泛化、可解释性、可扩展监督等方向。
03:00 OpenAI Blog 76
如今的 LLMs 容易受到提示注入、越狱以及其他攻击，使对手能够用自己的恶意提示覆盖模型的原始指令。
18:00 OpenAI Blog 70
CriticGPT 是一个基于 GPT-4 的模型，它会撰写对 ChatGPT 回复的评析，帮助人类训练员在 RLHF 过程中发现错误
18:00 OpenAI Blog 79
审议式对齐：推理让语言模型更安全 介绍我们面向 o1 模型的新对齐策略：直接向模型教授安全规范，以及如何围绕这些规范进行推理。
18:00 OpenAI Blog 86
基于 OpenAI 已建立的安全框架，本文档重点介绍了我们的多层方法，包括为防范提示工程和越狱、保护隐私与安全而实施的模型和产品缓解措施，并详细说明了我们的外部红队测试工作、安全评估，以及为进一步完善这些防护措施而持续开展的工作。
18:00 OpenAI Blog 81
OpenAI 和 Anthropic 分享了首次同类联合安全评估的发现，彼此测试对方模型在目标偏离、指令遵循、幻觉、越狱等方面的表现——凸显了进展、挑战以及跨实验室协作的价值。
21:00 OpenAI Blog 79
OpenAI 调查了全球 1,000 多人，了解他们认为 AI 应该如何行为，并将他们的观点与我们的 Model Spec 进行了比较。了解集体对齐如何塑造 AI 的默认行为，使其更好地反映多元的人类价值观和视角。
08:00 OpenAI Blog 90
Apollo Research 和 OpenAI 开发了用于评估隐性不对齐（“谋划行为”）的方法，并在各前沿模型的受控测试中发现了与谋划行为一致的表现。团队分享了具体示例，并对一种用于减少谋划行为的早期方法进行了压力测试。
18:00 OpenAI Blog 87
本系统卡详细介绍了 GPT-5 在处理敏感对话方面的改进，包括针对情感依赖、心理健康和越狱抵抗能力的新基准。
18:00 OpenAI Blog 70
OpenAI 承诺向 The Alignment Project 投入 750 万美元，用于资助独立的 AI 对齐研究，加强全球应对 AGI 安全与安保风险的努力。
18:00 OpenAI Blog 64
一项试点计划，旨在支持独立的安全与对齐研究，并培养下一代人才
18:00 OpenAI Blog 80
探索 GPT-Red，这是 OpenAI 的自动化红队测试系统，利用自我对弈来提升 AI 安全性、对齐能力和对提示注入的鲁棒性。
18:00 OpenAI Blog 84
OpenAI 分享了部署长时间运行 AI 模型的经验，重点介绍了新的安全风险、观察到的失效情况，以及通过迭代部署改进的安全防护措施。