全部动态

本页 40 条
10月12日 周一
arXiv cs.AI74

Web$hell:面向智能体网页访问的统一接口

大语言模型(LLM)智能体正成为开放网络的直接用户。随着它们承担日益复杂且信息密集的任务,有效的网页访问正成为智能体解决问题的一项核心能力。现有方法通过不同的访问模型推动了智能体网页访问的发展,包括搜索增强型智能体、基于浏览器的智能体,以及近期出现的基于文件系统的智能体。然而,随着用户期望智能体完成长程、端到端的任务,智能体越来越需要在单一执行轨迹中广泛收集信息、执行浏览器操作,并重新查阅已获取的证据。但我们的初步分析表明,现有访问模型难以满足这些需求。它们主要支持信息收集或浏览器交互中的一种,而将两者的能力结合起来可能带来显著成本或性能上的权衡。为此,我们提出 Web\$hell,这是一种将网页访问整合到单一访问模型下的接口。WebCompiler 使用 WebContract 定义的通用模式,将实时网页编译为可寻址的信息对象和操作对象。这些对象由 WebCache 维护,并通过一组共享操作进行处理,为智能体提供一致、可操作且持久的网页访问能力。通过在网页搜索、网页导航和深度研究基准上开展广泛实验,我们表明 Web\$hell 能以更低的成本取得出色的任务表现。我们的结果进一步说明了接口设计对于有效网页访问的重要性,而 Web\$hell 为构建能力更强、效率更高的网络 LLM 智能体开辟了新的可能性。

arXiv cs.AI64

CNN-Transformer with Sigmoid Label for High-Resolution Sub-Degree DOA Estimation

This paper addresses the grid quantization error of deep-learning (DL)-based direction-of-arrival (DOA) estimation. Classification- based DOA methods discretize the continuous angular space into a grid, so that with a peak-based read-out, the accuracy and resolution are limited by the grid step and by the width of the label peak. To address this issue, we propose a sigmoid label that encodes the sources' DOAs as the sum of angle-shifted monotonic sigmoid functions. Differentiating the output of a CNN-Transformer network trained with the sigmoid label produces sharp spectral peaks at the source DOAs. Combined with a moderately refined grid step of 0.25 degrees, the CNN-Transformer with the proposed sigmoid label attains sub-degree accuracy and a 1-degree resolution, breaking the limit of the grid quantization error. Under the unified CNN-Transformer backbone, we compare the proposed Sigmoid label with the Gaussian label, the 0-1 hard label, and the binary cross-entropy (BCE) baseline. Numerical results demonstrate that the Sigmoid label attains the highest accuracy and superior resolution compared to other labels.

arXiv cs.AI74

用于 HL-LHC 异常检测的学习所得事件表征的局部诊断

异常检测旨在识别偏离 Standard Model 预期的碰撞事件,是 Large Hadron Collider 上寻找新物理最有前景的模型无关策略之一。在学习所得的低维表征中搜寻稀有事件,无需事先选定人工设计的可观测量,但也失去了这些可观测量所提供的直观物理解释。因此,要将异常检测纳入发现流程,就必须对标记出的事件进行局部诊断,既要区分潜在的新物理与建模偏差或探测器效应,也要确定可用于针对性后续搜寻的可观测量。我们在 COLLIDE-2V 上评估了监督式和自监督式神经嵌入策略。该数据集包含在真实的 High-Luminosity LHC 条件下模拟生成的 7.5 亿个事件;我们使用在学习所得潜在空间中训练的自编码器的重建误差作为异常分数。在所考察的配置和基准信号中,训练时利用模拟过程标签的监督式目标通常优于相应的自监督式目标;在最佳配置下,其表现也优于直接基于运动学特征训练的自编码器,在背景接受率为 10% 时,提高了所有留出过程的信号效率。我们进一步提出了一套局部诊断流程:对 SM 潜在空间拟合 Gaussian Mixture Model,在不使用过程标签的情况下通过高层可观测量刻画各个分量,定位标记出的事件,并按局部区分能力对可观测量排序。该排序重现了留出过程的标志性运动学特征;同时,将异常分数与同一组可观测量进行相关性分析,可以量化分数对这些可观测量变化的跟随程度,从而揭示区分能力最强的可观测量并非分数跟随最紧密的可观测量的情形。

arXiv cs.AI78

轨迹生成时干预:突破策略极限,释放智能体强化学习潜能

强化学习(RL)已成为提升大语言模型(LLM)智能体能力的关键范式,使其在交互式环境中具备更强的推理、规划和工具使用能力。然而,现有的智能体 RL 方法仍从根本上受限于同策略推理瓶颈:当任务超出模型当前的能力边界时,有效轨迹会变得极其稀少,训练也往往陷入崩溃。我们提出 Rollout-Time Intervention(RTI),这是一种旨在引出超越策略内在探索能力的成功轨迹的技术。RTI 在轨迹生成过程中利用奖励侧证据(即评估准则),将错误轨迹转化为成功轨迹,从而为策略自身很少能解决的任务提供有效的学习信号。尽管干预轨迹本质上属于离策略数据,但我们发现,只要过滤掉分布偏移过大的轨迹,它们就能有效指导策略优化。在五个基准上的广泛实验表明,RTI 始终优于 RL 基线,使后训练得到的策略能够接近同期能力强得多的 LLM 的表现,更重要的是,能够突破其原有的能力边界。代码已发布于 https://github.com/Alibaba-NLP/qqr。

arXiv cs.AI75

集体自动驾驶车辆路径规划需要社会意识,以便与人类驾驶员共存

在现实世界的交通网络中,自动驾驶车辆(AV)的集体路径选择可能对人类驾驶车辆(HDV)产生外部性,因为有利于 AV 的路径可能会增加其他道路使用者的出行时间。为解决这一问题,我们在 AV 以自身出行时间为导向的自利奖励中引入了一个社会性分量,即边际成本。边际成本通过比较其他道路使用者的实际出行时间与移除该 AV 的反事实仿真中的出行时间,衡量该 AV 对他们的影响。我们使用多智能体强化学习(MARL)研究混合自动驾驶交通环境中的 AV 路径选择,其中 AV 通过与交通环境的反复交互来学习路径规划策略。在 Ingolstadt 和 Provins 真实路网中的实验表明,相较于自利的 AV 路径规划,将边际成本纳入 AV 奖励不仅能限制 HDV 出行时间的增加并缩短 AV 出行时间,还能改善系统整体表现。在 Ingolstadt,当 AV 占比为 40\% 时,自利路径规划使其他车辆的出行时间增加了 1.7\%;引入社会性奖励后,这一增幅降至 1.1\%。值得注意的是,采取顾及他人的行为不仅改善了系统整体表现,也使 AV 自身受益。这一效果在所测试的不同城市、渗透率和重复实验中均保持一致;然而,当奖励中社会性分量的权重增大时,系统却无法达到预期表现。为在混合自动驾驶交通中实现更具可扩展性的社会性 AV 路径规划,我们仅计算那些路径选择对交通系统影响最大的 AV 的边际成本。这减少了反事实仿真的次数,并以显著更低的计算成本实现了相近的表现。我们的结果表明,为了所有交通参与者的利益,AV 路径规划应超越自利奖励,在其目标中纳入社会性分量。

arXiv cs.AI80

SqueezeBench:抗饱和的数学能力评估

AI 系统在数学领域进展迅速,但这种进展难以衡量。由已解决问题构成的基准会趋于饱和,而在由未解决问题构成的基准中,每个问题只能被首次解决一次。我们提出了 SqueezeBench,这是一种抗饱和基准:一次成功会提高门槛,而不是移除问题。每个问题都固定一个整数函数 $f(n)$,其函数值仅在较小的 $n$ 上已知,基准则为该函数维护一项下界纪录和一项上界纪录。每项纪录都是一个可计算的 Lean 函数,并附有经机器检查的证明,证明它是 $f$ 的界。每次提交都提出一个新函数,并证明它是 $f$ 的界、在任意 $n$ 上都不劣于当前纪录,且在某个 $n$ 上严格优于当前纪录。一旦获准接受,它就成为下一次提交必须超越的纪录。因此,系统既要选择界,也要给出相应证明;它可以改进某个特定 $n$ 上的纪录,也可以改进其增长率。对于每个 $n$,两项纪录之间的差距表明,经认证的界距离确定 $f(n)$ 的值还有多远。每个证明都由两个独立的 Lean 内核检查,因此无需评审人员核查数学内容。这些检查还会拒绝在较小的 $n$ 上通过穷举搜索计算 $f$ 的函数,而维护者只需阅读提交者的报告,并检查在较大的 $n$ 上是否存在此类搜索。我们发布了极值组合学中的十个问题、二十项附有证明的初始纪录,以及提交准入工具。作为基线,基于一个前沿语言模型的智能体在每项纪录最多一小时的限制下,有 82 次提交获准接受,并改进了所有纪录,但未超越已发表文献中的结果。随后,基于两个更新模型的智能体从这些纪录出发,又有 60 次提交获准接受,并再次改进了 20 项纪录中的 19 项。在十个问题中的八个上,仍有至少一项纪录在渐近意义上落后于已发表的最优界。

arXiv cs.AI80

当 MLLMs 漏读人类能读出的文字:诊断并学习识别眯眼文字

多模态大语言模型可能无法读出嵌入图像粗粒度结构中的文字(人类眯眼即可辨认出的文字),并报告图像中不存在文字。我们将这类文字命名为 Squint Text,并受生产环境内容审核流程中的案例启发,将其作为一种识别缺陷加以研究。我们提出了 SquintBench,其中包含 1076 张源自生产环境的内容审核图像,以及用于机制诊断的受控合成测试集 SquintCtrl。冻结权重的分析表明,隐藏文字保留了粗粒度信号,但字形身份的表征较弱;当提供正确的空间区域时,字形身份变得明显更容易获取,这表明空间选择是一个主要瓶颈。在固定视觉词元预算下,抑制高频内容也能改善文字识别,而视觉词元数量也可能产生影响。这些发现促成了 Squint OPSD:冻结的教师模型接收缩小后的图像视图和作为特权上下文的真实转录文本,并通过其词元级概率分布,沿学生模型自身策略生成的轨迹对其进行监督。推理时,学生模型仅识别原始图像。Squint OPSD 在 SquintBench 上的 ANLS 达到 88.61,而未经适配的骨干模型得分为 26.50,最佳通用模型在原始视图上的得分为 24.44,现成模型在缩小视图下的最高得分为 68.60。这些结果在推理时无需辅助视图,便显著缩小了可用视觉证据与模型生成的识读结果之间的差距。

arXiv cs.AI73

一种用于生成边缘场景以支持安全保障的本地智能体式 AI 框架

生成边缘场景对于自主系统的训练、测试和安全保障至关重要。这有助于识别危险故障,提高系统的可靠性和鲁棒性,确保系统在其运行设计域的边界处仍能安全运行,并了解系统在这些边缘场景下的预期行为。语言模型(LM)的生成与分析能力迅速提升,拓展了其应用范围,近期已有研究探索利用 LM 生成场景。然而,近期的许多方法依赖人在回路或基于规则的策略。这限制了 LM 生成多样化场景以及分布长尾中的边缘场景的能力。我们的工作在基于笔记本电脑的智能体式 AI 框架中使用本地 LM,实现自适应场景生成。这种方法成本低、完全可控,并能保障数据隐私和安全。该框架采用“思考、行动、观察、更新、继续”的循环,并结合轻量级 JSON 编码来生成场景。我们将系统需求、系统描述和环境描述作为知识库,纳入提供给 LM 的上下文提示中,以确保场景的真实性。第二个独立的 LM 根据领域特定标准评判每个场景,以便对其进行完善。完善后的场景在仿真中运行,并收集评估指标。随后分析这些指标得分,针对边缘场景创建类似场景(利用),或生成新颖场景以探索场景空间。通过基于指标得分的事后聚类,以及对 LM 生成的富文本场景描述进行主题式分析,可以精准定位功能缺口及其触发条件。这为安全保障论证提供了可追溯的证据。我们的工作凸显了灵活、自适应的本地智能体式 AI 框架在自动生成边缘场景和产出可追溯安全保障证据方面的潜力。

arXiv cs.AI79

分支式同策略蒸馏

同策略蒸馏(OPD)在学生模型生成的轨迹上提供教师监督,但单条轨迹在每个决策点仅实现一种后续生成,因此在有限采样预算下,监督覆盖范围受到限制。我们提出 BranchOPD(分支式同策略蒸馏),利用学生模型的不确定性和教师与学生模型之间的分歧来选择信息量高的决策点,从共享前缀出发重新采样学生策略的后续生成,并对主轨迹和分支施加词元级教师监督。BranchOPD 在数学任务中作用于词元级决策,在智能体任务中作用于轮内决策。相较于七条独立轨迹,共享前缀复用使 ALFWorld 和 WebShop 上学生模型生成词元的成本分别降低约 19% 和 31%。我们还引入了协议边界修复(PBR),在协议约束下使用针对性监督,以减少重复和无效生成。BranchOPD 在所有评估基准上均优于 Vanilla OPD 和 Multi-Rollout OPD(n=7);相较于 Vanilla OPD,其在 16 个采样答案上的平均数学准确率(avg@16)提高了 18.55 个百分点,ALFWorld 分布内(ID)与分布外(OOD)的平均成功率提高了 13.8 个百分点。机制分析和选择策略消融实验表明,在不确定的决策点进行分支可扩大后续行为的覆盖范围,且效果优于随机选择和轮次起始处分支。

arXiv cs.AI81

Humanize MLE Agents:通过多智能体会话交替突破单智能体极限

现有基于 LLM 的长程机器学习工程(MLE)智能体方法通常采用上下文工程,通过定制运行框架来管理工具、技能和积累的经验。然而,我们发现,随着单次会话执行时间延长,智能体的推理强度会下降,进展也随之放缓,我们将其概括为“长程减速”;随着底层模型能力提升,这些定制运行框架带来的收益会消失,我们将其概括为“框架陈旧化”。这些发现表明,其收益可能无法跨版本持续存在,因此我们提出一种工作流层面的方法,让智能体跨会话接续彼此的工作。我们将这些交替进行的智能体会话建模为上下文重置半马尔可夫决策过程(CR-SMDP),给出交替机制突破单智能体参考极限的充分条件,推导出显式的实验预算界,并刻画会话上限在何种条件下能够保留这一优势。在该分析的指导下,我们提出 Humanize MLE Agents(HMA):让两个智能体在共享工作空间中交替工作,将每次会话限制为最多执行 k 次实验,并在会话之间重置上下文,无需额外的任务专用运行框架或先验知识补充。在 MLE-bench 的 75 项 Kaggle 任务上,HMA 的任意奖牌获得率达到 78.2%,创下当前最佳水平;仅使用最强开源基线四分之一的时间预算,就比其高出 8.0 个百分点。此外,在涵盖五组异构智能体配对的六种配置中,HMA 相较于各组成智能体的基线,任意奖牌获得率平均提升 6.4 个百分点,展现出跨配对的通用性。一个补充的内核优化案例达到了 878 个周期,与社区排行榜榜首的差距不超过 1.6%,表明该方法也适用于 MLE 之外的任务。

arXiv cs.AI77

超越时间邻近性:用于强化学习信用分配的 Explanatory World Models

生成式推荐系统日益采用强化学习(RL),以优化可能在某次决策之后数百乃至数千次交互才出现的结果。标准 RL 根据时间邻近性而非明确的相关性传播奖励,削弱了分配给时间久远但重要的动作的信号,成为样本效率低下的一个根源。我们提出 Explanatory World Models(EWM),这是一种归因框架,利用解释识别可能对已发生结果作出贡献的早期事件。我们使用前沿语言模型实现 EWM,并通过一种守恒的分层算子将其解释用作学习信号;该算子递归地重新分配奖励,同时保持未折扣的回合回报不变。为探究何种解释具有实用价值,我们将受 Halpern 的实际因果关系、Lombrozo 的解释简洁性和 Deutsch 的难以变动的解释所启发的三种互补变体具体化。我们在两个受控的长时程 RL 基准、一个公开的序列推荐基准和一个工业级规模的生成式推荐系统上评估 EWM。在 Crafter 和 WordCraft 上,EWM 显著优于 PPO 和 LaRe,且在奖励延迟最严重时取得最大提升。在 KuaiRand 上,EWM 在线下优于 SFT 和 LaRe,在线上优于 A2C。最后,在对工业级生成式推荐系统的离线评估中,EWM 显著提高了召回率,并提升了行为代理指标。这些结果表明,解释可以提供结构化且可复用的信用分配信息,以支持从延迟结果中学习。

arXiv cs.AI77

融合异构证据的检索增强多模态语言模型用于临床预后预测

临床预后预测需要整合结构化测量数据、生理波形、纵向病史和人群背景信息。我们提出 PRISM(Population-Retrieved Inference for Structured Multimodal Prognosis),这是一种多模态语言模型,结合了逐特征数值词元化、按时间近远加权的纵向心电图聚合,以及双模态人群记忆库。检索在表征空间中进行:模型接收训练队列中相似就诊记录的均值池化嵌入,而不会将任何单条检索记录输入提示。在包含 1,443 项任务的 MDS-ED 基准上,PRISM 在诊断、病情恶化、入住重症监护病房和死亡预测任务中的 AUROC 分别达到 86.2%、93.1%、91.8% 和 92.8%。这些结果使用了已报告基线未能获取的到院前 96 小时时间窗数据。仅使用基准时间窗内的输入时,PRISM 的 AUROC 达到 0.8895,而 UniPACT 和 MDS-ED 分别为 0.8937 和 0.8889。在输入匹配的条件下,使用相同五类证据流和冻结编码器的紧凑型融合模型达到 0.7652 的 AUROC,而 PRISM 为 0.9092。将数值型电子健康记录编码替换为文本序列化后,AUROC 下降 3.66 个百分点;移除到院前病史后下降 1.97 个百分点;将检索结果置零后下降 0.99 个百分点。真实检索的宏平均表现比随机近邻检索高 0.97 个百分点,但任务层面的配对符号检验未能确立一致优势(p=0.067)。在外部 MC-MED 队列上,经过有监督微调后的 AUROC 达到 0.8611,而在本地训练的梯度提升模型和仅在源数据上训练的 PRISM 分别为 0.8227 和 0.7841。这些结果支持结构感知的多模态整合与有监督的外部适配。

arXiv cs.AI78

RESCUE:这个警报值得采取行动吗?VLA 运行时监测器的反事实评估

机器人策略的运行时故障监测器通常根据其区分失败执行与成功执行的准确程度来评估。然而,准确的警报可能来得太晚,已无法恢复;而不必要的干预则可能扰乱原本能够成功的执行。我们提出 RESCUE,这是一个反事实评估框架,用于判断监测器发出的警报能否促成有用的干预。通过在执行检查点恢复仿真器和策略的状态,RESCUE 比较备选行动,找出满足指定恢复标准的最晚检查点,并评估响应警报采取行动是否能降低预期任务完成成本。我们在 LIBERO-Spatial 和 LIBERO-Plus 上,使用 OpenVLA-OFT 和 $π_{0.5}$,通过 128,340 个反事实分支评估 RESCUE。可恢复性取决于状态与干预的组合,而非仅取决于机器人状态:在 $τ=0.5$ 时,OpenVLA-OFT/LIBERO-Plus 的 66 次失败中,有 14 次在继续执行的情况下存在可恢复检查点;若允许继续执行或采用脚本化恢复,则有 34 次存在可恢复检查点;但在其他条件下,恢复操作反而会降低可恢复性。在主要的强策略实验条件下,良好的检测得分并不能证明干预成本更低。在所评估的停止并重置模型下,即使是理想化的检测器,也只能容忍 2.0–3.3% 的误报率;超过这一范围,不必要的重置所产生的成本就会抵消提前终止失败执行所节省的成本。这些结果表明,监测器的价值共同取决于可用的干预措施及其部署环境中的工作负载。

The Decoder62

AI agent teams waste massive tokens for barely measurable quality gains, research finds

Teams of AI agents barely outperform solo agents but cost up to 5.1x more, according to Vals AI. Only one out of four tests with GPT-6 Sol and Claude Opus 5.5 showed a measurable gain. Anthropic's own data backs this up: beyond ten agents, quality plateaus while token costs keep climbing. The article AI agent teams waste massive tokens for barely measurable quality gains, research finds appeared first on The Decoder .

10月11日 周日
The Decoder60

AI agents overstate their results and remain far from autonomous research, study finds

Epoch AI and Anthropic independently found the same thing: current AI models like GPT-5.6 Sol and Claude Fable 5 can run experiments but lack scientific self-criticism and genuine creative thinking. At best, Sol reached 15 percent of the human reference score, and even that came from methods researchers already knew. The models' biggest weakness is still their inability to critically question their own results. The article AI agents overstate their results and remain far from autonomous research, study finds appeared first on The Decoder .

MarkTechPost62

Sakana AI’s LLM Peer Review System Catches 73% of Core-Claim Errors

Sakana AI’s TMLR paper introduces Multi-Layered Review, a 3-agent Claude-based reviewer, and a 1,164-error Contradiction Benchmark. MLR caught 73.43% of core-claim errors, versus 14.81% for the best prior system. The post Sakana AI’s LLM Peer Review System Catches 73% of Core-Claim Errors appeared first on MarkTechPost .

10月10日 周六
10月9日 周五
arXiv cs.LG73

SOL:通过双切片 Wasserstein 度量测量文本分布之间的差异

arXiv:2610.06513v2 公告类型:replace-cross 摘要:评估文本生成需要衡量生成分布与数据分布的匹配程度。对于自回归模型,这通过困惑度实现。扩散语言模型和基于流的语言模型只能提供似然下界,而不同模型系列的下界紧致性有所不同。带熵的生成困惑度等基于样本的替代方法没有考虑分布拟合程度。我们提出了 SOL,一种用于衡量文本分布之间距离的方法。每个序列都表示为固定 Transformer 下其隐藏状态的经验测度,并通过双切片 Wasserstein 距离比较这些测度的分布。我们证明,当 Transformer 是单射时,SOL 是一种度量。实验表明,SOL 能够检测分布失效,重现预期的模型趋势,并提供稳定的基于样本的估计。我们提出 SOL,旨在弥补当前用于非自回归模型的评估流程中的空缺。作为第一步,我们使用 SOL 重新评估了在 OpenWebText 上训练的多种模型。

arXiv cs.LG82

分数不是结构:脑对齐与跨语言迁移

arXiv:2610.03827v2 公告类型:替换交叉版本 摘要:相似度分数常被用作证据,证明某个模型与大脑或不同语言之间共享结构。我们在两种情境下追问:当这种结构被移除,或测量它的工具无法正常工作时,这样的分数究竟反映了什么。在十七种语言中,语法性探针在语言距离越远的语言之间迁移效果越差(r = -0.66)。但探针自身的准确率也沿着同一轴下降,并且在四种语言中处于随机水平,而这四种语言恰好是距离最远的五种语言中的四种。剔除这些语言后,可解释方差减半;由于语言距离的取值范围也随之缩小,该设计无法说明这一梯度效应中有多少来自测量工具本身。将272个语言对视为相互独立的样本,会得到引导效应的 p = 0.0006;而以十七种语言为统计单位时,该效应为零(p = 0.155)。在脑对齐方面,一项训练目标使语言模型与 fMRI 反应的相似度从0.10提高到0.34(可靠性上限为0.54),然而,即使破坏了目标中的脑对应关系,模型仍能达到0.31。对于包含 n 个句子的真实目标,经过打乱的目标得分约为 k/n,其中 k 为其排名;这一基线可在训练任何模型之前计算出来。两种干预都有效,但我们没有检测到随距离变化的引导效应,也没有发现对齐带来的句法收益。在解读对应性分数之前,先测量在没有对应关系的情况下,该分数有多少仍能保留下来。

arXiv cs.LG80

LLM 人格遗忘

arXiv:2609.39882v2 公告类型:替换交叉版本 摘要:预训练使大型语言模型(LLM)具备与角色、风格、价值观和目标相关的广泛行为模式。后训练教授条件性执行能力,并使乐于助人的助手成为默认模式,但不会从权重中抹除其他模式;因此,明确的提示词可能诱发某些人格,而这些人格会反复影响模型的判断、语言和行动。在开放权重设置下,运行时控制可以被移除,这促使人们研究人格遗忘:一种在权重层面进行的编辑,使指定人格难以在未见过的上下文中被诱发和执行。我们推出 PersonaUnlearnBench,这是一个特定于模型的配对基准,涵盖来自三个系列的六个 LLM 和五种人格,包含对齐的遗忘集/保留集、留出的指令释义以及四个维度的评估。该基准表明,标准遗忘方法无法在不牺牲有意义的生成能力或通用效用的情况下,可靠地抹除目标人格。因此,我们提出 PaCE:通过比较模型针对同一问题生成的目标响应与理想响应,定位一种内部行为方向;随后训练目标提示词对应的状态,使其远离目标模式,并趋向匹配的理想响应。实验表明,PaCE 能够持续抑制目标人格,同时保持较高的响应质量和有用的替代行为,仅付出中等程度的效用成本。这些结果确立了人格遗忘作为一种独特的行为层面编辑问题,并表明它是实现对潜在 LLM 响应策略进行持久控制的一条实用途径。

arXiv cs.LG68

Parameter-Free Zeroth-Order Optimization with Ellipsoidal Sampling

arXiv:2609.38561v2 Announce Type: replace-cross Abstract: Zeroth-order optimization methods are essential for solving black-box problems where gradient information is unavailable or expensive to compute. This paper presents POEM-ES, a novel parameter-free stochastic zeroth-order algorithm that extends the recent POEM method by integrating subspace preconditioning with ellipsoidal randomized sampling. In contrast to traditional zeroth-order approaches that rely on isotropic random directions, POEM-ES performs anisotropic sampling guided by a fixed structural symmetric positive semi-definite (SPSD) preconditioner $\hat{\Sigma}$ that encodes the underlying low-dimensional geometry. Under a standard structural spectral normalization where $\lambda_{\max}(\hat{\Sigma}) = 1$, we introduce the use of the empirical effective dimension $d^* = \operatorname{tr}(\hat{\Sigma})$, which reflects the intrinsic dimensionality of the problem and guides both the sampling and randomized smoothing parameter schedules. In practice, such a preconditioner can be effectively obtained via pilot sampling, historical trajectories, or domain-specific expert knowledge. We prove that POEM-ES achieves a dimension-reduced convergence rate under low-rank structural assumptions, requiring only $\tilde{\mathcal{O}}\left( \frac{\left( r^2 \kappa(\hat{\Sigma}) + d^* \right) L^2 D_{\mathcal{X}}^2}{\varepsilon^2} \right)$ stochastic zeroth-order oracle queries. The method remains fully parameter-free and demonstrates significant improvements over the original POEM in problems with low-rank structure where $d^* \ll d$. Numerical experiments on hinge-loss binary classification tasks using LibSVM datasets confirm the practical superiority of the proposed approach.

arXiv cs.LG71

Diffusion-2BC: Hybrid Diffusion and Regression Training for Offline Behavior Cloning in Autonomous Driving

arXiv:2609.38472v2 Announce Type: replace-cross Abstract: Behavior cloning provides an offline route to autonomous-driving policy learning, but mean-squared-error regression is poorly matched to demonstrations in which one observation admits several valid actions. Diffusion policies can represent conditional multimodal action distributions, yet their closed-loop performance may be unstable when visual features and control are learned from limited data. This paper presents Diffusion-2BC, which combines a diffusion denoising objective with an auxiliary deterministic behavior-cloning loss over a shared visual encoder. The auxiliary branch is used only during training; inference remains diffusion-based. The proposed method is evaluated in the controlled Claw environment and in bird's-eye-view CARLA navigation, including route-conditioned driving, route-free navigation through multiple intersections, and cross-map evaluation from Town01 to Town02. In the Claw task, Diffusion-2BC reduced the mean mask-distance error by approximately 10% relative to a diffusion-based behavior-cloning baseline and by 85% relative to standard deterministic behavior cloning. In route-free CARLA, Diffusion-2BC traveled substantially farther before termination under the evaluation protocol than both baselines in Town01 and Town02. Additional qualitative rollouts revealed distinct route choices, showing the multimodal behavior of the proposed diffusion-based agent. The results indicate that an auxiliary regression signal can improve the closed-loop reliability of diffusion behavior cloning while preserving multimodal prediction in the controlled benchmark.

arXiv cs.LG59

Embedding Models Measure in Peculiar Ways

arXiv:2609.20821v2 Announce Type: replace-cross Abstract: Embedding spaces define notions of semantic similarity and distance. We study whether those embeddings reflect physical measurements of mass, distance, time and volume, which admit a unique, objective notion of semantic equivalence and distance. We find that physical measurement is only weakly modeled in the embedding space, and that instead quite peculiar measurement patterns can be observed. Further analysis indicates that embedding representations of physical measurements are strongly influenced by superficial string similarity, and recalibration of similarity does not substantially improve the alignment.

arXiv cs.LG80

近乎并列的 LLM 排名对 Family-DIF 指导的基准测试重组是否稳健?

arXiv:2609.00482v2 公告类型:replace-cross 摘要:人们常常将排行榜上微小的差距解读为某个语言模型优于另一个模型的证据,但差距的方向可能取决于纳入了哪些基准测试项目。我们利用五个基准测试的项目级响应数据,以及一种不使用模型家族标签的多维项目反应理论(MIRT)谱近似方法,对此进行检验。在所有者互斥的折叠中,每个所有者子集用于识别不同模型家族之间残差差异项目功能较低的项目(low-DIF)。随后,在另一子集中使用这些项目对模型进行评分,并采用冻结权重,使元数据定义的项目组和易度层中的基准测试构成保持不变。长度相同的匹配随机子测试则作为项目子采样所致变异的基线。完整基准测试排名与 low-DIF 排名仍保持高度相关($\tau_b=.900$--$.948$)。然而,在五个基准测试中的四个里,最初差距在一个百分点以内的跨家族模型对中,有 30.9--47.1% 的顺序发生反转,比匹配随机子测试的中位数高出 16.9--28.6 个百分点(均为 $p=.001$)。第五个基准测试未显示出可靠的额外反转(-0.9 个百分点,$p=.689$)。这一模式在所有预先指定的总体扰动下均能保持,并且残差项目—家族特征在不同所有者子集中得以复现;然而,没有任何家族在各基准测试中表现出一致优势。因此,整体稳定的排名仍可能使个别近乎并列的顺序对基准测试构成十分敏感,而小于一个百分点的排行榜差距应当辅以证据,证明其所暗示的排序对构成变化具有稳健性。

arXiv cs.LG80

LM-X:通过进度、事件与不确定性预测实现可解释的视觉--语言--动作建模

arXiv:2608.25757v5 公告类型:replace-cross 摘要:大规模视觉--语言--动作(VLA)策略推动了通用机器人控制的发展,但大多数策略仍然是从刺激到动作的黑箱:动作是可见的,但其解释性状态却不可见。它们无法原生提供三类解释信号:任务进度、下一个语义转换以及局部指令可靠性。已有研究表明,进度和事件结构有助于长时域控制,不确定性则有助于监测;然而,这些能力通常只是在动作预训练之后才被添加或提取。因此,当前领域缺少一种将解释性状态与控制联合预训练的 VLA 基础模型。受生物传感运动组织方式的启发——在这种组织方式中,对结果敏感、按事件分段且具有概率性的预测共同构成行为——我们提出了 LM-X。LM-X 学习三种通过直接监督获得的在线信号:回报剩余量(RTG)估计可见的进度和状态质量;事件剩余量(ETG)预测到下一个语义事件之前的动作序列;异方差动作流方差则报告局部指令的可靠性。RTG 为 ETG 提供条件,二者共同为动作生成提供条件;不确定性在动作专家内部进行估计,使解释成为控制的一部分,而非事后描述。我们在超过 20,000 小时的异构真实机器人轨迹上对 LM-X 进行预训练,其中包括超过 1,000 小时的失败运行。在 50 个随机困难的 RoboTwin2.0 任务上,LM-X 的成功率达到 74.1\%;在七个真实机器人任务上达到 73.5\%,而 GR00T N1.7 的成功率分别为 55.4\% 和 50.7\%。其信号能够跟踪进度和性能退化,预判事件尺度的运动,检测高误差动作,并提前预警失败。这些结果表明,LM-X 是一种可解释的 VLA 基础模型,能够将透明的预测状态与更强的通用控制能力结合起来。Github: https://github.com/loongOpen/LoongWu-LM-X-VLA