NVIDIA researchers introduced PivotOPD, an on-policy distillation method that trains multi-turn LLM agents to avoid early pivotal mistakes and recover from them, posting the best average against 13 baselines on 3 agent benchmarks. The post NVIDIA PivotOPD Teaches Multi-Turn AI Agents to Recover From Pivotal Mistakes appeared first on MarkTechPost .
我们研究了对提示前缀进行潜在序列压缩能否保留大语言模型在推理时所依赖的能力。我们提出了 SemanticFold，这是一种在学习得到的边界处折叠前缀隐藏状态的压缩方案，并在五种模型规模上进行了评估：Qwen3-1.7B、Qwen3-8B、SmolLM2-1.7B、Pythia-1.4B 和 Pythia-6.9B。我们采用固定目标协议：对固定不变的前缀按原生方式或压缩方式执行处理，两组均对相同的续写词元采用教师强制。这一设计排除了由目标选择导致似然变化的解释。我们考察了五类终点指标：固定目标负对数似然、有限标签推理准确率、线性探针可访问性、开放式生成，以及系统层面的内存占用和延迟。我们发现，压缩使这些终点指标呈非单调变化，且它们并不共享单一的压缩阈值。在 Qwen3-1.7B 上，当压缩比 R=1.7 时，采用 10000 次抽样的配对自助法分析表明，压缩后的平均负对数似然（NLL）比原生方式降低了 0.135。在 SmolLM2 上，当 R=1.2 时，平均 NLL 比原生方式高 0.013。在两个 Pythia 检查点上，NLL 基本不变。将序列缩短与学习得到的残差变换分开考察的 NLL 分解表明，Qwen 上的似然改善主要归因于残差适配，而非仅仅缩短序列。仅应用变换而不缩短序列的 MLP-only，其 NLL 比 Full SemanticFold 低 0.082。在各条件下，线性探针准确率和宏平均 AUC 的变化绝对值均小于 0.03，且置信区间均跨越零。我们得出结论：潜在压缩下的能力保留不存在单一的标量判据；语言模型拟合度、可解码性和推理行为回答的是不同问题，在相同的压缩操作下，它们可能朝不同方向变化。
新兴计算机硬件往往以牺牲可靠性来换取能源效率；我们在此表明，大语言模型（LLMs）可以通过训练来容忍这种不可靠性，而且随着模型规模增大，其错误韧性非但不会下降，反而会增强。我们根据在模拟故障数字硬件上进行的累计 40,000 GPU 小时的训练，推导出修正后的神经缩放定律，量化了这一趋势，并表明模型学会了在“良好”的纠错码中进行计算，而无论模型规模增大到何种程度，这些纠错码的相对开销始终保持有限。这一发现使我们推测，经过适当训练的 LLMs 可能在形式化意义上具备容错性；如果这一推测成立，那么在低能耗、存在故障的硬件上运行 AI 推理，可能成为相较于现状大幅节能的一条路径。
多物理场连续介质模型是研究电化学器件的强大工具，可用于计算机模拟反应器设计，并解析决定器件性能却难以通过实验测量的局部 pH、电势和浓度场。然而，构建此类模型需要深厚的数值计算专业知识，或依赖专有软件。在此，我们展示了前沿大语言模型智能体能够消除这一实现负担，同时让研究人员保持对底层物理机制的控制。我们以多孔气体扩散电极中一维电化学 CO2 还原为 CO 的过程为测试案例，开发了一套机器可读、由人类指定的建模框架，其中包含控制方程、参数、数值方法、逻辑构建阶段以及可由人类验证的检查点。智能体根据这份规范，可重复地使用开源 Julia 构建完整的多物理场模型。独立构建的模型（包括由智能体完全自主构建的模型）与等效 COMSOL 实现之间的偏差不超过峰值 CO 分电流密度的 0.7%，各模型彼此之间的偏差不超过 0.04%。通过系统性地植入错误，我们证明了明确规范对可重复性的重要性，并揭示了智能体在调试模型物理机制方面的能力与局限。该框架确立了一种更透明的多物理场建模方法，使物理描述和控制方程而非专门编写的代码成为计算模型开发的主要输入。
用于细胞与细胞核实例分割的预训练模型在架构、预训练数据与目标、参数量、推理策略、适配要求、后处理流程以及计算需求方面存在显著差异。大型预训练模型和基础模型因其强大的零样本能力而得到日益广泛的应用，但其使用也带来了更高的能耗、内存需求、计算需求、适配成本以及运行碳排放。这些额外需求能否换来有意义的分割性能提升，目前仍不明确。为探究这一问题，我们提出了兼顾可持续性的性能指数（SAPI），这是一种融合分割性能、能耗和模型规模的可配置指标。我们在六个 CellBinDB 数据集上，对 19 个预训练模型和基础模型进行了零样本推理基准测试，并采用冻结编码器和全模型微调两种少样本适配策略，对 16 个可微调模型进行了评估。我们使用基于软件的监测工具估算 GPU、CPU 和 RAM 的能耗。结果表明，规模更大、计算需求更高的模型并不总能实现成比例的分割质量提升。尽管少样本适配能使多个模型受益，但其性能增益和资源成本因架构、数据集及适配策略而存在较大差异，导致基于 SAPI 的排名与仅基于性能的排名不同。本研究提供了一个更全面地比较分割模型的实用框架，有助于在生物医学图像分析中选择计算门槛更低、对环境更负责任的模型。
微调即服务使用户能够将经过对齐的大语言模型（LLMs）适配到专门任务，但恶意微调可能削弱模型的拒答行为，同时保留其在合法输入上的任务性能。我们重新审视了近期的逐层安全性诊断方法，发现安全敏感度具有正负方向性：对不同层进行缩放可能增强拒答、削弱拒答，或几乎没有影响。基于这一观察，我们提出了 SLDR，这是一种基于选择性层恢复与动态路由的微调后防御方法。SLDR 仅在带符号敏感度谱中得分最高和最低的层上训练 LoRA 恢复适配器，并在推理时采用基于表征的动态路由，仅针对恶意查询激活该适配器。在四种模型架构、五项下游任务和四个有害性基准测试中，SLDR 在保持下游任务效用的同时，大幅减少了有害输出。在 Llama3.1/SST2 上，SLDR 将平均有害性得分从 11.54 降至 0.08，同时保持了下游任务的准确率；即使投毒比例高达 0.9，有害性得分仍接近于零。代码已公开于 https://github.com/Stardust457/SLDR。
人机系统很少在固定的人工智能自主程度下运行。随着操作人员与人工智能系统持续协作，控制权必须随之转移：协作稳定时，人工智能可以承担更多责任；证据不明确时，维持当前角色；条件恶化时，则将控制权交还给人类。现有关于自适应自动化、监督控制、自动化信任以及技能退化的研究解释了这一问题的部分方面，但尚未提供可审计的多信号判据，用于治理多周期工作流程中自主程度应何时发生变化。我们将这一挑战形式化为交接问题：在每个运行周期，决定是提高、维持还是回退人工智能的自主程度，同时确保这一过程可逆、可恢复且可审计。我们提出交接就绪度评分（HRS），这是一项透明的综合指标，整合了四个信号维度：操作人员就绪度、人机信任、学习稳定性和运行绩效。该指标与基于滞回的转换策略相结合，要求在提高自主程度之前获得持续的正面证据，但在条件恶化时及时回退。在软件工程和制造领域，HRS 与硬性安全防护机制分别应对互补的失效情形：当单一指标突破临界阈值时，防护机制会强制立即采取纠正措施；而 HRS 则检测操作人员就绪度在多个信号上呈现的缓慢衰退，这种衰退无法被任何单一防护机制察觉。该框架将自主权交接确立为一个需要明确、综合且可审计判据的治理问题，从而提供了以往自适应自动化研究尚未提供的概念和形式化基础。
文本到音乐系统生成的音频日益逼真，但现有评估难以揭示生成结果是否符合用户意图。全局文本与音频相关性分数可能忽略描述不充分的提示中隐含的意图，并掩盖在乐器配置、结构、节奏或情绪推进等具体要求上的不足。为弥合这一差距，我们将文本到音乐的意图对齐表述为满足针对每项请求制定的评估准则，其中包含可独立验证的条目，既涵盖请求的显式要求，也涵盖其隐含的音乐意图。对各条目单独评分，使评估能够按意图来源和音乐维度诊断问题，而非仅给出单一且不透明的分数。我们将这一方法具体实现为 MuRA-Bench，这是一个由音乐专家整理、基于真实平台请求构建的基准。我们进一步提出 MIRA（Musical Intent Refinement Agent），一种测试时智能体：它首先将请求意图具体化为评估准则，然后在有限预算下，为黑盒生成器搜索提示的修订方案，迭代地生成音乐、依据评估准则进行验证，并利用这些反馈引导能够感知搜索轨迹的树搜索。在开源和商业后端上的实验表明，MIRA 能够提升意图对齐程度，使开源生成器达到与代表性商业系统（如 Suno 和 Mureka）相当的性能。项目页面：https://mirareview.github.io/。
随着多模态大语言模型（MLLM）的能力不断增强并得到广泛部署，隐私与安全问题日益紧迫。机器遗忘通过从已训练模型中移除指定信息，同时保留无关能力，为解决这些问题提供了一种途径。然而，实现方式和评估协议的碎片化、鲁棒性测试的不完整，以及对指标可靠性认识的不足，使得 MLLM 机器遗忘的进展难以得到系统评估。我们提出 Open-MMUnlearning，这是一个开源、可扩展的框架，通过共享接口和结构化配置，整合目标模型准备、多模态数据处理、机器遗忘与评估。该框架支持涵盖隐私、安全和版权的五个基准、来自四个模型系列的八个 MLLM，以及十二种机器遗忘方法。其评估套件综合评估遗忘效果、保留的效用，以及面对模型干预、对抗性输入和成员推断攻击时的鲁棒性。我们使用统一的评估协议，对十种具有代表性的机器遗忘方法进行了比较。在这项比较中，GD 和 MIP-Editor 并列获得最高综合得分：GD 的遗忘质量最高，而 MIP-Editor 保留了更多模型效用。我们进一步提出一种指标元评估协议，利用对目标知识接触程度受控的模型测试指标的忠实性，并测试其在量化和重新学习条件下的鲁棒性。在所评估的十三项指标中，BLEU 获得了最高的综合可靠性得分。KS-Test 的忠实性 AUC 最高，但在鲁棒性方面表现较弱。该框架与这些发现共同支持对 MLLM 机器遗忘方法开展可复现的比较，并对评估可靠性进行系统考察。
多模态大语言模型（MLLM）面临的一项关键挑战，是从视觉识别迈向约束感知的跨模态推理。这需要将视觉线索与其他模态的信息相结合，以理解特定领域规则下各元素之间的关系。这一挑战在工业级设计转代码（D2C）任务中尤为突出。该任务将用户界面（UI）设计转换为代码，要求 MLLM 将设计图像与杂乱的图层元数据关联起来，推断组件和布局的实现要求，并在目标库的约束下通过代码实现这些要求。然而，在真实工业场景中，这些能力仍未得到充分评估。为填补这一空白，我们提出 TaoD2C-Bench，用于评估 MLLM 在工业应用中生成满足实现要求的 UI 代码的能力。TaoD2C 数据集包含来自 17 个商业平台的 2,861 份生产环境设计，以及涵盖组件、分组、对齐和位置四个类别的 97,652 条专家标注。这些标注区分了必须满足的约束与允许自由选择的实现方式。TaoD2C-Bench 定义了三项任务：端到端 UI 代码生成、要求推断和要求实现。对八个 MLLM 的评估表明，它们在生成满足实现要求的 UI 代码方面仍存在显著差距，同时在推断与实现任务中呈现出不同的性能特征。我们进一步表明，MLLM 的视觉重建能力并不必然意味着其能够生成满足这些要求的代码。我们发布 TaoD2C，以支持工业级 UI 代码生成研究。
多模态基础模型的最新进展使其能够作为通用物理智能体，执行多种操作任务。然而，要在陌生环境中成功完成任务，当观测中缺少任务相关信息时，智能体可能需要通过交互主动获取这些信息：它可能需要确定相关物体的位置、检查尚未观测到的属性，或探明陌生工具的作用。因此，我们提出 RoboQuest，这是一个面向目标导向具身探索的基准，要求智能体通过物理交互主动获取任务相关信息，利用由此获得的证据调整后续行动，并自主决定何时着手完成任务。RoboQuest 包含十项移动操作任务，围绕三类不确定性展开：搜索、基于操作的检查和交互式测试。我们通过统一的视觉运动接口评估了五个前沿多模态智能体，并评估了一个利用我们发布的完整回合演示数据微调的 $π_{0.5}$ 策略。表现最好的智能体仅在 23\% 的回合中成功，而微调后的策略几乎从未成功。在提供隐藏信息的情况下，对构成这些任务的执行技能进行单独测试，结果表明智能体能够完成大多数所需动作；我们的失败分析也显示，只有少数失败可归因于执行问题。失败分析进一步发现，智能体经常过早停止探索，在观测到完成任务所需的证据之前就做出决策。我们还发现，智能体很少预防或修复其探索造成的扰动。此外，对大多数模型而言，通过试错进行学习仍然十分困难。
监测推理型人工智能（AI）模型的思维链，仍是检测此类模型欺骗行为及其他不当行为的一项关键方法。然而，基于语义的思维链监测不仅要求能够访问推理轨迹，还依赖于这些轨迹可被理解，并且足够忠实地反映产生模型行为的底层计算过程。此外，越来越多的证据表明，思维链输出即便仍可访问，也可能很快变得难以理解或不再忠实。基于认知负荷理论，我们研究了一种带宽需求更低的信号——生成的推理词元数量——它无需访问推理轨迹的内容。我们让三个具备推理能力的大型语言模型在分别指示其如实作答、虚假作答或不考虑真伪的系统提示下，回答了210道多项选择题，涵盖分析性、描述性和规范性推理类型，以及道德与非道德领域。在全部三个模型中，以真实为导向的作答所产生的推理词元，均少于以说谎为导向和不考虑真伪的作答。这些发现表明，由明确提示诱导的不实作答策略，可以使测试时推理词元的使用量呈现稳健的群体层面差异。虽然我们的结果尚不足以确立推理词元数量作为自发欺骗或一般性不对齐行为的检测指标，但它们提供了概念验证：当原始推理轨迹不可获取或不可靠时，推理词元数量可以作为一种简单、独立于内容的候选信号，用于区分模型的不实行为与如实行为。未来工作应检验实例层面的检出率、分布外泛化能力、习得的欺骗策略、隐藏目标，以及对抗压力下的稳健性。
As option markets grow and AI advances, agentic systems for option trading are gaining increasing attention. Language-model-based agents can reason over contextual information such as news, but option trading presents a particularly challenging decision problem: a single stock can have thousands of contracts, and the agent must decide both which contracts to trade and how to combine them. Existing approaches often sidestep this complexity by restricting the policy to a fixed strategy structure, such as a straddle, limiting their ability to switch strategies as market conditions change. We present SOTA (Stock Options Trading Agents), an agentic trading framework for structured option-strategy selection. SOTA abstracts the large option universe into strategy-level decisions while deterministic resolvers handle portfolio implementation. We develop SOTA by post-training Qwen3.8-27B with supervised fine-tuning followed by reinforcement learning. SOTA is evaluated on options on nine large-cap U.S. equities and SPY against rule-based and machine-learning strategy selectors in the same trading environment. Over a six-month out-of-sample period, SOTA earns an 18.3% total return with a Sharpe ratio of 1.60 and a maximum drawdown of 8.96%. We also document an asymmetric role of news: news improves frontier-teacher trajectories, but retaining news during reinforcement learning reduces out-of-sample return from 18.3% to -2.7%.
推测解码使用低成本的草稿模型提出候选词元，再由完整规模的目标模型并行验证，从而加速大语言模型推理。并行和半自回归（semi-AR）草稿模型通过单次前向传播提出一整个词元块，提高了草稿生成效率，但其训练也面临新的困难：给定位置的草稿分布取决于解码轮次的起始位置，而各轮的起始位置又取决于此前轮次接受了多少词元。现有训练目标通常依赖块内局部的替代目标，忽略了这种跨轮次耦合，因此无法直接优化全局解码效率。在本研究中，我们将推测解码表示为马尔可夫奖励过程，从而构建了用于训练和评估此类草稿模型的理论框架。基于这一表述，我们提出了期望解码轮数（EDR）目标，该目标按状态占用概率对局部拒绝代价进行加权，其值恰好等于解码轮数的期望值。与以往的替代目标不同，EDR 不引入任何辅助超参数。随后，我们推导出精确的时序差分梯度，支持利用目标模型生成的轨迹进行无偏随机优化。同一框架还提供了精确的解码轮数离线评估方法，无需运行推测解码，即可在共享的目标模型轨迹上对草稿模型进行配对比较。使用 EDR 对 DSpark 和 DFly 这两个当前最先进的草稿模型进行微调后，平均接受长度得到了一致提升，并且在涵盖数学推理、代码生成和聊天的九项基准测试中，表现优于现有训练目标。
流策略能够捕捉丰富多样的动作分布，利用离策略强化学习对其进行微调，以实现超越示范的性能，正受到越来越多的关注。然而，依据学习得到的价值函数微调流策略并非易事，因为策略需要经过多个流步骤才能生成动作。伴随匹配通过将价值信息从最终动作反向传播至各个流步骤，为更新流模型本身提供了一种有理论依据的方法，但它要求在每一步中通过策略计算一次向量与雅可比矩阵的乘积，其计算成本随流步骤数量和策略规模的增加而增长。我们观察到，预训练流策略在批次上取平均后的速度雅可比矩阵，其数值主要集中在对角线上。受此发现启发，我们推导出一种闭式标量伴随量，利用流时间缩放最终动作处的价值梯度，从而免去逐步计算向量与雅可比矩阵乘积的需求。我们进一步发现，在采用标量伴随量时，控制评论家网络在策略生成动作处的价值估计尤为重要。基于这些发现，我们提出 Q-learning with Scalar Adjoint Matching（SQAM），将标量伴随量与针对这些动作的价值惩罚相结合。SQAM 的性能提升主要集中在 OGBench 中难度最高的四个领域，在每个领域中的成功率均比最强基线高出 18 至 35 个百分点。为检验 SQAM 是否适用于大型预训练策略，我们还在真实双臂机器人上微调了一个视觉-语言-动作策略。SQAM 在全部三项任务中的表现均优于监督微调。
许多知识工作会利用工作区中已有的文件生成新的交付成果，而 LLM 智能体正开始接手这类工作。通过直接语料库交互，智能体无需建立索引，即可从终端搜索和读取其中的任何文件；我们将以这种方式利用多个文件生成交付成果的过程称为直接工作区交互（DWI）。然而，访问文件只是任务的一半：没有任何机制来跟踪任务提出了哪些要求、已经读取了哪些内容，以及哪些文件被列出却从未打开。这些信息都会从上下文窗口中悄然流失，不留痕迹，因此智能体可能提取了某个数值，最终交付的报告却未包含它。为解决这一问题，我们提出 RunningTab，这是一个为直接工作区交互配备环境侧台账的框架：由环境在智能体之外维护一份针对每项任务的记录，跟踪任务尚未完成的事项。具体而言，智能体添加任务要求，环境则将每次读取的文件内容记录为带有来源信息的摘录，并将每个已列出但未打开的文件记录为候选文件；随后，智能体可以在每项要求旁查看与之最匹配的摘录及排名靠前的未打开候选文件，根据匹配内容完成该项要求，或说明理由后将其搁置。如果智能体在仍有未完成要求时尝试结束任务，完成检查就会将这些要求反馈给它。我们使用三个 LLM 在三个基准上验证了 RunningTab。结果表明，它始终优于普通 DWI 以及在模型内部维护记录的基线方法；同时，交付成果所需的数值一旦被读取，通常就能保留在其台账中。
基于结果奖励的强化学习（RL）面临监督信号稀疏的问题，尤其是在困难的长时程任务中，成功轨迹既罕见，生成成本又高。同策略蒸馏（OPD）提供了一种颇具吸引力的替代方案：由更强的教师沿着学生自身生成的序列提供密集的词元级监督。自蒸馏方法则进一步消除了对独立教师模型的需求，通过让同一策略以特权信息为条件，使其充当自身的教师。然而，仅以特权信息为条件，并不能保证由此产生的蒸馏更新能改善学生的表现。事实上，特权信息可能使教师通过学生无法使用的捷径解决任务，导致其提供的监督与学生当前的行为不匹配。因此，即使是表现更好的教师，也可能提供导致学生性能下降的指导。为解决这一问题，我们分析了特权教师的选择如何影响学生的更新。我们推导出一个充要条件，使教师所引导的局部蒸馏更新成为学生奖励梯度的正倍数。我们的分析表明，教师不仅应在任务上表现良好，还应提供适合学生当前能力的指导。这一刻画启发了一个实用的教师训练替代目标，将结果奖励与朝向学生策略的词元级 Kullback-Leibler（KL）正则化相结合。基于这一结果，我们提出 Joint On-Policy Learning and Teaching（JOLT），以两种角色联合训练单一策略：一是使用 KL 正则化目标的特权教师，二是采用密集同策略蒸馏的无特权学生。在数学推理、编程、工具使用和终端使用任务中，JOLT 均提高了训练效率和性能，而引入学生奖励还能带来进一步提升。
幻觉信息可能在多阶段大语言模型系统中传播，并成为后续推理上下文的一部分。现有关于幻觉后推理（PHR）的研究主要描述最终结果的变化和整体推理动态，对于模型如何在响应层面处理幻觉前提，仍缺乏充分理解。在本研究中，我们提出 PHRBench，这是一个从行为结构角度评估 PHR 的受控基准，涵盖四个领域和 18 个大语言模型。PHRBench 通过幻觉顺从、幻觉规避和启发式纠正来刻画每条推理轨迹，且不依赖于最终答案的正确性；同时，将成功纠正错误并最终得出正确答案的轨迹定义为具有洞察力的轨迹。在 4820 个受控实例中，我们发现，成功恢复仍相对罕见，并且与推理轨迹中更频繁的信念更新相关。我们还发现，含有幻觉信息的提示的属性包含大量可用于预测成功恢复的信号，一个轻量级预测器的 AUROC 达到 0.847。这些发现提供了理解幻觉后推理的行为视角，刻画了大语言模型如何处理错误上下文，以及何时更有可能成功恢复。
多教师同策略蒸馏（MOPD）用于两种设置。在同域组合中，多个教师对学生针对同一提示域生成的每条轨迹进行评分，并将其信号合成为单一目标；在路由域蒸馏中，来自不同领域的提示被分配给相应的领域专家。这两种设置通常都迁移各个教师的最终策略，而该策略混合了后训练带来的变化与从教师基座继承的偏好。我们提出 $Δ$-MOPD，将各个教师相对于其基座的 logit 偏移重新锚定到学生冻结的初始模型上进行迁移，并在固定教师选择的条件下，在两种设置中将其与最终策略监督进行比较。我们首先揭示了阻碍最终策略迁移的机制：继承自基座的牵引可能超过后训练产生的偏移。去除这种牵引会降低教师项范数比和目标与学生之间的 KL 散度。我们的实验结果表明，当教师信号在同一状态下被组合时，偏移目标尤其有用。在组合三个教师时，$Δ$-MOPD 的 Math 得分和五项基准综合得分分别比最终策略组合高出 $4.11$ 分和 $1.95$ 分；在组合两个教师时，其准确率与最终策略方法相当。在分阶段路由下，它在两种阶段顺序中均取得更高的平均性能，并将观测到的顺序差距从 $10.50$ 分缩小至 $6.42$ 分。在每次更新仅涉及一个教师的交错路由下，两种目标的表现相当。分阶段实验结果提供了支持性证据，表明这种优势可能也适用于跨训练阶段累积的信号。因此，目标构造是 MOPD 中一个独立的设计维度，与教师选择相辅相成。
我们提出 FoldBack，一种用于长时程衣物折叠的自纠正掩码生成式策略。现有的长轨迹策略在漏抓或抓取滑脱后，即使衣物尚未达到预期构型，也可能继续执行。我们围绕推理时的三项决策构建 FoldBack 的恢复机制：何时细化与验证、如何回退，以及在何处、以何种方式重试。FoldBack 将细化和抓取验证与拾取放置事件对齐，在保留成功抓取的同时，使机器人返回可重试的抓取前构型，并选择性地重新生成失败片段及选定的后续动作，同时避开先前失败的抓取位置。据我们所知，FoldBack 是首个统一这些决策的可编辑全轨迹策略，能够在继续执行前检测、撤销并修复失败的交互，且无需恢复示范或重新训练基础策略。在涵盖六个类别的 33 件真实衣物上，FoldBack 的最终折叠成功率达到 75.2%，最终掩码交并比（IoU）达到 0.837，而此前最强基线的对应指标分别为 45.7% 和 0.689。
AI 学习工具正迅速进入课堂，但关于它们是否有助于学生学习的证据尚不一致，且主要依据考试成绩。相比之下，探讨使用 AI 是否会改变学生在课堂上的实时学习行为的研究较少。在此，我们报告了一项预注册实地实验的结果。该实验涉及同一门课程十个教学班的 759 名 MBA 学生，每名学生均被随机指定在十次课中的两次课前，使用专门开发的语音 AI 讨论伙伴进行准备。在使用 AI 讨论伙伴两次后，学生在此后每次课堂上的主动发言次数增加了约 31%。使用 AI 讨论伙伴更多的学生还报告称，他们更自在地发言，感知到的学习收获也更多，但专注度或学习动机并未提高。这些发现表明，与语音 AI 伙伴反复练习可以显著提高学生参与课堂讨论的程度，从而改善一项关键的中间学习成果。
研究智能体的部署正朝着数千个智能体共享同一计算资源池的群体规模发展，而当前大多数系统一次只组织一个项目，或让整个群体处于无组织状态。我们认为，无论设计者是否提供组织架构，这样的群体都会形成某种组织，因此设计者应当明确提供组织架构，而多智能体系统研究界已经具备实现这一目标的工具。我们提出一种智能体社会，即在明确制度下运行、持续存在的智能体群体，并将其面向科学研究发展为一个基于六项原则构建的研究者社会。首席研究员通过项目征集、独立评审和资助机制竞争计算资源；一位被称为“市长”的人类管理者负责分配资源，但不指派任务。在一个由一万名研究者组成、正在运行的社会中，研究者仅被要求改进语言模型的预训练，其中一个实验室报告了一种可在减少约 30% 计算量的情况下达到同等质量的方法，但对其进行测试的各实验室尚未就这一结果达成一致。最后，我们为智能体研究界提出了六个尚待解决的问题。
我们如何预测哪个基础模型检查点值得投入一轮昂贵的智能体后训练？端到端 pass@$K$ 检验成功行为是否已经出现在基础模型的分布中，但它并不适合智能体编程：许多基础模型检查点无法可靠地生成格式正确的工具调用，而这是端到端完成任务所必需的。单次或短程任务将多步交互压缩为固定提示和单个补丁，从而避开这些工具调用失败，但也绕过了我们真正关心的核心能力：随着代码仓库不断演变，在多个使用工具的步骤中维持连贯状态。为弥合这一差距，我们将后训练智能体的成功轨迹视为基础模型潜力的前瞻信号。通过重放每条轨迹，并在每个修改代码的步骤后重新运行测试，可以识别出决定性步骤：即累积补丁首次使代码仓库从测试失败转为通过的步骤，从而确认在给定先前上下文的情况下，所记录的动作能够解决任务。受智能体轨迹覆盖原则的启发，我们围绕这一步骤构建了三种筛选方法，它们均不要求基础模型检查点从冷启动开始驱动评测框架：(i) Decisive-Action BPB（每字节比特数）衡量已验证动作上的概率质量；(ii) Patch MCQ 测试检查点在该动作与被同一验证器否决的备选动作之间的选择；(iii) 以前缀为条件的 pass@$K$ 评估模型生成分布对功能正确结果的支持程度，并将任何通过测试的续写计为成功。在十对公开的基础模型与后训练模型中，这三种筛选方法对模型组给出的排名均与后训练模型的 SWE-bench Verified pass@$1$ 排名高度一致。由于我们的方法仅需要基准测试中的成功轨迹及其验证器，因此可以用来将未来的智能体编程基准转化为基础模型评估。
机器人基础模型提供了强大的视觉运动控制能力，但当物体位置或任务指令发生变化时，其性能可能下降。进一步提升性能通常需要利用大量机器人数据进行后训练，而通过遥操作等方式收集这些数据的成本可能很高。智能体框架可以在模型外围进行适配，但现有的自演化框架在决定推进哪些代码和技能变更时，对机器人试验的利用效率较低。我们提出 EmbodiedRSI，这是一种自演化智能体框架，能够自主决定下一步探索方向，并将由此产生的物理交互转化为代码和技能的改进。EmbodiedRSI 通过快慢双系统架构实现这一过程，在假设图中维护相互竞争的代码与技能假设。基于信息价值的实验选择机制会挑选能够区分这些假设的物理实验，实验结果则指导代码与技能的协同演化。慢系统构建分层记忆，而基于奖励的记忆学习根据记忆对后续快系统改进的价值，筛选有效记忆。在 RoboCasa365 上，EmbodiedRSI 的总体成功率达到 77.0%，在 Composite-Unseen 上达到 71.3%，相比之下，最佳基线的成功率为 40.1%。EmbodiedRSI 在 LIBERO-Pro 上的总体成功率也达到 86.8%。除基准测试表现外，EmbodiedRSI 还可零样本迁移至真实世界机器人，在多项具有挑战性的任务中实现 71.3% 的总体成功率。
如今，向大型语言模型提出的许多问题都没有可用于评分的正确答案：一项政策价值几何、用户应选择哪个选项、如何权衡相互冲突的价值观。陈述偏好经济学数十年来一直面临这一问题。它通过效度及相关概念构成的框架，在不知道真实价值的情况下评判调查回答；这些概念包括内容效度、构念效度、准则效度、信度、激励相容性和后果性。我们认为，这一框架是评估语言模型的一种通用方法，并阐明了各个概念对 LLM 评估的意义。我们使用一项已发表的水质陈述偏好经济估值调查（Vossler et al. 2023），对六个模型施测，以展示这一方法。在这一经济学应用中，效度检验表现为经济理论所预测的关系：需求曲线应向下倾斜，支付意愿应随物品的范围和收入而变化。这些检验清晰地区分了各个模型。两个较早的模型在家庭收入为 75,000 美元的情境下未能通过最基本的检验，而两个最新的模型通过了我们能够评分的所有理论效度检验，但在收敛效度上表现不同。通过效度检验表明模型的回答具有一致性，并不意味着这些回答是正确的。
大语言模型正日益广泛地应用于以冗长、异构信息源为基础的任务。传统的检索增强生成（RAG）依赖基于相似度的固定检索方式，而智能体式变体虽然能够调整查询和工具使用，但总体上仍以检索为中心。然而，在许多任务中，求解所需的证据并未明确存在于任何单个信息源条目中，而是必须通过对多个信息源条目进行筛选、聚合或计算才能推导得出。在本研究中，我们提出 RECAST（Routing Evidence through Computation, Access, and Synthesized Tools），这是一个通过学习构建的框架，将证据构建表述为围绕异构检索与计算操作展开的序贯决策过程，使证据能够被主动推导，而非仅仅被检索。轻量级 RouterLM 以迭代方式选择并构造基本操作，或指定定制操作，由参数冻结的 CompilerLM 将其转换为可执行代码。一旦判定证据充分，RouterLM 就会将采纳的证据传递给参数冻结的 AnswerLM，以生成最终解答。我们先通过监督微调（SFT），再通过组相对策略优化（GRPO）训练 RouterLM。在六类异构基准测试中，RECAST 的平均成功率达到 75.6%，比最强的大模型基线高出 15.9%。此外，经过训练的 Qwen3.5-9B RouterLM 比未经训练的 Gemini 3.5 Flash RouterLM 高出 5.0%。在三个未参与训练的基准测试中，RECAST 比最强基线平均提升 15.0%，展现出跨任务和异构信息源表示的强大零样本泛化能力。
语言模型智能体越来越多地被要求开展开放式科学研究，但其成果通常是依据已知答案、评分标准或语言模型评审者来评判的，而这些方式都无法判断一个新的科学模型是否有效。AI Science Exam for El Nino-Southern Oscillation（SciExam for ENSO）是一项基准测试，要求智能体根据真实观测数据，为 ENSO 这一年际气候变率的主导模态构建低阶随机模型。在六小时的时间预算内，智能体处理观测数据，编写自己的诊断程序，随后这些程序被固定下来，智能体仅以这些诊断程序的结果作为反馈来开发模型。之后，隐藏的评分程序检验模型能否再现 ENSO 的统计特征、重建未观测变量并预测预留年份，同时以相同方式对一个已发表的模型进行评分。在十二个智能体系统中，有六个构建出的模型得分高于已发表模型，优势主要来自更好的重建和预测表现。表现较强模型的简化形式，各自都与关于 ENSO 暖冷不对称性的两种相互竞争的解释之一相容，而这一尚无定论的争议在任务中从未被提及。在不同信息条件下对最优系统进行的受控实验表明，其得分并非源于对带有日期的观测记录的记忆，而且它所接收的信息会影响其构建模型的方式。因此，SciExam for ENSO 能够在没有已知答案的情况下评估智能体的研究；结果表明，智能体已经能够构建具有竞争力的模型，其结构与科学家仍在争论的问题密切相关。
潜在世界模型在预测未来状态和现实世界规划方面展现出了卓越能力。然而，在实践中，我们缺乏一种有理论依据的方法，来估计其能力如何随模型规模、数据量和计算量的增加而变化；这一悬而未决的问题拖慢了该领域的进展。在本研究中，我们提出 RoboJEPA，这是一种基于 Joint Embedding Predictive Architecture（JEPA）的世界模型，使用涵盖 12 种机器人具身形态的大规模数据集进行训练。我们发现，RoboJEPA 的想象误差，即其潜在空间滚动预测的误差，随计算量的变化遵循二阶幂律，因此我们能够预测远超该定律拟合所用规模的模型质量。我们进一步表明，下游机器人规划性能随计算量的增加而以可预测的方式提升，且想象误差与该性能高度相关，因此可作为真实机器人评估的可靠替代指标。最后，我们展示了潜在世界模型可以零样本方式部署为机器人智能体，以单张目标图像为导向进行规划，在真实硬件上解决需要长时域规划的任务。我们公开了所有模型检查点，以及训练和机器人部署代码。据我们所知，这是首项为使用真实机器人数据训练的多具身机器人世界模型建立缩放定律的研究；而拥有 80 亿参数的 RoboJEPA 是迄今为止训练过的最大的 JEPA 预测器模型。
实时机器人控制需要足够的视觉历史来推断运动和任务进展，但处理这些历史信息可能会延迟动作执行。我们提出 Long-WAM，这是一种模型-系统框架，用于在实时控制约束下扩展因果世界-动作模型的上下文。我们的核心发现是，能够访问历史信息并不等于能够利用它：当视频基础模型采用自回归（AR）预训练时，更长的历史信息带来的收益要大得多。我们首先从不带动作标签的机器人视频和第一人称视角视频中学习因果预测，然后在世界-动作适配过程中保留这种从历史到未来的结构。在 RoboCasa GR-1 上，将上下文从 0.0 秒增加到 19.2 秒，成功率从 63.3% 提升至 78.7%，而采用双向预训练初始化时则没有净收益；机器人领域的 AR 预训练进一步提高了 GR-1 和 LIBERO-Long 上的最高成功率。Long-WAM 在 LIBERO-Long、RoboTwin 2.0 和 DOMINO 上也取得了对比方法中的最佳结果。流式观测编码、异步执行和针对特定硬件的加速，使其能够在不舍弃未来预测的情况下部署于 RTX 5090、DGX Spark 和 Jetson AGX Thor；在 RTX 5090 上，每个动作块的处理耗时为 107.4 毫秒，其中包括未来视频潜在表示的预测。在 Unitree G1 和 YAM 上的实时部署支持动态及长时程操作，其中动态叠杯任务的成功率达到 95%，而 Pi0.5 和 Fast-WAM 在各自的 20 次试验中均未成功。作为利用记忆信息的执行器，Long-WAM 还可在复合任务中与更高层级的规划形成互补。
现代语言模型在已训练的检查点基础上进行可验证奖励强化学习（RLVR）。RLVR 的一个核心潜力在于发现新的推理策略。原则上，模型可以采样出先前训练数据中不存在的新思路。然而，在实践中，为 RLVR 引入强烈的新颖性激励成效有限，还可能导致模型质量下降。由于可验证奖励仅对模型知识和行为中很小的一部分提供监督，这种质量退化难以恢复。为此，我们提出名为 Exploration-Distillation（ExpDis）的框架，将探索与优化解耦。我们在奖励中加入新颖性奖励，训练一个或多个探索策略，根据正确性和质量筛选其生成的轨迹，并将这些轨迹蒸馏到独立的学生策略中。随后，在不使用新颖性奖励的情况下训练学生策略。我们将上述过程重复多轮，交替进行探索与优化。这种解耦使我们能够大幅扩大探索规模，而不降低学生策略的质量。在七个数学推理基准和两个模型系列上，ExpDis 在相同的实际耗时预算下均优于 DAPO。此外，我们观察到 pass@$k$ 随 $k$ 增大而提升的表现有所改善，这表明 ExpDis 训练出的模型能够生成更多样化的正确解答。
当我们在世界中活动并执行日常任务时，会遇到一些可能直到日后才与任务相关的物体。即使当时不知道之后会需要它们，我们仍能回忆起把某件东西放在了哪里，或某个容器里装了什么。在本文中，我们研究具身助手如何通过观察一个人的日常活动，从第一视角视频中构建类似的记忆。我们提出 Ledger，这是一种持久化的三维物体记忆，整合了物体位置、历史记录和上下文描述。它将整段录像中的观测关联起来，并在物体离开视野后保留其记忆，其中也包括此人从未触碰过的物体。它按静置位置对每个物体的观测进行聚类，并且只有在获得多次证据后才记录物体的移动，从而减小定位噪声的影响。简短的描述保留了物体所容纳的内容或其支撑表面等细节。它保存这些记录，以便之后无需访问原始图像或视频即可回答空间问题。我们的记忆方法将 HD-EPIC 上的准确率从 29.7% 提升至 42.6%，将 UCS-Bench 上的准确率从 33.8% 提升至 38.5%，并在对 Ego4D 物体进行定位时，返回的预测结果的中位误差为 0.99 米。我们的分析揭示了时间持久性、上下文描述和检索各自发挥的互补作用。我们还对 100 条各自由多个场景拼接而成的视频流进行了研究，进一步暴露了检索和构建环节的失效情况。与单场景视频流相比，跨场景切换会导致性能下降，而按场景分别构建记忆可以部分弥补这一损失。
文本到点云定位根据对周围物体的描述，估计城市级三维地图中的位置。现有的由粗到细方法利用聚合的学习兼容性检索子地图，然后在选定的子地图内进行定位。然而，重复或相似的城市物体可能会抬高查询与多个子地图之间的嵌入相似度，即使子地图内的实例布局与查询描述不符。与此同时，与查询相关的实例往往跨越子地图边界，导致检索到的子地图缺乏完整的上下文证据。我们分别将这两种失效模式称为布局不一致混淆和边界证据不完整。为解决这些问题，我们提出了 PARC-Loc，这是一种基于具有关系一致性的部分指派（PARC）的由粗到细定位框架。PARC 联合建模线索与物体的兼容性以及成对空间关系，允许部分元素不匹配，同时优先选择与查询所描述布局一致的指派。在粗定位阶段，其候选级评估作为神经相似度的补充，用于选择布局一致的子地图。在精定位阶段，利用相邻子地图中与查询相关的实例扩展上下文，同时由 PARC 生成物体级匹配权重，以引导跨模态注意力。在 KITTI360Pose 和 CityLoc 上进行的大量实验表明，PARC-Loc 优于传统的由粗到细基线方法。在 KITTI360Pose 上，我们的方法将 5 米阈值下的 Top-1 定位召回率从 0.50 提升至 0.67，相较于最强基线实现了 34% 的相对提升。
离线强化学习能够从固定数据集中实现奖励驱动的策略改进，无需在线探索，因此在安全关键领域尤其具有吸引力。然而，其核心挑战在于分布偏移：策略优化可能偏向离线数据支持较弱的动作，导致价值估计不可靠。现有方法主要在策略自身的动作空间中控制这种偏移。在自动驾驶等交互环境中，这可能并不充分：候选自车轨迹在边缘行为分布下可能仍具有良好的支持，但与交互日志中观测到的周围智能体行为联合考虑时，其支持却可能较差。我们将这种交互支持的退化称为\emph{交互分布偏移}（IDS），并提出了 \emph{Interaction-Constrained Drive Policy}（ICDP），这是一个显式控制交互层面分布偏移的离线强化学习框架。从自车与周围智能体未来状态的联合数据分布出发，我们证明了联合支持的退化可精确分解为自车支持分量和残余交互支持分量。我们通过对比式密度比估计恢复后者，从而单独提取交互相容性，而无需显式建模联合密度、预测周围智能体，也无需在策略优化期间使用反应式仿真器或学习得到的世界模型进行推演。在 nuPlan、Interplan 上的闭环评估以及真实世界卡车实验表明，ICDP 能够抑制对高价值但缺乏交互支持的轨迹的选择，并提升在交互至关重要的驾驶场景中的性能。项目网页：https://mahmoud-selim.github.io/ICDP/
大语言模型正日益助力数学研究，而这一领域的进展往往依赖于高效的证明搜索、渐进式改进和严谨的验证。我们介绍了 Bolzano，这是一个开源多智能体系统，使用多个并行的证明智能体与一个验证智能体协作，并维护人类可读的研究状态。最初，通过人工操作该系统处理专家选定的问题，得到了 8 项结果，其证明均经领域专家核验。受这些案例研究启发，我们在没有针对具体问题的人类指导的情况下，让 Bolzano 处理从四组论文中提取的约 3,800 个开放问题，解决了其中约 200 个问题。一项实验使用了理论计算机科学顶级会议 STOC 2026 接收的论文。在该实验中，我们回答了这些论文提出的四个问题，并得到了论文作者的确认。
深度学习在天气预报领域取得了迅速进展：基于大气再分析资料训练的自回归模型，如今在临近预报、中期预报以及次季节至季节预报等时效范围内已可媲美动力模型，并能以更低成本生成校准良好的集合预报。我们回顾了这些进展，并探讨将其拓展至气候时间尺度的可能性；在这一尺度上，挑战从基于初始条件的预测能力转向在强迫发生变化时生成可靠的统计响应。人工智能驱动的气候预测系统必须针对通常超出观测记录范围的驱动因素（如温室气体、土地利用变化），生成可信的受迫响应。我们提出了人工智能用于气候建模的两项最低要求：（i）外部强迫因子必须以足够明确的方式输入模型，以支持使这些因子独立变化的干预；（ii）必须在分布外情景中对稳健性进行压力测试，包括极端事件和反事实演变轨迹。我们以领先的人工智能自回归仿真器和物理与人工智能混合模型为例，识别了开发与耦合方面的挑战。将这些模型已报告的吞吐量与移植至 GPU 的动力模型进行比较，可以看出人工智能如何通过仅以所需分辨率推进目标变量，并采用更长的时间步长，而非对完整的高频多变量状态进行积分，来缩短求解时间。多样化的人工智能降尺度策略可以部分替代对精细尺度的显式解析，为在不同预测时间尺度上开展低成本的局地灾害风险评估铺平道路。
对个性化大语言模型的需求正从风格模仿转向内容质量。我们研究自蒸馏能否在现有微调范式下弥合这一差距。为解决这一局限，我们提出 MIRROR（通过内化参考揭示的同策略反思实现元个性化），这是一种新颖的自蒸馏框架，推动大语言模型个性化从模仿转向偏好内化。首先，我们用参考揭示的同策略自蒸馏取代对参考词元的模仿，将模型沿自身生成轨迹的下一词元分布，与以参考内容为条件的模型自身的相应分布对齐，从而内化用户偏好，而非复现参考文本的措辞。其次，我们引入 MIRROR-F，这是一种聚焦式插件，通过对信息丰富的参考词元进行选择性监督，增强同策略分布对齐，从而在保留用户特有表达方式的同时提升内容生成能力。在三个个性化生成基准、两种模型规模，以及互为补充的基于参考文本和基于大语言模型的评估中，MIRROR 和 MIRROR-F 均取得了领先的整体个性化表现和更优的文本质量；同时，在三个未见过的个性化生成任务上，相比基于 SFT 的基线方法，二者表现出更少的灾难性遗忘。这些增益在不同模型规模和应用场景下保持一致，并转化为大语言模型个性化任务中的性能提升。
基于概念的视觉模型通过一层可供人类审查的中间概念来表示图像，从而可以将模型所依赖的依据追溯到这些概念。然而，这类模型往往局限于固定类别，或依赖语言来定义概念。我们提出 DisParQ（Discrete Parts with Quantized attributes），这是一种从强大且冻结的纯视觉自监督骨干网络中学习具有空间定位的离散概念表示的方法。该方法既不需要类别标签，也不需要语言监督。每个图像块都被分配给可学习原型字典中唯一的一个概念，并且每幅图像只允许激活一个稀疏的概念子集。为捕捉每个概念在不同图像中的变化（例如“车轮”的类型），我们在学习概念的同时学习连续残差，再将其量化为离散属性。空间解码器仅根据概念和属性重建骨干网络的表示，因此，重建成功意味着离散表示保留了骨干网络的信息。我们在七个数据集上评估了 DisParQ，涵盖通用识别数据集（ImageNet、PartImageNet、Places）和细粒度基准数据集（CUB、Cars、Dogs、Flowers）。结果表明，DisParQ 在 ImageNet 线性探测评估中的表现与其冻结的 DINOv2 教师模型十分接近（top-1 准确率为 83.2%），概念一致性高于语言对齐模型，在细粒度识别任务中保持竞争力，并支持基于部件的跨类别检索。
密集视觉文本要求图像生成器在多个区域中复现长字符串，同时确保位置正确且清晰可读。随着短字符串渲染能力的提升，评估必须检验模型在更具挑战性的场景中的持续表现。我们提出 UltraText Bench，这是一个仅通过提示词生成密集视觉文本的双语基准。它包含 432 条提示词，涵盖 24 类真实世界场景和三个难度级别，英语和中文各占一半。每条经过人工审核的提示词都为四至十二个文本区域提供确切的字符串，并配有关于文本内容、位置和视觉属性的结构化参考信息。我们使用视觉语言模型 Q-Judger，根据完整参考信息评估每张图像，报告文本保真度、文本清晰度、空间质量和场景质量。在 24 种模型配置中，这些维度揭示了不同的优势：在所报告的设置下，Z-Image-Turbo 的清晰度得分比 Z-Image-Base 高 3.81 分，但保真度得分低 14.76 分。性能也随任务负荷而变化；Qwen-Image-2512 的英语综合得分从 L1 的 86.50 降至 L3 的 42.86。十名参与者对自动评分进行了人工评估。代码仓库：https://github.com/LINs-lab/UltraText_Bench。
记忆增强强化学习提升了大语言模型（LLM）智能体解决复杂长时程任务的能力。技能是此类记忆的一种形式，将指令与针对任务类型的适用条件相结合。然而，随着策略不断改进，不加区分地保留所有技能会导致过时或有害的条目不断积累，并误导智能体。我们提出 SkillForge，这是一种智能体强化学习方法，通过由适应度驱动、涵盖试用、活跃、稳定和退役四种状态的技能生命周期，构建并演化技能库，使技能与模型在整个训练过程中共同演化。在强化学习前的评估阶段，首先利用基础模型自身生成的轨迹，预先淘汰低适应度技能，得到经过筛选的技能库，再以此为基础开展监督微调。强化学习从该检查点接续训练，并在每次迭代中通过选择性退役、稳定化以及 LLM 引导的变异，在优化策略的同时持续锻造技能库。在多个交互式智能体基准测试中，SkillForge 取得了最高的综合成功率，相较于最强基线实现了最高 7.8% 的相对提升，同时在整个训练过程中保持技能库精简。我们还推出了 SkillFurnace，这是一个包含 5,000 多条标注记录的数据集，整合了经技能退役机制筛选的监督微调（SFT）轨迹、带有适应度标注的演化技能库，以及带有人工标注失败类别的退役事件，以支持技能质量与生命周期管理研究。