全部动态

本页 19 条
10月9日 周五
arXiv cs.LG75

Phase-HDC:在离散相位学习中用梯度阈值替代优化器历史记录

arXiv:2610.10630v1 公告类型:新 摘要:训练一个紧凑模型所需的内存通常远多于存储模型本身所需的内存,因为优化器会保留过去梯度的记录。对于一种学习参数为低比特角度的超维分类器——我们称之为“相位记忆”——这些记录所占内存是模型本身的数倍。我们探究了这样一种模型能否在只存储模型本身的情况下完成训练。所提出的方法 Phase-HDC 在每次更新时,最多将每个存储的角度沿其当前梯度符号的相反方向调整一个步长,并且仅当该梯度足够大时才进行调整。我们证明,在一种一阶损失模型中,每个发生变化的参数都需支付固定代价,而这一简单规则正是该模型的精确解。在其他条件(包括更新规则之外的所有因素)保持不变时,Phase-HDC 达到了使用 6-bit 动量的 Adam 的准确率,同时存储量减少了三倍。在 11 个图像、表格和文本数据集上,与标准 float32 Adam 相比,其存储量减少了 16--23 倍;与 8-bit Adam 相比,减少了 4--6 倍。代价是,与 float32 Adam 相比,平均准确率损失约为 5 个百分点;但在 11 个数据集中的 6 个上,Phase-HDC 的准确率高于 8-bit Adam,其中包括字节级文本预测任务,在该任务上 8-bit Adam 完全失效。经过插桩的训练运行解释了这些结果。一旦参数必须位于离散网格上,Adam 的动量主要决定参数是否发生移动,而这一决定无需记忆,仅通过对当前梯度设置阈值即可实现;对动量进行粗粒度量化会破坏这一决定,尤其是对于数据中很少出现的输入。这里的存储节省指的是逻辑状态,而不是实测的硬件内存。

arXiv cs.LG75

Kolmogorov-Arnold Networks 的样本效率

arXiv:2610.10627v1 发布类型:new 摘要:深度强化学习相较于经典控制方法取得了显著的性能提升。然而,在现实世界的应用中,学习面临的一个核心挑战是获取成本高昂的样本。Kolmogorov-Arnold Networks 是一种最近提出的架构,能够有效学习控制问题中的物理关系;与 Multi-Layer-Perceptron 架构相比,它具有显著更高的参数效率和可解释性。在本项工作中,我们通过计算实验系统地研究了样本效率,涵盖 Feynman 数据集和 Gymnasium 强化学习基准。结果表明,使用 Kolmogorov-Arnold 架构时,仅需少用 40% 的样本即可达到相近的性能,并且在训练过程中相对性能提升最高可达 50%。在奖励噪声水平不同的情况下,所观察到的收益依然稳健。这些结果凸显了 Kolmogorov-Arnold 架构在实现更高样本效率的强化学习方面的潜力。代码:https://github.com/DerKevinRiehl/neurips26_kan_training

arXiv cs.LG73

面向旋转鲁棒神经动力学的精确 SO(3)-等变各向同性核

arXiv:2610.10626 发布类型:new 摘要:面向向量值偏微分方程的神经代理模型可以拟合训练数据,但当同一物理状态以旋转后的坐标系表示时,其预测结果会发生变化。我们在不规则布点观测的三维 Navier--Stokes 动力学上研究了这一缺陷。我们提出了 Invariant-Conditioned Isotropic Kernel Neural Operator (IKNO),这是一种紧凑的图模型,利用不随旋转改变的标量以及随数据一同旋转的向量方向来构建局部交互。因此,旋转位置和速度后,预测的速度变化量也会以完全相同的方式旋转。在模型设计完成后固定的留出测试集上,使用随机旋转样本训练无约束图模型虽能减少其坐标依赖性,但无法将其完全消除。相比之下,IKNO 在数值精度范围内保持一致;其预测精度与通用的具备旋转感知能力的 Tensor Field Network 相当,但参数量仅为后者的 1/5.6,并且优于参数量匹配的图模拟器。这些结果表明,一种紧凑且针对 PDE 专门设计的模型可以在不牺牲预测精度的情况下消除坐标依赖性。

arXiv cs.LG76

循环式自我改进:面向循环语言模型的动态跨循环在线策略蒸馏

arXiv:2610.10623v1 公告类型:新 摘要:循环语言模型(LoopLMs)通过在循环计算步骤之间复用共享参数,为扩展推理能力提供了一种参数高效的方法。尽管前景广阔,LoopLMs 的有效后训练仍然具有挑战性。现有方法要么提供稀疏的奖励监督,或难以将其扩展到多个循环;要么依赖外部教师或特权信息,从而导致教师资源有限,或出现教师与学生上下文不匹配的问题。为解决这些限制,我们提出 LoopOPD,一种跨循环在线策略蒸馏框架,利用 LoopLM 内部额外的循环计算作为自身的监督来源。LoopOPD 将冻结的终止循环策略作为具有计算优势的教师,在由学生生成的推演轨迹上指导中间循环学生,从而无需外部教师或特权信息即可提供密集监督。我们进一步提出动态 LoopOPD(D-LoopOPD),随着共享模型参数的更新持续刷新终止循环教师,实现循环式自我改进。我们刻画了蒸馏更新如何在不同循环深度之间传播,并推导出单次更新能够在两个循环深度同时实现局部改进的充分条件。在 Ouro-Thinking 模型上的实验表明,LoopOPD 能够提升数学推理能力,而 D-LoopOPD 则通过动态更新教师模型带来进一步提升。尽管仅使用数学数据进行训练,所得模型在通用推理和代码生成基准测试上的表现也有所改善,表明循环计算可以作为 LoopLMs 的有效监督来源。我们的代码和模型检查点将在论文接收后发布。

arXiv cs.LG

Self-Organization from Constrained Geometric Radiation

arXiv:2610.10621v1 Announce Type: new Abstract: How does dynamic order emerge spontaneously in closed systems without external driving? Existing paradigms all require external energy flows, temperature quenching, or slow driving. Here we report constraint-induced self-organization via geometric radiation in coupled metric evolution systems. Simulations reveal a universal four-stage cycle: stress accumulation, super-exponential radiation, chaotic collapse, and convergence to a fractal limit cycle, a novel attractor topology we term the wedge-shaped attractor, with five quantized curvature states and fractal micro-fluctuations. We identify four jointly sufficient conditions: an irreversible geometric horizon, persistent stress injection from quantum coherence, endogenous geometric tension between incompatible curvatures, and effective fluctuations. Their synergy triggers a critical avalanche at the horizon boundary. We prove three theorems: the Geometric Horizon Theorem, the Geometric Energy Dissipation Theorem (implying wave-like entropy evolution in closed systems), and the Radiation as Phase Transition Channel Theorem. We further establish the Constraint-Induced Self-Organization Theorem: these conditions guarantee the complete cycle with probability one. Systematic scans reveal a critical noise threshold and power-law scaling of radiation onset. We verify universality across 12 configurations, multiple noise types, and three geometric flows. This work establishes a new paradigm for closed-system self-organization, forging an exact mathematical duality between classical nonlinear constraints and gravitational horizons.

arXiv cs.LG80

当路由暴露成员关系:来自 MoE 路由器遥测数据的隐私泄漏

arXiv:2610.10616v1 公告类型:新 摘要:混合专家(MoE)语言模型在推理过程中会生成路由信息,这些信息可能会被记录或公开,用于监控、调试、负载分析和安全审计。与普通的模型输出不同,这类遥测数据揭示了模型内部计算过程的一部分,从而引发了一个隐私问题:它是否能够揭示某个样本是否曾被用于对已部署模型进行微调?我们提出了一种路由器增强型成员推断攻击,将传统的输出侧信号与聚合后的路由特征相结合,并利用从独立微调的影子模型中学习得到的成员分类器攻击目标模型。在三种 MoE 架构和三个数据领域上,路由器遥测数据始终能够在强大的输出信号集成方法之上提升成员推断性能,在全部九种设置下,将 1\% FPR 时的 TPR 提高了 2.7--9.4 个百分点。无论是完整微调、冻结路由器训练、LoRA 还是指令微调,这种泄漏都会持续存在;即使只有离散的专家选择信息、受限的遥测数据,或仅使用一个影子模型,也仍然可以观测到该泄漏。机制分析进一步表明,这种泄漏并不需要路由器特有的记忆:微调会将成员信息引入隐藏表示,而路由器即使参数被冻结,也会暴露这一信号的某种投影。只有当遥测数据的保真度下降时,对其进行扰动才会减少这种额外泄漏。我们的结果表明,对于经过微调的 MoE 模型,路由器遥测数据可能将一种运维信号转变为额外的隐私暴露面。

arXiv cs.LG63

Temporal transformer CAN encoder with federated lightweight heads for anomaly detection

arXiv:2610.10613v1 Announce Type: new Abstract: Modern vehicles rely on large numbers of Electronic Control Units (ECUs) that constantly exchange information over the Controller Area Network (CAN) bus. Due to the rapidity, structure, and repetition of this communication, even slight variations in timing, payload values, or message patterns can point to unusual activity. Whether due to errors, malfunctions, or deliberate interference, these anomalies are frequently subtle and challenging to identify with conventional methods that handle messages separately or rely on manually created rules. Motivated by this gap, we present a privacy-preserving framework for anomaly detection in in-vehicle networks, based on a Temporal Transformer CAN Encoder with Federated Lightweight Heads, to better capture these irregularities. The detection of subtle temporal and contextual anomalies is made possible by a lightweight Transformer encoder that learns how these signals evolve over time, while a federated learning mechanism enables several vehicles or ECUs to work together to improve a shared model without exchanging raw CAN data. This combination of federated learning and temporal sequence modeling provides robust anomaly detection performance while maintaining efficiency and privacy, according to experiments conducted on open-source datasets.

arXiv cs.LG82

覆盖范围而非难度决定激活探针需要多少合成数据

arXiv:2610.10594v1 发布类型:新 摘要:用于监测已部署语言模型的激活探针是在合成对话上训练的,而探针究竟需要多少合成对话仍是一个开放问题。我们针对三种监测概念——高风险情境、对人有害的回复,以及不遵循用户指令的回复——在十四个留出的评估分布和四种探针模型上,追踪了使用 10 至 590 个合成样本时的学习曲线,同时改变生成器 LLM 和提示词的详细程度。所需样本量取决于监测对象:在 Gemma-3-27B-IT 上,高风险探针和有害性探针使用 80 个样本时就已达到其平台期水平上下几个百分点以内,而指令遵循探针所需样本量是其数倍;在三个更小的探针模型以及真实样本(来自开发集)上,这一排序仍然成立。已有研究建议,应将生成预算用于广度,即更多种类的数据,而非深度,即每种数据生成更多样本。我们将某个概念所需的深度定义为拟合曲线的半增益规模,即达到全部增益一半时所需的样本数量。其方差的 42% 至 45% 由概念和分布解释,而生成器、探针模型和提示词详细程度合计解释不到 10%。决定半增益规模数值的是覆盖范围,而不是每种数据的难度:也就是某个分布为达到饱和所需的同类样本数量。在三个概念下,每个评估分布对应的每种数据,其同类合成样本的半增益规模中位数都为 7 至 11 个。不同之处在于,一种类型的样本能够在多大程度上迁移到同一概念下的其他类型:在高风险概念下几乎可以完全迁移,在有害性概念下较少,而在指令遵循概念下最少;这解释了生成样本和真实样本中概念之间大部分的差距。因此,数据广度对不同概念的作用并不相同:在指令遵循概念下,没有任何一种类型能够覆盖另一种类型,因此必须使用多种类型;而在高风险概念下,一种类型即可覆盖其余类型,多种类型几乎是冗余的。我们公开评估套件、开发集和生成数据集。

arXiv cs.LG81

SPERA:具有几何与频率感知潜在预测的球面先验 EEG 基础模型

arXiv:2610.10571v1 发布类型:新 摘要:脑电图(EEG)能够以非侵入方式测量持续的神经活动,但由于受试者、设备和电极布局存在异质性,构建通用 EEG 模型仍然具有挑战性。现有 EEG 基础模型主要依赖在观测信号上定义的重建目标,而观测信号同时包含神经成分和非神经成分。我们提出 SPERA(Spherical Prior EEG Representation Architecture),一种采用联合嵌入预测架构(JEPA)在潜在空间中进行预测的 EEG 基础模型。SPERA 引入了 Legendre 多项式空间先验,并将其融入注意力机制,以编码不断变化的头皮电极几何结构。此外,SPERA 还包含两个针对 EEG 进行适配的组件:与周期性全注意力模块交替使用的因式分解时间与空间注意力,以及一种关系谱正则化器,用于将潜在空间中的相似性结构与谱视图对齐。SPERA 在来自 106 个数据集、29,048 名受试者的约 80,000 小时 EEG 数据上进行预训练,在涵盖临床、认知和 BCI 应用的九项下游任务中取得了最高的平均平衡准确率。在进行线性探测时,SPERA 还展现出较高的参数效率,并且在不同记录条件下具有稳健性,表明其有潜力成为适用于多种 EEG 分析的通用骨干模型。

arXiv cs.LG77

冻结解码器,修复编码器:基于 SVD 的 KV-Cache 压缩的参数高效适配

arXiv:2610.10552v1 公告类型:新 摘要:在统一共享学习率下比较参数高效微调方案是一种常见但存在缺陷的做法:当被比较的方案具有极为不同的可训练参数量时,共享学习率可能同时压低较大方案的均值并增大其方差,从而人为制造出一种对最小方案有利的、看似在多个随机种子下都显著的优势,而这种优势并非真实效果。我们在一个具体场景中记录了这一混淆因素:基于 SVD 的事后 KV-Cache 压缩。在该场景中,已经预训练的模型通过将其键/值权重分解为下投影(“编码器”)和上投影(“解码器”),转换为低秩的、多头潜在注意力风格的缓存;随后进行一次短暂的微调(“修复”),以恢复因截断而损失的准确率。在共享学习率下,冻结解码器、仅修复编码器,看起来明显优于修复解码器或同时修复两个因子;但当为每个方案分别调优学习率后,这一表面优势便消失了,编码器独立修复反而达到了与其他方案相当的效果,同时实际节省了 3 倍的可训练参数和 3 倍的优化器状态内存。我们在一个视觉语言模型(Qwen2.5-VL-3B-Instruct)上,为每种配置使用 3 个随机种子,并通过逐方案学习率调优验证了这种等效性;实验覆盖了该协议支持的唯一压缩率。我们还在包含两个骨干网络的纯文本测试平台上复现了这一结果。因此,编码器独立修复是一种更节省内存的即插即用方案,可在训练时为模型改造低秩 KV-Cache 压缩;而我们记录并纠正的共享学习率陷阱,则提醒人们在比较任何可训练参数量不同的微调方案时都应保持谨慎。

NVIDIA Blog73

进入 Omniverse:开发者如何借助 Frontier AI Agents 将创意转化为仿真

将仿真创意转化为可运行的应用程序,意味着整合资产、连接物理与渲染,并检查场景是否按预期运行。开发者正将 Frontier AI 模型与 NVIDIA Omniverse 库结合起来,以协助完成这项工作——构建用于探索各种场景、调查故障和改进设计的应用程序。开发者通过 […] 引导 AI agents。

10月8日 周四
NVIDIA Blog

Rally Up: ‘Gears of War: E-Day’ Launches on GeForce NOW

Gears of War: E-Day leads the charge on GeForce NOW this week, bringing Marcus Fenix and Dom Santiago’s first fight against the Locust Horde to the cloud with GeForce RTX-powered performance. A new way to join the action is also coming: Fire TV users will soon be able to purchase GeForce NOW memberships directly through […]