Prefer writing your own short explanation of why you built Jruva and how its multi-provider fallback works. Comments URL: https://news.ycombinator.com/item?id=50052566 Points: 1 # Comments: 0
大家好！我是 Saarth。我上九年级，制作了 Atticus。Atticus 是一款速度极快且价格低廉的 Mac 助手，可以帮你完成各种任务。你只需按住 Control-Option-Space，说出或输入任务，无论任务复杂还是只是简单的浏览器搜索，Atticus 都会立即处理。有趣的是，打开应用、播放 Spotify 播放列表或进行网页查询等简单任务不会调用 AI，而是在本地处理，通常不到一秒就能完成。例如，让 Atticus 打开应用大约需要 0.08 秒，有时甚至在你说完句子之前就已完成，有点像 Jev。更复杂的任务会通过 claude -p 发送给 Claude，这意味着你不需要 API 密钥，Atticus 会使用你现有的 Claude Pro 或 Max 方案。采用这种方式也能大幅降低成本，平均每项任务只需不到一美分的一小部分。为了实现 Atticus 的速度，它会记住每项已完成任务的快捷操作。第一次正确完成任务后，它会保存执行步骤，下次无需 AI 就能重放这些步骤。例如，创建新会议这一工作流第一次大约需要 30 秒。随后，Atticus 会将确切步骤记录到记忆中，下一次执行只需 5–8 秒。此外，随着你使用 Atticus 的次数增加，以及通过读取电脑中的信息——包括你的姓名、应用和你希望它记住的内容——Atticus 还会逐渐了解你，从而为你提供个性化的回答。为应对让 AI 不受限制地访问设备所带来的安全问题，Atticus 提供了可切换的限制选项：在删除、发送、购买任何内容或写入文件之前，都会先提示用户确认。我目前正在开发的一些功能包括会议副驾驶，它将利用 Atticus 的速度，让 Atticus 能够监听会议，并在问题出现时实时回答，同时结合会议上下文以及它所了解的你的信息进行个性化处理。要运行 Atticus，需要 macOS 26 或更高版本，因为其语音转录功能依赖该版本。语音转录同样由 macOS 在本地完成。Atticus 免费、开源，而且还非常新。我完全清楚它还有许多不完善之处，因此非常希望听到大家的反馈：哪些地方会出问题，以及你们希望 Atticus 实现哪些功能！评论链接：https://news.ycombinator.com/item?id=50049588 得分：11 评论数：0
Comments URL: https://news.ycombinator.com/item?id=50051894 Points: 3 # Comments: 1
TII has released Falcon-ASR, a 1.6B speech recognition model for Arabic with an Emirati focus. It reports 20.92% average WER on 6 Arabic test sets, but weights and an API are not yet available. The post TII Releases Falcon-ASR: 1.6B Arabic Speech Model Hits 20.92% WER appeared first on MarkTechPost .
许多机器学习方法采用两层流程：先由专家选择一类方法，再在该类方法中选择关键组件，而后者至关重要且通常依赖人工。本文研究这些组件的自动调优，并提出一种可迁移至不同性质模型的框架。该多智能体大语言模型（LLM）框架包含分析员、编码员和记录员三种角色，并配备实验日志和沙箱执行环境。与优化整个机器学习脚本或在离散空间中搜索架构的系统不同，该框架在开放但语义范围受限的空间中运行：智能体仅为指定组件生成代码，保持网络整体结构不变。该方法在两个方向上得到验证：对采用相关性学习的分类脉冲神经网络进行调优，以及使用物理信息神经网络（PINN）求解高阶微分方程。在五项任务中，包括 MNIST 和 Digits 上的脉冲神经网络分类任务，以及广义非线性 Schrödinger 方程（GNLSE）和 Kuramoto–Sivashinsky（KS）方程的边值问题，该智能体均优于基线：分类准确率分别提高了 13 个百分点（MNIST）和 6 个百分点（Digits）；相对于单孤子解析解的误差降至原来的约 1/2491；在选定的含高斯扰动的 GNLSE 实验中，不变量保持误差降至原来的约 1/325，在多次重复初始化实验中，平均误差降至原来的不足 1/100；对于含高斯扰动的 KS 问题，质量漂移降至原来的 1/14。因此，该框架无需改变其内部结构，即可针对不同性质的任务调优关键组件。
Curriculum learning typically organizes training samples from easy to hard. In GRPO, medium-difficulty samples are attractive for online selection because they are more likely to yield informative group-relative learning signals, and prioritizing them can improve training efficiency. However, it remains unclear whether persistently selecting such samples also leads to the strongest final model performance, or whether training can benefit from progressing toward harder samples. Meanwhile, sample difficulty changes as the policy evolves, so fixed difficulty estimates can become misaligned with the current policy. We therefore re-estimate sample difficulty under the current policy and, inspired by the easy-to-hard principle of curriculum learning, design and evaluate a staged curriculum that progressively shifts the active difficulty band toward harder samples. Experiments on GSM8K show that persistent medium-difficulty selection does not achieve the strongest observed performance. Across three random seeds, progressing to a moderately harder difficulty band improves test accuracy to $0.6591 \pm 0.0077$, compared with $0.6449 \pm 0.0024$ for the fixed-medium curriculum. However, further progression to a harder difficulty band reduces accuracy to $0.6405 \pm 0.0053$. These results show that staged difficulty progression can outperform persistent medium-difficulty selection, but its benefit is non-monotonic. Effective GRPO curricula can therefore benefit from progressing beyond medium difficulty, while avoiding excessive progression toward overly difficult samples.}
大语言模型难以可靠地识别并纠正自身推理中的错误。以往基于训练的方法通过微调 LLM 来生成修订或反馈，而我们学习的是在失败的生成轨迹中何处进行干预，以及如何重定向这些轨迹。为选择干预位置，我们在冻结的编码器上训练一个具有 13 万参数的 MLP 头，仅以最终答案的正确性作为监督信号。在重定向方面，我们发现，在固定的生成预算下，所测试的行内注入无法可靠地重定向推理，而在新的用户轮次中呈现同一条指令则能改变模型的推理走向。由此得到的纠错框架 UPTURN（在学习得到的位置注入用户提示轮次）无需微调 LLM：它保留选定的前缀，将指令作为新的用户轮次注入，并重新生成后缀。在四个推理模型和六个数学基准测试中，UPTURN 在所有设置下的平均准确率均高于生成 32 条轨迹的基线。在相同的纠错预算下，它优于自我纠错和反思词元注入基线；无需重新训练即可迁移至其他推理模型及 GPQA-Diamond，并可与 GRPO 和自我纠错方法互补。
将 softmax 注意力线性化为高效的 Transformer 推理提供了一条路径，但保留预训练注意力的行为仍然具有挑战性。我们发现了一个被标准线性化方法忽视的重要近似误差来源：少数异常维度对查询与键的点积贡献不成比例地大，并造成了很大一部分近似误差。受这种异质性的启发，我们提出 Outlier-Aware Attention Linearization（OAL），这是一种用于构建二次注意力近似的维度感知方法。从二阶 Taylor 近似出发，我们引入了一种 Hadamard 积形式，显式呈现查询与键各维度的贡献。该形式放宽了系数全局共享的限制，支持维度特定的线性项和跨维度的二次交互，同时保留可分离计算的性质。为了以更少的参数保留这种灵活性，OAL 将贡献尺度相近的维度分组以共享系数，同时允许对少数异常维度进行区别处理。所得正值二次核以预训练注意力输出为参照进行校准，并且在注意力头维度固定时，可按序列长度的线性时间复杂度计算。在 Qwen2.5-0.5B 上，与 DiJiang 相比，OAL 将冻结注意力的输出相对均方误差降低了约 8.9%。替换中间层注意力模块，并结合 LoRA 联合微调核系数后，与学习得到的全局二次核相比，WikiText-103 上的困惑度进一步从 31.71 降至 27.50，同时在 PIQA、HellaSwag 和 ARC-E 上的准确率也有所提升。这些结果表明，异常值感知的维度分组对于注意力近似和预训练模型转换均具有价值。代码已公开于 https://github.com/wuqianyue09/OAL
Standard Policy Gradient (PG) algorithms suffer from high estimation variance because they rely on Monte Carlo updates. While off-policy variance reduction mitigates this problem, establishing optimal sample complexity currently requires either restrictive assumptions, such as uniformly bounded importance weights, or impractical second-order operations. In this work, we introduce Loopless Variance-Reduced PG (LVR-PG), a unified theoretical framework that abstracts a class of first-order estimators that integrate recursive updates with defensive importance sampling, including known estimators such as PAGE-PG and STORM-PG. We prove that this algorithmic class achieves $\tilde{\mathcal{O}}(ε^{-2})$ last-iterate global convergence under weak gradient domination for general parametric policies. We establish this guarantee using purely first-order updates, with minimal assumptions and without gradient preconditioners. By extending state-of-the-art lower bounds to continuous parametric policies, we establish an $Ω(ε^{-2})$ sample complexity limit, confirming our framework is minimax-optimal up to logarithmic factors and horizon terms.
神经网络（NNs）虽然具有高度的灵活性和通用性，但往往校准不佳。事后校准方法使用独立的校准数据集和额外的校准参数，调整已训练模型的输出。这一过程需要单独优化校准器并进行后续模型选择，从而增加了开销。本文表明，通过双层 Stackelberg 建模，标准的事后校准器可以与骨干网络一起进行端到端训练。该建模方式使用交叉熵联合优化准确性与校准性能，无需独立的校准集或专门的校准损失，仅引入一个额外的超参数：校准器学习率。尽管我们的框架支持从温度缩放、矩阵缩放到神经网络层等多种校准器，但实验结果表明，直接将最终分类层用作校准器，即可在不增加任何参数的情况下，获得准确且校准良好的模型。我们的方法仅增加极少的复杂度，便优于当前最先进的校准器，同时还能避免在多任务学习等场景中，独立校准组件所带来的成倍开销。
面向基于大语言模型（LLM）的智能体，各类协议、框架和技术正被快速提出，使任何致力于打造前沿 AI 解决方案的人都面临复杂局面。如果缺乏对不同协议、框架和库如何协同构建智能体网络解决方案的评估，开发者和组织甚至在加入智能体网络生态系统之前，就会面临技能培养、治理、基础设施等方面的挑战。在此背景下，我们提出了一个用于开展智能体网络评估的系统，名为 MASTIF（Multi-Agent System TestIng Framework），并基于 300 项 Mind2Web 基准任务，对包括 3 个 LLM、3 种协议和 4 个智能体实现框架在内的智能体网络技术进行了基线评估。结果表明，选择针对特定任务的技术栈，可能提高任务完成率、效率得分和社会价值稳定性得分，同时降低冗余程度并缩短任务完成时间。我们希望通过这些结果，为致力于设计、评估和开发多智能体系统的人们，在这一复杂且快速演进的环境中提供指标和结果方面的基线。
长上下文推理服务在硬件达到有效吞吐量之前，就会耗尽 KV 内存。HiSparse 将历史数据存储在主机内存中，并且仅取回选中的条目，但它在所有负载下都使用同一缓存预算，也不支持 DSpark 和 DFlash2 等基于草稿模型的推测解码。我们提出 Adaptive DHiSparse，它支持在分层稀疏 KV 上进行推测解码，并根据负载调整数据驻留。它保护必需的工作集，在 GPU 内存空闲时保留更多历史数据，并通过精确的融合检索取回其余数据。DSpark 和 DFlash2 的候选生成与接受规则保持不变：查询共享缺失行的取回操作，草稿 KV 使用受窗口大小约束的环形缓冲区，验证阶段的暂存空间则跨层组复用。在 100K 上下文长度和 128 并发下，结合 DFlash2 的 GLM-5.3 在每个解码 GPU 上实现了每秒 793 个输出 token，分别为 HiSparse 的 1.45$\times$ 和不使用推测解码的自适应推理服务的 1.27$\times$。在遵守与 HiSparse 相同的延迟上限时，根据每 token 延迟上限的不同，它能够持续支持最高 4$\times$ 的并发量和 2.3 至 3.7$\times$ 的输出吞吐量。在 500K 上下文长度和 512 并发下，对于 DeepSeek-V4.1-Flash，结合 DSpark 的 Adaptive DHiSparse 实现了结合 DSpark 的全驻留推理服务 1.85$\times$ 的输出吞吐量。在一次负载阶跃变化中，可选驻留在低负载时将需要从主机取回的行占选中行的比例从 14.2% 降至 1.4%，并在内存压力下释放内存。
反事实推断探究的是，在不同情境下，已观测到的结果可能会有何不同，例如，如果患者接受了另一种治疗，是否会康复。只要决策依赖于未被观测到的备选方案的结果，就会出现这类问题。回答反事实查询通常需要了解底层因果结构，而这在实践中往往无法获得。因此，一种常见方法是先从观测数据中估计因果图，再进行反事实推断。然而，估计因果图中的误差可能会传播至下游的反事实预测。为应对这一挑战，我们提出了 Counterfactual Graph Neural Process（CFGNP），这是一种端到端方法，无需预先估计因果图，即可直接根据观测数据回答反事实查询。CFGNP 使用图神经网络（GNN），通过将跨世界消息传递限制在相互对应的事实变量与反事实变量之间，来利用双图结构。在合成数据和基于图像的基准测试中，CFGNP 的预测性能均优于现有方法，包括在 German Loan 基准测试中，将均方误差（MSE）从 $4.51 \times 10^{-2}$ 降至 $0.19 \times 10^{-2}$。此外，在合成因果图上，仅使用 10 节点图训练的模型，无需重新训练，即可在最多包含 30 个节点的图上保持较强的预测性能。
通用机器人策略的规模化受到具身交互数据采集成本高昂的限制。大规模第一人称视角的人类视频提供了一种数据丰富的替代方案，但这些视频缺乏机器人动作标签，而且在现实世界复杂的视觉环境和多样化的操作动态下，现有动作标注方法往往噪声较大。我们提出 LAPT-Scale，这是一种可扩展的潜在动作预训练范式，包含两个组件：LAPT-Scale-LAM 通过解释人类视频中相邻帧之间的视觉变化来学习连续潜在动作，并将其用作源自人类的监督信号；LAPT-Scale-Policy 则通过人类视频潜在动作预训练、目标机器人具身形态对齐以及任务特定的后训练来训练 VLA 策略。与以往采用向量量化的 LAM 不同，LAPT-Scale-LAM 使用连续潜在空间来保留细粒度的运动与交互动态。我们进一步结合感知、语义和光流对齐信号，使视觉变化层面的监督超越单纯的像素重建。LAPT-Scale-LAM 在 2.33 万小时的第一人称视角视频上训练，为策略预训练提供隐式动作监督，带来持续的规模化收益：当经过标注的人类视频从 1000 小时扩展至 5000 小时时，真实机器人任务成功率从 63.3% 提升至 85.0%。所学策略还能泛化到未见过的视觉条件。
线性注意力和滑动窗口注意力等高效注意力机制旨在将 Transformer 的计算复杂度从二次降至线性。然而，它们在上下文内召回能力上的下降往往使其必须交错使用全注意力层，导致长上下文处理中的二次复杂度瓶颈仍未解决。为此，我们提出 Orthros 注意力，将提升效率的范式从结构分配转向阶段感知解耦。作为一个统一模块，它在序列处理的不同阶段动态切换计算模式，实现线性复杂度的预填充和全注意力解码。在预填充负载重、解码负载轻的常见长上下文场景中，我们的设计使 Orthros 注意力的渐近复杂度低于原始 Transformer。除理论推导和复杂度分析外，广泛的实证评估也表明 Orthros 在多个维度上具有优势。首先，我们验证了其基础语言建模能力，展示了其在不同模型规模下的可扩展性，以及在全面架构比较中的强大竞争力。其次，通过数据高效的 Transformer 到 Orthros 转换，Orthros 展现出出色的转换可行性，转换后的性能甚至超越原始 Transformer。最后，Orthros 相比 Transformer 实现了 $21.9\times$ 的预填充加速，并带来端到端推理性能提升，同时保留了长上下文能力：它在 128K 大海捞针测试中取得了近乎完美的结果，在真实场景的上下文内召回任务中也达到了 Transformer 级别的性能。总体而言，这些在高性能、灵活性和效率方面的优势，使 Orthros 有望成为工业应用中接替 Transformer 的候选架构。
协作式多智能体任务通常会对共享目标或集体安全施加约束。团队层面的违规成本函数可以衡量约束违反情况，但无法区分哪些智能体的动作对违规的影响最大。我们提出 SafeDiSTL，这是一种受约束的多智能体强化学习框架，即使仅有联合约束的测量结果，也能进行贡献分配。我们使用信号时序逻辑（STL）鲁棒度，通过运行最大值的成本增量来衡量回合层面的违规程度。平滑的完整回合鲁棒度和可微动力学提供动作敏感度，用于将每个成本增量分配给同一决策时刻的各个智能体。这些敏感度在对各智能体应分担的成本增量进行加权时，会考虑延迟效应。我们在协作载荷运输、连通导航和联网交通控制任务中研究了该框架。与受约束基线相比，SafeDiSTL 在运输任务中的安全成功率达到基线的 1.6–5.1 倍，在导航任务中的安全成功率提高了 11.1%，在交通任务中的吞吐量提高了 50–68%。结果表明，所学策略在处理共享约束方面取得了显著改进，同时保留了无约束策略的性能。
同策略自蒸馏有望用密集的词元级信用分配取代可验证奖励强化学习中的稀疏结果信号：以参考解答为条件的教师对学生自身生成的轨迹进行评分，再将由此产生的分布偏移蒸馏回策略。我们研究这种评分信号是否真正包含纠错性的信用分配。利用学生生成轨迹中人工标注的错误片段，我们检验自蒸馏目标所使用的两种信号——全分布 KL 和词元对数比——是否具备两项性质：能否定位错误，以及能否降低错误学生词元的概率。它们既不具备这两项性质，也无法可靠地区分同一道题的正确与错误轨迹。我们认为，这种失败是结构性的：在推理轨迹中定位错误本身就是一个搜索问题，而评分教师从未被明确要求执行这种搜索。当允许同一个模型在拥有相同特权信息的情况下生成批评时，它定位错误的能力会显著提升。这促使我们提出\emph{批评条件化自蒸馏}：先对当前轨迹生成批评，再让评分教师以该批评为条件进行评分。由此得到的信号能够定位错误，在错误片段内发挥纠错作用，并将概率转移至引发回溯的词元，例如“等等”“但是”和“实际上”。我们进一步表明，批评在测试时和冷启动 GRPO 中都有用：在测试时，将批评纳入上下文后继续生成原本错误的轨迹，可以解出模型仅靠采样无法解决的数学题；在冷启动 GRPO 中，对于仅凭可验证奖励无法提供优势信号的提示，批评能够提供这样的信号。
训练长时程语言模型智能体，需要根据稀疏的终局反馈为中间决策分配信用。在有限的一组同源 rollout 中，有效的动作比较取决于其上下文、支持两个备选动作的证据，以及这些证据如何融入学习。我们提出 Matched-Context Group Policy Optimization（MCGPO），这是一种从已收集的轨迹中构建加权动作偏好的方法。MCGPO 使用动作前的状态摘要和观测到的评分标准完成进度来定义比较上下文，并依据任务规则进行标注。双动作支持度用于在有序的精确匹配规则和粗粒度匹配规则之间进行选择。固定的数据分折将候选决策与用于确定其偏好方向的终局结果分离，而依赖支持度的证据权重则用于缩放辅助成对目标，使其与共享的 GraphGPO 任务学习共同进行。MCGPO 复用 rollout 数据和每条响应的原始历史，保持无需 critic 的训练方式。在六种环境与骨干模型组合设置中，每种设置均采用三个训练随机种子，MCGPO 的平均成功率均优于对应的 GraphGPO：在使用 Qwen2.5-1.5B 和 7B 的 ALFWorld 与 WebShop 上提高了 0.47–1.46 个百分点，在使用 Qwen3-4B 和 8B 的 WebShop 上分别提高了 3.96 和 5.16 个百分点。ALFWorld 上的提升是在基线成功率已超过 92%、剩余提升空间有限的基础上取得的。在四种 Qwen2.5 设置中，有三种的积分成功率得到提升。采用三个随机种子的析因对照实验支持使用另一数据折的证据和证据加权；状态与评分标准的联合匹配在全部四种表示对照设置中均取得了最高平均值。
Discrete graph diffusion models corrupt graph structure through independent edge updates with a Markovian noise model. Combined with the exchangeability requirement on the output distribution, the terminal prior is necessarily an Erdős--Rényi (E-R) random graph. This has a fundamental consequence for unconditional graph generation without node features: in the large graph limit, any GNN denoiser applied to an E-R graph approximately outputs an E-R graph, making effective denoising difficult. In practice, generated graphs fail to recover meaningful node heterogeneity and higher-order structure. Previous models introduced specialized node features to compensate, framing this as an expressivity problem, while the role of the prior remained unexamined. We instead address the root cause by introducing the Latent Sociability Prior (LSP) and a join} diffusion process that co-evolves latent node sociability variables and graph structure, removing edge independence while preserving exchangeability. Unlike existing latent graph diffusion methods, the sociability mechanism requires no complex encoder: its sole role is to guide edge updates and preserve node heterogeneity throughout the trajectory. We validate our approach on multiple graph generation datasets and show that the proposed framework more accurately captures graph distributions than baseline methods without node features.
在原生支持 4 位运算的加速器上进行低比特推理，需要同时量化权重和激活，才能充分实现这些格式带来的吞吐量提升。尽管训练后权重量化已得到广泛研究，但激活量化仍然更具挑战性，且通常需要校准数据。在本研究中，我们提出 DUALQUANT，一种双尺度、免校准的训练后量化框架。该框架直接最小化权重重构均方误差（MSE），并由此直接得到激活量化前的逐通道激活重缩放系数。我们的关键观察是，通过最小化权重重构误差得到的缩放因子能够有效地对激活进行重缩放，从而在无需校准数据的情况下实现具有竞争力的激活量化。我们将 DUALQUANT 表述为一个不可微的权重重构问题，并基于变量分裂和分块坐标下降开发了一种高效求解器，其中每个子问题都具有闭式更新解。DUALQUANT 提供了一种统一算法，支持包括完整 MX 系列和 NVFP4 在内的多种格式。据我们所知，DUALQUANT 是首个正式支持 MX 和 NV 块格式的双缩放方法。在 WikiText-2、C4 和零样本下游任务上对 Llama 和 Qwen 模型的评估表明，DUALQUANT 在大多数模型和格式上的准确率达到或超过了基于校准的 SmoothQuant，并显著优于免校准基线方法，在 MX 和 NV 块格式上尤其取得了大幅提升。我们在 RTX 4090 上通过 Llama-3.1-8B 的真实打包 W4A4 推理路径验证了这些提升。最终实现的准确率与伪量化非常接近，同时相较于 BF16，内存占用最高降至其 1/2.61，吞吐量最高提升至其 2.46 倍。