全部动态

本页 22 条
10月8日 周四
arXiv cs.AI83

震耳欲聋的沉默:灾难性遗忘潜藏于数据从未提及的词元输出嵌入中

大语言模型(LLMs)的持续预训练和微调不可避免地会引发灾难性遗忘,通常通过回放原始数据来缓解,但这些数据往往无法获取。在这种无法访问原始数据的情境下,我们分析了遗忘发生的位置及其原因。在五种参数规模最高达 1.4B 的设置中进行的系统性参数冻结实验表明,遗忘选择性地集中在新语料中罕见词元的输出嵌入中,而模型主体中处于相同 sqrt(v-hat) 区间的参数则基本不起作用,新的学习发生在其他位置。这种局部化现象由语料的词汇缺失程度决定,而非训练模式决定,因此,对于固定的基础模型,仅凭词元计数即可在再次训练前对遗忘风险进行排序。从机制上看,缺失词元会持续接收单向的 softmax 梯度,而 Adam 的二阶矩(sqrt(v-hat))归一化会将这些梯度放大为完整幅度的更新。因此,我们提出一种干预方法:在训练期间,仅提高输出投影所用的 Adam epsilon。在涵盖四个模型家族、参数规模从 160M 到 12B 的八种设置中,该方法在全部七种稳定配置下消除了 39.4% 至 67.9% 的遗忘,且不会损害目标任务学习,也无需针对各模型单独调参。该防御方法与回放结合时,可产生叠加甚至更好的效果(在 Qwen/韩语设置下达到 79.8%),并能避免解冻输出头的 LoRA 出现遗忘激增至 23 倍的情况。由于事后编辑发生漂移的行只能挽回不到 5% 的遗忘,这种干预必须在训练期间实施。我们的研究结果表明,当语料无法充分覆盖词汇表时,只需一行代码的优化器调整就可能成为抵御灾难性遗忘的主要手段。

arXiv cs.AI65

Fully Interpretable Minimal Transformers: From Geometry to Algorithm

We present a framework for building and interpreting minimal transformer models. By constraining a transformer's embedding dimension and head size to 2, we enable full two-dimensional visualization of its internal representations. Embeddings, query/key/value transforms, attention outputs, residual streams, and decision boundaries can all be seen directly. Our central claim is that the learned geometry implies an algorithm; the arrangement of points and boundaries in R^2 can be read as a step-by-step procedure. We train a transformer on a simple task where it must produce the most recently observed even number whenever the '+' operator appears in a sequence of digits. Once trained, we visually walk through every step of the transformer's computation. We show how the model embeds the tokens and their respective positions in the sequence, transforms them via the Q, K, and V matrices, uses the dot product between the Q and K representations to form the attention matrix, and uses the attention matrix to select values that move the representation of each input token to the region of the domain of the output layer that will correctly predict the next token. We introduce a suite of interpretability visualizations that make the algorithmic interpretation of this procedure explicit. Our framework offers a pedagogical and experimental testbed to explore how transformers use informational geometry to implement next-token prediction.

arXiv cs.AI71

基于协作神经网络的流式主动学习用于数据高效的部分逆向设计:汽车玻璃导槽案例研究

工程中的逆向设计常常面临一个简单的问题:每个带标签的训练样本都必须通过昂贵的仿真生成,因此构建大型数据集既耗时又成本高昂。本研究针对部分逆向设计中的这一问题展开研究。在部分逆向设计中,仅指定部分设计变量,其余变量则需通过推断确定,以达到目标性能值。我们提出了 CoNN-AL,这是一种数据高效的部分逆向设计框架,将流式主动学习引入 Cooperative Neural Network with Denoising Autoencoder(CoNN-DAE)。该模型通过蒙特卡洛 dropout 估计预测不确定性,并据此实时判断哪些新到达的候选样本值得标注,从而将有限的标注预算用于信息量最大的设计。我们在一个包含超过 900,000 个不同仿真设计的真实汽车玻璃导槽数据集上验证了该框架。仅使用主动选择的 20,000 个带标签样本(约占训练样本池的 2.3%),CoNN-AL 在所有变量缺失程度下的决定系数(R²)均达到 0.967 至 0.982,接近使用多得多的数据训练的性能上限模型。在变量缺失程度较高、难度较大的情况下,与随机采样相比,它仅需少 30% 至 40% 的标签即可使 R² 达到至少 0.95;在最具挑战性的变量缺失程度下,它是本研究中唯一使 R² 达到 0.98 的策略。随本研究一同,我们公开发布该数据集,以支持未来的数据驱动设计研究。

arXiv cs.AI74

借助参考实现自我进化:工具集成智能体的锚定训练

自我进化的工具集成智能体从其自身训练循环中生成的任务和反馈中学习。课程智能体生成任务,而执行智能体则通过强化学习从自一致性信号中学习。然而,仅依赖当前执行智能体提供反馈存在两个局限:在完全达成共识时,组相对优势会消失;而基于不确定性的课程奖励偏好分歧,却无法表明生成的任务是否支持进一步学习。这些局限促使我们在当前执行智能体之外引入额外参考。我们提出了 \textit{AnchorLoop},将上一轮迭代执行智能体的冻结副本作为历史参考,并在训练循环的两端复用。对于执行智能体,该锚点提供了一种交叉参考优势,依据当前和历史多数答案共同评估当前输出。对于课程智能体,该锚点根据采样所得多数答案一致程度的差异,提供基于一致性的参考。由于执行智能体与锚点在课程训练期间具有相同的参数,这种比较仅作为任务选择的代理指标,而非跨版本改进或正确性的证据。在 13 个推理基准测试中,AnchorLoop 相较于 Agent0,在数学推理和通用推理任务上分别提升了 2.5\% 和 2.8\%。它还保持了更高的有效优势方差,并在后期迭代中持续改进,而未采用锚点的基线则表现出收益递减。这些结果表明,在没有外部任务或答案监督的情况下,为自我进化的工具集成智能体引入轻量级历史参考具有益处。

arXiv cs.AI77

基于任务结果训练 LLM 智能体的顾问

大语言模型智能体通过交替进行推理、调用工具和获取环境观测来处理多步骤任务。已有研究表明,自然语言反馈可以帮助这些智能体在任务执行过程中调整决策。我们提出 Caddie,一种训练评估器的方法,使其在智能体执行任务时提供自然语言分析和建议。与依赖步骤级标签或参考评语的方法不同,Caddie 根据智能体在收到评估器反馈后最终是否成功来学习。我们通过强化学习优化评估器,同时保持基础模型的参数冻结。我们的 Qwen3-4B 评估器仅使用一个基础模型在多跳问答任务上进行训练,便能提升四个不同规模和架构的基础模型的成功率,其中三个模型未参与评估器训练。在 MuSiQue 基准上,训练后的评估器将 Qwen3-4B 的成功率提高了超过 25 个百分点,使其表现超越了未配备评估器的 Kimi K3。同一个评估器无需额外训练,也能在域外交互式基准上带来性能提升,包括 $τ^3$ 和 DeepDive。我们的结果表明,智能体可以在推理时决定何时向评估器寻求帮助,而基于任务结果的评估器训练能够产生可跨基础模型和任务领域迁移的指导。

arXiv cs.AI68

Deadline-Aware Multi-Agent Reinforcement Learning for TSN-Based Vehicular Edge Networks

Vehicular edge computing (VEC) enables latency-sensitive applications by bringing computing and networking resources closer to vehicles. However, existing approaches often overlook network contention among co-located services with heterogeneous and dynamic latency requirements. While time-sensitive networking (TSN) provides bounded-latency communication, conventional and reinforcement learning-based schedulers struggle to adapt to highly dynamic vehicular environments and inter-queue dependencies. To address these limitations, we propose a multi-agent reinforcement learning (MARL) approach for queue-level scheduling in TSN-enabled VEC. Each TSN queue is assigned an autonomous agent that jointly learns the queue service order and time-slot duration to minimize deadline misses under speed-dependent latency requirements. We employ multi-agent proximal policy optimization (MAPPO) to enable coordinated yet autonomous scheduling decisions. Evaluation against single-agent, multi-agent, and non-learning-based baselines shows that MAPPO provides robust performance across different traffic profiles. Compared with centralized single-agent methods, it reduces service latency by up to 66.2% and improves reliability by up to 271.8%. Furthermore, unlike urgency-based heuristics, MAPPO ensures balanced scheduling while achieving lower inference times compared to other MARL methods.

arXiv cs.AI61

An AI-assisted conditioning and geological interpretation workflow for usage in implicit geological modeling

Implicit modeling and Relative Geologic Time are geological modeling techniques that enable more efficient, faster, less biased and more reproducible modeling results. For optimal operation, these techniques require many well-constrained input data. In the framework of the Horizon Europe GO-Forward and MOOI WarmingUP GOO projects and to accelerate Implicit modeling, Machine Learning (ML) methods have been tested and implemented in a toolkit for the interpretation of (onshore) seismic data from the shallow to deep range (+- 300 - 3500 m). The goal is to rapidly characterise this depth domain by efficient interpretation of horizons and faults in seismic data. The first step is to improve the signal by applying AI techniques like self-supervised and semi-supervised contrastive learning CNN's for noise reduction and interpolation. Next, horizons and faults are interpreted with minimal use of human-generated training data by using (semi-) self-supervised methods. The resulting developed toolkit supports the application of the implemented algorithms in an efficient workflow. As a first demonstration, the top of the Dutch Maassluis Formation has been interpreted in the Leeuwarden and Waalwijk 3D seismic cubes. Overall, this study demonstrates that AI-assisted interpretation workflows have reached a level of maturity that allows their integration into applied geological modeling and decision-making.

arXiv cs.AI73

LiveMACE:动态市场中 LLM 智能体能力的过程感知评估

仅依据结果评估智能体,可能会掩盖产生这些结果的能力。这一问题在动态环境中尤为突出,因为结果反映了智能体行为与不断变化的外部条件之间的闭环交互。我们提出 LiveMACEBench,这是一个过程感知基准,利用实时金融市场作为自然演化的测试平台,评估持续运行的 LLM 智能体。五个前沿 LLM 在工具使用、持久记忆、规则遵循和多智能体协作配置相匹配的条件下,沿连续轨迹运行。我们通过实际结果以及从完整决策轨迹中提取的机制专项诊断来评估这些模型。在为期 30 天的实时评估中,我们发现了显著的结果与能力差距:实际收益往往与特定能力的测量结果相背离,而相似的结果可能源于截然不同的机制使用模式。轨迹层面的诊断进一步揭示了不同能力各自的瓶颈,表明能否访问机制、能否有效使用机制以及下游表现,并不是可相互替代的智能体能力衡量指标。LiveMACEBench 使这一区别变得可衡量,将实时市场从性能排行榜转变为智能体能力的诊断环境。

arXiv cs.AI79

绘制之前先思考:面向扩散模型的递归潜在推理

扩散模型能够生成逼真的图像,但在填写数独或绘制迷宫路径等视觉推理任务上往往表现不佳。当存在离散符号表示时,Tiny Recursive Model(TRM)等递归方法甚至能够解决这些谜题中的高难度实例。我们探讨了如何将此类推理迁移到不存在符号表示的像素空间。我们提出 Painter-Thinker(PaTh):一个小型递归网络(Thinker)在一组编码含噪图像和条件信息的学习型词元网格上进行推理,在每个去噪步骤内细化潜在状态,并通过 ControlNet 适配器引导参数冻结的扩散模型(Painter)。Thinker 仅使用标准重建损失进行训练,无需符号目标、求解器或验证器。PaTh 在困难级 MNIST 数独谜题上的解题成功率为 92.5%(此前最佳为 75%),在极难级谜题上为 71.2%(此前最佳为 4.1%),其参数量仅为 1000 万,而标准扩散模型的参数量为 8200 万。它在迷宫、皇后问题以及具有指定空间关系的 CLEVR 场景上也取得了提升,而且其优势随问题规模增大而扩大。诊断实验表明,PaTh 能够纠正人为注入、而扩散模型无法修复的错误,尤其是在许多单元格出错时。综合来看,这些结果表明,为符号数据开发的推理机制可以在无需符号监督的情况下融入像素空间扩散过程,为在日益复杂的约束下生成数据开辟了道路。

arXiv cs.AI73

超越式逆优化:学习优于智能体决策的目标函数

逆优化通过估计目标函数的权重,将观测到的决策解释为最优解,已应用于多个领域。对于混合整数线性规划(MILPs),现有方法旨在将观测结果复现为最优解,因此,当观测结果并非最优时,学到的权重往往是折中的。我们提出超越式逆优化,转而寻求这样的权重:在每个状态下,其所诱导的最优解在每个分量上都优于观测到的行动。我们给出了一种仅借助正向问题求解预言机即可计算的损失函数,因此适用于 MILPs,并提供了用于最小化该损失函数的基于梯度的算法和 DC 优化算法。对于能在所有观测处诱导出唯一且优于观测行动的最优解的权重,我们证明,在新状态下未能诱导出此类解的概率(即泛化误差),其上界与观测数量成反比;且就观测数量而言,除对数因子外,该界是紧的。在合成数据和真实数据上的实验表明,与现有方法相比,所提出的方法能够更好地预测优于观测行动的解。

arXiv cs.AI75

面向人机协作的基于人类反馈的强化学习:范围综述与实验研究

人机协作(HRC)能够促进工业4.0中的大规模定制,而基于人类反馈的强化学习(RLHF)则是开发安全的人工智能机器人的一种前景广阔的方法。在人工智能开发过程中的安全性、人类反馈质量以及人机双向适应方面,仍存在实际挑战。我们对HRC系统中的RLHF开展了范围综述,梳理了应对这些挑战的方法。遵循PRISMA指南,我们筛选了199条记录,纳入了20篇发表于2020—2025年、经过同行评审的文献,涵盖多个HRC领域。据我们所知,这是首篇聚焦RLHF双向闭环设计的综述。综述发现,多种反馈模态支持以不同反馈形式收集数据。所收集的数据可以在人工智能训练的不同阶段整合,从而形成多步骤的开发流程。试点实验通常依据人类与机器人两方面的指标来评估HRC系统。为通过实证检验综述中发现的一项关键研究空白,我们开展了一项组间设计的虚拟现实(VR)实验,对比了系统发起与用户发起的反馈在机器人安全导航中的人际空间行为方面的表现。我们使用贝叶斯模型,分析了所收集的反馈与安全指标之间的关系:心理安全感(实验后问卷)和物理安全性(碰撞时间的倒数)。结果表明,与系统发起的反馈相比,用户发起的反馈能更好地捕捉感知安全性,说明反馈时机直接影响反馈质量。我们的综述与实验结果表明,RLHF依赖恰当的反馈方法来确保HRC中的人工智能安全;未来的RLHF研究应优先开展贴近现实的HRC实验,评估反馈收集方法对相关人类与机器人指标的影响。

arXiv cs.AI70

Defensive Sufficiency in a Stackelberg Model of AI Security

Feedback from automated testing, human red teaming, and incident response can strengthen an AI system's defenses when discovered failures lead to effective repairs. We study when this feedback process provides sufficient protection and when investing in it is economically worthwhile. We begin by showing that an attack surface composed of finite number of inputs is defended with probability 1 if every unresolved attack has a persistent chance of discovery, repairs are effective, and subsequent updates preserve earlier protection. We derive completion-time bounds and extend the analysis to growing attack surfaces, repairs that generalize across related attacks, and multiple discovery mechanisms. These results distinguish eventual protection against each fixed attack from complete protection at a single time. We then formulate a defender-led Stackelberg game in which the defender invests in proactive discovery and reactive repair, anticipating the attacker's choice of search effort. We characterize the least-cost allocation that deters attack and the equilibrium regimes in which the defender funds neither capability, one capability, or both. Numerical experiments illustrate these regimes and show how faster repair can reduce compromise duration without reducing compromise probability.unified theory of performance limits in generative language models.

arXiv cs.AI71

QCATS:面向高效预测查询处理的查询上下文感知 Transformer 切片

数据库内预测查询处理日益广泛地在关系处理流水线中应用基于 Transformer 的模型。然而,现有的数据库内推理通常仅向推理运行时暴露元组级模型输入,使神经网络执行规划无法获取关系谓词和元数据统计信息。本文提出 QCATS,一种查询上下文感知的 Transformer 切片框架,可在数据库系统内部实现高效的稀疏推理。QCATS 以查询为粒度执行:它不在推理期间对单个词元或元组进行路由,而是在模型执行前,利用查询谓词和元数据统计信息预先选择与上下文匹配的 FFN 切片。该框架包括离线专家构建和轻量级查询级路由,后者在执行期间动态选择专家。QCATS 还引入了异步 CPU-GPU 流水线和路由感知批处理等系统优化。使用 BERT-base 和 Qwen-0.6B 在四种预测查询工作负载上开展的实验表明,QCATS 可实现最高 4.42 倍的延迟缩减,同时保持与稠密基线相当的预测准确率。

arXiv cs.AI78

通过 NeMo-Guardrails 代理实现面向 SIEM/XDR 的受限动作 AI 补救

信息技术和运营技术领域的安全运营中心(SOC)面临着同一个事件响应难题:大量关联告警涌入,而分析人员不足。大型语言模型(LLM)日益被提议用作推理引擎,对告警进行分流,并在自主部署模式下发出命令,在生产主机上封禁 IP、终止进程或隔离文件。这种耦合引入了一种新风险:单条对抗性告警就可能经由 LLM 的推理形成一条远程代码执行路径,诱使其建议某项操作,随后由 SOC 执行。我们提出了一种包含两个协同层的受限动作架构:(i)SIEM/XDR 控制平面,以关联的主机事件为依据实施补救,并将 LLM 的输出限制在一个封闭的意图词汇表内;这些意图对应的模板化命令由轻量级端点代理执行,并由参数验证器提供兜底保障;(ii)NeMo-Guardrails 代理,通过输入和输出护栏策略包裹充当 SOC 分析员的 LLM,并使用我们发布的 SOC 专用对抗性语料库对其开箱即用的配置进行评估。原版代理在误报率为 0.1% 时,将注入检测召回率从 25.0% 提升至 94.5%;一次实战红队演练进一步证实,封闭的意图词汇表和参数验证器能够在任何命令跨越信任边界之前,遏制已观察到的 LLM 失效模式。从架构适配性来看(尚未在运营技术部署中进行实测),受限动作这一特性适用于关键基础设施场景,因为在这些场景中,错误的补救措施会造成物理后果,而不仅仅影响运行。该闭环最好采用人在回路或延迟执行方式:实测的护栏延迟使实时内联控制不在适用范围之内。

arXiv cs.AI75

RollVerify:兼顾长尾轨迹生成强化学习的效率与准确性

强化学习对于提升大语言模型的推理与泛化能力至关重要。它依赖大规模轨迹生成,而随着上下文窗口的增大,轨迹长度的长尾特征日益显著。在同策略训练中,这些长尾轨迹生成任务会导致 GPU 空转,降低系统利用率并限制强化学习的可扩展性。异步方法或部分轨迹生成方法通过放宽同步要求来提高吞吐量,但不可避免地会引入过时的离策略样本(轨迹),可能损害最终准确性。现有方法主要通过在训练期间对离策略样本重新加权来缓解这一问题,但与完全同策略训练相比,仍可能存在性能差距。在本研究中,我们提出 RollVerify,这是一种基于部分轨迹生成的轻量级强化学习框架,不再于训练期间被动地对样本重新加权,而是在样本进入训练前主动对其进行验证和修复。具体而言,该框架引入离策略偏移指标 OPS,用于量化部分生成轨迹的离策略偏差。在 OPS 约束的指导下,RollVerify 同时执行序列级和词元级验证,以识别并截断轨迹中的无效后缀。这种方式能够生成高质量样本,在保持部分轨迹生成所带来的效率优势的同时,保障模型的准确性。数学推理和工具辅助数学推理实验表明,RollVerify 在降低训练成本的同时,实现了与同策略训练相当的准确性。额外的代码生成结果为其在数学以外领域的有效性提供了初步证据。

arXiv cs.AI65

KGATE : a Knowledge Graph Embedding Training Environment

Knowledge graph embedding (KGE) models encode the entities and relations of a knowledge graph into a low-dimensional latent space, enabling tasks such as classification or link prediction. Most KGE models follow an autoencoder architecture, in which an encoder projects the knowledge graph into the latent space and a decoder reconstruct it. Combining both encoder and decoder components is increasingly needed, yet existing libraries rarely support complete autoencoders, are often unmaintained, rely on undocumented default hyperparameters, and produce results that cannot be compared across libraries. Here we present KGATE (Knowledge Graph Autoencoder Training Environment), a modular Python library built on PyTorch Geometric and TorchKGE. KGATE lets users assemble initializers, encoders, decoders, losses, negative samplers, and evaluation metrics as building blocks, or plug in their own block. KGATE includes a preprocessing procedure that controls data leakage, a builtin training pipeline, and reproducibility by design. Benchmarks against six existing KGE libraries show that KGATE training time is comparable with the fastest libraries while offering a broader set of features.

arXiv cs.AI73

Itgan 参加 NADI 2026 共享任务:面向鲁棒、混合方言及语码转换阿拉伯语 ASR 的参数高效 Whisper 适配

我们介绍了 Itgan 用于 NADI 2026 三项 ASR 子任务的系统,分别为鲁棒的国家级 ASR(1.1)、混合方言 ASR(1.2)和突尼斯语码转换 ASR(1.3)。三者采用同一套方案,即在消费级 GPU 上通过 LoRA 适配 Whisper,并各自通过不同的扩展取得提升。在子任务 1.1 中,测试时会提供方言标签,从混合数据训练的适配器出发继续训练各方言专用模型,带来了最大的性能提升,提交系统的国家平均词错误率(WER)达到 57.1%。评测后,我们在冻结的编码器特征上训练了一个线性探针,无需标签即可为话语选择对应模型,并取得了使用真实标签进行理想路由所带来收益的 44%。在子任务 1.2 中,基础模型的选择比适配器容量更重要,而系统组合只有在加入一个低相关性的成员模型后才产生帮助,最终达到 46.7% 的 WER。在子任务 1.3 中,我们的系统以 14.49% 的 WER 位列第二,并在排名靠前的提交系统中取得了最低的字符错误率(CER),为 5.38%。最后 0.60 个百分点的 WER 降幅是在没有进一步训练的情况下实现的,主要来自对多次独立训练所得模型在权重空间中的精确平均,其余提升则来自 ROVER 投票。每项比较都进行了配对自助法检验,我们还报告了八个未奏效的探索方向。

arXiv cs.AI75

决策模型能诊断哪些 HVAC 故障?推理需求、物理表征与分布偏移下的鲁棒性

人工智能以多种形式支持建筑运行,但每种形式都有其自身的障碍。专家规则必须针对每个系统进行调整,监督学习模型需要建筑中很少记录的标注数据,而语言模型输出的是自由文本,由于其自报的置信度不可靠,需要人工参与核查。一类较新的预训练模型,在本文中称为决策模型,会为每个允许的答案返回一个概率,因此单个模型无需训练即可用于多种决策。本研究回答了供暖、通风与空调系统故障诊断中的三个开放问题:此类模型能够做出哪些决策、需要什么输入,以及当条件变化时,其概率是否仍然可靠。研究采用四个真实设备公开数据集中的 128 个故障日,按照诊断所需的推理程度对故障分级,并分别以原始数据、物理特征或附带 Brick 拓扑的形式提供数据。决策模型 Jev、开放语言模型和一个监督学习模型接受了九项测试,测试涉及季节、控制配置或建筑的变化。在提供物理特征时,Jev 和较大的开放模型能够诊断由单个特征承载证据的故障,但无法诊断需要运行情境信息的故障。在分布偏移下,它们保持了准确性和校准表现,而监督学习模型的宏平均 F1 下降了 0.33,但在同一建筑内仍领先或并列领先。它们的概率仍需校正,且故障检测能力较弱。本研究明确了决策模型能够诊断哪些故障,以及需要何种输入,并支持这样一种分工:由代码完成物理计算,由模型对候选故障排序,供操作人员参考。

arXiv cs.AI74

AgentTime:智能体能否估计并控制自身的运行时长?

AI 智能体的一项关键控制能力是管理运行时长。这项能力需要时间感知,即预测和估计实际经过的时间,并控制自身行动。既有研究主要关注时间感知,但原生智能体运行框架中的时长遵循与控制能力仍未得到探索。我们提出 AgentTime,这是一个用于测试智能体能否按要求的时长工作、预测自身运行时长,以及在事后估计已用时间的基准。该基准包含来自 18 个来源的 222 项任务,涵盖编程、计算机使用、智能体任务和自动化研究。在时长遵循实验中,我们附加一条指定工作时长的指令,要求的时长从约一分钟到数天不等。智能体遵循这些指令的准确性差异显著:Claude Code 中的 Fable 5.1 与要求运行时长的典型偏差倍数为 2.9$\times$,相比之下,Codex 中的 GPT-6 Astra 仅为 1.2$\times$。然而,仅仅符合要求的运行时长,并不能证明智能体始终在执行任务。在经过审查且记录可分类的 158 次 Astra 运行中,有 14 次在看似完成任务后明确进入了休眠。在预测实验中,预测值往往高估自然运行时长。在回顾性实验中,移除时间信息后,Sol 和 Astra 的偏差增至两倍以上,Fable 的偏差也接近翻倍。智能体能够完成任务,并不保证它能控制自身用时,或在要求的整个时段内持续工作。要让智能体在长时间跨度内可靠、安全且自主地运行,就必须对任务完成能力和时间控制能力都进行评估。

SiliconANGLE AI64

OpenAI publishes 722 AI-generated math discoveries in major scientific milestone

OpenAI Group PBC has published 722 math papers that it generated using an unreleased artificial intelligence model. Some of the papers, which were posted to GitHub late Tuesday, prove long-running hypotheses. Others disapprove proposed explanations of mathematical phenomena or narrow down the possible answers to complex, yet-unsolved puzzles. Overall, OpenAI’s papers span about 20 mathematical […] The post OpenAI publishes 722 AI-generated math discoveries in major scientific milestone appeared first on SiliconANGLE .