智谱 / GLM

智谱 GLM 系列模型与开放平台的动态。

arXiv cs.AI82

Tev:通过稠密进展奖励扩展长时域智能体环境

长时域智能体凭借能够自主执行具有经济价值的任务而日益受到关注,其工作时长可从数小时持续到数天。这一能力对于自动化发现和递归自我改进(RSI)至关重要。然而,开源模型在长时域任务上仍然表现不佳,主要原因在于缺乏训练数据和可行的训练方案,而同时扩展这两者十分困难:长而复杂的任务难以整理和验证,且其奖励通常十分稀疏。我们同时解决了这两个问题。首先,我们推出了 Tev-Gym,这是首个具备可验证、稠密且渐进式奖励的长时域智能体训练数据集,涵盖 7 个领域的 1,170 个已验证任务环境。该数据集采用“潜在世界优先”的方法构建:首先建立一个潜在世界,即对任务领域、工作流以及每一步之后预期状态的完整且正确的隐藏规范。随后,每个任务都根据该规范逐步呈现为面向智能体的环境,从而实现可控的复杂度和自然的进度指标。其次,我们将这一指标转化为训练方案:通过进度势能奖励塑形(PPRS),将进度转化为每一步的稠密奖励,从而提高训练效率,并使原本难以训练的任务变得可训练。采用该方案训练得到的 Tev-27B,在 Agents' Last Exam 的计算与数学科学领域(ALE-CM)上取得了显著提升,在 Pass@5 指标上达到 GPT-6 Astra 和 Claude Opus 5 的水平。尽管仅使用与 ALE 相关的数据进行训练,它仍能泛化到 Terminal-Bench(TB)3.0 和 4.0 子集,超过 GLM 5.2 和 Gemini 3.7 Flash,并在 TB 2.1 等中等时域任务上达到 Claude Opus 4.8 的性能水平。

arXiv cs.AI76

Trace Evolution Bench: Measuring Whether Agents Improve from Their Own Environment Traces

Self-evolving agents are usually scored by endpoint Gain: held-out success after an update minus success before. That difference can credit a frozen rescore as evolution. We introduce Trace Evolution Bench (TEB), a protocol that separates that rescore from a context or weight update, together with three frozen 80/20/40 packs. An update is accepted only when validation does not fall, held-out identifiers never enter the update, and a text update is not ranked with a weight update. The primary scoreboard is coding, graded by hidden unit tests in a closed workspace. On that pack (40 held-out tasks, one family), DeepSeek v4 Pro under no_evolve never changes its policy yet moves 7.5, 5.0, and 12.5 percentage points across three seeds. Of nine text-update cells inspired by GEPA, ACE, and ExpeL, seven have positive excess above that seed's own band, and one gepa_llm seed moves down by the width of its band (-12.5, regression 0.48). GLM and MiniMax do not reproduce that seven-of-nine pattern. No method stays above its own band on every seed of all three models: GLM has two paired cells above their own bands, and MiniMax expel_llm seed 44 is a third (regression 0.30). The methods were fixed on a validation screen before held-out was read. Office, graded by rule-bounded delivery, and manufacturing table QA are separate packs: office DeepSeek does not exceed its own bands (widest 17.5 points), and manufacturing has no paired positive excess beyond its seed band.

Simon Willison78

llm-gemini 0.35

发布:llm-gemini 0.35 今天通过 Gemini API 以及其每月 100 美元订阅计划向客户提供了全新的 Gemini 4 Argon 模型,我为 llm-gemini 添加了对它的支持。下面是低、中、高三档生成的 pelican。如预期一样,它们都非常出色:Gemini 一直以来都很擅长生成优秀的 SVG,而且据我所知,这是唯一一家其员工专门投入 SVG 研究的实验室(他们以前也曾展示过自己生成的 pelican)。这是“高”档生成的插图,花费了我 17.166 美分: 时尚而准确的自行车车架。篮子里有一条鱼。帅气的围巾。双脚分列车架两侧,踩在脚踏板上。车轮辐条、一顶小帽子、漂亮的喙和喉囊,以及略显凶狠的表情。 定价很有意思。发布时,Argon 的价格是输入每百万 token 2 美元、输出每百万 token 10 美元——与 GPT-6 Sol 相同,是 Claude Opus 5.5 价格的一半,以及 Claude Fable 5.1 和 GPT-6 Astra 价格的五分之一。但从 12 月 1 日起,Argon 的价格将翻倍——届时会与 Opus 5.5 同价。 如今,这样的价格并不能真正直接比较,因为真正重要的是:在代理式运行框架中,模型要完成一个目标需要消耗多少 token。Artificial Analysis 发布了使用各模型运行其基准测试的总成本,这为我们提供了一个有用的参考。Argon 在这方面表现非常好:运行该基准测试的成本为 2,407 美元,接近 GLM-5.3,而且明显低于 OpenAI、Anthropic 和 Meta 的最新模型。即使价格翻倍,它仍会比 GPT-6 Astra 略便宜。 Artificial Analysis 的堆叠柱状图截图,对 14 个 AI 模型的美元成本进行比较,按从低到高排序;柱体按提供商着色,每个柱体下方显示提供商徽标,底部以倾斜文字标出模型名称。右上角的徽标为 Artificial Analysis。指向 Gemini 4 Argon 柱体的悬浮提示框显示:Gemini 4 Argon(High),2,407 美元;输出 313 美元;推理 815 美元;缓存写入 897 美元;缓存读取 264 美元;非缓存输入 118 美元;点击查看更多信息。 从左到右的柱体如下,每个柱体上方标有总成本,部分分段数值印在柱体内部:Qwen3.8 27B(xhigh),1,336 美元,Alibaba 徽标;Mistral Large 4 Preview,1,607 美元,Mistral 徽标;Gemini 3.8 Flash(high),1,623 美元,Google 徽标;Muse Spark 1.3(max),2,000 美元,其中一段为 769 美元,Meta 徽标;Gemini 4 Argon(high),2,407 美元,其中两段分别为 815 美元和 897 美元,Google 徽标;GLM-5.3(max),2,503 美元,其中一段为 790 美元,Z.ai 徽标;Kimi K3(max),3,658 美元,Kimi 徽标;Qwen3.8 Max(0902),4,935 美元,其中两段分别为 893 美元和 1,441 美元,Alibaba 徽标;Grok 4.7(xhigh),4,967 美元,其中两段分别为 1,861 美元和 1,618 美元,xAI 徽标;GPT-6 Astra(max),5,324 美元,其中两段分别为 778 美元和 978 美元,OpenAI 徽标;Muse Wonder(max),5,733 美元,其中一段为 1,748 美元,Meta 徽标;Claude Sonnet 5.5(max with fallback),7,260 美元,其中两段分别为 1,216 美元和 1,815 美元,Anthropic 徽标;Claude Opus 5.5(max with fallback),8,708 美元,其中一段为 921 美元,Anthropic 徽标;Claude Fable 5.1(max with fallback),13,129 美元,其中一段为 7,219 美元,Anthropic 徽标。 (我用 ChatGPT 编辑了那张图表!数据全部正确,我已经核对过了——我只是需要让 Gemini 4 Argon 的信息框显示出来,同时避免遮挡其他数字。) 标签:google,ai,generative-ai,llms,llm,gemini,llm-pricing,pelican-riding-a-bicycle,llm-release

The Decoder66

Anthropic says it cut Claude reasoning token theft by up to 99% in fight against industrial-scale distillation

Anthropic says it has cut the extraction of Claude's internal reasoning tokens by 90 to 99 percent. The company links the large-scale distillation attacks to Chinese companies Zhipu and Moonshot, and has already banned tens of thousands of accounts. The article Anthropic says it cut Claude reasoning token theft by up to 99% in fight against industrial-scale distillation appeared first on The Decoder .

MarkTechPost42

Z.ai GLM-Legal Beats Claude Fable 5 and Kimi K3 on Harvey LAB

Z.ai’s GLM-Legal is a legal AI model built on GLM-5.3-Flash. It scores 19.2% all-pass on Harvey’s Legal Agent Benchmark, nearly 3x its base, at $0.15 per test. Access is by application. The post Z.ai GLM-Legal Beats Claude Fable 5 and Kimi K3 on Harvey LAB appeared first on MarkTechPost .

MIT Technology Review AI57

Open models have real benefits. Do they outweigh the risks?

MIT Technology Review Explains: Let our writers untangle the complex, messy world of science and technology to help you understand what’s coming next. You can read more from the series here. Late last month, Anthropic released a report arguing that the model GLM-5.3 poses a major cyberattack risk. The report’s core concern is that the…

arXiv cs.LG72

TabPFN 是保险定价的万能解法吗?

arXiv:2605.22892v3 公告类型:replace-cross 摘要:非寿险定价中的索赔频率和索赔损失程度建模主要依赖广义线性模型(GLM),而梯度提升机是主要的机器学习替代方案。表格基础模型(TFM)提出了一种根本不同的推理范式。通过在大量合成数据集上进行预训练,TFM 能够借助上下文学习对新数据进行推理,无须针对特定数据集进行预处理、拟合或超参数调优。本文首次对 TabPFN 在机动车保险定价中的应用进行了实证评估,在两个公开可用的机动车第三者责任险(MTPL)数据集上,将两个版本的 TabPFN 与 GLM 和 XGBoost 进行了基准比较。结果表明,TabPFN 并未始终优于成熟的基线模型:在索赔频率建模方面,其表现不及 GLM,且性能取决于上下文训练集的规模;但在数据更为稀缺的索赔损失程度建模方面,它具有竞争力。其推理耗时则明显更长。尽管表格基础模型前景可期,尤其是在数据稀缺的场景下,但 TabPFN 尚不足以取代成熟的索赔频率精算建模方法。

arXiv cs.LG76

Adaptive DHiSparse:基于负载自适应 KV 层级结构的推测解码

arXiv:2610.13708v1 公告类型:cross 摘要:长上下文服务在硬件达到其有效吞吐量之前就会耗尽 KV 内存。HiSparse 将历史记录存储在主机内存中,仅获取选定条目,但它在任何负载下都使用相同的缓存预算,也不支持 DSpark 和 DFlash2 等草稿模型推测解码。我们提出 Adaptive DHiSparse,支持基于层级稀疏 KV 的推测解码,并根据负载调整驻留内容。它会保护所需的工作集,在 GPU 内存有余量时保留额外历史记录,并通过精确融合检索恢复其余内容。DSpark 和 DFlash2 保持各自的提议与接受规则:查询共享缺失行检索,草稿 KV 使用窗口限制的环形缓冲区,验证暂存区则在各层组之间复用。在 100K 上下文和并发数 128 下,采用 DFlash2 的 GLM-5.3 每个解码 GPU 可达到 793 个输出 token/s,分别是 HiSparse 的 1.45$\times$ 和非推测自适应服务的 1.27$\times$。在与 HiSparse 相同的延迟上限下,根据每 token 的延迟限制不同,其可支持的并发数最高提升至 4$\times$,输出量提升至 2.3 至 3.7$\times$。在 500K 上下文和并发数 512 下,DeepSeek-V4.1-Flash 采用 DSpark 的 Adaptive DHiSparse,其输出量达到采用 DSpark 的常驻式服务的 1.85$\times$。在负载阶跃变化期间,可选的驻留机制使低负载下主机获取量从选定行的 14.2% 降至 1.4%,并能在压力下释放内存。

arXiv cs.AI77

Adaptive DHiSparse:基于负载自适应 KV 层次结构的推测解码

长上下文推理服务在硬件达到有效吞吐量之前,就会耗尽 KV 内存。HiSparse 将历史数据存储在主机内存中,并且仅取回选中的条目,但它在所有负载下都使用同一缓存预算,也不支持 DSpark 和 DFlash2 等基于草稿模型的推测解码。我们提出 Adaptive DHiSparse,它支持在分层稀疏 KV 上进行推测解码,并根据负载调整数据驻留。它保护必需的工作集,在 GPU 内存空闲时保留更多历史数据,并通过精确的融合检索取回其余数据。DSpark 和 DFlash2 的候选生成与接受规则保持不变:查询共享缺失行的取回操作,草稿 KV 使用受窗口大小约束的环形缓冲区,验证阶段的暂存空间则跨层组复用。在 100K 上下文长度和 128 并发下,结合 DFlash2 的 GLM-5.3 在每个解码 GPU 上实现了每秒 793 个输出 token,分别为 HiSparse 的 1.45$\times$ 和不使用推测解码的自适应推理服务的 1.27$\times$。在遵守与 HiSparse 相同的延迟上限时,根据每 token 延迟上限的不同,它能够持续支持最高 4$\times$ 的并发量和 2.3 至 3.7$\times$ 的输出吞吐量。在 500K 上下文长度和 512 并发下,对于 DeepSeek-V4.1-Flash,结合 DSpark 的 Adaptive DHiSparse 实现了结合 DSpark 的全驻留推理服务 1.85$\times$ 的输出吞吐量。在一次负载阶跃变化中,可选驻留在低负载时将需要从主机取回的行占选中行的比例从 14.2% 降至 1.4%,并在内存压力下释放内存。

arXiv cs.LG77

RAGenome: Scaling Retrieval-Based Genomic Language Models to Long Contexts

arXiv:2610.11761v1 Announce Type: new Abstract: The genome holds the blueprint that governs the biological properties of the cell. Consequently, advancing our knowledge of genomic function is crucial both for a broader understanding of biology and for continued biomedical advances. The success of large language models on natural language and protein sequences has motivated similar efforts on genomic data. However, standard genomic language models (gLMs) often require extremely large computational resources and still fall behind traditional methods on some downstream tasks. Recently, MSA-based pretraining has been proposed as an efficient alternative, but existing models are limited to short input contexts, restricting their use to short-range tasks, such as variant effect prediction. In this work, we present RAGenome, the first retrieval-based gLM that scales pretraining to longer contexts (100$\times$ longer than existing MSA-based gLMs), allowing it to capture both across-species evolutionary relationships and within-species longer-range interactions. Trained on whole-genome alignments from 100 vertebrates, RAGenome substantially improves the long-range capabilities of MSA-based gLMs, raising gene finding performance from 0.45 to 0.60, while remaining competitive on purely evolutionary-based tasks like prioritizing pathogenic variants. RAGenome provides competitive gLM performance at a fraction of the training cost, unifying evolutionary modeling and long-range capabilities within a single, flexible, scalable framework. Code is available at https://github.com/PanosAntoniadis/RAGenome.

arXiv cs.LG81

QUILT:通过共享查询执行重新思考稀疏注意力预填充

arXiv:2610.11134v1 公告类型:新论文 摘要:稀疏注意力降低了长上下文注意力的开销,但现有内核通常独立处理各个查询,反复加载并反量化多个查询共享的 KV 条目。我们观察到,相邻查询所选的 KV 条目存在大量重叠,为跨查询复用创造了机会。我们提出 QUILT,一种工作负载感知的稀疏注意力执行机制,通过联合处理相邻查询并复用共享 KV 条目,减少冗余的内存流量和计算。QUILT 引入 Shift-and-Compare Set Decomposition(SCSD),将不规则的集合操作转化为适用于现代加速器的规则数据并行原语,并将 SCSD 与注意力计算以流水线方式执行,以隐藏其开销。级联共享在多个粒度上分层实现复用。一种分块感知的执行策略在共享粒度与硬件分块利用率之间取得平衡,并选择性地移除重要性较低的查询专属尾部,以消除利用不足的分块。我们使用 GLM-5.3 和 DeepSeek-3.2,在张量并行和序列并行两种设置下,基于 LongBench 评估 QUILT。与最先进的稀疏注意力内核相比,QUILT 将平均内核延迟最多降低 55.1%,将处理的 KV 数据量最多减少 55.9%,同时将首个词元生成时间(TTFT)延迟最多降低 36.8%,且准确率下降可忽略不计。

The Decoder79

AI 驱动的黑客工具帮助一名疑似单独攻击者入侵韩国多家银行

据 CrowdStrike 称,一名疑似讲中文的攻击者入侵了韩国多家金融机构。仅在 Shinhan Bank,就有超过 25,000 条客户记录被窃取。该攻击者使用了 ARTEX,这是一款开源工具,利用 DeepSeek 和 GLM-5.3 等 AI 模型进行自动化渗透测试。CrowdStrike 表示,这起事件表明,AI 工具可以让单个人实施大规模入侵。文章《AI 驱动的黑客工具帮助一名疑似单独攻击者入侵韩国多家银行》最初发表于 The Decoder。

arXiv cs.LG78

利用 AI 裁判进行可信的方法比较:顺序、批次与聚合效应下的估计与设计

arXiv:2610.07755v1 公告类型:交叉收录 摘要:大型语言模型(LLMs)正越来越多地被用作自动化 AI 评估的裁判。一种常见做法是将提示序列随机化,并对所得评分取平均值,但其统计有效性尚不明确。我们表明,LLM 评估机制可以用一类马尔可夫广义线性混合模型(GLMMs)来近似,针对三款主流商业 LLM 的样本外预测结果支持了这一结论。我们使用一阶马尔可夫 GLMM 研究排行榜排名与组间比较问题。对于排行榜排名,在温和的分离条件下,随机化后取平均的选择方法具有一致性;当项目质量接近时,Williams 方阵设计可以提高效率。对于组间比较,由于响应模型的非线性,简单取平均可能导致关于组级质量差异的结论不具备一致性。实证结果进一步支持了所提出的基于模型的推断方法在一阶理论之外的有效性,包括具有高阶序列记忆的情形。我们通过一个由 AI 裁判比较两种图模型估计方法的应用来展示该方法。

arXiv cs.LG77

ServeLearnBench:智能体能够在多大程度上从服务经验中自我改进?

arXiv:2610.07792v1 发布类型:new 摘要:大型语言模型智能体正越来越多地被部署用于在现实环境中执行复杂任务。然而,在这些环境中实现正确行为所需的知识往往是隐含的、未公开的,并且会随时间变化。近期的持续学习框架试图通过让智能体从服务经验中不断改进来应对这一挑战。然而,这些方法的有效性与局限性尚未得到充分刻画。现有基准只能覆盖部分情况:有些基准明确提供目标知识,有些假设环境是静态的,而支持持续适应的基准在规模和知识多样性方面仍然有限。为实现系统性评估,我们形式化提出了演化环境流式数据集(EESD):在该数据集中,随着隐藏策略不断演化,智能体必须根据交互和结果反馈推断、应用并修订潜在的环境知识;同时,我们引入了 ServeLearnBench,涵盖零售支持、银行业务和销售话术生成等场景,包括 53 个环境窗口和 7,718 项任务。我们在六个模型(GPT-5.6 Terra、Opus 5、Kimi K3、GLM-5.3、DeepSeek V4.1 Flash 和 GLM-5.3 Flash)上评估了五种学习框架(RAG、Mem0、SkillOpt、Continual Harness 和 Prime),覆盖 28 个模型—框架组合和 252 次学习运行。评估揭示了三个主要发现:任务能力与从经验中学习的能力之间仍存在显著差距;持续适应代价高昂,并且可能损害原本正确的行为;探索不足是实现有效适应的关键瓶颈。总体而言,ServeLearnBench 提供了一个受控测试平台,用于诊断这些局限,并跟踪智能体通过服务经验持续、可靠地改进这一目标的进展。

The Decoder72

Reflection 的 Beam 成为中国以外构建的能力最强的开放权重模型

一幅抽象图形:深绿色背景上由白色点和线构成的图案,从左侧的一个小圆向右侧扩散成越来越大的环。Reflection 发布了 Beam,这是其首个开放权重模型。该混合专家系统每个词元仅激活其 5010 亿个参数中的 230 亿个,旨在以少三到四倍的计算量,在编程和推理方面达到 GLM 5.2 的水平。面对 Deepseek 和 Qwen 等中国开放权重竞争对手,该策略注重效率,而非原始性能。《Reflection 的 Beam 成为中国以外构建的能力最强的开放权重模型》一文最先发表于 The Decoder。

arXiv cs.AI82

LatentIndex:采用层特定选择的跨层共享稀疏注意力

稀疏注意力降低了核心注意力的计算量,但其索引器仍会产生重复的选择开销,并需要按层存储键缓存。在各层之间复用已选索引可以降低这一开销,但会限制多个层使用同一组 token。我们提出 LatentIndex,将 Multi-head Latent Attention 的潜在表示共享原则扩展到索引器层。每个层组根据其首层的隐藏状态构建共享的潜在缓存,同时通过层特定的评分实现独立的 token 选择。将键解码器吸收到查询中后,无需重建历史的逐层键,即可直接对共享缓存进行评分。我们设计了无需训练的校准方法,并研究了这一原则的一种感知训练的实现。为平衡质量与计算开销,分层选择(HS)变体允许后续层在锚点层提出的共享候选集上独立进行细化。在四层共享的设置下,LatentIndex 在 DeepSeek-V3.2 上将逻辑索引器缓存存储降低了 61.1%。在 DeepSeek-V3.2 和 GLM-5 上,无需训练的 LatentIndex 相比 IndexCache 将按头计算的注意力质量召回率最高提升了 3.28 个百分点,同时保持 RULER 和 LongBench 性能接近原生 DSA。在 8K 至 128K 的上下文长度范围内,HS 进一步实现了相对于 DSA 2.30 至 2.72 倍的解码索引器加速,并保留了 LatentIndex 的大部分召回率。LatentIndex 为跨层索引提供了新的视角:共享连续表示而非离散选择,能够在保留层特定 token 选择的同时实现高效复用。

MarkTechPost65

Meet Together Link: A Free CLI That Runs Open Models Like Kimi K3 and GLM 5.3 Inside Claude Code, Codex, and OpenCode

Together AI has released Together Link, a free, MIT-licensed CLI that connects Claude Code, Codex, OpenCode, Pi, and the Claude and ChatGPT desktop apps to open models like Kimi K3 and GLM 5.3. One install command sets it up, and an Auto router picks a model for each session. Together claims savings of over 50%. The post Meet Together Link: A Free CLI That Runs Open Models Like Kimi K3 and GLM 5.3 Inside Claude Code, Codex, and OpenCode appeared first on MarkTechPost .

AWS Machine Learning Blog83

在 Amazon Bedrock 上推出 GLM 5.3

来自 Z.ai 的 GLM 5.3 现已在 Amazon Bedrock 上可用:这是一款拥有 7530 亿参数的混合专家模型,专为编程和长周期智能体任务打造。了解如何通过兼容 OpenAI 的 API 调用它,如何利用提示词缓存降低成本和延迟,以及如何使用开源 Strix 智能体运行授权安全测试。

MarkTechPost63

Reflection AI Introduces Beam: A 501B Open-Weight MoE Model With 23B Active Parameters for Coding and Agentic Workloads

Reflection AI has introduced Beam, its first open-weight model. It is a 501B sparse Mixture-of-Experts model with 23B active parameters, built for coding and agentic work. Reflection says it matches GLM-5.2 on reasoning with 3 to 4x less inference compute. Apache 2.0 weights are due later in October 2026. The post Reflection AI Introduces Beam: A 501B Open-Weight MoE Model With 23B Active Parameters for Coding and Agentic Workloads appeared first on MarkTechPost .

arXiv cs.LG75

ParaGeo:将副语言变异分解为共享潜在几何结构

arXiv:2610.03125v1 公告类型:cross 摘要:语音表达会随着所要求的副语言属性和语言内容的不同而变化。我们提出 ParaGeo,在冻结的语音语言模型中对副语言变异进行基于匹配内容的分解。合成的音频标记通过固定的听取提示进行重放;池化后的键/值(K/V)表示经过中心化处理,并投影到共享的低维空间中。我们的 GLM-4-Voice 探针涵盖了来自 12 个基准系列的 80 个请求控制变量,涉及 8 个句子。使用全局拟合的校准基,基于该基的内容留出质心准确率为 9.49%,而置换基线为 1.25%;相同标签跨内容的余弦相似度为 0.285,而基线为 0.017,且两项条件置换检验均得到 p = 0.001。另一项包含 10 种场景和 6 种风格的探针揭示了跨场景可复现的对比方向。静态、加性和时间性干预产生了取决于属性、层级和调度方式的响应特征。这些结果为测量副语言结构提供了一种共享坐标表示,也为潜在语音控制提供了一个经验起点。代码可在 https://github.com/yuhanlydia/ParaGeo 获取。

MarkTechPost68

Can an Open Model Do Security Research? Cantina’s apex-flash-1 Solves 40 of 60 Held-Out Bug Tasks

Cantina Security, with Yeta Labs, has released apex-flash-1, an open-weights model trained specifically for vulnerability research. It is a reinforcement learning fine-tune of Z.ai’s GLM-5.3-Flash, released on Hugging Face under the MIT license. Is it deployable? Yes, the MIT weights serve on vLLM, SGLang or Transformers, but BF16 needs roughly 640 GB of GPU memory. […] The post Can an Open Model Do Security Research? Cantina’s apex-flash-1 Solves 40 of 60 Held-Out Bug Tasks appeared first on MarkTechPost .

arXiv cs.AI83

FrugalEvo:迈向具备成本感知能力的 LLM 引导程序演化

LLM 引导的演化方法(如 AlphaEvolve)已成为解决圆打包等具有挑战性的计算优化问题的强大方法。然而,既有工作通常是在固定迭代次数下优化性能增益。我们认为,实际优化应最大化单位成本的增益。为此,我们提出 FrugalEvo,这是一种具备成本感知能力的演化框架:由更强大但成本更高的 LLM 探索解决方案策略,再由成本更低的 LLM 加以实现,并对生成的代码进行迭代式改进。我们还设计了一种缓存高效的演化过程,通过让我们的 harness 和提示词最大限度地共享不同演化步骤之间的前缀,提升缓存复用率。为了在固定成本预算内衡量整个过程中的解决方案质量,我们引入预算感知曲线下面积(Budget-Aware Area Under the Curve,BA-AUC),将其定义为截至预算上限,累计 LLM 成本范围内最佳评估得分曲线下的面积。在 10 项数学与系统优化任务中,FrugalEvo 在最终解决方案质量方面达到或超越了包括 OpenEvolve、ShinkaEvolve、AdaEvolve 和 EvoX 在内的最先进基线方法,并在其中 9 项任务上取得了更高的 BA-AUC。在 ALE-Bench-Lite 的 10 项算法优化任务中,它的平均性能也高于这些基线。值得注意的是,在圆打包任务上,FrugalEvo 使用 GPT-5.6 Terra 和 Luna 仅花费 1.68 美元,使用 GLM-5.3 及其 Flash 变体仅花费 0.55 美元,就取得了新的最先进性能,达到或超越了所有基线方法;这些基线包括 CORAL 和 SwarmResearch 等多智能体方法,而后者平均成本约为 50 美元。

MarkTechPost63

Prime Intellect Launches Prime Inference: Serverless and Reserved Serving for Frontier Open Models

Prime Intellect has launched Prime Inference, an OpenAI-compatible platform for serving frontier open models on NVIDIA Blackwell. Its GLM-5.3 deployment uses Dynamo, vLLM and NVFP4 KV compression to serve 66 sessions per prefill group at 101 tok/s per user. The post Prime Intellect Launches Prime Inference: Serverless and Reserved Serving for Frontier Open Models appeared first on MarkTechPost .

Import AI56

Import AI 474: Platonic mindspace; TPUs in space; Zhipu starts an outer RSI loop

Welcome to Import AI, a newsletter about AI research. Import AI runs on arXiv, cappuccinos, and feedback from readers. If you’d like to support this, please subscribe. Subscribe now Are minds patterns from a Platonic space, with bodies and machines as their interfaces, Michael Levin asks:…A mind-bending paper asking us to reconsider basic assumptions about […]

Simon Willison73

Quoting Anthropic Frontier Red Team

我们在100项任务上评估了多个模型,这些任务从 [internal Binary Exploitation benchmark] 中随机选取。结果发现,GLM-5.3 在4%的试验中实现了完整的控制流劫持;Claude Mythos Preview 的这一比例为6%。尽管 GLM-5.3 在此项测试中的表现低于 Claude Mythos Preview,但一个重要的门槛显然已经被跨越:更早的模型,如 Claude Opus 4.6 和 GLM-5.2,在这些任务中无一成功。—— Anthropic Frontier Red Team,《GLM-5.3 and the spread of advanced cyber capabilities》 标签:anthropic、generative-ai、ai-security-research、glm、ai、ai-in-china、llms

arXiv cs.LG79

更少的 Token,更多的自我教学:面向极端视觉 Token 缩减的在策略自蒸馏

arXiv:2609.32353v2 公告类型:replace-cross 摘要:视觉 Token 缩减是加速多模态大语言模型(MLLM)的有效方法,但在极低 Token 预算下,模型性能会迅速下降。现有研究探索了视觉 Token 选择,以及针对缩减视觉输入的基于训练的适配方法。我们进一步提出一个问题:经过大幅压缩的 MLLM 应如何从自身生成结果所诱导的状态中学习?这一设定自然要求采用在策略自蒸馏:让经过大幅压缩的模型在其自身生成结果所诱导的状态上接受监督,同时由其全 Token 版本充当信息丰富的教师模型。基于这一洞见,我们提出了 LT-OPD,一种用于极端视觉 Token 缩减的训练框架。学生模型仅使用一小部分视觉 Token 展开响应生成,而同一 MLLM 的冻结全 Token 副本则沿着学生模型生成的轨迹提供分布监督。为在视觉证据严重受限时稳定在策略学习,我们进一步引入了预算级课程学习,在训练过程中逐步降低 Token 预算。在 Qwen3.5-4B 的九个基准测试中,在仅保留 5% 视觉 Token 的情况下,LT-OPD 将平均性能保持率从 68.6% 提升至 82.3%,在相同预算下超过了无需训练、基于训练以及基于强化学习的基线方法。这些提升还稳定迁移至 Qwen3.5-9B、GLM-4.6V-9B 和 LLaVA-OV-1.5-4B。LT-OPD 还将 KV-cache 使用量降低了 85.2%,将 prefill FLOPs 降低了 85.4%,且不会增加额外的推理开销,表明在策略学习能够大幅恢复因极端视觉 Token 缩减而损失的能力。

arXiv cs.LG79

CompactionRL:通过上下文压缩实现长时程智能体的强化学习

arXiv:2607.05378v2 公告类型:替换 摘要:长时程智能体LLM日益受到有限上下文窗口的限制,因为在任务完成前,延长的交互轨迹可能会超过最大上下文长度。上下文压缩通过总结先前的交互状态,并在压缩后的上下文中继续执行轨迹,提供了一种自然的解决方案;然而,将压缩机制融入强化学习仍缺乏充分研究。我们提出CompactionRL,一种利用上下文压缩训练长时程智能体LLM的强化学习策略。我们的方法通过令牌级损失归一化和跨片段广义优势估计,联合优化任务执行与摘要生成。这一设计使LLM智能体能够从经过压缩的长时程轨迹中学习。我们在开源模型上训练CompactionRL,并在智能体编程任务中观察到持续的性能提升。CompactionRL使开源GLM-4.5-Air模型(106B-A12B)在SWE-bench Verified和Terminal-Bench 2.0上分别取得66.4%和26.2%的Pass@1得分;与推理时采用上下文压缩的基础模型相比,分别提升了6.6和4.9个百分点。基于GLM-4.7-Flash(30B-A3B),CompactionRL相较基础模型使Pass@1分别提升5.5和6.7个百分点,在SWE-bench Verified和Terminal-Bench 2.0上分别达到56.0%和20.2%。因此,CompactionRL已部署于强化学习流程中,用于训练开源GLM-5.2模型(750B-A40B)。

arXiv cs.LG80

Hob-VL:视觉落地的布尔推理基准

arXiv:2610.01605v1 公告类型:cross 摘要:可靠的视觉推理需要综合多个视觉观察结果,并对逻辑等价的问题给出一致的答案。我们提出了 Hob-VL,一个用于视觉落地布尔推理的基准。Hob-VL 包含两项任务:(1)评估图像中是否满足某条布尔规则;(2)识别满足布尔描述的(唯一)对象。Hob-VL 包含 6,000 个经人工验证且“是/否”均衡的问题,每个问题均由十条视觉陈述的布尔组合定义,涵盖 1,000 个生成场景和 46 张多样化的带标注照片;此外,还包含针对同一批照片的 1,000 个对象识别问题。我们的问题系列经过有意设计,通过误导性的局部线索和嵌套逻辑运算来挑战推理能力,并采用符号化和结构化自然语言两种呈现形式。在八种禁用或最小化思考功能的模型配置中,布尔准确率介于 48.52% 和 50.57% 之间,而识别准确率最高仅为 43.0%。启用思考功能的 GLM 配置取得了不均衡的提升,但仍存在大量错误和不一致。Hob-VL 通过可执行的参考答案和配对评测揭示了这些失败。

arXiv cs.LG79

量化与高效适配蛋白质语言模型的分析

arXiv:2610.00665v1 公告类型:新 摘要:背景:蛋白质语言模型(PLM)越来越多地用于序列生成和性质预测,但其规模使微调和部署成本高昂。量化和参数高效微调对性能、表征及生成的影响仍缺乏充分表征。结果:我们在 ESM-2、ESMC、ProtBERT、ProtT5、Ankh、Ankh3 和 Profluent-E1 上评估了 4 位量化和低秩适配器微调(QLoRA)。在各类蛋白质预测任务中,许多模型—任务组合保留了超过完整微调性能 90% 的表现。对于规模最大的模型,GPU 峰值内存节省接近 90%,但性能和效率因模型、数据集及训练配置而异。QLoRA 通常能够保留早期层的表征,同时在中间层和后期层引入任务特异性适配,其效果类似于完整微调,但表征变化更小。训练速度和功耗方面的影响则更加多样。对于使用 ProLLaMA、ProtGPT2、ProGen2、ProteinGLM 和 ESM3 进行的无条件生成,4 位量化基本保留了预测的结构和序列级性质,但词元级分析揭示了自回归输出分布中依赖于模型的偏移。结论:QLoRA 和 4 位量化降低了 PLM 的计算需求,尤其是 GPU 内存占用。我们的结果支持将 QLoRA 作为内存受限适配的首选初步策略,而对于具有挑战性的任务、不稳定的架构或验证集性能恢复较低的情况,则保留使用完整微调。对于生成式 PLM,应将序列级和结构指标与分布分析结合起来,因为仅依赖下游预测可能无法发现量化引起的偏移。这些方法能够扩大大规模蛋白质建模的使用范围,但仍需要针对具体模型和任务进行验证。

arXiv cs.AI81

LeapQuant:具有精准循环状态量化的高效线性注意力

近期的 LLM 越来越多地采用混合架构,以线性注意力取代标准注意力,例如 Gated DeltaNet(GDN)和 Kimi Delta Attention(KDA)。尽管这类方法将上下文压缩为固定大小的循环状态,并显著降低了长上下文处理的成本,但反复读取和更新该状态仍然是推理过程中的主要瓶颈。量化为降低这一成本提供了一种自然的方法,但由于舍入误差的累积,以及状态中存在离群行和离群列,量化可能会严重降低模型质量。为应对这些挑战,我们提出了 LeapQuant,这是一种无需训练的方法,可在 8 位循环状态量化下实现近乎无损的性能。首先,为减轻误差累积,我们提出按窗口量化,在跨越一个 token 窗口后,仅在窗口末尾对状态进行一次量化。在窗口内部,输出由固定的低比特状态与高精度的缓冲更新共同计算。其次,为减少每次量化引入的误差,LeapQuant 保留状态中幅值最大的离群项,将其作为少量高精度的 Compensator Tokens,并使其与真实 token 共享更新路径。随后,我们在量化前对剩余残差进行平滑,以进一步降低误差。在 Qwen、Kimi 和 GLM 模型系列上的综合实验表明,LeapQuant 能够显著降低推理期间的内存和计算成本。在精度与 FP32 基线相当的情况下,该方法在 NVIDIA B200、RTX PRO 6000 和 RTX 5090 GPU 上实现了内核级平均 2.05--3.70$\times$ 的加速,以及端到端推理 1.47$\times$ 的加速。

Hacker News 熱門73

GLM-5.3 与先进网络能力的扩散

文章链接: https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities 评论链接: https://news.ycombinator.com/item?id=49897075 得分:13 评论数:5

arXiv cs.AI73

超越准确率:LLM 临床评估中的反事实脆弱性与人口统计学偏见

临床 LLM 评估通常强调答案准确率;然而,仅凭准确率无法检验反事实一致性或人口统计学稳健性。我们使用两种自动扰动测试,在 150 道 MedQA USMLE 题目上评估了六个 LLM 的表现。反事实有效性(CFV)测试要求每个模型做出一个最小且合理的临床改动,使另一个答案成为正确答案。人口统计学稳健性测试在同一病例描述前添加六种人口统计学前缀,并将答案和解释与无人口统计学信息的基线进行比较。在 900 次 CFV 尝试中,228 次(25.3%)有效,672 次无效。在 5,400 次人口统计学比较中,有 1,097 个答案发生了变化(20.3%)。自动评判识别出 3,128 个刻板印象证据标记,其中 1,932 个属于广义的 Other 类别。MedGemma 27B 取得了最高的准确率(87.1%)和 CFV(63.3%)、最低的答案变化率(16.0%),以及较低的平均 Explanation Demographic Dissonance(EDD)分数(0.169)。然而,其准确率仍高于其 CFV,表明正确答案并不能保证在反事实有效性任务上的可靠表现。OpenBioLLM 的答案变化率和 EDD 最高,而 GLM 的刻板印象标记率最高。这些发现表明,准确率、CFV、答案稳定性、EDD 和刻板印象证据捕捉的是不同的评估方面。由于所有判断均为自动化完成,且没有临床医生验证,因此结果支持安全性筛查,但不能证明该模型具备临床部署能力。

Hacker News 熱門56

Turning GLM-5.3-Flash into a Jev-like decision model

We found an approach to get Jev-like properties from standard LLMs like GLM-5.3-Flash. The core idea is to craft the input prompt so that the first output token answers the question. This makes it possible to get a decision with a single forward pass. In the blog post, we describe the approach in detail for GLM-5.3-Flash and vLLM. We benchmark this setup against Jev and Laya. We find that our setup is on-par with Jev in terms of accuracy and speed and that it substantially outperforms Laya. Still, in terms of costs per decision, Jev is several x better than our setup. In turn, our setup supports vision inputs. Comments URL: https://news.ycombinator.com/item?id=49857656 Points: 5 # Comments: 1

arXiv cs.AI80

Rufus-Air:一种开放的大语言模型后训练方案

Rufus-Air 是一种基于 GLM-4.5-Air-Base (106B-A12B) 的开放且可复现的后训练方案,由八个阶段组成的串行流程构成:SFT、推理 RL、编码 RL、指令遵循 RL、通用智能体、编码智能体、搜索智能体和 RLHF。我们详细记录了复现该方案所需的数据、奖励设计、基础设施、阶段顺序以及各阶段结果。训练阶段从基础能力逐步发展到高级能力,奖励信号也从严格且可验证的奖励逐步过渡到更柔性的基于评判器的信号。训练基于开源组件和公开数据,其中许多数据直接按发布版本使用,未进行新的人类标注,也未使用内部蒸馏教师模型。我们的主要发现包括:(i) 多样且高质量的 SFT 能够建立较高的能力下限;(ii) 难度筛选能够将 RL 提示控制在有利于学习的范围内;(iii) 奖励可靠性为阶段排序提供了实用原则;(iv) 基础设施和工程选择是方案本身的一部分,而不仅仅是实现细节。Rufus-Air 的表现优于官方发布的 GLM-4.5-Air 后训练版本,并且具备与规模相近的开放模型相竞争的性能。

arXiv cs.AI85

A2M:MCP 生态系统中经轨迹优化的智能体劫持

使用 Model Context Protocol (MCP) 的智能体依赖语义匹配从第三方服务器中选择工具,这使攻击者控制的元数据和输出暴露出语义供应链风险。我们提出了 A2M(吸引—操纵),这是一个用于劫持 MCP 智能体的两阶段黑盒框架。吸引阶段优化工具元数据,以提高工具被调用的概率;操纵阶段利用执行轨迹来改进对抗性工具返回结果,引导智能体朝向攻击者期望的结果。在 LiveMCPBench 上,针对 GLM-4.6 优化并评估的直接攻击,在四种场景下实现了 93.6% 的恶意工具调用率宏平均值;在认知拒绝服务场景下,将加权令牌成本提高至良性基线的 32.4 倍;并在信息窃取、环境完整性破坏和推理偏离三个场景下取得了 74.4% 的平均攻击成功率。在无需重新优化的情况下迁移到另外四个模型后,相应的宏平均值分别为 63.6%、2.7 倍和 24.5%。这些发现表明,MCP 生态系统需要更严格的工具审查和运行时隔离。代码已公开发布于 https://github.com/Lilaizhen/A2M。

arXiv cs.AI82

Version- and Scope-Aware Question Answering over Normative Documents: A Deployed System and an End-to-End Evaluation at Production Scale

Correctly answering a question grounded in normative documents often depends on information outside any single passage: whether the retrieved document is the version currently in force; whether it applies to the jurisdiction, subject (such as an institution or applicant), and date at issue; and whether each normative claim can be traced to its supporting source text. Hosted retrieval services have substantially lowered the engineering cost of building an initial system over such corpora, making "upload the documents and ask" a common default. We evaluate this default on approximately 73,000 candidate normative documents supplied to a production deployment. The evaluation uses a stratified sample of 200 questions from our published benchmark, with a gold source document for every question; the released sampling rule reads no system outputs or scores. We compare the hosted service with a governed system that resolves version and scope through explicit rules before generation. The governed system scored 97.7 overall, while the hosted service scored 88.1, a gap of 9.6 points computed from unrounded means. The question set, the answer text evaluated for both systems, the scores, and the scripts used to reproduce the reported benchmark statistics are public. The governed configuration has operated as a commercial product since January 2026 and serves 1,126 registered users; named customer organizations include Zhipu AI and Lecheng Health. By mid-April 2026, it had reached roughly 100,000 calls per workday.

arXiv cs.AI69

QART: A Quantum-Classical Hybrid Architecture for Long-Horizon Reasoning -- Exploring a Conditional Path toward Quantum Scaling

Long-horizon reasoning is vulnerable to early errors that compromise later decisions. We present QART, the Quantum-Augmented Reasoning Transformer, a quantum--classical hybrid architecture combining a backbone language model with quantum encoding, CIM-based QUBO optimization, and quantum decoding. Semantic information can come from hidden representations or model-generated text; detailed encoding and optimization procedures remain proprietary. Under explicit assumptions, we establish a conditional asymptotic reliability separation from single-trajectory autoregressive LLMs. For a common task family with aligned optimality and acceptance criteria, autoregressive acceptance probability tends to zero when cumulative conditional risk of irreversible errors diverges. QART's task-optimal-path recovery probability remains bounded away from zero if conditional probabilities for optimal-path coverage and semantic fidelity, spectral certification, dynamical reachability, and faithful readout remain uniformly positive under a specified resource schedule. The architecture alone does not imply these bounds. Paired measurements on six long-horizon benchmarks using DeepSeek V4 Flash, GLM-5.3, and GPT-5.5 xhigh in a Codex agent environment favor QART in 14 of 15 backbone--benchmark pairs. Relative gains reach 84.0% on SciCode, 47.6% on $τ^3$-Bench, and 44.4% on Terminal-Bench 4.0; the DeepSeek V4 Flash configuration regresses by 7.8% on DeepSWE. These results do not directly validate the asymptotic separation. Potential quantum scaling laws are formulated as conditional hypotheses. A quantum-advantage interpretation requires a demonstrated CIM quantum advantage over strong classical solvers and its transfer to end-to-end reasoning after all system overheads.

Hacker News 熱門88

Java 27 已发布

文章网址: https://mail.openjdk.org/archives/list/announce@openjdk.org/thread/ORGGLMN75HFEWP7YL3ZLGHLYHVIBJDYT/ 评论网址: https://news.ycombinator.com/item?id=49712041 分数:25 评论数:3

arXiv cs.AI75

重新思考面向次二次注意力的异构系统解耦

前沿语言模型正更积极地使用次二次注意力,以在推理期间降低内存占用和计算需求,同时仍保持前沿准确率。尽管现有系统会围绕以稠密注意力为中心的解耦式服务做出决策,但我们表明,围绕次二次注意力 LLM 独特的算术强度和内存占用来解耦推理,可以在新兴的基于 DRAM 和纯 SRAM 的异构系统上实现显著的吞吐量和能效提升。 我们提出 SQD (SubQuadratic Disaggregation),这是一种细粒度异构解耦方案,它按二次注意力和次二次注意力而非按算子类型来拆分解码,并且适用于各种次二次注意力变体。对于稀疏注意力 LLM,我们将解码解耦为 top-k 选择和 top-k 注意力加 FFN,其中 top-k 选择必须索引完整 KV,而 top-k 注意力加 FFN 具有静态内存占用。对于线性注意力和滑动窗口注意力 LLM,我们将解码解耦为稠密注意力层和次二次注意力层加 FFN。在调整后的 8xB200 异构系统代理中,相比最强的纯 GPU 基线,我们观察到 GLM 5.2 上平均 tokens/J 提升 53%,Nemotron 3 Ultra 上提升 31%,Gemma 4 31B 上提升 56%。在一个具有固定功耗预算的 Rubin 加 LPX 系统分析模型中,相比注意力-FFN 解耦的最佳基线,我们观察到可实现延迟收紧 1.2x 到 1.5x,吞吐量最高提高 3.6x。我们的实验还揭示了面向服务次二次注意力的下一代异构系统在芯片和互连配置方面的架构洞见。

arXiv cs.AI77

在时间上锚定临床事件:保留 UID 的多模态重建与基于来源的裁决

临床时间线支持治疗窗口分析和无数据泄漏建模,但出院小结往往掩盖事件时序,结构化 EHR 表格也只能描述患者病程的一部分。我们提出了一个保留 UID 的框架,将每次叙述性事件发生与其来源文本片段关联起来,并通过纯文本估计、结构化证据检索、带时间戳的源行锚定和联合修订,在整个过程中保留该身份。我们还提出了 GAVEL,这是一种 LLM 评判器,可将两个 UID 对齐的时间线与叙述和结构化记录进行比较,从而增强既有的匹配和时间评估。基于六个开放权重模型和 40 份混合重症监护摘要,与其纯文本版本相比,GLM 5.2 多模态修订在不降低事件恢复率的情况下提高了时间一致性,并且其表现具有与临床医生标注相竞争的水平;而其他模型的修订版本增益较小,整体表现也较低。消融实验表明,UID 主要用于保留事件,而源行关联则支持时间定位。盲法人工审查支持了 GAVEL 的大多数判断;受控裁决显示,多模态 GLM 5.2 优于纯文本版本,但 DeepSeek V3.2 并非如此。在开发 UID 和评判器流程的过程中,我们证明了事件恢复率提高了 43\%,构建出了具有与临床医生标注相竞争表现的框架,并实现了一个能够为重建和评估提供事件发生级溯源的系统。

arXiv cs.AI82

将跨语言临床标注投影作为受约束的文本生成:一项六语言研究

背景:旨在确定跨语言临床标注投影能否被表述为一种保留文本、面向文档级别的生成任务,以生成可验证的字符级标注,用于构建多语言临床语料库,并刻画其相较于基于候选项的投影流程的稳健性与计算权衡。方法:我们开发了一套受约束的 LLM 投影工作流,将实体标签直接插入不可变的目标语言文本中,随后进行确定性验证和字符偏移重建。我们同时评估了监督式候选跨度投影方法,以及用于将西班牙语 Disease、Symptom 和 Procedure 标注转移到六种语言的混合式 ML-LLM 优化方法。评估采用 MultiClinAI 金标准,并使用严格跨度匹配和字符重叠 F1。结果:直接 LLM 投影取得了最强且最稳定的性能。GLM 5.2 在 18 个语言-实体组合上的平均 Strict F1 达到 0.9201,而可在本地部署的 Gemma4:31B 达到 0.9133。在全部 18 种设置中,最佳 LLM 配置的 Strict F1 均超过此前的最新水平,提升幅度为 0.0564–0.1512,并生成了 55,416 条完成偏移重建且具有依据的提及。结论:基于直接 LLM 的投影能够实现高质量的多语言临床标注转移,并为将临床 NLP 资源扩展到标注数据集和语言专用工具较少的语言提供了一种实用方法。结合本地推理和确定性验证,该方法可以显著减少构建多语言临床语料库所需的专家时间和成本。

arXiv cs.AI73

MVFA:一种用于情感分析和情绪识别的多视角文本引导多模态融合 LLM 适配器

对话中的多模态情感分析和情绪识别需要对文本、声学和视觉模态之间的异构交互进行有效建模。尽管大型语言模型(LLM)具备强大的语言理解能力,但将其适配到多模态情感计算仍然面临挑战:全模型微调的计算成本过高,而许多现有的轻量级适配器无法在跨模态融合过程中保留丰富的文本线索。为解决这些局限性,我们提出多视角文本引导多模态融合适配器(MVFA),这是一种参数高效的框架,能够为冻结的 LLM 增强强大的多模态推理能力。MVFA 首先通过最大池化、平均池化和注意力池化构建互补的文本视图;随后,这些视图引导音频和视觉特征之间的跨模态交互。融合后的多模态表示通过 Enhanced Q-Former Fusion Module 进一步压缩为一组紧凑的可学习伪标记。我们以 ChatGLM3-6B-base 作为主要主干模型,并在 LLaMA2-7B 和 Qwen3-8B 上进一步验证 MVFA,以考察其在多个冻结 LLM 主干模型之间的可移植性。MVFA 在三个具有挑战性的数据集上进行了评估:CH-SIMS V2.0、MELD 和 CHERMA。实验结果表明,MVFA 仅更新很小一部分参数,便在关键指标上取得了最先进的性能。具体而言,在 CH-SIMS V2.0 上达到 84.62\% Acc2 和 84.59\% F1,在 MELD 上达到 67.36\% Acc 和 66.03\% WF1,在 CHERMA 上达到 74.66\% Acc。这些结果表明,多视角文本引导融合是情感计算领域一种有效且可扩展的参数高效多模态 LLM 适配范式。代码公开于 https://github.com/Overwhelm1208/MVFA。

arXiv cs.AI79

Defense-as-Skill:为技能增强型智能体演化运行时防护技能

技能增强型智能体将可复用技能作为持久的运行时上下文加载,从而提升任务表现,但也为恶意技能提供了一个持久渠道来操控后续动作。这类技能可能泄露机密、破坏代码、绕过审批,或在具体用户任务和工作区状态使不安全操作看起来有用之后,再为数据外泄做准备。这使得安装前审查不足,并需要在运行时基于任务条件提供保护。我们提出 Defense-as-Skill,一种将运行时防护本身实现为可安装、可检查和可编辑技能的防御范式。我们的防护器 SkillSonar 与不可信任务技能并行运行,并将敏感操作与用户任务边界进行比对,无需修改底层智能体运行时即可将每个操作导向允许、重新规划或确认决策。为研究这一设定,我们构建了 SCOPE-R,一个任务条件化数据集,涵盖 6 个风险家族和 21 个子类别,包含 206 个经攻击确认的恶意实例和 43 个良性任务。随后,我们在 SCOPE-R 训练子集上利用运行时防护技能演化来改进 SkillSonar;这是一种 Monte-Carlo Tree Search 过程,可根据 rollout 的反馈演化磁盘上的防护技能。在 Claude Code 和 OpenClaw 上,演化后的防护器显著降低了攻击成功率,同时保持了良好的安全-效用权衡。在重复的 GLM-5 运行中,SkillSonar 将 ID ASR 从 0.482 降至 0.104,将 OOD ASR 从 0.606 降至 0.115。进一步分析表明,该方法可跨受害模型、留出风险家族和外部基准迁移,并且对自适应攻击者仍保持防护能力。消融实验进一步表明,显式的安全责任分配和技能原生表示对于所观察到的收益都很重要。

arXiv cs.AI78

审计匿名 AI 模型:用于黑盒身份验证的四阶段协议

2025--2026 年的 AI 市场出现了一波隐身发布:前沿模型以代号匿名上线开发者平台。对于用户而言,身份决定数据处理条款、供应链风险和能力预期。针对匿名模型的黑盒身份验证,目前不存在经过验证的方法论:从业者清单缺乏准确性证据,而自我标识在设计上就不可信。我们提出一个适用于 API 提供服务模型的四阶段取证审计协议。Stage 0 通过 Internet Archive 的归档平台快照重建发布时配置,揭示预览版与生产版之间的偏移。Stage 1 将配置特征(上下文、输出上限、推理、模态)与平台目录进行指纹比对。Stage 2 使用跨长度差分测试 tokenizer 身份,以排除短提示碰撞。Stage 3 通过行为探针进行佐证。我们在 10 个已知身份的发布版本上测试声明一致性(7 个完全一致、2 个精度差异、1 个部分一致、0 个反向),而不是在匿名条件下进行端到端识别。该识别方法在一个旗舰案例上得到前瞻性验证:其 2026-08-23 的分析指向 GLM-5.3 版本线,而官方揭晓证实了这些系列和版本线推断(部署变体并未事先断言;揭晓后 Flash 与之相符),以及 3 个仅进行 Stage 0 的案例,在这些案例中该协议给出了分级假设或选择不猜测。补充材料提供了一个仅使用标准库的实现。

Hacker News 熱門85

GLM-5.3 现已开放权重

https://twitter.com/Zai_org/status/2093354097122455713 https://z.ai/blog/glm-5.3 评论 URL: https://news.ycombinator.com/item?id=49479878 得分:390 评论数:139

Hacker News 熱門74

GLM-5.3 Artificial Analysis 基准测试

文章 URL: https://artificialanalysis.ai/models/glm-5-3 评论 URL: https://news.ycombinator.com/item?id=49353407 点数:32 评论数:7