arXiv cs.LG精选73

SIRF:面向工业级内容风险管控的规范内化风险基础模型

SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control

· 1小时前

精选理由

将复杂平台规则内化进模型,在高精度、低延迟审核中提升风险识别能力,并降低误罚。

AI 摘要

arXiv:2609.11752v2 公告类型:替换并交叉收录 摘要:对于工业级内容风险管控,实际部署的约束并非平均准确率,而是在高精确率和秒级延迟下能够自动处理多少风险。我们提出 SIRF(Spec-Internalized Risk Foundation Model),通过 EntiGraph、MAGA 改写和账号级思维链(CoT),在无需额外人工标注的情况下合成平台的复杂政策数据,再通过持续预训练(CPT)将其内化到模型权重中,从而在超低延迟、仅输出判定结果的部署模式下,以高精确率执行规则。受控的同源对比(Qwen3-8B-SFT 与 SIRF-8B-SFT,采用相同的政策注入方式和仅输出判定结果的形式,唯一区别是是否进行以政策为依据的 CPT)表明,性能提升源于内化:SIRF-8B-SFT 的 Black Recall@P95 达到 71.3%,较基线提升 15.1 个百分点,仅使用约 7000 万个 CPT token,且未损害通用能力;在纳入比较、采用该接口且可获取 logprob 的模型中,其表现持平或超过规模大得多的系统。SIRF 已作为树模型的裁决层部署(纠正的误处罚样本增加 20%),并以较低成本迁移到冻结场景(误处罚相对减少约 70%)。

查看原文(arXiv cs.LG)