SIRF:规范内化风险基础模型,用于工业内容风险控制
SIRF: A Spec-Internalized Risk Foundation Model for Industrial Content Risk Control
精选理由
深度 91 / 可操作性 82,来自 arXiv cs.AI。
AI 摘要
对于工业内容风险控制而言,真正的部署约束不是平均准确率,而是在高精度和秒级延迟下能够自动处理多少风险。我们提出 SIRF(规范内化风险基础模型),通过 EntiGraph、MAGA 改写和账号级思维链(CoT)合成平台复杂策略,无需额外人工标注,再通过持续预训练(CPT)将其内化进模型权重,使模型能够在超低延迟、仅输出裁决结果的部署模式下以高精度执行规则。受控的同源对比实验(Qwen3-8B-SFT 对比 SIRF-8B-SFT;策略注入方式和仅输出裁决结果的形式完全相同,唯一差异在于基于策略的 CPT)表明,性能提升源于策略内化:SIRF-8B-SFT 的 Black Recall@P95 达到 71.3%,较基线提升 15.1 个百分点,仅使用约 7000 万个 CPT token,且未损害通用能力;在纳入对比且可通过该接口获取 logprob 的模型中,其性能达到或超过了规模大得多的系统。SIRF 已作为树模型裁决层部署,使被误处罚的样本恢复量提升 20%;迁移到冻结场景时成本也较低,使误处罚率相对降低约 70%。