MASCRDM：大型语言模型训练过程中的合规风险检测与缓解多智能体系统

大型语言模型（LLM）已应用于各个领域。然而，确保 LLM 的合规性与安全性，例如避免歧视和偏见，仍然是一项挑战。目前的工作主要集中于检测和过滤已训练模型的输入与输出，而不是实时研究模型的内在架构。为应对这一挑战，我们分析了 LLM 的训练过程，并发现了两个关键问题：1）现有大多数方法在检测和过滤方面主要采用静态方式，只实现了局部优化，未能系统性地提升 LLM 的合规性。2）现有方法的另一个问题是缺乏贯穿整个训练过程的实时风险检测与缓解机制，导致灵活性有限。受此启发，我们在 LLM 训练过程中提出了 MASCRDM（合规风险检测与缓解多智能体系统）。首先，我们基于现有的人工智能（AI）法律制定了一套合规规则，并在合规法律专家的指导下构建了一个合规专用 LLM。随后，我们将 LLM 分解为若干组件，并基于合规知识图谱识别关键节点。在 LLM 训练过程中，我们在整个流程中部署多个智能体，为 LLM 开发者提供合规风险警报和建议。在歧视与偏见基准上的实验表明，我们的多智能体系统能够在保持合理语义性能的同时，有效提升合规性。结果表明，我们的方法为从 LLM 内部系统性缓解合规风险提供了一条可执行路径。