利用医疗标记进行覆盖感知推理的诊断预测

arXiv:2610.10641v1 公告类型：new 摘要：大型语言模型（LLM）凭借整合纵向临床证据并以自然语言进行推理的能力，在下一次就诊诊断预测方面展现出巨大潜力。然而，针对 LLM 推理的强化学习通常根据每条推理轨迹最终答案的正确性对其进行奖励。在下一次就诊诊断预测中，多个诊断可能同时有效，但对每条轨迹中的一个诊断分别给予奖励，无法区分重复命中与对不同诊断的覆盖。因此，策略可能会集中于少数几个正确诊断，而遗漏其他诊断。与此同时，LLM 的分词器可能会将 ICD 编码拆分为多个临床含义有限的通用标记，导致预测每个诊断都需要多次解码，并妨碍模型在庞大疾病词汇表上进行推理。为应对这两项挑战，我们提出 CARing 框架，利用组合式语义 ID（SID）表示诊断，并针对多标签覆盖优化推理轨迹。具体而言，我们首先通过残差量化，将本体增强的疾病语义编码为紧凑的 SID；随后通过多任务对齐和推理增强训练，将生成的 SID 标记与自然语言及纵向 EHR 上下文建立联系，从而释放可迁移的 LLM 推理能力。CARing 进一步通过强化学习中的覆盖奖励和多正例监督，改进无序多标签预测。在推理阶段，该模型同时支持高效的直接约束解码和结合排序融合的多链推理。在 MIMIC-III 和 MIMIC-IV 上，CARing 在加权 F1 指标上超过所有基于 EHR 训练的基线模型，并在所有报告的截断值下都取得最高的 top-k 召回率，其中推理模式下的 R@30 分别达到 46.04% 和 46.52%。我们的代码和日志可在 https://github.com/zmlxzyh/CARing-Codes-Logs 获取。