MedRSI:通过临床对齐的自我进化实现医疗智能体的递归自我改进
MedRSI: Recursive Self-Improvement for Medical Agents via Clinically Aligned Self-Evolution
精选理由
提出面向医疗安全的递归自我改进框架,让智能体从诊断失败中持续学习并积累新能力。
AI 摘要
医疗智能体日益将通用推理模型与专业临床工具相结合,但其能力在很大程度上仍受部署前由临床医生和工程师所设计内容的限制。递归自我改进(RSI)提供了一种不同的范式:智能体从自身失败中学习,并自主扩展其能力。然而,将 RSI 直接应用于医疗领域会带来根本性的安全挑战。我们提出了 MedRSI,这是首个面向医疗领域的递归自我改进框架。该框架通过工具组合和特定任务模型训练,持续将诊断失败转化为新的临床能力。受临床实践启发,MedRSI 引入了两种临床对齐的自我进化机制。临床成本感知的失败优先级排序根据错误可能造成的临床后果,而非仅依据错误频率,来确定改进方向。快速发现与缓慢注册机制将能力的快速发明与保守采用分离开来,只有当新工具在后续患者队列中持续展现出益处后,才会被纳入持久化智能体。在公开的青光眼和心脏病基准以及两个私有临床任务上,MedRSI 逐步发展出分割、测量、预测、多模态推理和生成能力,超越了人工设计的医疗智能体,并自主发现了原始设计者未曾预见的临床问题解决方案。我们的结果表明,医疗智能体不必始终受限于部署前规定的能力:通过以临床为基础的机制来决定改进什么以及保留什么,它们能够从诊断经验中持续构建、验证并积累新的能力。代码可在 https://github.com/ImprintLab/MedRSI 获取。