arXiv cs.LG精选74

ReMedI:推理时优化与自蒸馏,实现可控的分子优化

ReMedI: Inference-Time Refinement and Self-Distillation for Controllable Molecular Optimization

· 1小时前

精选理由

以推理时搜索结合自蒸馏,低数据成本实现更强的多目标分子优化并保持结构相似性

AI 摘要

arXiv:2610.32103v1 公告类型:新 摘要:在药物开发中,先导化合物优化必须改善相互竞争的性质,例如提高渗透性并降低毒性,同时限制可能损害先导化合物效力的骨架变化。基于强化学习的后训练方法(如 C-MORAL)通过微调分子语言模型,使其直接针对感兴趣的目标优化分子先导化合物,从而应对这一问题;但这类方法依赖昂贵的特定任务数据集,并且在实现多目标优化(MOO)方面面临挑战。我们认为,预训练模型可能已经包含有用的分子编辑操作,而零样本生成无法高效地触及这些操作。受零样本生成搜索能力有限的启发,我们开发了一种高效的 Metropolis-Hastings 搜索策略,以更充分地探索提议分布。我们提出 ReMedI,将分子语言模型作为推理时对齐的基础提议器。给定一个先导化合物和一组多目标任务,模型根据当前分子提出编辑方案,而 Metropolis--Hastings 优化则在属性改进、属性保持和先导化合物相似性目标的约束下,引导连续的编辑过程。在 C-MuMOInstruct 和 SMDD 基准测试中,优化过程在三个骨干模型上均提升了冻结基础模型的性能,相较基线方法取得了显著更高的多目标优化成功率。随后,这些搜索轨迹可以被蒸馏到基础模型中,从而改善零样本生成和后续搜索,并且所需的训练分子先导化合物数量约为 C-MORAL 的 1/7.8。ReMedI 达到了强化学习基线 C-MORAL 约 2.8 倍的严格成功覆盖率,在分布外任务上同样如此,同时保持了匹配的相对于先导化合物的相似性。

查看原文(arXiv cs.LG)