VANDAM:借助 DNA 分子先验查看核苷酸序列
VANDAM: Viewing a nucleotide sequence with DNA molecular priors
精选理由
将DNA分子物理先验融入基因组模型,提升多类任务表现与泛化能力。
AI 摘要
arXiv:2610.00411v1 公布类型:新 摘要:当代基因组基础模型(GFMs)依赖于将 DNA 视为字符串的范式,并采用掩码标记预测目标进行预训练。然而,这种抽象并未显式建模对生物功能至关重要的生化、结构和物理特性。许多分子特性可以利用已有的生物物理模型从序列中估计出来,因此,它们的作用并不在于提供一种独立模态,而在于引入训练目标能够显式利用的先验。我们提出 VANDAM,一种利用 DNA 分子先验扩展 GFMs 训练的框架。在自监督训练中,VANDAM 根据池化表示预测区域分子特性。当功能标签可用且能够促使模型保留分子先验时,还会将局部特征额外注入输入。通过补充基于标记的训练目标,VANDAM 在四类架构和九项留出基因组任务中始终提升下游性能。探测实验进一步表明,使用分子先验能够推广到其他未见过的分子特性。