arXiv cs.LG精选78

预测未见过的科学交互作用:条件流模型会臆造非加性效应

Predicting Unseen Scientific Interactions: Conditional Flow Models Hallucinate Non-Additive Effects

· 1小时前

精选理由

揭示流模型可能在总体预测准确时仍误判未见条件下的交互效应,提醒研究者检验交互可识别性与泛化可靠性。

AI 摘要

arXiv:2610.20288v1 公告类型:新论文 摘要:条件生成模型正越来越多地用于超出训练数据直接覆盖范围的科学预测。然而,科学问题往往关注的是一种干预是否会改变另一种干预的效果。这类交互作用可能是研究的核心关注点,却只能解释总变异中的很小一部分,因此模型即使未能还原相关科学效应,整体上仍可能显得准确。目前尚不清楚这些模型如何学习交互作用,以及何时能够将其成功外推至未见过的条件。因此,我们利用生理时间序列模拟器、药物剂量—反应数据、组合式细胞扰动和分子构象生成任务,研究流匹配模型对交互作用的还原能力,并区分真实交互作用的还原与臆造的交互结构。在受控环境中,模型学习单独效应的时间远早于学习交互作用的时间,而且会在不存在交互作用的情况下臆造出交互作用。在不同场景中,我们发现了性质不同的泛化问题,预测能否成功取决于条件结构是否从已观测目标延续到留出目标。如果能够延续,交互作用就可以被还原;否则,模型可能生成看似合理的响应,却未能捕捉交互作用。我们进一步发现,随着目标的可辨识性降低,臆造现象会增多;即使在输出空间中成功还原了交互作用,经过非线性读出后也可能失效。最后,我们表明,汇总保真度指标可能掩盖模型是否真正学会了交互作用并能够对其进行外推。

查看原文(arXiv cs.LG)