GeneICL：用于批量转录组学的表格基础模型

arXiv:2610.08694v1 公告类型：新增 摘要：基因表达在生物医学领域得到广泛测量，但临床结局预测仍然具有挑战性，原因在于维度高、特征相关性强且带标签数据有限。大型自监督转录组基础模型往往无法超越简单的监督式基线。表格基础模型通过上下文学习提供了一种替代方案，但其通常基于通用合成数据进行预训练，而非基于转录组结构。我们探讨了这样一个问题：缺失的关键因素是否是转录组感知的预训练，而不是模型规模。为此，我们提出 GeneICL，这是一种拥有420万参数的表格基础模型，将基于实测批量表达谱构建的半合成预训练先验与参数高效的循环架构相结合。我们进一步通过使用 Cox 部分似然残差将回归问题作为一种无需训练的简化方案，从而实现右删失生存预测。我们在涵盖分类、回归和生存分析的80项临床结局预测任务上评估了 GeneICL。表格基础模型始终优于自监督转录组模型，而 GeneICL 在所评估的基础模型和调优基线中取得了最佳总体排名。GeneICL 的参数量最多减少至原来的 1/387，推理时无需进行梯度更新，并且能够在笔记本电脑 CPU 上于数秒内完成预测。