用于系统分析 Transformer 和 RNN 在纤维束追踪中的应用基础
A foundation for systematic analysis of transformers and RNNs for tractography
精选理由
比较Transformer与RNN纤维束追踪性能,指导模型训练与评估。
AI 摘要
arXiv:2610.01894v1 公告类型:新 摘要:机器学习(ML)已成为改进弥散磁共振成像(dMRI)纤维束追踪的一种有前景的方法,但该任务仍受限于局部弥散信息与全局解剖学合理性之间固有的矛盾。在本研究中,我们系统评估了用于迭代式纤维束追踪的循环神经网络(RNN)和 Transformer 模型,重点关注训练策略、输入表示(包括基于卷积神经网络(CNN)的嵌入和序列结束(EOS)标记)以及超参数选择。我们引入了一个生成-验证阶段,使训练期间能够在流线层面进行监督,从而尽管局部损失函数与全局流线质量之间存在不匹配,仍可实现监督。使用 ISMRM2015 纤维束追踪挑战赛数据集时,我们的模型取得了迄今报道的最高性能。通过受控实验,我们量化了缺失纤维束、含噪或不完善的训练流线,以及训练集中的无效纤维所产生的影响。最后,我们展示了性能最佳模型在 Tractoinferno 数据库体内数据上的适用性。总体而言,我们的结果突出了 Transformer 和 RNN 等基于序列的深度学习模型用于纤维束追踪的潜力与局限,并强调了改进仿真体和评估方法对于体内验证的必要性。我们为未来训练和验证基于序列的监督式纤维束追踪方法的研究人员提供了总结与建议。