超越离散词元:在医学视觉语言模型中保持数值连续性
Beyond Discrete Tokens: Preserving Numerical Continuity in Medical Vision-Language Models
精选理由
融合语言生成与连续扩散预测,提升超声及X线定量测量精度,为医学影像交互式分析提供新方案。
AI 摘要
目的:开发一种统一的视觉语言模型,用于以提示为条件的超声定量测量,解决连续测量目标与基于离散词元的数值预测之间的不匹配问题。方法:本文提出 HAD-VLM,一种混合自回归与扩散的框架,在共享骨干网络中结合自回归文本生成与连续测量预测。通过视觉提示调优,使视觉编码器适应超声图像。扩散过程预测一个包含测量卡尺端点坐标和测量长度的五分量表示。引入一种后处理策略,将所提出的坐标—长度一致性机制与集成预测相结合,以优化测量估计。我们在 EchoNet-LVH 上评估了四项超声心动图测量任务,并进一步评估了医学问答和 X 线椎体测量。结果:HAD-VLM 在 IVSd、LVIDd、LVIDs 和 LVPWd 上的平均绝对误差分别为 1.36、2.77、3.05 和 1.16 毫米,相较于基于 Vicuna 的自回归基线,误差降低了 21.4–37.6%。在全部四项任务中,其表现也优于微调后的 Qwen3-VL 和直接 MLP 回归。在所评估的数据集上,医学问答性能得以保持。在 X 线椎体测量中,HAD-VLM 将平均绝对误差从 11.4 像素降至 6.7 像素。结论:将自回归语言生成与基于扩散的连续预测相结合,能够提高医学图像定量测量的性能,同时保留以提示为条件的任务灵活性。意义:HAD-VLM 为医学图像定量分析提供了一种统一方法,将语言交互与具有解剖学依据的数值预测相结合。