arXiv cs.LG精选73

OmniMed-Jev:通过 System One 校准 LVLM 置信度,实现可信的医学多模态决策

OmniMed-Jev: Calibrating LVLM Confidence for Trustworthy Medical Multimodal Decisions via System One

· 11天前

精选理由

将医学多模态模型置信度校准为可解释概率,提升决策可信度。

AI 摘要

arXiv:2610.00381v1 公告类型:新 摘要:医学模型不仅要根据正确性进行评判,还要看其报告的置信度是否与实际准确率相符。通用型医学多模态模型拓展了单一模型的感知能力,但它们仍然将诊断、影像所见或细胞计数等有界决策表达为生成文本,因此报告的概率反映的是下一个词元,而不是决策本身。受 Jev 等决策原生接口的启发,我们提出 OmniMed-Jev,将每项医学决策表示为基于运行时提供的候选集进行的 Choice、Noul 或 Score 决策,并返回该候选集上的完整分布:互斥类别、某项所见是否存在的二元判断,或有界的有序数值。该设计在三个方面体现了 omni 特性:它接受多种成像模态,覆盖不同预测任务,并通过一个以候选项为条件的概率模型来表达这些任务,从而使异构输出成为可比较的概率,而非特定于任务的字符串。在与生成式基线进行接口受控的比较中,双方使用相同的骨干网络、数据和训练计划,OmniMed-Jev 报告的概率与观测到的正确性吻合得更为紧密,将校准误差最多降低一个数量级,将可靠性误差最多降低两倍,同时点预测性能保持相当;计数是唯一一个生成式基线仍然领先的任务类别。将决策分布作为模型输出并非格式上的改变,而是使报告的数值真正成为名副其实的概率的关键。这些结果表明,在所评估的任务范围内,显式决策建模有助于使报告的置信度具有实际意义;但它们并不意味着模型已具备临床应用准备度:该比较无法将接口因素与相关的训练差异区分开来,我们也在结果旁对此进行了说明。代码可在 github.com/lytang63/OmniMed-Jev 获取。

查看原文(arXiv cs.LG)