arXiv cs.LG精选71

PREBA:通过 PCA 加权的检索增强 LLM 与贝叶斯平均聚合预测手术时长

PREBA: Surgical Duration Prediction via PCA-Weighted Retrieval-Augmented LLMs and Bayesian Averaging Aggregation

· 1小时前

精选理由

为手术时长预测提供无需微调、结合本院病例证据的方案,提升准确性与稳定性,助力医院优化资源调度。

AI 摘要

arXiv:2603.13275v4 公告类型:替换 摘要:准确预测手术时长对医院资源管理至关重要。尽管近年来从机器学习(ML)到经过微调的大语言模型(LLM)的监督学习方法表现出色,但它们仍受制于对高质量标注数据和计算密集型训练的需求。相比之下,LLM 零样本推理提供了一种前景可观的免训练替代方案,但缺乏特定医疗机构的临床证据支撑,导致其预测与临床实际不符,且容易出现不稳定性。为解决这些局限,我们提出 PREBA,这是一个融合 PCA 加权检索与贝叶斯平均的检索增强框架,无需针对特定任务进行微调,即可让 LLM 的推理以特定医疗机构的证据为依据。具体而言,PREBA 首先将异构临床特征编码为统一表示。随后,它执行 PCA 加权检索,根据每个维度对机构内病例间变异的贡献进行加权,而非将各维度视为具有同等信息量,并以检索结果为条件,引导 LLM 生成多个候选预测。最后,贝叶斯平均将这些预测与群体层面的统计先验相结合,得出经过校准、稳定且符合临床实际的估计。我们使用 Qwen3、DeepSeek-R1 和 HuatuoGPT-o1 这三个先进的 LLM,在涵盖不同机构和语言的四个真实世界数据集上评估 PREBA。PREBA 的表现始终优于零样本推理,平均绝对误差(MAE)降幅最高达 64.9%,决定系数 R² 最高提升至 0.63。此外,其准确性可与完全监督的 ML 方法相媲美,并在多个数据集上优于这些方法,同时通过检索到的示例和显式先验提供更强的可解释性。代码已发布于 https://github.com/kanxueli/PREBA。

查看原文(arXiv cs.LG)