利用 Multi-Task QLoRA 进行社交媒体上的可解释自杀风险评估
Explainable Suicide Risk Assessment on Social Media with Multi-Task QLoRA
精选理由
介绍多任务QLoRA提升社交媒体自杀风险评估可解释性的实用方法。
AI 摘要
arXiv:2610.00610v1 公告类型:cross 摘要:可解释的自杀风险评估不仅要求模型估计风险严重程度,还要求识别帖子中表达的支持性语言以及风险因素和保护性因素。我们介绍了参加 IEEE BigData 2026 Cup 社交媒体可解释自杀风险评估赛题的系统,该系统涵盖三个任务:风险等级分类、证据短语提取和多标签因素识别。我们采用量化低秩适配(QLoRA)和答案掩码因果语言模型目标,对 Qwen2.5-Instruct 模型进行适配。针对风险分类,我们在全部三个任务上进行联合训练;针对证据提取,我们在 Task~1a 和 Task~1b 上进行联合训练;针对因素识别,则单独适配 Task~2。我们还针对不同输出定制了聚合方法:对 32B 和 72B 模型输出的风险等级概率取平均;通过跨折共识合并证据短语;根据折外运行点,通过速率匹配校准特定因素的决策。在官方排行榜上,最终系统取得了 0.7738 的综合得分,其中 Task~1 得分为 0.8089,Task~2 得分为 0.6919。在评估的各项配置中,三任务训练在 Task~1a 上表现最佳;在 Task~1a 和 Task~1b 上进行联合训练在 Task~1b 上表现最佳;针对任务的专门训练在 Task~2 上表现最佳。当组成模型的错误具有互补性时,概率平均进一步提升了 Task~1a 的表现。这些发现表明,在统一的语言模型框架内,根据每个任务的输出结构定制训练目标和聚合策略具有重要价值。