面向隐私保护的基于 LLM 的模式感知异构调查问卷心理困扰预测分割学习

社会与生活方式日益复杂，这与全球范围内心理困扰发生率的上升有关。教育机构、工作场所、诊所等收集了大量心理健康调查数据，以了解并减轻这一负担。对这类数据进行协作分析，有望构建有效且具备泛化能力的预测模型。然而，隐私限制和多样化的调查设计（即不同的问题、量表和格式）阻碍了数据的直接整合。我们提出了一种具备隐私保护能力的模式感知分割学习（SL）框架，使用大型语言模型（LLM）作为共享语义编码器，以协调不同机构之间的异构调查模式。我们将每条调查记录序列化为自然语言描述，把不同的调查模式统一为一种通用格式。通过低秩适配（LoRA）对 LLM 进行心理困扰评估微调，并将其划分到客户端和服务器两端。客户端在本地保留原始调查回答，仅运行轻量级前端，因此原始记录始终不会离开收集它的机构。计算资源密集型的骨干网络运行在服务器端，从而最大限度地减少客户端的计算负担。使用 LLaMA-3.2-3B-Instruct 时，该框架仅用 2,000 个训练样本便取得了 0.708 的平均 ANLS，在九种设置中的八种超过了联邦学习（FL），并将每个客户端的计算量降低了三个数量级，同时还能泛化到未见过的数据集。总体而言，该框架能够从异构心理健康调查数据中实现准确、隐私保护且资源高效的协作学习。