合成数据中的隐藏威胁：通过无害文本进行隐蔽的定向偏见注入

合成数据正越来越多地用于训练大型语言模型（LLMs），但其安全影响仍未被充分理解。先前关于隐性学习的研究表明，模型可能会从看似无关的训练数据中继承行为特征。在这项工作中，我们研究这类机制是否可被利用，通过语义上无害的合成数据向对齐模型注入定向社会偏见。我们构建了一个流程，其中一个未对齐的教师模型在创意写作和代码生成等领域生成经过筛选的合成数据集，随后这些数据集被用于对齐学生模型的微调。我们的实验表明，看似无害的合成数据可以作为传递定向偏见的隐蔽通道，同时在很大程度上保留学生模型的一般任务能力。这些结果揭示了合成数据驱动的 LLM 训练流程中一个此前未被充分探索的安全风险，并凸显了改进防护措施的必要性。作为朝这一目标迈出的一个可能步骤，我们建议，基于对数线性的评分可能为筛查看似无害的合成数据提供有用信号。