Debias Anything:在扩散模型中实现无需监督的公平性与多样性
Debias Anything: Fairness with Diversity without Supervision in Diffusion Models
精选理由
无需敏感属性标注,即可兼顾扩散模型生成的公平性与多样性,提升应用可靠性。
AI 摘要
arXiv:2610.01815v1 公告类型:新 摘要:尽管扩散模型能够生成高质量图像,但它们也会再现并放大训练数据中的人口统计不平衡。在训练后针对某些敏感属性对其生成过程进行去偏,通常依赖分类器引导或显式的文本额外条件,但这会降低方法的适用性和输出多样性。相反,仅促进多样性的方法并不能确保属性得到公平表示。本文提出了一种联合处理公平性与多样性的方法,能够普遍适用于任何扩散模型和任何敏感属性。为此,我们通过一个适配器将冻结的扩散模型连接到预训练的视觉语言嵌入空间,从而无需敏感属性标注即可实现公平性与多样性引导。对于公平性,我们利用成对的文本提示定义属性方向,引导批次构成趋向特定比例。对于多样性,我们引入了一个分数,用于衡量从该表示中得到的语义估计之间的不一致程度。该方法支持无条件扩散模型和文本条件扩散模型,同时无需预先了解敏感属性,也无需相关数据。实验表明,在公平性水平相当的情况下,我们的方法能够提升质量和多样性指标。