arXiv cs.LG精选79

ABLEIST:LLM 生成的招聘情境中的交叉性残障偏见

ABLEIST: Intersectional Disability Bias in LLM-Generated Hiring Scenarios

· 2天前

精选理由

揭示招聘场景中大模型对残障者及性别、种姓交织群体的偏见,为改进高风险 AI 评估提供依据。

AI 摘要

arXiv:2510.10998v2 公告类型:replace-cross 摘要:大型语言模型(LLM)因在招聘等高风险领域延续基于身份的歧视,尤其是针对残障人士(PwD)的歧视,正受到越来越多的审视。然而,现有研究仍主要以西方为中心,忽视了性别和种姓等相互交织的边缘化形式如何塑造全球南方残障人士的经历。我们对六个 LLM 进行了全面审计,涵盖 2,820 个招聘情境,涉及不同的残障、性别、国籍和种姓背景。为捕捉隐蔽的交叉性伤害与偏见,我们提出了 ABLEIST(健全主义、励志化、超人化和象征性纳入),这套指标以残障研究文献为基础,包括五项健全主义特定伤害指标和三项交叉性伤害指标。结果显示,针对残障候选人的 ABLEIST 伤害显著增加,而许多最先进的模型未能检测出这些伤害。对于因性别和种姓而被边缘化的残障候选人,交叉性伤害(例如象征性纳入)急剧增加,进一步放大了上述伤害。这凸显了当前安全工具的重大盲点,以及在招聘等高风险领域对前沿模型开展交叉性安全评估的必要性。

查看原文(arXiv cs.LG)