ALTO：非洲及黎凡特地区技术助长的基于性别的暴力语料库

arXiv:2611.06706v1 公告类型：交叉发布 摘要：技术助长的基于性别的暴力（TFGBV）是一种普遍存在的网络伤害，以多种直接和隐蔽的形式影响女性及性别少数群体。当前，用于检测性别相关伤害的模型和已标注数据集主要依赖全球北方语言的数据，以及使用这些语言训练的模型。我们与来自约旦、西非法语区和肯尼亚的民间社会组织（CSOs）合作，开发了一种由社区主导的方法，通过众包收集符合当地文化和语言背景的黎凡特阿拉伯语、非洲法语和斯瓦希里语 TFGBV 实例。我们利用主动学习对众包数据进行标注，构建了一个名为 ALTO、规模虽小但性能良好的数据集（N=3022），以改进这三种语言中的 TFGBV 检测。通过基准测试和微调实验，我们表明，现有有害内容检测模型在 ALTO 上的 TFGBV 召回率较低，但经过微调后有所提升。我们发现，模型在所有语言中都经常漏检隐蔽伤害，而在斯瓦希里语中的错误率明显更高。我们报告了实验结果，并公开了标注分类体系、数据集和训练后的模型。