arXiv cs.AI精选82

MultiGhostBench:一个用于长篇 LLM 生成文本在分布偏移下归因的多语言基准

MultiGhostBench: A Multilingual Benchmark for Long-Form LLM-Generated Text Attribution under Distribution Shifts

· 41天前

精选理由

提供多语种长文本归因基准,助评估鲁棒检测方法。

AI 摘要

尽管现有关于 LLM 作者归因(AA)的研究已经取得进展,但可用基准仍然有限,往往只关注英语、受控环境或相对较旧的模型,而少数多语言研究也只考虑了相对较短的文本。我们提出 MultiGhostBench,这是一个多语言基准,包含由五个较新的 LLM 生成的 928 本书,覆盖六种语言和三种文字系统,平均每本书长度约为 59K 词。该基准支持在领域、作者和语言偏移下进行评估。对代表性 AA 方法的评估表明,没有任何单一方法能在所有设置中始终表现最好,而且在分布偏移下性能通常会下降。基于 Transformer 的检测器能够跨语言保留与生成器相关的信息,不过迁移效果会因语言对而异;而统计和指纹式检测器则更依赖语言。我们认为 MultiGhostBench 将成为开发和评估稳健 AA 方法的重要资源。数据集和代码见 https://github.com/GrecoMT/MultiGhostBench。

查看原文(arXiv cs.AI)