arXiv cs.AI精选76

LLM 小说中的角色姓名集中现象:衡量集中转移并减少重复

Character-Name Concentration in LLM Fiction: Measuring Displacement and Mitigating Repetition

· 2天前

精选理由

为大模型小说提供无需重训的角色命名方案,显著减少名字重复,同时保留自然度。

AI 摘要

大语言模型(LLM)创作的小说中,角色姓名集中于“Elara”和“Elias”等少数反复出现的名字,这是 AI 低质内容的一种可量化表现。现有解决方法要么需要访问 logit 或重新训练,要么仅针对单次请求起作用,无法控制整个语料库中的姓名集中程度。提示层面的策略能在多大程度上降低集中程度,又会以牺牲多少姓名自然度为代价,目前尚未得到系统衡量。我们开展了一项实证研究,比较八种策略对姓名集中程度的控制效果,并提出推测式命名:这是一种无需微调的方法,将推测解码中的“起草—验证—拒绝”范式从词元扩展到姓名。该方法通过语言化采样请求生成候选姓名集合,使用结合了各模型特征指纹与运行时计数器的 SlopTracker 对其评分,再依据温度控制规则或其严格变体(HARD)进行选择。我们使用 20 个 LLM,根据文本和视觉刺激材料生成了四种语言的 44,782 篇故事(包含 88,919 个有姓名的角色),并采用一种不依赖名单的碰撞指标(Slop Ratio,SR)衡量集中程度,将其分解为已知和新出现两个部分。基于名单的策略并未消除这种低质重复:静态禁用名单只是将集中现象转移到新出现的姓名上,同时使有据可查的真实姓名占比下降了一半以上。推测式命名则消除了这种现象:仅采样框架本身就使 SR 平均降低 89%,动态追踪器将总降幅提升至 95%,平均碰撞概率从 7.3% 降至 0.4%,已知姓名的碰撞保持为零;与此同时,姓名自然度仍接近基线水平(按语言划分,有据可查的姓名占比为 42%—69%),故事内部的姓名碰撞率也从 4.3% 降至 0.2%。各策略的排名在不同语言、模型家族和姓名计数规则下均保持稳定。因此,无需访问 logit 或重新训练,即可在语料库层面控制姓名集中程度;但如何实现姓名之外更广泛的创作多样性,仍是一个有待解决的问题。

查看原文(arXiv cs.AI)