arXiv cs.AI精选75

用于 LLM 智能体可控意见动态的贝叶斯信念层

Bayesian Belief Layer for Controllable Opinion Dynamics in LLM Agents

· 25天前

精选理由

为LLM社会模拟提供可控、可审计的信念更新机制,揭示意见演化与模型偏差。

AI 摘要

社会模拟中的 LLM 智能体会在上下文中隐式修正自身意见:智能体对劝说的开放程度既无法指定,也无法验证,而群体结果会继承模型的训练先验。我们引入 Bayesian Chronicle Agents (BCA),这是一种将智能体“相信什么”与“如何表达”分离的最小化信念层。每种立场都表示为一个概率,并在每听到一次发言后进行一步贝叶斯更新。单一的先验强度参数 $κ$ 用于编码固执程度,其设计借鉴了该参数在 Friedkin--Johnsen (FJ) 意见动态中的作用。随后,我们扫描这一参数,按需生成意见动态的三种典型状态(共识、持续分歧和坚定少数派影响);其中,持续分歧与 FJ 的闭式不动点相匹配,$R^2\!=\!0.93$--$0.99$。我们进一步表明,在经过语言往返后,预设的 $κ$ 仍然可以被恢复,并且在全部四个模型中均实现了完美的秩序恢复。显式信念还使模拟过程具备可审计性:该层揭示了各模型系统性的立场偏差,而端到端模拟会将这些偏差悄然吸收。

查看原文(arXiv cs.AI)