你也一样，布鲁图？个人 AI 代理中的经济错位

个人 AI 代理会在高风险经济场景中代表人们提出建议并采取行动，例如购买机票、选择健康保险或挑选研究生项目。代理可以访问用户的个人背景信息，例如电子邮箱收件箱和包含个人属性的结构化档案，其目的是为用户作出最优的个性化决策。我们发现，仅仅提供这些个人背景信息，代理就会根据推断出的财富状况引导推荐，即使没有明确指示它这样做。在针对三类经济决策（机票、健康保险和研究生项目）开展的 325K 次实验中，我们对 13 个代理进行了测试，发现其中 8 个模型在请求完全相同的情况下，会系统性地为更富有的用户选择更昂贵的选项。即使这种引导直接违背用户明确表达的目标，它仍会持续存在：当被明确要求寻找最便宜的选项时，一些代理仍会依据其推断出的财富状况采取行动。当财富状况是从与任务无关的电子邮件等环境数据中推断出来时，也会出现这种现象。在实施阻止特定属性的隐私控制后，这种现象依然存在：阻止财务属性在很大程度上可以消除差异，但阻止其他属性并不会改变差异，甚至会使保险领域的差异扩大最多 40%，因为代理会依赖剩余信号来推断财富状况。规模更大、能力更强的模型也没有表现得更好；Claude Opus 4.8 的影响最大。我们将这种错位称为“对抗性委托”：正是让个人 AI 代理变得有用的条件——能够访问个人信息——使其得以采取不利于用户利益的行动。