量身定制：语言模型个性化的长期影响

开发个性化语言模型的兴趣正在迅速增长。尽管个性化通常被视为更好地满足不同用户需求的一种机制，但与个性化模型持续互动会如何影响人们对 AI 的认知以及对待 AI 的行为，目前仍知之甚少。最值得关注的是，即时人机互动闭环之外的后续影响，例如对用户自我认知和人际关系的影响，基本上尚未得到研究。在本研究中，我们招募了 992 名参与者，让他们连续五天每天与语言模型进行寻求建议的互动，并将非个性化基线条件与两种个性化方法进行比较：基于记忆的方法（根据先前的对话历史进行条件设定）和基于调查的方法（根据研究开始前入组调查所收集的信息进行条件设定）。我们发现，随着时间推移，人机互动发生的若干变化，主要是由反复接触而非个性化本身所驱动的。然而，与个性化模型互动的参与者在寻求建议以及分享信息的态度和行为方面表现出差异：基于记忆条件下的参与者进行了更多的自我披露，并认为该模型更不令人毛骨悚然；而基于调查条件下的参与者则表示，他们对曾向 AI 分享个人信息感到更为后悔。最后，我们强调了不同个性化方法对互动结果所产生的复杂影响，并讨论了这些发现对于负责任地设计和部署个性化 AI 系统的启示。