宣传取证:还原一场 AI 驱动影响力活动的生成流水线
Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign
精选理由
揭示AI宣传链条,助识别并溯源影响行动
AI 摘要
我们对近期一场 AI 驱动影响力活动背后的生成流水线进行了取证分析。我们介绍 PROPAGIA,这是一个包含 2,646 篇宣传性法语文章的语料库,来自 VIGINUM 和 INSIKT GROUP 于 2025 年披露的 Storm-1516/CopyCop 活动。作为比较,我们采用 SIPA,这是一个来自同一时期、由人类撰写的法语主流媒体语料库。通过主题建模、模糊性和情感分析,我们首先分离出宣传中具有代表性的劝服技巧;在模糊性、主观性和负面性方面,PROPAGIA 远高于 SIPA,且引用的来源更少。随后,我们在 84 个 PROPAGIA 网站中的 50 个上发现了提示词指令泄露,其中包括一份逐字一致的十点编辑规范,该规范解释了其中若干差异,同时还存在较高的跨文章冗余。最后,我们表明,基于重写的检测支持 INSIKT GROUP 将其归因于 Llama 3 系列,但也提示可能有 Mistral 系列模型参与。