arXiv cs.AI精选79

在写脚本之前,先搭好舞台:世界观模拟如何在多轮越狱中放大心理学驱动的说服

Before the Script, Set the Stage: How Worldview Simulation Amplifies Psychologically Grounded Persuasion in Multi-Turn Jailbreaking

· 41天前

精选理由

揭示多轮越狱机制,助力构建更强对话安全防线

AI 摘要

多轮越狱攻击表明,恶意意图可以分散在对话中,但现有方法却掩盖了究竟是哪种对话机制驱动了这种脆弱性。我们提出 BLUEPRINT,这是一种安全评估框架,将分解后的社会影响策略空间与 WORLDVIEWSIM(跨轮次情境上下文模块)分离开来。蒙特卡洛树搜索在四轮轨迹中优化每轮层面的18个基于理论的影响因素组合。在六个前沿模型上,BLUEPRINT 在主要开源权重模型和专有模型上都实现了接近满分的 ASR,同时所需平均查询次数最少(2.46 次)。由此得到的轨迹进一步揭示了在抗拒性较强的目标模型中存在模型特异性的脆弱性:每个模型对不同的影响因素和策略转换作出响应,但它们都共享一条共同的恢复路径——转向具体、可执行的任务表述,持续能够摆脱强硬拒绝状态。消融实验证实,操作性线索最为重要:让请求变得可执行影响最大,收益框架格外有效,而某些合法性诉求反而可能适得其反。这些发现表明,要实现稳健的多轮安全,不仅需要监控有害内容,还要监控对话状态如何使不安全请求显得具体且在局部上可执行。

查看原文(arXiv cs.AI)