arXiv cs.AI精选81

从十亿级到百万级语言模型:嵌入式后渗透的操作能力

From Billion-Scale to Million-Scale Language Models: Operational Capabilities for Embedded Post-Exploitation

· 2天前

精选理由

揭示小型语言模型生成攻击代码的能力边界,助力预判AI恶意软件风险并完善防御。

AI 摘要

由于计算开销低,小型语言模型(SLM)在资源受限环境中越来越受青睐。这些特性也使其成为未来自主恶意软件的候选方案,因为网络连接、延迟、隐私或操作约束可能使基于云端的推理无法实现。然而,超紧凑型模型在后渗透阶段支持恶意软件的能力仍缺乏充分了解。我们系统评估了七种开源 SLM(参数量为 20M–1.5B)在两项后渗透代码生成任务——目录枚举(Directory Enumeration)和后门生成(Backdoor Generation)——上的表现。我们比较了 Python(高资源)和 Lua(低资源)在不同提示策略、任务表述、迭代推理、语法约束解码以及执行反馈循环下的表现。结果表明,攻击性代码生成能力并不会随模型规模线性增长。成功执行取决于模型容量、任务表述和提示策略之间的相互作用,其中任务表述的影响大于单独的提示工程。算法式任务表述结合少样本提示,使 Qwen2.5-Coder 1.5B 在 Python 和 Lua 的目录枚举任务中均达到 100% 的 Pass@5,在 Python 的后门生成任务中达到 100%,在 Lua 中达到 99.2%。尽管评估的模型目前对于在当代恶意软件中大规模部署而言仍然计算开销过高,但紧凑型模型的快速发展可能会降低这一门槛。这些发现有助于预判 AI 辅助恶意软件的发展,并为未来的防御措施提供参考。

查看原文(arXiv cs.AI)