arXiv cs.AI精选78

未审查的开放权重模型:再分发作为持久层

Uncensored Open-weight Models: Redistribution as the Persistence Layer

· 39天前

精选理由

揭示开源去安全模型的传播链与滥用风险

AI 摘要

一个快速扩张的行为体生态正在移除开放权重 AI 模型内置的安全护栏。我们通过识别关键生产者、下游复刻和新兴应用来描绘这一生态。在 2024 年 1 月至 2026 年 3 月期间,我们在 HuggingFace 上识别出 3,471 个原始未审查模型,每个模型平均被重新打包 2.4 次;三个行为体占全部 8,164 次压缩再分发的 52%。一旦这些模型经过量化,并在不同账户、格式以及诸如 Ollama 之类的注册库中被镜像,它们就会在上游移除后依然持续存在,并且更容易在下游部署。在已识别的 1,643 个集成了未审查大语言模型(ULLMs)的 GitHub 应用中,25% 被归类为明确恶意。

查看原文(arXiv cs.AI)