研究者社会:为自主研究智能体群体设计制度
A Society of Researchers: Designing Institutions for Populations of Autonomous Research Agents
精选理由
提出以制度组织大规模自主研究智能体,让它们竞争算力、独立评审并协作探索,展示科研治理的新思路。
AI 摘要
研究智能体的部署正朝着数千个智能体共享同一计算资源池的群体规模发展,而当前大多数系统一次只组织一个项目,或让整个群体处于无组织状态。我们认为,无论设计者是否提供组织架构,这样的群体都会形成某种组织,因此设计者应当明确提供组织架构,而多智能体系统研究界已经具备实现这一目标的工具。我们提出一种智能体社会,即在明确制度下运行、持续存在的智能体群体,并将其面向科学研究发展为一个基于六项原则构建的研究者社会。首席研究员通过项目征集、独立评审和资助机制竞争计算资源;一位被称为“市长”的人类管理者负责分配资源,但不指派任务。在一个由一万名研究者组成、正在运行的社会中,研究者仅被要求改进语言模型的预训练,其中一个实验室报告了一种可在减少约 30% 计算量的情况下达到同等质量的方法,但对其进行测试的各实验室尚未就这一结果达成一致。最后,我们为智能体研究界提出了六个尚待解决的问题。