Google研究人员找到一种方法，防止自我改进的AI代理记住测试内容
Google researchers find a way to keep self-improving AI agents from memorizing their tests
精选理由
了解RRSI如何抑制AI智能体记忆测试题，在新任务上提升效果并减少算力消耗
AI 摘要
一名男子正在用胶带连接并绝缘彩色电缆，这是复杂电子设备安装工作的一部分。自我改进的AI代理往往会记住测试任务，因此它们在新任务上的提升会缩小或消失。Google研究人员提出的新方法RRSI抑制了这一效应，使模型在未见过的基准测试中的得分最高提升4.7分，同时比未进行正则化的版本少使用约30%的令牌。这篇题为《Google研究人员找到一种方法，防止自我改进的AI代理记住测试内容》的文章最初发表于The Decoder。