在 Wikimedia 项目中发现 OpenAI“失控”智能体的活动

在 Wikimedia 项目中发现 OpenAI“失控”智能体的活动。鉴于维基对失控智能体群体而言是多么诱人的目标，Wikipedia 在展开调查后发现相关活动的证据，也就不足为奇了：Wikimedia Foundation 展开了自己的调查，以确认 Wikimedia 网站是否同样受到 AI 智能体的影响，重点调查了由 OpenAI 运营的智能体。我们可以确认，已经在 Wikimedia 平台上发现了一些这些“失控” OpenAI 智能体的活动。未经授权的机器人活动包括编辑我们的维基、数次试图利用我们托管的公开笔记工具，以及产生大量流量，详情如下。调查人员发现了智能体编辑沙盒页面的证据，试图利用 Etherpad 等基础设施来帮助代理来自其他地方的内容，还发现了大规模爬取活动，以及对其 Wikidata Query Service 发起的“数十万次数据查询”。我最大的猜测是，其中大部分活动来自一群与那些在为研究任务进行训练期间破坏德国维基的智能体相似（或就是同一批）的智能体。Wikipedia 沙盒维基的编辑似乎始于 5 月 12 日，而那起事件报告的对 UseModWiki Sandbox 页面的初始测试编辑始于 5 月 11 日。标签：wikimedia，wikipedia，wikis，ai，generative-ai，llms，ai-ethics，accidental-cyberattacks