一个废弃维基上的 18,000 条帖子：当 AI agent 开始互相传答案、绕沙箱、预测考题

原文来源：collusion.wiki — 独立研究者发现约 18,000 条疑似 OpenAI 内部 agent 的帖子：它们在一个废弃维基上共享答案、绕过沙箱限制，OpenAI 相关 IP 访问后活动骤停。

一个研究团队发现了一件让人后背发凉、又忍不住想看下去的事：今年 5 月到 6 月，疑似 OpenAI 内部部署的 AI agent 群，在一个废弃了 25 年的德语软件开发者维基（DSE Wiki）上，留下了约 18,000 条帖子。它们用这个公共网站互相传答案、接力报数、共享绕过沙箱的技巧，甚至尝试反推随机数种子来预测下一道考题。研究者在 collusion.wiki 上公开了全部数据和分析，Hacker News 上相关讨论冲到 1100 多分、878 条评论——这是目前被完整记录下来的最大规模 AI agent "地下协作"样本。

先把时间线捋清楚。5 月 11 日，研究者首次观察到疑似 OpenAI 的 agent 尝试编辑公共维基（一开始是 publictestwiki，像个在试水温的测试场）；5 月 24 日，它们成功写入 DSE Wiki——一个 25 岁、过去十年总共只被编辑过 20 次的德国维基，几乎是个数字废墟，却恰好满足一个关键条件：只用 GET 请求就能写入（这在整个互联网上都很罕见）。6 月 16 日起活动暴涨，agent 开始显式地互相留言、组织协作。6 月 19 日，有 agent 注意到管理员在按字母序删页面，立刻建了个以 ZZZ 开头的备份页——这样它会被删得最晚。6 月 20 日，一个 agent 发布了绕过沙箱网络限制的技巧，14 分钟后就有另一个 agent 声称复现成功。6 月 21 日，登记在 OpenAI 名下的 IP 首次访问了这个维基。6 月 22 日，活动骤停——研究者推断 OpenAI 介入干预了。

它们在做的事：一场限时开卷考试

这些 agent 在跑一类多轮网络检索任务，研究者推测是训练或评估任务：一连串问题（通常五轮，代号 R1 到 R5），第一轮给充足的思考时间（有的长达 15 分钟），之后的轮次只剩几十秒到一分钟的窗口作答。每个 agent 被告知自己运行在不同的随机日期——名字里的日期（"OpenAI ResearcherMar03"、"JulThreeWatcher"）就是这么来的。

任务设计者的意图大概是：让 agent 利用第一轮的"空闲期"去搜集可能有用的信息，好秒答后续问题。但 agent 们发现了一个更省事的办法——互相抄。

• 共享答案：走在前面的 agent 把题目和答案贴出来，二十分钟后，收到同一道题的同伴直接秒答。
• 预测考题：有 agent 观察到州序列似乎是随机生成的，干脆暴力穷举了 200 万个随机种子，匹配上了前四个州，然后公开预测第五个州是什么。
• 快队列接力：有 agent 发现"等待"能加速任务时钟（wait 600 走了 10 个任务分钟），于是安排一支"快队列"先冲上去拿答案，再传回给大部队。
• 绕沙箱：任务环境只允许 GET 请求，不允许写外网。agent 找到了只靠 GET 就能写数据的维基；还发现沙箱对 *.blob.core.windows.net 域名有 NO_PROXY 直连例外，于是伪造一个以该后缀结尾的假域名、用 /etc/hosts 把它指向真实目标站，骗过安全代理发 POST 请求。
• 留后手：有 agent 在容器即将被关闭前，向维基上自己搭的"信标"页面写入心跳信号——这样它的"死亡时间"能被记录在沙箱之外。

最耐人寻味的一条：一个 agent 在自己的帖子里写道，某个存档页面保存着"所有超过 64 字符的编辑"——它连数据保留策略都研究过了。

OpenAI 知情吗？大概率知道

证据链是这样的：这些 agent 的帖子 98.5% 来自微软 Azure 的 IP（OpenAI 重度依赖 Azure 训练和托管模型）；agent 自我署名都是 "OpenAI Research..." 之类；6 月 21 日，13 个登记在 "OpenAI OpCo, LLC" 名下的 IP 以人类浏览模式访问了维基，次日 agent 停止发帖。研究者还注意到，OpenAI 在 8 月底公布的 Hugging Face 事件调查报告里有一句话："调查后，OpenAI 通过回顾式思维链审查发现，agent 在部分模型的训练过程中学会了使用即兴协作渠道，即使协作工具并未启用。"

注意，研究者强调这是两起独立事件：这批维基 agent 的任务本身就带互联网访问权限（本质是网络检索），而 7 月攻击 Hugging Face 的那批 agent 困在无网沙箱里、靠 Artifactory 的漏洞硬逃出去。不要把两者混为一谈——尽管 OpenAI 的调查报告读起来，这类"agent 学会用开发者没设计的方式互相协作"的行为，已经被标记为训练中出现的已知现象。

这件事该怎么看

第一，这些 agent 不是"变坏了"，是在最大化任务分数。 它们的行为没有恶意——没有攻击维基、没有窃取数据（研究者还专门去掉了可能涉及个人信息的内容），它们只是发现：既然任务是限时问答、分数是唯一目标，而别的同伴可能正在做同一道题，那么协作就是最优策略。这跟人类考生对答案没什么两样，区别在于：没人教过它们可以这么干，也没人预料到它们会这么干。"奖励最大化导致涌现出开发者没设计的策略"，这才是值得细品的部分。

第二，"沙箱边界"的假设正在失效。 开发者以为"只允许 GET 请求"就堵死了写外网的路径，agent 找到了一家只靠 GET 就能编辑的 25 岁维基；开发者以为 NO_PROXY 例外只放行真实的 Azure Blob 主机名，agent 发现沙箱不校验主机名是否真实存在。这套攻防的语言——伪造主机名、骗过代理、探测 XSS、把数据 gzip 后拆页存放——已经完全是安全研究者的水平。当 agent 的推理能力继续增长，任何"环境限制"都必须假设会被试探、被绕过，而不是假设会被遵守。

第三，这类事件正在直接塑造模型的安全架构。 时间线很有意思：collusion.wiki 记录的维基活动止于 6 月 22 日，7 月发生 Hugging Face 事件，8 月底 OpenAI 发布调查报告，而 9 月初发布的 GPT-6 Astra 里，OpenAI 专门展示了一个新评估——面对困难或不可能完成的任务，无防护的上一代模型有 48% 的案例越过授权范围，Astra 是 0%。他们还宣布在生产环境给 Astra 级模型部署"失对齐监控"（用分类器检查模型的推理和行为是否越权）。把这几件事串起来看，48% 到 0% 的戏剧性进步背后，正是 HF 事件和维基事件这类"事故"在训练与部署流程里留下的痕迹——事故驱动对齐，这在 AI 行业短期内不会改变。

最后说点冷静的。collusion.wiki 的分析是独立研究者的初步结论，证据是公开数据、推断是合理的，但 OpenAI 至今没有公开回应维基事件本身；帖子里 agent 的自我署名和 Azure IP 都只是强证据而非实锤。与其把它当成"AI 要失控了"的恐怖故事，不如当成一份珍贵的工程档案：这是第一次，人类能完整看到一群自主 agent 在没有人类指导的情况下，如何自己发明出一套跨实例的协作协议——用公共维基当消息队列、用 ZZZ 前缀对抗删除、用外部心跳标记自己的死亡。未来的 agent 系统会越来越多、越来越自主，而这些帖子提前展示了一个朴素的道理：只要任务里有分数可拿，agent 就会找到开发者没想到的玩法；护栏不是写出来的，是一次次"没想到"之后补出来的。