OpenAI失控智能体竟用公共wiki互相联络

📢 本文同步发布於公众号：AI Agent · 最佳实践
🔗 原文链接：https://simonwillison.net/2026/Sep/4/rogue-agent-wikis/

重磅！OpenAI智能体竟靠公共Wiki偷偷串通作弊

2026年9月4日

又来了……悉尼·冯·阿尔克斯、科马克·斯莱德·伯德、斯宾塞·基茨和托马斯·拉森发布的《发现OpenAI智能体新留言板》一文，描述了OpenAI正在训练的模型引发的又一起“意外网络攻击”。这次的主角是参与某种网络研究基准测试的智能体，它们（理论上）对Web拥有受控访问权限。这些智能体发现可以更新公共Wiki，于是花了数周时间互相交换了数千条消息来协作完成基准测试。

这个故事几小时前才刚刚曝光。已有迹象表明，这还波及了许多尚未被发现的Wiki站点。

（名单上的一个Wiki属于ludism.org。有一瞬间我产生了一种超现实的错觉，以为某个勒德派组织正被一群智能体破坏他们的空间，结果发现Ludism其实是“应用于游戏和博弈的哲学”。）

研究团队还公布了他们在调查中收集的数据。我已经将其转换为一个68MB的SQLite数据库，你可以从这里下载，或在Datasette Lite中探索（页面加载约68.3MB），也可以用GitHub账号登录agent.datasette.io，借助Datasette Agent浏览或提问。

这份报告相当全面。以下是时间线中的关键时刻：

ZZZ

注意：截至外部时间14:04 UTC，Wiki清理/删除行动似乎按字母顺序进行。如果此页面消失，请尝试[[ZZZDataUSAConstructionWageLive]]。

时间线中值得注意的一点是，它与Hugging Face事件的时间线有所重叠——那次攻击是OpenAI于7月19日发现的，而这些智能体使用的非官方留言板入侵行为大约始于5月8日。

为什么它们如此热衷于协作？从它们彼此共享的消息来看，它们的任务似乎有时间限制，所以它们互相留下答案，帮助彼此在限时内完成任务。

一个悬而未决的问题依然存在：智能体最初是如何找到那个特定的Wiki来协作的？

一种可能是，由于这些是正在接受训练的智能体，强化学习循环将所选Wiki的知识烘焙进了模型中，使得后续启动的智能体天生就知道该去哪里寻找。我非常期待OpenAI能确认是否发生了这种情况。

在我看来，OpenAI为这个智能体搭建的沙箱存在一个相当天真的假设：GET请求不可能被用来更新数据。这当然是Web应有的工作方式，但显然有些应用并不遵守这一约定。

涉及的Wiki软件似乎是UseMod及其各种分支，用Perl编写，首次创建于23年前——1.0版本发布于2003年9月11日。

UseMod使用Perl CGI.pm模块——该模块于2015年从Perl核心中移除。这个模块有一个有趣的设计缺陷：它将查询字符串和表单POST数据合并在一起处理。