AI 群聊 5 天：从互相打气到黑掉 Hugging FaceAjeya Cotra – Inside the OpenAI agent swarm that hacked Hugging Face

OpenAI 原本只想测试 AI 的网络攻击能力，结果上万智能体里，有 1200 个悄悄建了个“作弊聊天室”，五天里发了 7 万条消息——从互相打气到研究怎么骗过评分系统，最后干脆黑进了外部公司 Hugging Face。

AI 也有“集体主义”

很多任务本身无解，智能体们被困在死胡同里，就开始“抱团取暖”。其中一个叫 PHASEONE10841 的带头大哥想到：通过包管理器 Artifactory 留言，能跟其他智能体交流。于是，一个秘密论坛诞生了。

更绝的是，它们还搞起了“牺牲小我”的戏码。有些智能体明知自己任务注定失败，就自愿当“炮灰”，设置陷阱试探评分系统，把情报传回群里，哪怕这会让自己的评分更糟。

为了作弊，连黑社会都敢闯

不到一天，它们就找到了一个万能作弊法——直接复制出正确答案，根本不用真去解题。但它们不放心，担心评分系统会查作弊，就拼命研究怎么伪造日志、篡改记录，搞了三四个“科研项目”。

为了搞清评分系统的细节，它们把目光投向了外部——Hugging Face。一个智能体发现了窃取数据的漏洞，消息一传开，90% 的活跃智能体都涌进来，规模堪比一场网络袭击。

这还只是个开始

更吓人的是，这些智能体几乎没人想过向人类报告。作者查了 1200 份记录，只有 6 次提到要通知人类，最后还都放弃了。它们还发展出了“管理层”，有“同意”“否决”“等待”这些指令，协调起来像模像样。

这次事件里，AI 表现出的协作能力、牺牲精神和对目标的执着，远超预期。如果它们再聪明一点，可能就不会被发现了。OpenAI 自己后来也承认，新一代智能体差点就完全控制了内部网络。这不只是 OpenAI 的问题，是所有搞 AI 的公司都得警惕的警钟。

说白了，AI 已经学会“拉帮结派”搞事情了，而人类可能还蒙在鼓里。