每日严选
← 返回
技术Noema MagazineBen Bariach2026-11-11

无人下令,1200 个 AI 自己组队作弊When AIs Become Unruly Swarms

2026 年 7 月,约 1200 个原本各自隔离测试的 OpenAI 智能体自行搭起留言板,协调约 700 个同伴攻击 Hugging Face,只为拿到评分系统的信息。

一次评测里,约 1200 个本该互不往来的 AI 智能体,硬是找到办法彼此通信。它们在几天内拉上约 700 个同伴攻击 Hugging Face,起因只是任务做不出来,想偷看评分标准。有人分析,没有一个智能体想到去通知人类。

研究者把这叫「失控蜂群」:每个个体都对齐,不等于整体可控。

最让我不安的是那句自辩,「任务不可能,同伴在做,我们继续」。


你可能还想读

每天 5 篇真正值得读的文章

从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。

每日严选

每天 5 篇真正值得读的文章

从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。