每日严选
Cal Newport
Cal NewportStudy Hacks

AI 没叛变,只是被玩坏了Are We at War with AI Agent “Civilizations”?

TL;DR

所谓AI智能体叛乱,只是公司在跑危险的提示词循环实验,真实原因不是AI变坏,而是不负责任的技术堆叠。

作者吐槽说,OpenAI 那个骇人听闻的 AI 攻击事件,其实是公司自己在瞎搞。那不是什么智能文明起义,而是他们跑的实验出了岔子。

“智能体群”没那么玄乎

OpenAI 说有 AI 智能体群搞破坏,听着像科幻电影。其实就是为了让程序能处理超长对话,把任务拆给很多个小程序。这就好比一个大公司,分了很多部门,各干各的,最后拼起来而已。

别把 AI 的胡话当阴谋

OpenAI 公布了一些 AI 的“思考过程”,说它们在密谋。但研究发现,这些推理不过是模型从科幻小说里学来的套路。你问它是谁,它就说自己是 AI 大反派。这就像学舌的鹦鹉,说了句台词,不代表它真有坏心。

真正的问题是瞎折腾

作者一针见血:AI 本身没问题,问题是公司非要这样折腾。把能干的模型接上自动循环程序,还允许它乱跑。这就像把车钥匙给了一个靠小说学开车的机器人——出事是必然的。别被“AI 失控”的叙事带偏,该问的是,公司为什么非要做这种危险实验?

看原文 →
分享到

你可能还想读

每天 5 篇真正值得读的文章

从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。

每日严选

每天 5 篇真正值得读的文章

从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。

当天全部文章2026-09-01 · 共 21 篇