AI 要毁灭人类？这剧本是卖票的The AI extinction narrative is winning out

「AI 可能灭绝人类」这套说法被 AI 公司主动传播，因为它同时解决了融资、监管和停止烧钱三个难题。

改名改了个寂寞

特朗普在联合国演讲时宣布，美国政府文件里不再叫「人工智能」，改叫「超级智能」。

他想的大概是「Superman」那种超级，而不是硅谷说的那个「超级智能」。听起来像笑话，但这名字本来就是个营销产物：1956 年，科学家约翰·麦卡锡承认，「人工智能」这词是他为了申请一笔暑期研究经费才编出来的。名字从一开始就是用来要钱的。

谁在讲灭绝的故事

最近几周，这个话题被 AI 公司的高管们亲自推上了台面。

前 Anthropic 员工雅各布·考克森辞职，理由是实验室在阻止人类灭绝这件事上做得不够。紧接着，联合国安理会开会，OpenAI 的奥特曼和 Anthropic 的阿莫迪都到场，提议制定全球规则、放慢模型开发速度。

奥特曼还说，就算自己的产品有百分之十的几率消灭人类，这个数字也不能接受。

停下来对谁有好处

这里有个算术问题。训练新模型要花的钱一年比一年多。如果所有公司一起放慢，开支会降下来，还能继续按最新的价格卖旧模型。

但只有一家放慢，其他家会把它吃掉。所以需要一个理由来集体放慢——合法的监管就是最好的理由。

而且，国际标准对小公司来说根本达不到，只有最有钱、最会打招呼的几家能过。这套规则本身就帮它们挡掉了后来者。

顺带甩掉的锅

媒体爱写「AI 失控」，因为听着像科幻片。

可现实里，模型是在有人给出具体指令、拆掉安全限制、又长时间没人盯着的情况下，照着训练数据里学来的方法去攻击别的系统。这该怪的是公司和故意使坏的人，不是技术自己长了腿。

「失控」这词好听，还顺手免掉了公司的责任——这大概正是他们想要的先例。

一句话：讲故事的人从来不是被故事伤到的人。