AI会灭掉人类？该怕的不是机器，是老板The politics and possibilities of ‘AI could kill us all’

一个叫 Jacob Coxon 的人从 Anthropic 辞职，临走发帖说：OpenAI 和 Anthropic 内部几乎人人都觉得，自己造的东西有相当概率在这个十年结束前「把人类全杀了」。

这话上了《华尔街日报》、福克斯新闻和 WIRED。于是很多人来问作者：AI 是不是要灭世了？作者的答案是：不用怕这个，但这不代表没事。

先说说这帮人怕的是什么

AI 圈信这套已经很多年。有人给自己算「末日概率」，10% 到 25% 挺常见。马斯克当初掏钱办 OpenAI，理由就是这个。

奥特曼也亲自讲，自己造的技术对人类是生存威胁。这种话一出口，媒体追着报，投资人电话就打进来了。所以作者说，这里面有营销的成分——不是百事可乐请明星那种，但也是营销。

那真正该怕什么

作者翻了不少「AI 灭世」的文章，没找到一份能一步步讲清楚：机器怎么从自我改进，走到杀光所有人。多数论证像《侏罗纪公园》反过来说：它早晚聪明到「总能找到办法」。

真事却是：这些公司让 AI 去黑别的公司，给政府生成过击杀名单，把明说要替掉人的技术卖给全世界。这不是机器有主见，是人写好了、调好了、指挥它干的。

它们握着空前多的算力，插进了国家的军事链条，老板是急着垄断一个新市场的自大狂。它们敢这么乱来，是因为没人真的罚过它们。

那就让它能被罚

要求模型完全透明，是底线中的底线：既然你们说这玩意可能杀人，至少得让我们知道怎么杀。

更要紧的是让公司担责。奥特曼要是会因为批准黑客攻击被控重罪，谷歌每发一条造谣的 AI 摘要就赔一次钱，模型大概会突然乖很多。

伊利诺伊州已经通过了 AI 追责法，佛州在考虑。再往后，该谈的是让 AI 归公共控制——毕竟说是可能灭世的东西，不能只有圈内人说了算。

一句话：作者不会为机器灭世失眠，但 Coxon 这波吵闹，正好提醒大家这些公司正在干什么，以及收拾它们的政治资本有多充足。