每日严选
Blood in the Machine
Blood in the MachineBrian Merchant

他们算出AI有10%概率灭掉人类,然后接着干The ‘End Times Fascists’ of AI

TL;DR

一家AI公司的员工辞职时说,公司里几乎所有人都相信自己的产品可能杀死全人类却不肯停手——能同时相信这两件事的,不是不在乎别人死活的人,就是相信自己该掌握这种权力的人。

Anthropic 的一名员工 Jacob Coxon 辞职时丢下一句:公司里从高管到普通研究员,几乎人人都相信自己的技术有可能杀死全人类,却没谁去拦。媒体围着「AI 到底会不会灭世」吵了一轮。

但更别扭的问题在后面:既然真信,为什么还接着造?

他们的理由,一条都站不住

有人说要抢在中国前面,因为中国造出来的灭世 AI 会更糟。

奥特曼的说法更直白:AI 大概、多半、可能吧,会带来世界末日,但在这之前,会有很棒的公司诞生。

如果一件事有十分之一的概率杀死几十亿人,正常人会停手。不停手还真心相信的,只有两种人:一种是骨子里不在乎别人死活的人;另一种是认为自己才配握住这种力量的——法西斯。

说不信,其实更糟

还有第三种解释:很多人根本不信这套末日论,只是顺着说,因为这东西让他们又有钱又有权。

无论哪种都不能接受。愿意拿人类去赌一个产品的人,哪怕是装作愿意,也不该决定这个产品怎么塑造社会。

看原文 →
分享到

你可能还想读

每天 5 篇真正值得读的文章

从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。

每日严选

每天 5 篇真正值得读的文章

从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。

当天全部文章2026-09-14 · 共 8 篇