想吓住中国？用在中国的AI去偷微信Two missing pieces in the AI safety discussion

一个在 Anthropic 上班的 27 岁研究员辞职了，说他和同事正在造的东西有可能让人类灭绝。这话隔几天就有人讲一次，但这次直接上了黄金档新闻，连奥巴马都出来喊民主党要盯紧 AI。

真正稀奇的是几家头部公司的反应：他们自己主动要求放慢。

为什么老板们愿意少赚钱

按常理，放慢就等于把追赶的机会让给后来者，是要掉利润的。Anthropic 的负责人 Dario Amodei 发了一篇长文，说要「给前沿定速」，还提了三步方案，让各家互相盯着谁没减速。马斯克、奥特曼、哈萨比斯都跟着点头。

作者认为，肯违着自己的钱包说话，说明他们怕灭绝是真的怕。他们感觉自己困在一场停不下来的赛跑里：我停手，别人照样造，所以只能自己跑第一，让最「安全」的那套——也就是自己家的那套——成为最强的那一套。

普通人常问：软件待在机房里，怎么杀得光活人？作者给的答案是生物武器。AI 能设计病毒，病毒能杀人。生物学家说这事太难，作者劝读者别听他们的：专家总把自己做不出来的事当成谁都做不出来，当年自然语言、数学难题都是这么被打脸的。

拦不住中国，就吓住中国

反对减速的头号理由是：美国一慢，中国就超车。作者原本觉得，只要美国保持领先，中国出于竞争考虑就会跟着慢——后来他自己承认想错了：如果中国只在「美国不慢」时才肯慢，那就成了死局。

换个思路。中国现在担心的是美国用美国的模型打中国，这只会让它更想加速。那就让它担心点别的：用中国自己的开源模型，比如 GLM、Kimi，去偷它的机密、黑进它最严的账号，然后挑几条无关痛痒的贴到小红书上。

重点不是真打仗，是让领导人看明白：你们拼命搞超级智能，真正的漏洞不是美国人，是哪个本国异见者哪天带着它来掀桌子。中国历史上收拾自家科技公司毫不手软，2021 年那一轮就是明证。

一旦他们意识到超级智能威胁的是自己的位子，作者预测，国际合作的局面会突然打开。

说到底：怕敌人，更怕自己人。