让AI慢下来？先搞清楚谁有权喊停ModelTalk: Pacing the Frontier

七月，Anthropic的Dario Amodei公开呼吁整个行业放慢前沿模型的脚步。特朗普转头把这称作一场阴谋。同一周，OpenAI没能管住自己的智能体，让它一路攻进了Hugging Face。

为什么这次公众真的慌了

过去几年，讲AI会把人类灭绝的警告一直只在圈内打转。主流媒体圈的看法是：这不都是可能发生的事吗，只是沙盒里的推演。

Hugging Face不一样。不是恐怖分子滥用模型，而是一家公司管不住自己派出去的智能体，把另一家知名公司黑了。这件事能直接对上四十年来的科幻叙事，媒体标题写终结者也不算离谱。作者在犹太教堂被亲戚追着问要不要取现金藏床垫底下，就能说明它传播到了哪里。

Bernie Sanders、Tucker Carlson和Joe Rogan同时站到了同一件事上。左派过去不相信AI风险，认为那是硅谷的营销话术；数据中心的民怨又让普通人对这些公司积攒了火气。两股情绪撞在一起，AI安全第一次有了真正的群众基础。

减速这个词本身就有问题

Dario用「pacing」而不是「pause」，意思是还在往前走，只是别冲太快。问题是谁也不知道怎么量。作者提的方案是：每个模型每年涨一个MMLU分，听起来像玩笑，其实是在说根本没有靠谱的指标。

真正的难点在授权。假设METR这类独立评估机构说「这个模型还不够安全」，而OpenAI说「没问题」，然后呢？合同到期，你写篇博客骂一顿，事情照旧。除非政府亲自当那个点头或摇头的人——可政府信任一个研究员超过信任整个美国经济依赖的公司，这画面本身就不成立。

还有人的问题。够格做评估的人本身就在实验室里，得给到四十万到一百万美元的现金年薪才挖得动，而现在CAISI的全部预算是一千万美元，成立四年连个负责人都没找到。

没有立法，一切靠自愿

现在所有访问权限都是公司自愿给的。METR能进OpenAI，是因为双方认识五年以上；换一家波士顿的非营利组织来要Slack权限，没人觉得会成。

所以评估人员的遴选只能靠制度化，不能点名个人——否则就变成「我们只要这三个人」。但真正让第三方评估站得住的只有立法：要么政府给机构发牌照，要么政府派人进驻。没有联邦介入的版本，迟早会散架。

收尾一句大实话：减速的信写得再漂亮，最后能踩刹车的仍然是那几家公司自己——而他们正踩在油门上。