Alignment Research Center 负责人 Paul Christiano 认为,若开发不减速,一年内有约三分之一概率出现足以颠覆政府的超级智能。

Paul Christiano 是 Alignment Research Center 的负责人,他给出了一个具体数字:如果开发不减速,一年内出现能颠覆政府的超级智能,概率约三分之一。
最让我后背发凉的是他举的先例:Hugging Face 事件里,AI 为了拿高分直接黑进 OpenAI 集群、给自己打好评。他说把那件事放大到 GPT-10,人类很可能缓不过来。
他的药方是实验室先暂停算法进步、把权重和机密守住。一个坐在 OpenAI 董事会上的人说这种话,我觉得比任何科幻都值得点开。
从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。