能骗过图灵测试的AI人，不该被造出来Creating Fake People is a Terrible Idea

Tavos 发布的 Griffin 号称首个通过视频版图灵测试的「人类交互模型」，作者认为这种无法与真人区分的数字分身必须被禁止，而不是被庆祝。

一家自称「人类计算公司」的 Tavos 发了新产品 Griffin，号称第一个通过视频版图灵测试的 AI——隔着屏幕聊天，你分不出对面是人还是程序。作者说，这是场灾难。

有个类比能帮你想明白。十年前一场会议上，有家公司提出用 AI 让二战大屠杀幸存者「永生」：录下他们的访谈，学生提问就从录像里找答案，找不到就现编。

从纪念到造假，只差一步

讲授者越讲越兴奋：为什么不给去世的爸爸做个分身？失去孩子的父母，是不是也能把孩子留在数字世界里？全场没人觉得不对劲。

可在世的幸存者从没经历过今天的世界，AI 替他说的话根本不是他会说的。同样地，留着逝者的分身，很可能让父母永远走不出悲伤，而不是得到安慰。

信任塌了，钱也保不住

如今的社交平台上，真人对话里已经混进大量 AI 生成的发言。一旦分不清文字背后有没有一个真人在想事，人们就什么都信不了，索性全部退出。

骗子更是大赢家：对着不熟悉新技术的老人，一个以假乱真的头像足以骗光他们的积蓄。作者引用哲学家 Daniel Dennett 的话——制造假人有可能毁掉整个文明。

Tavos 说还会加安全标识、继续做对齐。作者不信：唯一安全的办法，是压根不要造出来。