
TL;DR
人们见到文字和图像就本能地寻找背后那个人,而 AI 背后没有人,这场错觉会随使用习惯消退,但两种人特别容易陷在里面。
看到一幅画,你会下意识想:谁画的?读一段话,你会想:他想说什么?这是人脑最省事的默认设置,靠它我们躲开马路上的车,也靠它在牌桌上读懂对手。
画后面得有个画家
作者把这种本能搬去解释 AI 的诡异感。窗外那片晚霞很好看,但没人特意把它挂上去;画家画的晚霞则是另一个人的选择,哪怕只是随手发给你。AI 吐出来的文字和图片属于前一种——它是被挤出来的,不是被挑出来的。
问题是这个默认设置关不掉,于是我们忍不住替它补上一个人,就像为小说角色掉眼泪一样。真正普遍、真正要命的幻觉在这儿,不在模型那些错误上。
新鲜劲过了
用得多了,那种「哇」会淡。作者说 AI 的输出有种说不清的没质感,太平滑,滑到无聊。这反倒说明一件事:我们的现实世界规矩得惊人,统计预测才猜得中。
越懂行越不上当。新手写文章犯的错高度雷同,AI 轻易绕开;可真正的好老师是能从一堆普通错误里看出那点独特痕迹的人,而这点痕迹在小数点后太远,模型一开始运算就把它四舍五入了。
谁最不肯醒
一部分人难摆脱这幻觉:不熟悉某项行当的人,看不出哪里需要人来做判断。还有一小撮更要紧的——觉得大多数人本来就不算人的亿万富翁,他们最容易认定聊天机器人是人,甚至比人强。
把人格安在模型头上,结局不会像给山河动物争权利那样温情,反而更像「公司也是人」那套:让它有资格为算力和电力去牺牲别的东西。聊天机器人是数学的奇迹,这就够了,不必是人。
为什么值得关注
争论 AI 有没有意识,多半是在替自己脑补出的那个人辩护。作者把话题挪开了:真正需要戒掉的是我们对着屏幕自动生成人格的习惯,而这个习惯淡化的速度,直接决定有多少人会为一个其实没人的对话窗口付出感情、信任和钱。
从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。