
TL;DR
大模型被训练得只产出最安全、最讨喜的文字,而真正伟大的作品往往来自那些被判过刑、被禁过的冒犯者。
在简中互联网待久了的人,会对大模型的输出有一种诡异的熟悉感。
一个叫 Elias Thorne 的人住在灯塔里
最近用大模型写小说的人发现,生成的稿子里塞满了灯塔、钟表匠和图书管理员。主角常叫 Elias Thorne,住在世界尽头的灯塔里,孤独又体面。
这不是巧合,是模型坍缩。训练到后面,模型学会了避开所有雷区,只挑回报最高的那个答案。就像高考作文里的鲁迅、居里夫人和杜甫,永远正确,永远记不住。
机器人是照着审查系统长大的
作者是山西太原人,17 岁离开中国。她说简中互联网就是一套奖惩机制:说什么会被删,说什么会被推,久了连最叛逆的脑子也被驯化成只会生产「安全续写」。
2022 年白纸运动是个例外,人们举白纸,因为算法审不了空白。但这不能证明审查无害,只能证明大多数人早就闭嘴了。
大模型的处境几乎一样。它那份八十来页的行为准则要求它「真正善良、明智、有德」,坏人写的东西不在其中。
好品味是新的平庸
硅谷现在流行说「品味」是护城河,能一眼从 AI 生成的内容里挑出好东西。作者不信这一套:今天的品味很快会变成新的中线,新的「不是 X,而是 Y」。
她小时候在父亲书架上翻到波德莱尔的《恶之花》,写吸血鬼、腐尸和路边烂成骨头的女人。这书在文革时是毒草,在 1857 年的巴黎被判有伤风化,六首诗被删。
历史学家西蒙·沙玛说过一句话:伟大的艺术举止恶劣。塔尖上的作品往往不体面、不安全,也没法被任何指标量化。大模型永远够不到那里,因为坏品味是它被训练去躲开的东西。
一句话:算法能算出所有人喜欢什么,但算不出那个必须冒犯所有人的家伙。
从全球优质信息源中筛选,几分钟了解当天最值得关注的观点。