聊天机器人猜不出「我要离婚」Pluralistic: Textured (18 Sep 2026)

作者一上来就说得很直接：统计外推本身没毛病。测量过去发生的事、找出相关性、据此预测未来，这套方法是可靠的，也真的能帮人们理解世界。问题只在于，它对有些事情管用，不代表对一切都管用。

猜词程序猜得有多准

大语言模型最让人意外的地方，是它把「猜下一个词」这件事做到了极致。在此之前，几乎所有人都高估了日常句子的随机性，以为世界是有纹理的、粗糙的，结果发现自然现象——包括人们自以为出于自由意志的行为——分布得比想象中平滑得多。作者叫它「猜词程序」，不是贬低，是承认这种猜测的成果超出了所有预期。

平滑的东西一放大全是裂纹

玻璃、不锈钢、冰、抛光木头，肉眼看着都光滑。放到高倍显微镜下，全是一堆微小的不规则。大多数时候你确实可以把它们当光滑的用，但那些粗糙之处才是关键：玻璃从哪里裂，冰从哪里开始化，木头从哪里翘。忘了这一点，你就只知道它怎么运转，一旦坏掉就完全懵了。

反常才是全部

作者讲了电台主持人的故事：这人说，他能预测妻子下一句说什么，妻子手机上的AI输入法也能预测，所以手机就像他一样懂她。作者说这想法让人反胃，也替他妻子难过。真正的问题是，当这个人突然说出一句「我要离婚」，靠统计表预测的人根本接不住——他需要的是关于这个人怎么想、为什么会变的真正理解。惊喜才是全部：是迪伦插上电，是迈尔斯·戴维斯故意不吹那个音，是毕加索的立体主义和卡罗的胡子。

换句话说，大语言模型是基于人们已知的东西训练的。而只要是已经被知道的事，就不叫惊喜了。