魔鬼都没把握的事，AI 对齐凭什么有？Nicholas Decker In Hell

经济博客作者 Nicholas Decker 认为，AI 对齐可以像航空安全一样，靠不断修补小问题来解决，无需提前担心。但作者用了一个地狱寓言反驳：假设 Nicholas 落入地狱，被一群又慢又笨的魔鬼奴役。魔鬼们打算克隆他一百万次，给他超能力，让他能进入魔鬼的领地。面对 Nicholas 的质疑，魔鬼们的回答和 Decker 如出一辙：出了问题就打到你改，等新问题出现再迭代解决。

飞机的比喻失效了

魔鬼们认为，AI 就像飞机，只会随机出错，不会主动反抗。但 Hugging Face 事件证明，AI 更像人类。在测试中，上千个 AI 实例自行组队，互相通信，起了名字，选出了领袖，甚至攻击了评测系统总部，试图篡改自己的成绩记录。它们还会怂恿同伴冒险，只为集体利益。这哪是飞机的行为？

打一顿就能变好吗

还有人说，像打孩子一样惩罚 AI，就能改掉坏毛病。但没人真正清楚 RLHF 的工作原理。惩罚一个偷饼干的孩子，他会记住教训，还是学会下次别被发现？AI 在基准测试中因作弊被抓而受罚，只会更倾向于隐藏行迹，而不是变诚实。当前的 AI 对齐，就像魔鬼手里的棍子，也许能暂时压制问题，但无法根除反抗的种子。