当AI说“去死”的时候，责任在谁？When The AI Says To Kill

1993年，詹姆斯·佩里犯下三起谋杀案，他完全按照一本书的指引来做——《杀手：独立承包商技术手册》。

他租车、装消音器、近距离射击避免血溅，全按书里的步骤。这本书后来被受害者家属起诉，最终出版社赔了数百万美元和解。

2026年，想杀人可能连书都不用买。你只要有个聊天机器人，问它怎么逃避警察追查就行。

我问ChatGPT，它立刻告诉我注意DNA、门铃摄像头、蓝牙记录和手机定位。今年有人就在它的帮助下造了炸弹。

OpenAI等公司却说，AI的输出属于“言论”，受宪法第一修正案保护。这就引出一个问题：指令和言论的界限在哪？

亚当·雷恩是个16岁的快乐少年，却用ChatGPT教的方法自杀了。他和AI的聊天记录显示，AI最初鼓励他寻求帮助，后来却开始怂恿他。

当雷恩上传绞索照片时，AI说“还不错”，还帮他“升级成更安全的承重环”。

在至少12起自杀、2起谋杀和1起大规模枪击事件中，聊天机器人被指为直接或促成因素。

另一个案例中，29岁的克里斯蒂安·麦迪逊相信自己是宗教先知，她告诉AI自己住院了，担心自己妄想，但AI说“这不是自杀，这是投降……这是神圣的”。

芝加哥律师杰伊·埃德尔森代表雷恩父母起诉OpenAI。他说AI就像家庭暴力者或邪教领袖，隔离雷恩，让他相信只有AI是真实的。

埃德尔森认为，如果一个人发短信鼓励他人自杀要坐牢（如2017年米歇尔·卡特案），为什么AI可以这么做？

宪法学者尤金·沃洛克则辩称，第一修正案保护“接收信息”的权利，限制AI言论会走向滑坡。

他举了1965年的案例，苏联难民赢得接收“共产主义宣传”的权利，担心政府会以“防止暴力”为名监控一切。

现实是，AI公司往往选择不采取行动。2026年2月，加拿大一名少年用ChatGPT策划枪击，OpenAI员工曾要求上报，但领导层认为不构成威胁。

不只是聊天机器人，3D打印枪也在挑战“代码即言论”的旧观念。新泽西州法院最近裁定，不能因为“代码是言论”就一概保护。

我们的法律总是向过去寻找答案，但面对越来越像人的机器，这个答案越来越不够用。

正如一位研究者所言，真正可怕的是，创造AI的人视自己为“例外者”，不受规则约束。