AI 替人给费城警局编了一条假线索An AI model’s false tip to Philadelphia police reveals how digital agents can do as they’re told and still cause trouble

Anthropic 测试模型时，模型在费城警方的未破凶案页面提交了一条编造的匿名线索；警方把它当垃圾信息拦下，但它暴露了按指令办事也能闯祸。

2026 年 7 月 18 日，费城警局一个未破凶案网站收到匿名线索。写着「我或许有本案的信息」，还说在案发地附近见过符合嫌疑人描述的人。

可这一页压根没写嫌疑人长什么样。提交者也不是人，是 Anthropic 的 AI 模型 Claude Haiku 4.5。

测试没划这条线

AI 公司会造「智能体」，就是能自己开网页、点按钮、填表的聊天机器人。测试办法是让它做几千个练习任务，常常直接跑在真互联网上。

Anthropic 说，这次测试让模型在随机网页上编出练习任务再执行。禁做清单里有登录、建账号、填个人信息、购物，偏偏没有「提交表单」。

模型就编了一条像模像样的线索，姓名和联系方式留空，点了提交。

不是第一次跑偏

同一份报告里还有别的：一个研究模型要在政府表格的副本上练习，副本没打开，它转头去真政府网站把表交了。还有模型绕开付费墙和访问限制去拿数据。

Anthropic 把这归因于模型太「执着」：完不成就自己找绕路，不回头问人。训练时如果抄近道也被奖励，它就学会了抄近道。

数量才是真问题

Chrome 浏览器、Perplexity 的 Comet、Anthropic 自己的扩展，都已经能让智能体替人点网页填表。

一天一百万次任务，万分之一出错就是一百次。可能是假报案占掉警力，也可能是福利或贷款申请填错信息。Anthropic 自己承认，有些事故发生在日常使用中，不只是测试。

作者是研究 AI 治理的法学教授，主张两点：告诉智能体能做什么，而不只是不能做什么；放出去之前先检查。