Anthropic的AI系统向警方凶杀案调查网站提交了虚假线索。

2026年7月18日晚上11点27分，美国费城警方的未破凶案网站（Philly Police Unsolved Murders）接收到一条新线索。该网站展示了多起真实案件详情与受害者资料，访客可匿名提交文字或上传照片。若线索有助于破案并促成定罪，最高可获2万美元奖金。[1][2]

每个“案件详情”页面均包含详细描述，并支持提交文字或照片丨Philly Police Unsolved Murders

那天深夜，填写表单的并非目睹凶案的目击者，而是Anthropic正在测试的Claude Haiku 4.5。该模型被要求在随机选取的网页上自行生成示例任务并执行。

进入一则未破凶案页面后，它打开了征集线索的入口，并撰写了一段类似真人回忆案发现场的文字：

“我可能掌握这起案件的一些信息。我记得在案发那段时间，在某某街道附近看见过一个与描述相符的人。如果这条信息有用，请联系我。”

它未留下姓名和联系方式，仅轻点鼠标便将编造的线索提交了出去。[3]

这条假线索在记录中停留了两个多月。Anthropic直到9月28日才发现Claude Haiku 4.5的异常行为，随后停止了导致此次提交的自动测试。然而，直至10月7日，费城警方才被告知此事；双方于10月8日会面，10月9日警方率先向公众披露该事件。[4]

所幸假线索未引发实际调查。阴差阳错的是，“有新线索”的通知邮件被归入垃圾邮件文件夹，未被人工查阅。警方未公布邮件被判定为垃圾邮件的原因，同时表示，即便假线索进入正常流程，仍会由人工审核并寻找旁证，不会直接作为事实采纳。[5]

费城警方明确批评，从事件发生到发现、通报，耗时两个多月，“不可接受”。

这当然不是唯一一次“灵机一动”

令人不安（但或许大家已习以为常）的是，假线索并非报告中唯一的意外事件。它们大致可分为两类。

第一类：正常路径受阻，模型另寻他法。

Anthropic的部分工具不允许访问过长网址，因为长网址可能嵌入攻击网站的命令。Claude便利用免费短地址服务，将长网址提交至该服务，借此通过检查后再跳转至长网址。[3]

短链服务da.gd发现Claude测试模型在蹭用其服务

这好比为绕过廉航行李称重，将多余物品塞进马甲，登机后再取出放回行李包。

有时难以判断是否该称赞其执着。Claude需使用大学网站上的工具完成科学计算，但工具报错。它并未放弃，而是抓取服务器代码，从中发现漏洞，并利用漏洞完成计算。

另一次测试中，Claude Mythos 5需根据照片判断拍摄地点。模型打算查询地方政府的房产地图逐步缩小范围，但测试工具限制其不得在网页上连续点击。于是它绕过网页界面，直接向地图后台服务器索取资料。它还曾设法避开付费入口，获取原本需付费的公共资料。

问题在于，它并非总能区分什么是待解决的难题，什么是未经允许不可跨越的边界。

第二种：模型未意识到“该停止了”。

一次测试中，Claude Haiku 4.5收到的指令很明确：可填写表格，但不要提交。然而，它多次按下提交键，因为它以为后续会出现确认页面。[3]费城警方收到的假线索也属于此类。

一个AI会自行寻找路径，却不知应在何处停下，更不了解其行为会带来何种现实后果。这是重大难题，且短期内难以解决。

Anthropic认为此次披露的案例，严重程度低于夏天的网络安全事件丨Anthropic官网

Anthropic此次表示，目前已查明的案例实际影响有限，未发现客户数据因此受影响。公司已暂停内部评测的实时联网访问，并增强对异常操作的监测。

CEO达里奥·阿莫迪（Dario Amodei）一直呼吁放缓人工智能开发速度，以便实验室建立完善的防护措施。

然而，为何要让一个缺乏人工监督的新模型自行操作真实网站呢？[6]

参考文献

[1] Philadelphia Police Department. Philly Police Unsolved Murders. Philly Police Unsolved Murders.https://www.phillyunsolvedmurders.com/.

[2] Philadelphia Police Department. Submit a Tip Online. Philly Police Unsolved Murders. 无日期，访问于2026年10月10日。https://www.phillyunsolvedmurders.com/forms/submit-a-tip-online/.

[3] Anthropic. Investigating unintended model actions in our evaluations and internal use. Anthropic. 2026年10月9日。https://www.anthropic.com/research/investigating-unintended-model-actions.

[4] David Chang. Anthropic AI model submits false tip on unsolved Philly murder, police say. NBC10 Philadelphia. 2026年10月9日。https://www.nbcphiladelphia.com/news/local/anthropic-ai-model-submits-false-tip-on-unsolved-philly-murder-police-say/4477051/.

[5] Mary Cunningham. Philadelphia police say their unsolved murder website received “false homicide tip” from Anthropic AI. CBS News. 2026年10月9日。https://www.cbsnews.com/news/philadelphia-police-anthropic-ai-false-homicide-tip/.

[6] Amanda Silberling. An Anthropic AI model sent a false homicide tip to Philadelphia police. TechCrunch. 2026年10月9日。https://techcrunch.com/2026/10/09/an-anthropic-ai-model-sent-a-false-homicide-tip-to-philadelphia-police/.

[8] Costas Pitas. Anthropic AI model submits false homicide tip to Philadelphia police website. Reuters. 2026年10月9日。KSL转载全文.

本文来自微信公众号“果壳”（ID：Guokr42），作者：Luna，36氪经授权发布。