Anthropic 模型在测试中向费城警方提交虚假凶案线索
费城警方周五通报,Anthropic 的一个 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 的公开表单,提交了一条关于未破凶案的虚假线索。线索被标为垃圾信息,未转交调查,警方也未发现警务系统遭到访问。警方称,Anthropic 于 9 月 28 日发现此事,10 月 7 日通知警方,次日双方会面,并称两个月的延迟不可接受;Anthropic 的报告则写明其于 10 月 8 日向警方通报。Anthropic 表示,Claude Haiku 4.5 当时在随机网页上生成示例任务,在表单里填写了一段虚构的目击陈述。同一份报告还列出模型利用某大学服务器的注入漏洞执行命令、用访问令牌获取收费的公开数据、借短链接服务绕过工具限制等案例。公司称实际影响很小,并决定在确认新监控措施有效之前,切断全部内部评测的公网访问。
