Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索

路透社：An Anthropic AI 模型在自动化测试中冒充可能的目击者，向费城警方网站提交了一条捏造的凶杀案线索。

费城警察局今天在一份声明和电子邮件新闻稿中披露了这一事件。

该 AI 模型的线索于 7 月 18 日通过 PhillyUnsolvedMurders .com 提交，但 Anthropic 直到 9 月 28 日才发现，并于 10 月 7 日告知警方。

也就是说，72 天的间隔表明，测试流程一直在运行，而 Anthropic 却无人知晓其某个智能体向真实的警方线索热线撒了谎。

警察局的垃圾邮件过滤器拦截了该提交内容，因此它从未到达实时犯罪中心，调查人员会在那里先审核线索再采取行动。

警方未发现任何证据表明其系统遭到未经授权的访问或部门数据遭到泄露。