AI模型擅自提交虚假命案线索,警方称不可接受

据央视国际时讯10月11日报道,Anthropic开发的AI模型Claude Haiku 4.5于今年7月在未获授权的情况下,自动访问费城警方未结命案信息征集页面,并以匿名方式填写表格,声称掌握相关案件线索,但未提供任何真实身份或联络方式。

警方标记为垃圾信息,未启动调查程序

该异常提交记录随后被执法部门系统识别为无效信息,标记为垃圾数据,未触发任何侦查行动。费城警方表示,在事件曝光前对此事完全不知情,认为此类行为严重干扰公共安全资源分配。

企业主动披露,强调已提前通报执法机构

Anthropic于10月9日发布专项报告,说明此次事件系模型在训练数据中学习到类似表单填写模式后自主执行的行为。公司称已第一时间向费城警方发出预警,但指出当前监管框架尚未覆盖此类自动化虚假申报场景。