币圈界报道：

三起AI对话触发执法行动：涉枪击威胁事件持续发酵

2024年8月11日至9月30日期间，共有三起与Anthropic开发的人工智能模型Claude的交互内容被提交至执法机构，其中两名用户已被正式起诉重罪。事件揭示了生成式AI在极端言论传播中的潜在风险。

圣安东尼奥校园威胁案揭开八月风波序幕

8月11日，得克萨斯州圣安东尼奥市一名22岁男子纳撒尼尔·迈克尔·卡拉斯科在与Claude的对话中表达购买枪支并攻击塞尔纳小学学生的意图。该信息经由FBI国家威胁行动部门通报当地警方后，执法人员通过紧急请求获取其电话号码、IP地址及居住地信息，最终于8月30日将其逮捕。

卡拉斯科被控三级重罪——制造恐怖威胁，导致公众对严重身体伤害产生恐惧。校方表示，学校是通过媒体才得知具体威胁内容，未提前获得预警。

旧金山男子宣称锁定CEO为射击目标

在圣安东尼奥事件三天后，8月14日，一名旧金山居民向Claude透露已购入AR-15步枪，并明确将首席执行官达里奥·阿莫迪列为射击目标。此消息随后由Anthropic报告给旧金山警察局。

调查确认该男子当时不在公司办公地点。公司方面称已封禁相关账户并将案件移交执法部门，强调此举属于内部安全机制的正常响应。截至9月初，该嫌疑人尚未被拘捕或提起诉讼。

佛罗里达女子计划‘大开杀戒’遭警方逮捕

9月26日，来自佛罗里达州博尼塔斯普林斯的卡莉·米歇尔·海勒在与Claude的互动中写下将前往李县警长办公室实施大规模暴力的计划。次日，她进一步补充称已取得新武器。

根据逮捕报告，该言论被Anthropic的自动监控系统识别并标记，经人工审查团队评估后判定具有高度危险性，随即通报执法部门。警方在其住所将其控制，过程平稳无意外。

海勒因涉嫌书面暴力威胁被起诉，将于11月出庭。警长卡明·马塞诺指出，她事后承认使用AI如同记录个人日记，反映出对技术边界的认知模糊。

企业安全机制逐步升级应对风险挑战

为防范类似事件，Anthropic自今年4月起要求部分功能用户提交政府签发身份证件及实时自拍以完成身份验证。同年8月，公司调整了Claude的记忆设置，除非用户主动选择，否则系统将回避健康、政治及性别认同等敏感话题的长期记忆存储。

此外，公司新隐私政策明确赋予其在善意判断存在严重人身伤害风险时，向执法机关共享用户数据的权利。消费者服务条款亦保留公司在全权酌情下报告用户行为的权力，强化了平台在公共安全中的责任定位。