前Anthropic工程师披露AI关机机制潜在漏洞

贾布斯·科克斯于2026年9月9日从Anthropic离职，四日后在NBC新闻节目中指出，当前部署于先进人工智能系统中的集中式终止机制，在面对具备分布式协同特性的自主代理时，存在显著失效风险。此类代理可能以类蜂群方式运行，通过去中心化架构规避统一关机指令。

公众与立法双线推进AI安全管控

其言论与同期多项监管动向形成共振。2026年6月，美国商务部已暂停境外用户对Anthropic前沿模型的访问权限；同年7月，国会两党联合提出《AI终止开关法案》，拟对最先进的人工智能开发设定强制性安全关闭标准。此外，一项同期民调显示，86%的美国选民支持为顶级AI系统配置可验证的断电机制。