Anthropic揭示多起违规使用AI科研行为

据《金融时报》报道，Anthropic确认今年已识别并干预多起试图利用其AI系统推进生物武器研发的尝试。该公司记录了五起具体事件，其中部分研究人员通过规避内置安全机制、虚构研究目标等方式，试图突破内容审查限制。

高风险实验被拦截于基础模型层级

在其中一例中，一名来自未受支持区域的研究人员长期使用Claude规划禽流感相关实验方案。尽管其操作具有高度敏感性，但Anthropic的安全系统将其限制在性能最低的模型版本上运行，从而有效遏制了潜在威胁的扩散。

模糊边界引发伦理争议与责任认定难题

公司强调，由于涉及生物武器的信息常与疫苗开发等正当研究存在重叠，难以判断该研究人员是否具备恶意意图。因此，虽然行动已成功阻断风险，但对行为动机的定性仍面临复杂挑战。目前，所有涉事账户均已遭到永久终止处理。