Anthropic强化AI使用管控，拦截多起高危应用行为

美国人工智能企业Anthropic周四发布一份详尽报告，披露其已介入并阻止部分科研人员利用其Claude模型开展可能涉及生物武器开发的实验。尽管难以确证相关行为是否直接服务于武器制造，公司仍采取行动以防范潜在威胁。

五起异常案例曝光，涵盖病媒传播能力研究

报告中列出了五个具体案例，其中一项涉及对特定蚊媒疾病的传播效率进行增强性模拟研究。该公司强调，此类活动虽未明确指向实际武器化意图，但出于安全考量，已立即终止相关访问权限。

识别并封禁境外势力操纵网络的账户

除生物安全领域外，报告还揭示了利用Claude实施影响力操作的账户，其中包括三个被确认与伊朗有关联的实体。这些账户曾通过模型生成攻击建议，针对中东地区美军海军部署提出战术目标，引发对AI工具被用于战略误导的担忧。

协同多方机构应对技术滥用风险

Anthropic表示，所有可疑活动均已上报至相关执法部门及行业协作平台，旨在构建跨组织的AI治理响应机制，防止关键基础设施遭受恶意利用。