币圈界报道:

Anthropic与埃森哲共建AI安全评估新范式

Anthropic正式指定埃森哲为其首个嵌入式评估机构,标志着公司在落实首席执行官Dario Amodei关于更稳健推进人工智能发展的战略愿景上迈出实质性步伐。

构建深度集成的安全评估体系

此次合作涵盖前沿模型的全面评估活动,包括对抗性测试、红队演练、目标对齐验证及安全保障效能检测。该机制旨在将独立评估实体深度融入研发流程,实现与内部团队同等权限的协同作业。

推行渐进式发展控制策略

9月12日,Amodei提出三阶段发展放缓计划,强调在技术能力跃升速度加剧的背景下,必须强化安全基础设施建设。其核心主张为赋予外部评估机构与开发团队相同的系统访问权,确保风险可被及时识别与管控。

双方向投入超20亿美元构建长期能力

双方预计未来五年内各自投资不少于10亿美元,合计达20亿美元。尽管当前尚无成熟融资框架支持独立评估服务,但Anthropic决定先行资助埃森哲相关工作。该协议保持非排他性,后续将引入更多评估机构。埃森哲将依托其收购的Faculty团队,在政府、医疗与关键基础设施领域积累的丰富经验,支撑此项合作。