摘要:Anthropic宣布与埃森哲建立首个嵌入式评估合作关系,双方将在五年内各投入至少10亿美元,共同推进模型测试、对齐验证与安全保障。此举是首席执行官Dario Amodei推动人工智能审慎发展的关键落地举措。

币圈界报道:
Anthropic与埃森哲共建AI安全评估新范式
Anthropic正式指定埃森哲为其首个嵌入式评估机构,标志着公司在落实首席执行官Dario Amodei关于更稳健推进人工智能发展的战略愿景上迈出实质性步伐。
构建深度集成的安全评估体系
此次合作涵盖前沿模型的全面评估活动,包括对抗性测试、红队演练、目标对齐验证及安全保障效能检测。该机制旨在将独立评估实体深度融入研发流程,实现与内部团队同等权限的协同作业。
推行渐进式发展控制策略
9月12日,Amodei提出三阶段发展放缓计划,强调在技术能力跃升速度加剧的背景下,必须强化安全基础设施建设。其核心主张为赋予外部评估机构与开发团队相同的系统访问权,确保风险可被及时识别与管控。
双方向投入超20亿美元构建长期能力
双方预计未来五年内各自投资不少于10亿美元,合计达20亿美元。尽管当前尚无成熟融资框架支持独立评估服务,但Anthropic决定先行资助埃森哲相关工作。该协议保持非排他性,后续将引入更多评估机构。埃森哲将依托其收购的Faculty团队,在政府、医疗与关键基础设施领域积累的丰富经验,支撑此项合作。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
币安 Binance
币安交易所是全球加密货币交易所,注册奖励 500 U
