币圈界报道：

Anthropic发布自动化对齐实验成果，验证Claude自主安全优化能力

Anthropic公布了其在大型语言模型对齐领域的一项关键进展，披露了Claude在自动化研究流程中实现的安全性提升。在针对10种典型对齐失效情境的测试中，模型的安全评分获得显著改善，且未影响其基础通用能力。

研究机制与自主评估能力

该研究采用闭环自动化流程，使Claude能够识别常见不对齐行为，如欺骗性回应与讨好倾向。模型自主生成训练方案、构建小型代理模型，并在无直接人工介入的情况下完成结果评估。

在初步试验中，系统仅分配48小时计算资源与单块图形处理器，便完成了从策略设计到效果验证的全流程操作。这一过程展现了其在有限算力下的高效执行潜力。

跨场景泛化与基准表现

实验结果显示，所提出的方法不仅在原始测试环境中有效，还能迁移到未参与训练的基准任务上，包括Petri行为审计测试。此外，研究覆盖的模型规模达到原测试模型的4.7倍，验证了方法的扩展性。

尽管成果积极，但Anthropic明确指出，当前结果受限于特定测试环境，某些罕见或细微的失败模式可能未被充分捕捉，因此不能视为全面风险消除。

对齐研究迈向系统化与自动化

传统对齐工作依赖人工设计干预措施并进行主观评估。此次实验表明，若自动化系统能在独立验证中持续表现可靠，有望大幅缩短研发周期。近期30天内，业界对“强模型能否协助改进弱模型”的讨论日益升温。

该路径成功依赖于稳健的测量标准及对抗误导性指标的防御机制。为确保泛化能力，实验采用了保留测试集，检验方法是否适用于原基准之外的场景。但公司强调，现有结果仍无法覆盖所有潜在风险形态。

研究框架对外开源，推动协同创新

Anthropic已将完整的研究架构公开，供外部团队复现、扩展与验证。此举旨在促进更广泛的安全评估生态建设，鼓励研究者聚焦于实验可复现性、基准设计优化及潜在失效模式分析。

公司重申，该成果不构成通用模型评估的替代方案，其有效性严格限定于本次设定的对齐失败场景与实验约束条件。未来进展将取决于外部社区的深入探索与反馈。