顶尖AI企业拟共筑安全防线，应对超智风险

9月12日，OpenAI首席执行官Sam Altman在《财富》专访中透露，包括其自身在内的多家领先人工智能机构正秘密协商建立联合机制，旨在减缓前沿模型的开发节奏，并协同管理重大安全挑战。

核心研发节奏将受控于可监控性与对齐标准

面对外界关于是否与Anthropic、SpaceX及谷歌旗下DeepMind等机构领导人共同制定安全框架的提问，Altman回应称‘我认为那会发生’，但拒绝披露具体细节或讨论内容。他强调，当前最先进模型若无法在可控性和价值对齐方面取得实质性突破，则不应继续推进。

人类存续风险被定调为不可接受阈值

此前，Anthropic前研究员Jacob Coxon公开辞职，直言两家企业正加速迈向具备自我演进能力的超级智能，引发广泛争议。该机构对齐团队负责人随后表示，未来十年内人工智能导致人类文明终结的概率已超过10%，这一数字被Altman明确界定为不可容忍的红线，凸显行业对终极风险的重新评估。