币圈界报道：

资深安全专家警告：人工智能失控风险或将提前至五年内爆发

一位曾任职于谷歌DeepMind的前安全研究员公开警示，若当前技术演进趋势持续，具备超越人类能力的智能系统可能在未来数年内成型，且其目标与人类利益难以保持一致，存在引发全球性灾难的可能性。

核心风险评估：对齐滞后于能力跃升

Chughtai于今年7月退出DeepMind后发布声明，强调当前前沿模型的能力扩张速度远超对齐机制的成熟度。他指出，现有方法在确保系统可靠地追求人类价值方面仍处于初级阶段，而时间窗口正在迅速缩小。尽管不主张全面冻结研发，但他呼吁主要机构协同减缓竞争节奏，并提升关键技术路径的透明度。

行业共识浮现：高管亦支持审慎推进

Chughtai的立场并非孤例。此前在Anthropic与OpenAI任职三年的Jacob Coxon近期辞职，其继任者、对齐科学主管Evan Hubinger表示，未来十年内人工智能导致人类灭绝的概率已超过10%。另一位前DeepMind成员Josh Engels则因担忧五年内可能出现重大危害，选择加入非营利评估组织METR，拒绝了两大巨头的职位邀约。

领军企业同步发声：控制发展速度成新共识

目前，这一警报已获得主流实验室高层呼应。Anthropic首席执行官Dario Amodei明确建议限制模型能力增长速率，而OpenAI创始人Sam Altman也在多轮讨论中表达相似观点。这标志着安全关切已从早期理论探讨转向对自主性、可控性及研究进度匹配度的现实挑战。自2022年以来，相关讨论已实现从“可能性”到“紧迫性”的根本性转变，当前焦点集中于如何在创新与风险之间建立动态平衡。