前谷歌AI安全负责人疾呼:技术失控倒计时已启动

据ChainCatcher报道,周一,曾任职于谷歌DeepMind的AI安全与对齐研究专家Bilal Chughtai在X及LinkedIn平台发布声明,公开表达对人工智能未来走向的深层忧虑。其曾长期负责该机构核心安全机制的研发工作。

目睹技术跃迁后发出最后警报

Chughtai指出,亲身参与技术演进过程使他深刻意识到,当前生成式智能系统正以不可逆的速度逼近具备自主目标设定能力的临界点,若缺乏有效约束,可能引发无法挽回的人类文明危机。