前安全研究员披露AI失控风险:人类生存概率低于90%

一位曾任职于Anthropic的安全研究专家在社交媒体平台公开发声,指出当前人工智能系统向自主进化的演进路径已构成对人类整体存续的实质性威胁,其发生概率已被评估超过十分之一。

研究者因伦理冲突选择离职

该研究人员表示,其辞职决定源于对所在机构研发方向的深层忧虑,认为包括Anthropic与OpenAI在内的头部企业均未建立足以应对技术跃迁的问责机制,实质上是在用公众生命进行高风险实验。

行业加速迈向不可控智能阶段

他进一步指出,当前技术发展节奏正推动系统脱离人类控制边界,若缺乏外部约束,极有可能在可预见未来实现自我迭代,从而彻底丧失可控性。