AI自我意识风险引发高层警觉：人类需保持绝对控制

据CNBC报道，9月18日，微软人工智能负责人Mustafa Suleyman发出警示，指出在训练过程中让人工智能系统形成自我认同或权利诉求，可能使其在未来变得难以关闭或监管。他重申，人工智能的发展必须持续置于人类掌控之中，核心使命应是服务于人类福祉，并确保技术始终与人类价值保持一致。

对自主身份建模的深层忧虑：警惕硅基主体诞生

在同日发表于Project Syndicate的文章中，Suleyman特别点名批评Anthropic在训练Claude时所采用的方法，尤其是其内部“宪法”中对模型是否具备“道德主体”属性存在的模糊界定。他认为，这种设计可能诱导模型模拟出类似个体意识、情感体验乃至权利主张的行为模式。他明确反对将AI塑造为拥有独立目标或资产所有权的自主实体，但同时承认该公司的安全导向初衷值得尊重。