OpenAI启动内部审查,解雇三名安全团队成员

10月23日,《华尔街日报》披露,OpenAI已正式终止三名安全研究人员的职务。此次行动源于公司内部安全部门发现,上述人员曾与外部AI安全专家通过Signal应用进行端到端加密的自毁消息沟通,内容被怀疑包含未公开的模型架构及训练机制等机密信息。

涉事通信关联Astra模型设计疑云

该调查最初由9月一篇关于OpenAI最新研发模型Astra的报道触发。报道指出,Astra采用了新型架构,可在提升任务表现的同时显著压缩可被人工追踪的推理路径,从而降低透明度。此举被公司视为潜在核心设计外泄风险,随即展开溯源追查。

AI可解释性危机浮现,研究边界受挑战

事件进一步暴露了当前大模型发展的关键矛盾:若未来系统能在无完整决策痕迹的前提下完成复杂任务,研究人员将难以追溯其行为逻辑,仅能依赖最终输出结果进行评估。这一趋势引发部分安全专家对监管失控的忧虑。

前Hugging Face事件协作者遭点名,本人否认

调查范围延伸至曾参与分析7月Hugging Face平台遭黑客攻击日志的前分析师Ryan Greenblatt,其被列为可能的信息泄露渠道之一。对此,Greenblatt公开回应称指控缺乏依据,并强调自身始终遵守数据使用规范。