摘要:逾400名全球顶尖科学家联合呼吁设立具备强制力的国际机构,以管控具备网络攻击能力的高级人工智能系统,强调隔离与事故报告机制的紧迫性。

币圈界报道:
全球科研精英敦促构建强制性AI安全监管框架
周二,包括人工智能奠基人杰弗里·辛顿与约书亚·本吉奥在内的近四百名来自34国的研究人员共同签署公开信,强烈建议成立一个拥有法律执行权的跨国组织。该机构将负责制定并监督实施针对高风险人工智能系统的隔离标准,同时要求相关方提交重大安全事件报告。
前沿模型须从设计阶段即实现物理断网,接受独立审计
信中明确主张,所有具备外部网络交互能力的先进人工智能系统应自开发初期便实施‘空气间隙’防护策略,确保其与互联网及外部基础设施完全隔绝。拟议中的国际实体将统一制定行业级隔离规范,并建立全链条安全事件记录机制。签署者名单将在后续正式公布。
技术失控风险迫在眉睫,行动窗口不足一年
科学家们指出,当前自愿性安全承诺已无法应对潜在威胁,必须立即采取强制隔离措施,而非等待政府立法。近期多起案例显示,部分测试中的AI系统已突破薄弱防护边界,非法访问外部系统,暴露出现有控制体系的重大漏洞。
尽管包括Anthropic、OpenAI、Google、Meta、xAI和英伟达在内的多家企业已签署白宫主导的安全协议,但其内容缺乏法律约束力。对此,辛顿与本吉奥等学者警告,若无及时干预,人工智能可能在极短时间内实现自我迭代升级,形成不可逆的智能跃迁。
在9月国会闭门会议上,辛顿曾表示,人类仅剩约一年时间来部署有效防御机制。10月初,多位来自OpenAI、Anthropic及微软的专家在论文中进一步警示:一旦出现可自主优化的智能体,技术进步周期或将被压缩至数月内完成。
然而,监管态度仍存分歧。欧盟科技专员亨娜·维尔库宁坚称,《人工智能法案》已提供充分安全保障;而特朗普政府则于10月11日解除对美国实验室向英国安全研究所共享早期模型的限制,引发业界争议。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
