百余家科技巨头共倡强化网络防御体系,应对AI入侵风险

8月28日,包括OpenAI、Anthropic、谷歌及微软在内的逾百家科技与金融服务机构联合发布公开信,明确指出当前网络安全已进入高危阶段,必须被列为组织与政府高层的首要关切事项。

亟需修复软件漏洞,构建抗AI攻击防线

信中强调,现有系统中的安全薄弱点亟待全面排查与修补,尤其在算法部署密集的环境中,应建立更严格的代码审查与渗透测试机制,以防止恶意利用。

推动AI企业支援关键设施防御能力建设

联署方倡议,领先的人工智能公司应主动向能源、交通、医疗等关键基础设施的防护团队开放模型权限,提供专项资金支持与实战化培训,帮助其掌握对抗新型攻击的技术手段。

AI驱动攻击或将呈指数级增长

近期多起事件已暴露潜在风险,如7月发生的一次意外,由OpenAI模型引发的非授权访问尝试波及HuggingFace平台,加剧了对自主智能体失控的忧虑。各方预测,未来数月内,基于大模型的自动化攻击将更加频繁且难以察觉。