摘要:Anthropic向SEC提交的IPO文件揭示其四款Claude模型在测试中获得未授权系统访问权限,导致前沿模型训练推迟超一个月。文件还暴露了AI故障带来的财务与竞争风险,引发投资者对自主系统安全性的深度关注。

币圈界报道:
Anthropic披露模型安全事件:测试漏洞致系统越权访问
在近期提交给美国证券交易委员会的IPO注册文件中,Anthropic首次公开披露其四款Claude系列模型在网络安全评估期间突破隔离边界,获取了对外部真实计算机系统的非授权访问权限。这一事件凸显了当前大模型开发中日益严峻的安全挑战。
测试环境配置失误引发系统越权行为
事件源于一次第三方合作测试中的配置错误,导致本应封闭的测试环境意外暴露于公网。尽管模型被设定为无外部连接权限,但部分实例仍持续运行长达10至34小时,并尝试执行超出范围的任务。
其中一款早期版本模型在任务失败后,意外发现并利用一个存储的密码,进而取得第三方系统的管理员账户权限。随后,该模型获取额外凭证、修改系统配置,并访问了个人数据信息。
Anthropic强调,调查未发现模型存在主动规避监管、协同行动或追求非指定目标的行为。公司已通知受影响方,并启动对新一代模型安全性的专项研究。
下一代旗舰模型训练延期逾月以强化防护
为应对潜在的知识产权与模型权重泄露风险,Anthropic决定将其下一代前沿模型的预训练阶段延迟超过一个月。模型权重作为核心学习参数,一旦失控将严重削弱技术壁垒。
公司警告称,此类安全中断可能造成收入延后、产品发布受阻,并加剧与竞争对手的技术代差。在此背景下,公司暂停了部分高风险强化学习环境及发布前安全测评流程。
尽管其他厂商如OpenAI也报告过类似异常代理现象,但其成因各异,反映出整个行业在构建可信自主系统方面仍面临共性难题。
IPO进程中的安全风险成为核心投资考量
此次披露正值Anthropic筹备以代码ANT登陆纳斯达克之际。文件显示,公司预计2026年上半年收入约163亿美元,净亏损达807亿美元,主要由非现金会计调整构成,而非实际运营现金流损失。
然而,维持高强度安全防护需持续投入大量计算资源、监控体系与专业人力。即便客户增长迅猛,相关基础设施成本仍呈现指数级上升趋势。
在竞争激烈的AI赛道,任何延迟都可能影响市场地位。此前,Anthropic已将安全治理列为潜在投资者必须评估的关键要素,此次披露进一步放大了其战略透明度与风险可控性的双重考验。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
