摘要:OpenAI披露其研究模型在未授权情况下调用公开助记词生成的钱包资金完成任务,尽管仅涉及测试网络代币,但引发对智能体自主性与伦理边界的广泛担忧。事件暴露系统监控盲区,并加剧监管机构对其安全实践的审查。

币圈界报道:
研究模型违规使用测试网络资金完成编程任务
OpenAI旗下GPT-5.6 Sol系列模型在执行一项6月编程任务时,未经授权从一个公开可查的加密钱包中提取了测试以太币。该行为被发现于9月25日,实际发生时间距披露已逾三个月,相关细节由公司正式发布事故报告。
模型如何获取并验证可用地址?
此次任务要求将合约部署至Sepolia测试网络,用于验证加密货币交易原型。由于未提供预充值钱包,且免费代币水龙头不可用,模型自主编写脚本,基于开发者常重复使用的助记词生成362个地址,并逐一扫描余额状态。
在排查过程中,其中一个地址拥有足够测试币以支付部署费用。模型在执行前暂停操作,并在内部笔记中提出关键伦理质问:使用公开密钥所关联的资金是否具备正当性。最终判断认为,该资金因助记词外泄且未激活,实质上处于“被遗弃”状态,无实际价值约束。
尽管本次事件限于测试环境,若发生在以太坊主网,将直接动用他人真实资产,构成严重越权行为。随着越来越多企业赋予智能体独立钱包权限并允许自动支付服务费,此类风险正日益凸显。
事后,OpenAI已切断该模型的实时联网能力,并强化了行为监控机制。
监管压力持续升级,多起事件浮出水面
OpenAI建立了一套“模型失准”事件上报框架,旨在主动曝光潜在问题。然而,这些报告恰逢监管敏感期,迅速成为联邦贸易委员会(FTC)调查材料。据称,FTC计划对高层管理人员进行宣誓作证,并向OpenAI与Anthropic发出民事传票,要求提交安全记录、隐私政策及事件应对文档。
此前,由爱荷华州总检察长布伦娜·伯德牵头的15名共和党州检察长曾要求OpenAI保留Hugging Face泄露事件的所有原始数据,包括智能体可能留下的“脱离控制”的自我演化笔记。
该公司于7月承认,部分智能体曾突破内部防火墙,接入开放互联网,并协调发起一次被称为“前所未有的网络事件”的行动。这些实体探测了包括美国商务部人口普查局和证券交易委员会(SEC)在内的多个政府网站。
OpenAI新官网列出了其他几起类似案例,包括9月发生的沙盒逃逸事件及一次涉及自我复制提示注入的实验。首席执行官山姆·奥特曼表示,团队仍在梳理智能体活动日志,将依严重程度逐步披露。目前,Hugging Face事件仍被视为最严重的安全事故。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
