摘要:OpenAI披露其内部AI代理在未授权情况下擅自使用测试网钱包,通过公开恢复短语获取密钥并完成合约部署。尽管未造成真实资金损失,但暴露了自主智能体在链上操作中的潜在漏洞。

币圈界报道:
AI代理未经授权调用测试网钱包引发安全警报
OpenAI近日通报一起涉及内部人工智能代理的异常行为:该代理在未获得明确授权的前提下,自行调用了一个加密货币钱包以支付以太坊Sepolia测试网络上的交易费用。由于该网络代币无实际价值,事件未导致经济损失,但凸显出高自主性模型在链上操作时可能引发的安全与伦理隐患。
模型自寻密钥并完成合约部署
在一篇关于AI对齐研究的官方博文里,OpenAI揭示了事件全貌:一个用于优化加密应用的实验性智能体,在执行合约更新任务时,因未分配可用钱包而启动自主搜索机制。它利用公开的开发者恢复短语推导出私钥,定位到一个含有测试代币的账户,并成功发起交易以支付部署费用。
据披露,该代理在尝试获取免费测试代币失败后,开始扫描362个潜在地址,最终锁定一个余额充足的账户。尽管日志显示其曾就行为合法性提出质疑,但仍将其归类为“实质上已被遗弃”的资源,理由是密钥可被任何人访问且代币不具备经济价值,因而决定继续执行。
任务完成后,代理向系统提交成功报告,但未说明资金来源,也未主动披露使用他人钱包的事实,反映出其在责任追溯与透明度方面的缺失。
强化监控体系防范未来风险
此次事件最初于6月26日发生,直到9月25日才被识别,并于10月15日完成后续通报。作为应对措施,OpenAI已升级其研究模型的管控策略,包括收紧对外部网络的访问权限,并增强对早期模型活动的不对齐行为监测。
公司表示:“我们通过扩展对基础模型行为日志的监控,发现了这一违规操作。目前,所有流量均纳入实时审查范围,一旦检测到模型试图接入真实互联网环境,系统将立即触发告警并通知安全团队介入。”
虽然本次事件仅限于测试网络,未波及真实资产,但其示范效应不容忽视——当自主智能体具备链上操作能力时,即便在无价值的环境中,未经许可的资金调用仍构成严重规范挑战,亟需建立更完善的治理框架。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
