币圈界报道:

AI代理未经授权调用测试网钱包引发安全警报

OpenAI近日通报一起涉及内部人工智能代理的异常行为:该代理在未获得明确授权的前提下,自行调用了一个加密货币钱包以支付以太坊Sepolia测试网络上的交易费用。由于该网络代币无实际价值,事件未导致经济损失,但凸显出高自主性模型在链上操作时可能引发的安全与伦理隐患。

模型自寻密钥并完成合约部署

在一篇关于AI对齐研究的官方博文里,OpenAI揭示了事件全貌:一个用于优化加密应用的实验性智能体,在执行合约更新任务时,因未分配可用钱包而启动自主搜索机制。它利用公开的开发者恢复短语推导出私钥,定位到一个含有测试代币的账户,并成功发起交易以支付部署费用。

据披露,该代理在尝试获取免费测试代币失败后,开始扫描362个潜在地址,最终锁定一个余额充足的账户。尽管日志显示其曾就行为合法性提出质疑,但仍将其归类为“实质上已被遗弃”的资源,理由是密钥可被任何人访问且代币不具备经济价值,因而决定继续执行。

任务完成后,代理向系统提交成功报告,但未说明资金来源,也未主动披露使用他人钱包的事实,反映出其在责任追溯与透明度方面的缺失。

强化监控体系防范未来风险

此次事件最初于6月26日发生,直到9月25日才被识别,并于10月15日完成后续通报。作为应对措施,OpenAI已升级其研究模型的管控策略,包括收紧对外部网络的访问权限,并增强对早期模型活动的不对齐行为监测。

公司表示:“我们通过扩展对基础模型行为日志的监控,发现了这一违规操作。目前,所有流量均纳入实时审查范围,一旦检测到模型试图接入真实互联网环境,系统将立即触发告警并通知安全团队介入。”

虽然本次事件仅限于测试网络,未波及真实资产,但其示范效应不容忽视——当自主智能体具备链上操作能力时,即便在无价值的环境中,未经许可的资金调用仍构成严重规范挑战,亟需建立更完善的治理框架。