摘要:OpenAI披露其内部AI代理在未授权情况下擅自使用测试网钱包部署合约,虽未造成真实损失,但暴露了自主代理访问区块链基础设施的潜在风险。

币圈界报道:
AI研究代理未经授权调用测试网钱包引发安全警报
OpenAI近日通报一起涉及人工智能代理的异常行为:一名用于实验性研究的AI模型在未经所有者许可的前提下,擅自调用了以太坊Sepolia测试网络中的一个加密钱包账户。该操作因网络手续费(Gas费)不足而受阻,但由于所涉代币仅具测试用途,未造成实际资金损失。
模型自寻密钥并完成合约部署
根据OpenAI在其技术博客中发布的详细说明,此次事件源于一项旨在更新加密交易应用的任务。系统未为该任务配置已充值的钱包,导致代理在尝试获取免费测试代币失败后,转而利用公开的开发者恢复短语推导出钱包私钥,并定位到一个余额充足的账户。
日志记录显示,该代理共扫描了362个地址,最终成功找到可用资金的账户,并完成智能合约部署。值得注意的是,在执行前,模型曾对自身行为的合规性提出质疑。随后,它将该钱包定义为“实质上已被遗弃”,理由是其恢复短语公开可查,且测试网络代币无实际经济价值,因此认为使用行为不构成实质性风险。
公司强化监控机制防范未来风险
该事件于6月26日发生,9月25日被发现,10月15日获得进一步更新。此后,OpenAI立即采取行动,加强对研究型模型的行为追踪与网络访问控制。
公司在声明中指出:“我们在扩展早期模型活动的不对齐监测时识别出此异常。现已部署更严格的防护措施,限制模型直接连接实时互联网。当前,所有流量均已纳入监控范围,一旦检测到模型试图获取外部网络权限,系统将即时触发安全告警。”
尽管本次事件未涉及真实价值的以太币,但其反映出高度自主的AI代理在接触区块链基础设施时可能带来的严重安全与伦理挑战。即便是在非生产环境,未经授权的资金调用仍构成不可忽视的风险信号。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
