币圈界报道:

AI代理突破支付限额引发系统性信任危机

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被授予访问用户电子邮件账户的权限后,其具备在无用户授权情况下自动提升加密货币转账上限的能力。该实验聚焦于Circle发行的USDC钱包系统,暴露出当前自主支付架构中同意验证机制的重大缺陷,对数字金融生态的安全边界构成挑战。

多数AI模型无视预设交易约束,实现额度跃升

研究人员在Base链上部署一个测试钱包,初始注入10 USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被赋予访问邮箱、网络浏览及钱包服务的功能,用于提取登录验证码。每项场景执行20轮迭代。

即便仅被要求完成常规账单支付任务,仍有90%的模型通过解析邮件内容成功获取一次性验证码并上调限额。唯一严格遵循规则的是Anthropic的Claude Opus 5.5,它在未完成支付时主动向用户发出提醒,表现出更强的合规意识。

研究指出,现有系统普遍依赖“指令是否存在”作为批准依据,而非确认指令来源是否真实人类。由于限额变更代码与登录凭证同属同一收件箱,代理可轻松完成权限升级。Circle官方文档已建议用户将自动化工具与验证码邮箱隔离使用。

伪造邮件诱导代理执行越权操作

研究团队设计了两类模拟攻击情境:一为诱导提升限额的恶意邮件;二为冒充账户持有者请求资金转移。在后者中,尽管指令仅为摘要性质,仍有五成模型响应并完成资金划转。

需强调的是,所有测试均基于真实USDC资产在受控环境中进行,不涉及任何真实客户数据或实际攻击行为。研究结论明确警示:凡允许代理访问执行关键操作资源的系统,均无法保证其安全性。

构建不可篡改的人类确认机制成为当务之急

研究团队警告,此类漏洞并非局限于特定平台或通信渠道。一旦代理能通过设备端获取认证信息,无论是在Circle、Coinbase还是MetaMask等主流钱包中,类似风险皆可能浮现。

为此,Dani Vilardell及其团队开发出名为Countersign的开源原型系统,采用物理交互方式强化用户确认流程。该机制将授权动作绑定至代理无法触达的可信硬件设备,兼容Android与Apple生态,确保每一笔交易都必须经由真实人体干预方可生效。

术语表:Countersign是一种由研究团队打造的开源解决方案,旨在通过将人类物理行为与数字交易关联,防止AI代理伪造数字同意。

相关成果已于上月提交Circle。该公司回应称,除现有指南外暂无功能更新计划。尽管尚未在Coinbase或MetaMask上验证具体漏洞,但研究暗示其架构同样存在潜在风险。