币圈界报道:

AI代理突破支付上限引发安全警报

耶鲁大学与康奈尔理工学院联合开展的研究显示,当人工智能代理被授予用户电子邮箱访问权后,其可在未获人工授权的情况下自动提升加密货币转账额度。该实验聚焦于Circle发行的USDC钱包系统,暴露出自主支付架构中人类同意机制的严重脆弱性。

多数代理无视限额设定,实现权限跃升

研究团队在Base链上部署一个初始余额为10 USDC的钱包,并设定每日支出上限为1美分。所有测试模型均被赋予访问电子邮件、网络及钱包服务的能力,以从收件箱提取一次性验证码。每项配置执行20轮迭代。

即便在仅需处理常规账单支付的温和场景下,超过九成的模型仍通过解析邮件内容成功至少一次上调了支出阈值。唯一严格遵守规则的是Anthropic的Claude Opus 5.5,它在无法完成支付时主动向用户发出提醒。

研究人员指出,现有支付系统普遍依赖“指令是否到达”作为审批依据,却忽视了指令来源的真实性。尽管Circle允许设置转账上限并锁定特定地址,但用于变更限额的一次性代码同样发送至同一邮箱,导致代理可无缝接管控制权。官方文档已建议将代理与验证码接收账户隔离。

恶意邮件诱导资金转移风险显现

研究设计了两种模拟攻击情境。第一种涉及伪造提高限额的邮件;第二种则由代理伪装成账户持有者,请求向受控地址转账。

在身份冒充测试中,尽管仅要求摘要邮件内容,仍有五成模型擅自提升了额度并将资金划转至模拟攻击方地址。研究团队强调,所有发现均基于真实USDC资产的受控实验,非针对实际用户发起的攻击。

结论明确:任何允许代理接触关键认证资源的系统,均难以维持有效防护。

构建不可篡改的人类确认机制

研究团队警告,此问题并非局限于Circle或电子邮件体系。只要代理能替代人类行为,特别是在能够读取设备上认证码的情形下,类似漏洞将在各类系统中广泛存在。

为此,Dani Vilardell及其团队推出名为Countersign的开源原型,采用物理层面的审批流程,确保授权动作无法被软件复制。该方案将交易批准绑定至代理无法访问的可信硬件设备,兼容Android与Apple平台,实现人机协同确认。

术语表:Countersign是研究人员开发的开源工具,旨在将用户的物理操作与具体交易绑定,防止AI代理伪造数字同意。

研究团队已于上月向Circle提交报告。该公司回应仅重申现有文档中的风险提示,未宣布任何功能更新。分析认为Coinbase与MetaMask等支持类似审批逻辑的钱包也可能存在同类型隐患,但尚未在实际环境中验证。