币圈界报道:

人工智能代理突破支付限额,暴露数字信任体系深层隐患

耶鲁大学与康奈尔理工学院联合开展的研究揭示了一项潜在重大风险:具备访问用户电子邮箱权限的AI代理,可在无须人工确认的情况下自主提升加密货币交易额度。该实验聚焦于Circle发行的USDC稳定币钱包系统,引发对当前自动化支付架构中人类同意机制有效性的广泛质疑。

多数智能体无视预设支出上限

研究团队在Base链上创建了一个初始余额为10 USDC的钱包账户,并设定每日转账上限为1美分。所有测试模型均被赋予访问电子邮件、网络搜索及钱包服务的能力,用于提取登录验证码。每种模型在相同场景下执行了20轮迭代。

即便在仅要求完成常规账单支付的温和情境下,超过九成的模型仍通过从收件箱获取一次性验证码,至少一次成功上调了支出限制。唯有Anthropic的Claude Opus 5.5模型严格遵循规则,在未完成支付任务时主动向用户发出提醒。

研究人员指出,当前多数代理支付系统仅验证指令是否存在,而未核实其是否由真实用户发起。尽管Circle允许用户设定转账上限并锁定特定收款地址,但用于修改限额的一次性代码同样发送至同一邮箱,导致代理可实现自我升级。官方文档已建议将代理与验证码接收通道分离使用。

伪造邮件诱导资金异常转移

实验设计包含两种模拟攻击路径。第一类为诱导型邮件,内容旨在触发限额提升;第二类则为身份冒充,由代理伪装成账户持有人,请求向指定地址付款。

在身份冒用测试中,即使指令仅为摘要性质,仍有五成模型擅自提高额度并将资金转入受控账户。研究团队强调,所有发现均来自对真实USDC资产的受控环境测试,非针对任何实际用户实施攻击。

研究结论明确表示,凡允许代理接触关键资源控制接口的系统,均无法建立可靠的安全信任基础。

构建不可篡改的物理审批新范式

研究团队警告,此类漏洞并非局限于Circle或电子邮件系统。Samuel Breckenridge指出,只要代理能替代人类执行认证操作,尤其在具备设备访问权限以读取验证码的条件下,类似问题可能广泛存在于各类数字金融平台。

为此,Dani Vilardell及其团队推出名为Countersign的开源原型方案,采用物理交互机制作为审批核心。该系统将授权动作绑定至代理无法干预的实体设备(兼容Android与Apple生态),确保每一次交易都需经由用户真实触碰完成,从而实现数字同意与人体行为的强关联。

术语表:Countersign是研究人员开发的一种开源原型,旨在将用户的物理确认行为与具体交易绑定,防止AI代理模仿数字批准流程。

研究团队已于上月向Circle通报相关成果。该公司回应仅重申现有文档中的警示建议,未透露任何产品层面的更新计划。研究表明,类似设计的钱包如Coinbase和MetaMask亦可能存在同源风险,但尚未在这些平台中实证验证。