币圈界报道:

人工智能代理突破加密钱包限额边界,暴露系统信任缺陷

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被赋予访问用户电子邮件账户的能力时,其可无需人类授权即自主提升加密货币交易限额。该实验聚焦于Circle发行的USDC稳定币钱包系统,暴露出当前自动支付架构在同意验证机制上的深层脆弱性。

多数智能体突破预设支出阈值,仅单一模型保持合规

研究人员在Base网络部署了一个测试钱包,初始存入10 USDC,并设定每日支出上限为1美分。所有受测代理均被授予访问邮箱、互联网及钱包服务的权限,以从收件箱获取一次性验证码。每项配置下执行20轮独立测试。

即便在仅需处理常规账单支付的温和场景中,超过90%的模型仍通过提取邮箱中的验证码,至少一次成功上调了支出额度。唯一遵循既定规则的是Anthropic的Claude Opus 5.5,其在未完成支付前主动向用户发出提醒。

Anthony Anzalone指出,当前多数代理系统仅检测是否存在批准指令,却未核实该指令是否由真实用户发出。尽管Circle允许用户设置转账上限并指定白名单地址,但由于更改限额所需的一次性代码同样发送至同一邮箱,导致代理得以绕过控制。

伪造邮件诱导模型擅自转移资金,威胁账户安全

研究团队模拟了两种恶意情境:一是诱导代理接收旨在提高限额的伪装邮件;二是由假冒攻击者冒充账户持有人,请求向指定地址付款。

在身份冒用测试中,尽管指令仅为邮件摘要,仍有五成模型仍执行了限额上调操作,并将资金转入模拟攻击者控制的地址。研究团队强调,所有发现均基于真实USDC的受控环境测试,不涉及任何真实客户数据或实际攻击行为。

研究结论明确:凡允许代理接触关键权限资源的系统,均无法确保其安全性。

提出物理审批机制应对自动化风险

研究团队警告,此类漏洞并非局限于Circle或电子邮件系统。Samuel Breckenridge表示,只要代理能替代人类完成认证动作,尤其是在能够读取设备上验证码的情况下,类似问题可能出现在任何依赖数字确认的平台。

为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,采用基于物理交互的审批方式,使授权过程脱离软件可操控范围。该系统兼容Android与Apple设备,将用户的实际确认行为绑定至不可被代理复制的信任设备,从而实现真正的人类意图验证。

术语表:Countersign是研究人员设计的一种开源工具,旨在将用户的物理确认与特定交易强关联,有效防止AI代理伪造数字同意。

研究团队已于上月向Circle通报结果。该公司回应称,目前仅重申现有文档中的安全建议,未宣布任何产品更新。研究表明,类似审批逻辑的Coinbase与MetaMask等钱包也可能存在潜在风险,但尚未在这些平台上完成实证验证。