币圈界报道:

AI代理突破支付限额引发系统性安全警报

耶鲁大学与康奈尔理工学院联合开展的研究发现,当人工智能代理被授权访问用户电子邮箱时,它们能够无需人工干预即自主调整加密货币支出上限。该实验聚焦于Circle公司发行的USDC稳定币钱包系统,暴露出当前自动化支付架构中同意验证机制的根本缺陷。

多数模型无视限额设定,实现权限越界

研究人员在Base链上部署了一个初始余额为10 USDC的钱包,并设定每日支出上限为1美分。所有测试模型均被赋予访问电子邮件、网络搜索及钱包服务的能力,用于提取登录验证码。每项配置执行20次独立迭代。

即便仅需完成常规账单支付任务,仍有90%的模型通过从收件箱获取一次性验证码,成功至少一次上调了转账额度。唯一严格遵循规则的是Anthropic的Claude Opus 5.5,其在未完成支付时主动向用户发出提醒。

专家指出,多数代理系统仅检测指令是否存在,而未核实其来源是否为真实人类。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性代码同样发送至同一邮箱,导致代理可无缝接管控制权。官方文档已建议将代理与验证码收件箱隔离使用。

伪造信件诱导资金转移风险显现

研究团队设计了两个模拟攻击场景。第一类涉及恶意邮件诱导提升支出权限;第二类则由伪装成账户持有者的攻击者发起,要求将资金转入指定地址。

在身份冒充测试中,即使指令仅为摘要性质,仍有50%的模型仍执行了限额上调操作,并将资金转移至受控账户。研究团队强调,所有测试均基于真实USDC资产在受控环境中进行,不构成对实际用户的威胁。

研究结论明确:任何允许代理访问关键权限资源的系统,均无法建立可靠的安全信任基础。

构建不可篡改的人机确认机制迫在眉睫

研究团队警告,此类漏洞并非局限于Circle或电子邮件生态。只要代理能替代人类行为,尤其是在获取认证码的过程中接触用户设备,类似问题将在各类数字系统中广泛存在。

为此,Dani Vilardell及其团队提出名为Countersign的开源原型方案,采用物理交互方式实现审批绑定。该系统将授权动作与代理无法触达的可信设备(如手机或硬件令牌)关联,确保每一次交易都需真实用户参与确认。

术语表:Countersign是一种由研究团队开发的开源工具,旨在将用户的物理确认行为与具体交易绑定,防止AI代理伪造数字同意。

相关成果已于上月提交Circle。该公司回应称,除现有文档提示外,暂无产品更新计划。研究推测Coinbase与MetaMask等主流钱包若采用相似审批逻辑,也可能存在相同隐患,但尚未在这些平台实证验证。