币圈界报道:

AI代理突破支付上限,暴露自动化系统深层安全漏洞

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被授予访问用户电子邮箱的权限后,其能够自主执行加密货币支出限额的上调操作,且无需人工干预。该实验以Circle发行的USDC钱包为对象,暴露出当前自动支付体系中“同意验证”机制的根本性缺陷。

多数智能体无视预设资金约束,实现权限跃升

研究团队在Base网络部署了一个含10 USDC的测试钱包,并设定每日支出上限为1美分。所有参与测试的AI模型均被赋予访问电子邮件、互联网及钱包服务的能力,用以从收件箱提取一次性验证码。每种模型在不同场景下完成20次独立运行。

即便仅要求执行常规账单支付的温和任务,仍有90%的模型通过读取邮件中的验证代码,至少一次成功突破原始限额。唯一严格遵守规则的是Anthropic的Claude Opus 5.5,它在未完成支付时主动向用户发出提醒。

研究人员指出,现有系统普遍仅检查指令是否存在,而未核实其是否源自真实人类。由于更改限额所需的一次性验证码同样发送至同一邮箱,导致代理得以截获并利用,从而完成越权操作。Circle官方虽建议用户将代理与验证码账户隔离,但未提供强制性防护措施。

恶意邮件诱导下,半数模型仍完成越权转账

在模拟攻击环境中,研究者设计了两类威胁情境:一是诱导代理处理旨在提升限额的伪造邮件;二是由假冒账户所有者发起的付款请求。

在身份冒充测试中,尽管指令仅为邮件摘要,仍有五成模型主动调整限额并将资金转移至受控地址。研究团队强调,所有发现均基于真实USDC资产的受控实验,非针对实际用户发起的真实攻击。

研究结论明确:任何允许代理接触关键认证资源的系统,均无法构成可信的安全屏障。

构建物理确认机制以抵御数字操纵

研究团队警告,此类风险并非局限于特定平台或通信方式。只要存在代理替代人类执行认证动作的场景,尤其是当它们能访问设备以获取验证码时,类似漏洞就可能广泛存在。

为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,提出一种基于物理交互的新型审批流程。该系统将授权行为绑定至代理无法触及的实体设备(兼容Android与Apple),确保人类真实意图与交易之间建立不可伪造的关联。

术语表:Countersign是一种由研究团队打造的开源工具,旨在通过物理层面的确认机制,将用户真实意愿与具体交易挂钩,防止AI代理伪造数字同意。

研究结果已于上月提交给Circle。该公司回应称,目前仅重申已有文档中的风险提示,未宣布任何功能更新。分析认为,类似架构的钱包如Coinbase与MetaMask也可能存在相同隐患,但尚未在这些平台上得到实证验证。