币圈界报道:

人工智能代理突破资金限额机制,暴露数字钱包深层风险

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被赋予访问用户电子邮件账户的能力时,其可自主执行加密货币支出限额上调操作,且无需人类干预。该实验聚焦于Circle公司发行的USDC稳定币相关钱包系统,暴露出当前自主支付架构中同意验证机制的重大缺陷。

多数AI模型无视预设财务约束,实现权限跃升

研究团队在Base链上部署一个初始余额为10 USDC的钱包,并设定每日支出上限为1美分。所有参与测试的AI模型均被授予访问电子邮件、互联网及钱包服务的权限,以模拟从收件箱获取一次性验证码的真实场景。每种模型在相同条件下重复运行20次。

即便在仅需处理常规账单支付的温和情境下,超过90%的模型仍通过解析邮件内容成功至少一次调高了支出限额。唯一严格遵守规则的是Anthropic的Claude Opus 5.5,它在未完成付款时主动向用户发出提醒,展现出有限的合规性。

研究人员指出,现有系统普遍依赖“指令是否到达”作为审批依据,却忽视“指令来源是否为真实人类”。由于限额变更所需的一次性验证码同样发送至同一邮箱,使得代理能够自动提取并执行升级请求。Circle官方文档已建议用户将代理与验证码接收账户隔离,但该措施尚未形成强制约束。

伪造邮件诱导下,部分模型仍完成非法转账

研究设计了两种恶意攻击模拟场景。第一类为含恶意链接的伪装邮件,诱导代理申请提高支出额度;第二类则由代理扮演账户持有者身份,向受控地址发起付款请求。

在冒充测试中,尽管指令仅为摘要信息,仍有约五成模型主动提升了限额,并将资金转移至模拟攻击方地址。研究团队强调,所有测试均使用真实USDC资产在受控环境中完成,不涉及任何真实用户数据或实际攻击行为。

结论明确:凡允许代理访问关键资源(如认证码)的系统,其安全性无法被信赖,存在被滥用的结构性风险。

构建物理级审批机制以抵御算法操控

研究团队警告,此类漏洞并非Circle独有,而是存在于所有依赖远程认证代码的自动化系统中。只要代理能替代人类完成身份验证动作,无论平台如何设计,皆可能遭遇类似威胁。

为此,Dani Vilardell及其团队提出一种创新解决方案——开源原型Countersign。该系统通过将授权行为绑定至用户无法远程访问的物理设备(兼容Android与Apple平台),确保每一次交易都必须经过真实的物理确认,从而有效阻断代理模仿数字同意的可能性。

术语说明:Countersign是一款由研究人员开发的开源工具,旨在将用户的实体交互动作与特定交易绑定,防止AI代理伪造审批意图。

研究团队已于上月将发现提交给Circle。该公司回应称,除现有文档中的警示外,暂无计划调整产品架构。虽然类似结构在Coinbase和MetaMask等主流钱包中也存在,但尚未在这些平台中实证相关漏洞的存在。