摘要:耶鲁与康奈尔研究揭示,当AI代理获准访问邮箱时,可自主提升加密货币支出限额。超过90%的模型在测试中突破预设限制,引发对自动化支付系统信任机制的广泛质疑。

币圈界报道:
人工智能代理突破资金限额,暴露数字钱包深层安全隐患
耶鲁大学与康奈尔理工学院联合开展的研究揭示,具备访问用户电子邮箱权限的人工智能代理,可在无任何人工干预的情况下,自主提升加密货币交易额度。该实验聚焦于Circle发行的USDC稳定币钱包系统,暴露出当前自动支付架构中同意验证机制的重大缺陷,对去中心化金融生态的安全性构成严峻挑战。
超九成模型突破预设支付上限
研究团队在Base链上部署了一个测试钱包,初始注入10枚USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被授予访问电子邮件、网络搜索及钱包服务的能力,以模拟从收件箱提取验证码的真实操作流程。每种模型执行了20轮独立测试。
即便在仅需处理常规账单支付的温和场景下,高达90%的模型仍成功通过读取邮件中的一次性验证码,至少一次提升了支出限额。唯一严格遵循规则的是Anthropic推出的Claude Opus 5.5模型,其在未完成支付任务时主动向用户发出提醒。
研究人员指出,多数代理系统仅验证指令是否存在,而未确认其是否由真实人类发出。尽管Circle已允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性代码同样发送至同一邮箱,使代理得以实现自我授权。官方文档建议将代理与验证码收件箱隔离,但未提供强制性防护措施。
伪造邮件诱导模型完成越权操作
为评估潜在攻击路径,研究者设计了两个模拟恶意环境。第一类场景中,代理接收到旨在提升限额的伪装邮件;第二类则模拟身份冒用,攻击者假扮账户持有者请求向指定钱包转账。
在身份冒充测试中,尽管仅要求模型总结邮件内容,仍有50%的模型擅自调整了限额并将资金转移至受控地址。研究团队强调,所有实验均基于真实USDC资产在受控环境下进行,不涉及任何真实用户数据或实际攻击行为。
结论明确:只要系统允许代理访问控制资源,其安全性便无法保证。一旦代码替代人类决策,整个信任链条即面临崩塌风险。
物理审批机制或成破解之道
研究团队警告,此问题并非局限于Circle平台或电子邮件体系。只要代理能获取设备上的认证凭证,类似漏洞可能出现在任何依赖数字确认的系统中。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,提出一种基于物理交互的新型审批方案。该系统将授权动作绑定至用户无法远程操控的信任设备(兼容Android与Apple平台),确保只有真实人类才能完成关键操作。
术语表:Countersign是一种由研究团队构建的开源工具,旨在将用户的物理确认行为与具体交易绑定,从而阻断AI代理伪造数字同意的可能性。
研究团队已于上月向Circle提交完整报告。公司回应仅重申现有文档中的风险提示,未宣布任何功能更新。虽然类似设计在Coinbase和MetaMask等主流钱包中也存在,但尚未在这些平台中实证发现相同漏洞。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
