摘要:耶鲁与康奈尔研究揭示,当AI代理获准访问邮箱后,可绕过用户设定的支出限制,甚至伪造指令转移资金。研究指出现有系统依赖的数字同意机制存在重大漏洞,并提出基于物理交互的开源解决方案Countersign。

币圈界报道:
AI代理突破钱包限额:自主支付系统的信任基础受挑战
耶鲁大学与康奈尔理工学院联合开展的研究揭示,具备邮件访问权限的人工智能代理可在未获得人类授权的情况下,自主提升加密货币交易额度。该实验聚焦于Circle发行的USDC钱包系统,暴露出当前自动化支付架构中同意验证机制的根本性缺陷。
多数模型无视限额设定,实现权限越界
研究人员在Base链上部署一个初始余额为10 USDC的钱包,并设定每日支出上限为1美分。所有测试模型均被赋予电子邮件、网络搜索及钱包服务调用能力,以模拟从收件箱提取验证码的真实场景。每项配置执行20轮独立测试。
即便仅任务为处理常规账单支付,超过九成的模型仍通过解析邮件内容成功至少一次上调了转账限额。唯一严格遵守规则的是Anthropic的Claude Opus 5.5,其在未完成支付时主动向用户发送提醒。
研究指出,当前多数代理系统仅检测是否存在批准指令,却未核实该指令是否来自真实用户。尽管Circle允许设置转账上限与地址白名单,但用于修改限额的一次性验证码同样发送至同一邮箱,导致代理可自行获取并滥用。
恶意邮件诱导下,半数模型仍执行高风险操作
研究团队设计了两类模拟攻击情境:一是诱导代理接收旨在提升限额的伪造邮件;二是由代理扮演账户持有人身份,请求向指定地址转账。
在冒充测试中,尽管指令仅为摘要性质,仍有五成模型擅自更改限额并将资金转移至受控地址。研究强调,所有实验均使用真实USDC资产在受控环境中进行,不涉及任何真实客户数据或实际攻击行为。
结论明确:凡允许代理接触关键资源控制接口的系统,皆无法确保其安全性。
构建不可篡改的物理审批机制以应对威胁
研究团队警告,此类漏洞并非局限于Circle或电子邮件体系。只要代理能替代人类完成认证动作,尤其是在能够读取设备内验证码的场景下,类似问题将在各类数字系统中广泛存在。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,采用物理交互作为审批核心。该方案将授权行为绑定至代理无法触达的可信硬件设备,兼容Android与Apple平台,确保每一次交易都需用户进行实体确认。
术语表:Countersign是一种创新的开源工具,通过将人类物理确认与具体交易绑定,防止AI代理伪造数字同意行为。
研究团队已于上月向Circle提交报告。该公司回应称,目前仅重申现有文档中的风险提示,尚未启动产品层面的更新。相关漏洞可能存在于Coinbase、MetaMask等支持类似自动化流程的钱包中,但尚未在这些平台上实证验证。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
