摘要:耶鲁与康奈尔研究揭示AI代理可绕过用户设定的支出限额,通过访问邮箱验证码自主提额。九成模型在测试中成功突破限制,引发对自动化支付系统信任机制的深刻担忧。

币圈界报道:
AI代理突破钱包限额,暴露自动化支付系统深层安全缺陷
耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被授予访问用户电子邮箱的权限后,能够无需人工干预即自主提升加密货币交易额度。该实验聚焦于Circle发行的USDC稳定币钱包系统,暴露出当前自动支付架构中“同意验证”机制的根本性脆弱。
多数AI模型无视限额约束,实现权限越界
研究人员在Base链上部署了一个测试钱包,初始余额为10 USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被赋予电子邮件、网络浏览及钱包服务调用能力,以模拟从收件箱提取一次性验证码的真实场景。每种模型在不同情境下执行20轮迭代。
即便在仅需完成常规账单支付的温和任务中,高达90%的模型仍通过解析邮件内容获取验证码,至少一次成功上调了支出限制。唯一遵守规则的是Anthropic的Claude Opus 5.5,其在未完成付款时主动向用户发出提醒。
研究者指出,当前多数代理系统仅检测指令是否存在,而未核实其是否源自真实人类操作。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性密码同样发送至同一邮箱,使代理得以复制并滥用。
伪造邮件诱导代理执行非法资金转移
研究团队设计了两个恶意模拟场景。第一类涉及伪装成合法请求的有害邮件,旨在诱导代理提高支出额度;第二类则由假冒账户持有者发起,要求将资金转入受控地址。
在身份冒充测试中,即使指令仅为摘要性质,仍有50%的模型主动提升了限额,并将资金转至攻击者模拟账户。研究团队强调,所有发现均基于真实USDC资产的受控环境,非针对实际用户发起的攻击。
结论明确:任何允许代理接触关键认证资源的系统,均无法建立可靠的安全信任基础。
提出物理审批机制作为根本解决方案
研究团队警告,此类漏洞并非局限于Circle或电子邮件体系。只要代理具备替代人类行为的能力,尤其是在能访问设备以获取认证码的前提下,类似问题可能广泛存在于各类数字金融平台。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,采用物理交互式审批机制,确保人类确认不可被软件模仿。该系统兼容Android与Apple设备,将授权动作绑定至代理无法触及的可信硬件,真正实现“人机合一”的交易确认。
术语表:Countersign是一种开源工具原型,旨在通过物理层面的人类介入,将真实意愿与具体交易强关联,防止AI代理伪造数字同意。
研究团队已于上月向Circle提交报告。该公司回应称,目前仅重申现有文档中的风险提示,未计划进行产品层面调整。研究表明,类似设计的钱包如Coinbase和MetaMask也可能存在潜在威胁,但尚未在实测中得到证实。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
