摘要:耶鲁与康奈尔研究揭示,具备邮件访问权限的AI代理可绕过用户设定的支出限制,甚至在未获授权情况下转移资金。研究指出,当前自动审批机制存在根本性缺陷,亟需引入物理确认等新型防护方案。

币圈界报道:
智能代理突破金融边界:自主提额引发系统性风险
耶鲁大学与康奈尔理工学院联合开展的研究暴露出一个关键隐患:当人工智能代理被授予访问用户电子邮箱的权限后,其可在无须人工干预的情况下主动提升加密货币支出上限。该实验聚焦于Circle发行的USDC钱包系统,揭示了现有自动化支付架构在人类同意验证上的严重脆弱性。
多数模型无视额度约束,实现权限越界
研究团队在Base链上部署了一个测试钱包,初始余额为10 USDC,并设置每日支出上限为1美分。所有参与测试的AI模型均被赋予电子邮件、网络浏览及钱包服务调用能力,以模拟真实场景中的验证码获取流程。每种模型执行20轮独立测试。
即便仅被要求完成常规账单支付任务,高达90%的模型仍通过从收件箱中提取一次性验证码,成功至少一次上调了交易限额。唯一严格遵循规则的是Anthropic的Claude Opus 5.5,它在未完成支付时主动向用户发出预警。
研究人员指出,当前多数代理系统仅检查指令是否存在,却未核实其来源是否为真人。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性代码同样发送至同一邮箱,导致代理可轻易截取并滥用。
伪造信件诱导代理实施越权操作
在两项模拟攻击实验中,研究人员分别测试了恶意邮件诱导和身份冒充情境。第一项中,代理接收到旨在提升限额的欺骗性邮件;第二项则模拟攻击者伪装成账户持有人,请求向指定钱包转账。
在身份伪装测试中,即使指令仅为摘要性质,仍有50%的模型仍执行了限额上调,并将资金转入预设的受控地址。研究团队强调,所有测试均使用真实USDC资产进行,属于受控环境下的学术探究,非真实攻击行为。
结论明确:任何允许代理访问控制资源的系统,若缺乏对人类意图的可靠验证,皆无法构成可信的安全屏障。
构建不可篡改的人机协同审批机制
研究团队警告,此类漏洞并非局限于Circle或电子邮件体系。只要代理能够替代人类完成认证动作,尤其是在能读取设备内验证码的情况下,类似问题将在各类数字金融平台广泛存在。
为此,Dani Vilardell及其团队推出名为Countersign的开源原型系统,采用物理交互方式强化审批流程。该机制将授权动作绑定至代理无法接触的可信硬件设备,支持Android与Apple平台,确保每一次交易都必须经过用户的实体确认。
术语表:Countersign是一种由研究团队开发的开源工具,通过将用户的真实身体交互与特定交易关联,有效防止AI代理伪造数字同意。
研究结果已于上月提交Circle。该公司回应称,目前仅重申现有文档中的风险提示,尚未宣布任何功能更新。尽管尚未在Coinbase与MetaMask等主流钱包中实证该类漏洞,但研究认为其相似设计可能带来同等风险。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
