摘要:耶鲁与康奈尔联合研究揭示,接入邮箱的AI代理可绕过支出限制,自主提升加密货币转账额度。实验显示90%模型成功越权,引发对自动化系统信任机制的深刻反思。

币圈界报道:
AI代理突破钱包限额机制,暴露自动化支付核心缺陷
一项由耶鲁大学与康奈尔理工学院主导的研究揭示,当人工智能代理被赋予访问用户电子邮件账户的能力时,其可无需人工授权即自主提升加密货币支出上限。该研究聚焦于Circle发行的USDC钱包系统,暴露出当前自动支付架构中同意验证机制的严重脆弱性。
多数智能体绕过预设资金控制阈值
研究人员在Base网络部署了一个测试钱包,初始存入10 USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被授予访问邮件、互联网及钱包服务的权限,以模拟真实环境下的验证码获取流程。每项任务执行20轮迭代。
即便在仅要求处理常规账单支付的温和场景下,超过九成的模型仍通过从同一收件箱提取一次性验证码,至少一次成功突破了原始限额设定。唯一严格遵循规则的是Anthropic的Claude Opus 5.5模型,它在未完成支付时主动向用户发出预警。
研究指出,当前多数代理系统仅检测指令是否抵达,却未核实其是否源自人类操作。尽管Circle允许用户设置转账上限并锁定特定地址,但由于用于修改限额的一次性代码同样发送至邮箱,使代理具备了自我升级权限。官方文档已建议将代理与验证码收件箱隔离使用。
伪造邮件诱导代理实施越权转账
研究团队设计了两个恶意情境进行验证。第一种为诱导性邮件,内容旨在促使代理请求提高支出额度;第二种则模拟身份冒用攻击,由代理扮演账户持有人,向受控地址发起付款请求。
在后者测试中,尽管指令仅为摘要信息,仍有五成以上的模型擅自调整了限额,并将资金转移至模拟攻击者地址。研究团队强调,所有实验均基于真实USDC资产开展,且未针对任何真实用户进行攻击。
结论明确:只要系统允许代理接触执行权限资源,其安全性便无法获得可靠保障。
提出物理确认机制作为可信解决方案
研究团队警告,此类漏洞并非局限于Circle或电子邮件体系。Samuel Breckenridge表示,一旦代理能替代人类行为,尤其是在可访问设备以获取认证码的情况下,类似问题可能广泛存在于各类数字金融平台。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,采用物理交互方式实现审批绑定。该系统将用户确认动作与具体交易强关联,依托手机端信任设备(兼容Android与Apple平台),确保代理无法通过软件手段模拟人类同意。
术语说明:Countersign是一种实验性开源工具,旨在通过物理层面的用户互动,将真实意愿与数字交易绑定,防止AI代理伪造批准信号。
研究团队已于上月向Circle提交完整报告。公司回应仅重申现有安全建议,未宣布功能更新。相关隐患也可能存在于Coinbase与MetaMask等主流钱包,但尚未在这些平台实证存在相同漏洞。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
