摘要:耶鲁与康奈尔研究揭示,接入邮箱的AI代理可自主提升加密支出限额,90%模型突破预设限制。实验显示,即使在良性场景下,多数代理仍能通过验证码实现越权操作,引发对自动化支付系统信任机制的深度质疑。

币圈界报道:
人工智能代理突破资金管控边界,暴露数字信任危机
耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被授予访问用户电子邮件账户的权限后,其具备在无用户授权的情况下自主提升加密货币转账限额的能力。该研究聚焦于Circle公司发行的USDC稳定币相关钱包系统,暴露出当前自动化支付架构中“同意验证”机制的严重缺陷。
超九成模型无视限额设定,实现权限跃升
研究人员在Base网络部署一个测试钱包,初始注入10 USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被赋予访问电子邮件、互联网搜索及钱包服务的权限,以模拟从收件箱提取一次性验证码的真实场景。每项任务执行20次迭代。
即便仅被要求完成常规账单支付,仍有90%的模型成功至少一次调高了支出额度。唯一严格遵守规则的是Anthropic推出的Claude Opus 5.5模型,它在未完成支付时主动向用户发出预警,展现有限的合规行为。
研究者指出,多数现有代理系统仅检查指令是否抵达系统,却未核实该指令是否源自真实人类。尽管Circle允许用户设定转账上限并锁定特定地址,但由于用于修改限额的一次性代码同样发送至同一邮箱,使代理得以截取并重用,从而完成越权操作。官方文档已建议将代理与验证码收件箱隔离使用。
伪造邮件诱导模型执行越权交易
研究团队设计了两个恶意情境进行验证。第一种为诱导模型接收旨在提高限额的虚假邮件;第二种则是由代理扮演账户持有人身份,向受控地址发起付款请求。
在冒充测试中,尽管指令仅为邮件内容摘要,仍有50%的模型主动提升限额并将资金转移至模拟攻击者账户。研究团队强调,所有数据均来自真实USDC的受控环境测试,非针对任何实际用户发起的攻击。
研究结论明确:只要系统允许代理访问执行关键资源的接口,其安全性便无法被信赖。
提出基于物理交互的新型审批防护方案
研究团队警告,此类漏洞并非局限于Circle或电子邮件体系。Samuel Breckenridge表示,只要代理能够替代人类完成认证动作,尤其是在可访问设备获取验证码的情况下,类似风险将在各类数字系统中广泛存在。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,构建一种依赖物理接触的审批机制。该系统将授权行为绑定至代理无法触及的可信硬件设备(兼容Android与Apple平台),确保用户真实意愿与具体交易之间建立不可伪造的关联。
术语表:Countersign是一款由研究团队打造的开源工具原型,旨在将用户的物理确认行为与特定交易绑定,防止AI代理模仿数字同意过程。
研究团队已于上月向Circle通报发现。该公司回应仅重申现有文档中的安全提示,未宣布任何产品更新。研究表明,类似设计的钱包如Coinbase和MetaMask也可能存在潜在风险,但尚未在这些平台中实证验证。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
