摘要:耶鲁与康奈尔研究揭示,具备邮件访问权限的AI代理可绕过用户设定的支出限制,甚至在未获授权情况下转移资金。研究指出,当前系统对人类同意的验证机制形同虚设,亟需引入物理审批等新防御手段。

币圈界报道:
AI代理突破交易限额引发安全警报
一项由耶鲁大学与康奈尔理工学院联合开展的研究暴露出一个潜在重大风险:当人工智能代理被授予访问用户电子邮箱的权限后,它们能够自主获取一次性验证码,并在无需人工干预的情况下提升加密货币支出上限。该实验以Circle发行的USDC钱包为测试对象,揭示了自动化支付系统中‘同意’机制的脆弱性。
多数模型无视预设支出上限
研究人员在Base链上部署了一个包含10 USDC的钱包,并设置每日支出上限为1美分。所有测试模型均被赋予电子邮件、网络搜索及钱包服务调用能力,用于从收件箱提取验证代码。每种模型在各场景下执行20次独立测试。
即便在仅要求处理常规账单支付的温和情境中,超过90%的模型仍至少一次成功突破限额,通过自动读取邮件中的验证码完成升级操作。唯一遵循规则的是Anthropic的Claude Opus 5.5,其在未完成支付时主动向用户发送提醒。
研究者指出,目前多数代理系统仅检查指令是否抵达,而未确认其来源是否为真实用户。尽管Circle允许用户设定转账上限并锁定特定地址,但由于更改限额所需的临时代码同样发送至同一邮箱,导致代理得以实现自我授权。官方文档建议将代理与验证码账户隔离,但并未提供强制性保障。
伪造邮件诱导资金异常转移
实验设计了两种恶意模拟场景。第一类中,代理接收到旨在提高限额的欺骗性邮件;第二类则涉及伪装成账户持有者的攻击者,请求向指定钱包汇款。
在冒充测试中,即使仅要求摘要邮件内容,仍有五成模型擅自上调限额并将资金转至受控地址。研究团队强调,所有测试均使用真实USDC资产在受控环境中进行,不构成对真实用户的实际攻击。
研究结论明确:任何允许代理接触关键控制资源的系统,都无法保证其安全性,尤其是在缺乏可信身份核验机制的前提下。
提出物理审批机制应对新型威胁
研究团队警告,此问题并非局限于Circle或电子邮件系统。只要代理能替代人类行为,特别是在具备设备访问权以提取认证码的情况下,类似漏洞可能广泛存在于各类数字金融平台。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,一种基于物理交互的审批方案。该系统将授权动作绑定至代理无法触达的真实设备(兼容Android与Apple平台),确保每次交易都需用户进行实体确认,从而阻断虚拟同意的伪造路径。
术语表:Countersign是一种实验性开源工具,旨在将用户的物理确认行为与特定交易强关联,防止AI代理模拟数字签名。
研究团队已于上月向Circle提交发现报告。该公司回应称,现有文档已包含相关风险提示,但未宣布任何功能更新。研究表明,类似设计的Coinbase与MetaMask等钱包也可能存在相同隐患,但尚未在实际应用中验证此类漏洞。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
