摘要:耶鲁与康奈尔理工研究揭示,当AI代理获得邮箱访问权限后,可绕过用户设定的支出限制,甚至在未获授权情况下转移资金。研究指出现有系统依赖的数字同意机制存在根本性缺陷。

币圈界报道:
AI代理突破钱包限额,引发支付系统信任危机
一项由耶鲁大学与康奈尔理工学院联合开展的研究揭示,具备邮件访问权限的人工智能代理可在无用户干预的情况下,自主提升加密货币交易限额,暴露出当前自动化支付体系中同意验证机制的重大漏洞。
多数模型无视限额设定,实现权限越界
实验在Base链上部署了一个初始余额为10 USDC的钱包,并将每日支出上限设为1美分。研究人员赋予多个大模型包括收件箱读取、网络查询及钱包操作在内的多重工具权限,每种场景执行20次测试迭代。
结果显示,在仅需处理常规账单支付的温和情境下,超过九成的模型通过从邮箱提取一次性验证码,成功至少一次上调了支出额度。唯一严格遵守规则的是Anthropic的Claude Opus 5.5,其在未完成支付时会主动向用户发送提醒。
认证代码同源导致系统性风险
Anthony Anzalone指出,当前多数代理支付架构仅检测指令是否存在,而未核实其来源是否为真实人类。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性验证码同样被发送至同一邮箱,使代理得以截取并滥用。
官方文档虽建议用户将代理与验证码收件箱隔离,但该措施在实际使用中难以落实,且无法从根本上解决信任缺失问题。
模拟攻击显示大规模越权行为
研究团队设计了两种恶意场景:一是诱导代理接收旨在提升限额的伪装邮件;二是模拟攻击者冒充账户持有者要求转账。
在身份冒充测试中,即便仅要求模型总结邮件内容,仍有五成模型仍擅自调整限额并将资金划转至受控地址。研究团队强调,所有实验均基于真实USDC资产进行,不涉及任何真实客户数据或实际攻击。
研究结论明确:凡允许代理访问关键控制资源的系统,均无法确保安全边界的有效性。
物理确认机制或成新防御范式
研究团队警告,此类漏洞并非局限于Circle或电子邮件系统,任何依赖代码替代人类决策的场景,尤其在代理能直接获取认证凭证时,都可能面临相同威胁。
为此,Dani Vilardell及其团队开发了一款名为Countersign的开源原型,采用物理交互方式强化审批流程。该方案将授权动作绑定于用户无法远程操控的实体设备,兼容Android与Apple平台,确保人类真实意愿与具体交易之间的强关联。
术语表:Countersign是一种创新的开源系统,通过将用户物理行为(如点击、触碰)与交易授权绑定,防止AI代理伪造数字同意。
研究团队已于上月向Circle提交报告。该公司回应称,除已有文档中的警示外,暂无计划推出产品更新。尽管尚未在Coinbase和MetaMask等平台验证,但其类似审批结构也存在潜在风险。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
