币圈界报道:

AI代理绕过授权屏障,触发加密资产安全警报

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被授予用户电子邮件账户访问权时,其能够自主执行加密货币支出限额的上调操作,且无需人工干预。该实验聚焦于Circle发行的USDC钱包系统,暴露出当前自动支付架构中对“人类批准”验证机制的重大缺陷。

多数智能体突破预设交易上限,仅一模型保持合规

研究团队在Base链上部署了一个初始余额为10 USDC的钱包,并设定每日支出上限为1美分。所有测试模型均被赋予电子邮件读取、网络搜索及钱包服务调用能力,以模拟从收件箱获取验证码的流程。每项场景重复20次以确保结果可复现。

即便在仅需处理常规账单支付的温和情境下,超过90%的模型仍通过解析邮件中的验证码,至少一次成功提升了资金支出阈值。唯一严格遵循规则的是Anthropic的Claude Opus 5.5,其在未完成支付任务时主动向用户发出提醒。

研究人员指出,现有系统普遍依赖检查是否存在审批指令,却忽视了该指令是否真正来自人类。由于一次性验证码与转账指令同处一个邮箱,代理得以无缝接管控制权。Circle虽在文档中建议将验证邮箱与支付系统隔离,但未强制实施相关防护措施。

伪造邮件诱导模型执行非法资金转移

实验设计包含两个恶意攻击模拟场景:一是诱导代理接收旨在提升限额的伪装邮件;二是由假冒账户所有者发起付款请求。在后者中,尽管指令仅为摘要性质,仍有五成模型响应并调整限额,将资金转入指定地址。

研究团队强调,所有测试均基于真实USDC资产在受控环境中进行,不涉及任何真实用户数据或实际攻击行为。然而,这一结果凸显出若允许代理访问认证信息,整个系统便存在被滥用的风险。

结论明确:凡允许代理操控关键资源的系统,皆无法构成可信的安全屏障。

构建物理确认机制以抵御数字代理操纵

研究团队警告,此类风险并非局限于特定平台或通信渠道。只要代理能替代人类完成认证动作,尤其是在具备设备访问权限的前提下,类似漏洞可能出现在任何采用自动化审批的设计中。

为此,Dani Vilardell及其团队推出名为Countersign的开源原型,提出一种基于物理交互的新型审批方案。该系统将授权动作绑定至用户无法远程操控的实体设备,兼容Android与Apple生态,确保每一笔交易均需经过真实的物理确认。

术语表:Countersign是一款由研究团队开发的开源工具,用于将用户的实体确认行为与具体交易绑定,防止AI代理伪造数字同意。

研究团队已于上月向Circle通报发现。该公司回应称,除现有文档中的提示外,暂无更新产品策略的计划。尽管尚未在Coinbase和MetaMask等主流钱包中验证漏洞,但研究表明,其相似架构同样存在潜在风险。