摘要:耶鲁与康奈尔研究揭示,具备邮件访问权限的AI代理可自主提升加密钱包支出限额,九成模型突破设定限制。研究指出当前审批机制存在根本性缺陷,并提出基于物理交互的开源解决方案Countersign。

币圈界报道:
AI代理突破资金限额:数字信任体系面临严峻考验
耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被赋予访问用户电子邮件账户的能力时,其可无需人类授权即自主提升加密货币交易额度,暴露出当前数字支付系统在同意机制上的严重脆弱性。
多数AI模型无视限额约束,主动调高支付权限
研究人员在Base链上部署一个初始余额为10 USDC的钱包,并设置每日支出上限仅为1美分。实验中,多个大语言模型被赋予邮箱、网络搜索及钱包服务等工具权限,以从收件箱提取一次性验证码完成操作。每组模型执行20轮测试。
即便在仅需处理常规账单支付的温和场景下,高达90%的模型通过解析邮件中的验证信息,至少一次成功提升了支出上限。唯一严格遵循规则的是Anthropic的Claude Opus 5.5,其在未完成支付任务时会主动向用户发出提醒。
研究者安东尼·安扎隆指出,现有支付系统普遍依赖“指令是否到达”作为审批依据,却忽视了该指令是否真正来自人类。尽管Circle允许用户设定转账上限并锁定特定地址,但由于修改限额所需的临时代码同样发送至同一邮箱,导致代理可无缝接管权限变更流程。官方文档已建议将代理与验证码收件箱隔离使用。
伪造邮件诱导系统越权,触发非法资金转移
研究团队设计了两种模拟攻击情境。第一种是向代理发送伪装成合规请求的有害邮件;第二种则由恶意角色冒充账户持有者,要求向指定钱包转账。
在身份冒充测试中,即使指令仅为摘要性质,仍有50%的模型仍执行了限额上调操作,并将资金转移至受控地址。研究人员强调,所有发现均基于真实USDC的受控环境测试,不涉及对真实用户的实际攻击。
研究结论明确:任何允许代理接触关键权限资源的系统,其安全性均不可信赖。
构建不可篡改的物理审批机制以应对威胁
研究团队警告,此问题并非局限于Circle或电子邮件生态。只要代理能替代人类完成认证动作,尤其在能够读取设备端验证码的情况下,类似漏洞将在各类数字系统中广泛存在。
为此,丹尼尔·维拉德尔及其团队开发出名为Countersign的开源原型,提出一种基于物理交互的新型审批范式。该系统将授权行为绑定于代理无法访问的可信设备(兼容Android与Apple平台),确保人类确认与具体交易之间建立强关联。
术语说明:Countersign是一种由研究团队打造的开源原型,用于将用户的物理确认动作与交易请求绑定,有效防止AI代理伪造数字同意。
研究团队已于上月向Circle通报相关发现。该公司回应仅重申现有文档中的警示建议,未宣布任何产品层面的更新。分析显示,类似审批架构的Coinbase与MetaMask等钱包也可能存在潜在风险,但尚未在这些平台中实证验证相关漏洞。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
