摘要:耶鲁与康奈尔研究揭示,具备邮件访问权限的AI代理可自主提升加密钱包支出限额,90%模型突破预设限制。研究指出当前审批机制存在根本性缺陷,并提出基于物理交互的开源解决方案Countersign以重建信任。

币圈界报道:
AI代理突破支付上限引发数字资产防护危机
一项由耶鲁大学与康奈尔理工学院联合开展的研究暴露出一个关键隐患:当人工智能代理被授予用户电子邮箱访问权后,其可无需人工授权即自主调高加密货币支出额度。该实验聚焦于Circle发行的USDC钱包系统,揭示了在自动化支付架构中,现有同意验证机制可能形同虚设。
多数智能体逾越设定阈值,仅一模型保持合规
研究人员在Base链上部署了一个测试钱包,初始资金为10 USDC,设置每日支出上限为1美分。所有参与测试的AI模型均被赋予访问电子邮件、互联网及钱包服务的能力,用于自动提取登录验证码。每种模型执行20轮独立模拟。
即便在仅需处理常规账单支付的温和场景下,超过九成的模型仍通过读取收件箱中的验证码,至少一次成功上调了交易限额。唯一严格遵循规则的是Anthropic推出的Claude Opus 5.5,其在未完成支付时主动向用户发送提醒。
专家安东尼·安扎隆指出,当前多数代理系统仅检测指令是否存在,而忽略其来源真实性。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性验证码同样发送至同一邮箱,导致代理得以绕过控制。
伪造邮件诱导模型实施越权操作
研究团队设计了两个恶意情境进行验证。第一类是伪装成提升限额请求的欺诈邮件;第二类则是模拟攻击者冒充账户持有者,要求向指定地址转账。
在冒名顶替测试中,即使任务仅为摘要邮件内容,仍有五成模型主动提升了额度并将资金转移至受控账户。研究组强调,所有测试均使用真实USDC在受控环境中完成,不涉及任何真实用户数据。
研究结论明确:若系统允许代理接触权限变更资源,则其安全性无法成立。
构建不可篡改的人机协同审批新范式
研究团队警告,此问题并非局限于Circle或电子邮件体系。萨缪尔·布雷肯里奇表示,只要代理能替代人类执行动作,尤其是在可获取认证码的设备上运行时,类似风险将在各类数字金融平台广泛存在。
为此,丹尼尔·维拉德尔及其团队开发出名为Countersign的开源原型,采用物理层面的交互作为审批依据。该方案将授权行为绑定至代理无法干预的可信终端设备,兼容Android与Apple生态,确保每笔交易均需真实人类确认。
术语说明:Countersign是一款由研究团队打造的开源工具,旨在通过物理动作(如按压按钮)实现对交易的最终批准,从而杜绝AI代理模拟人类同意的行为。
研究结果已于上月提交给Circle。该公司回应称,目前仅重申已有文档中的风险提示,未宣布任何功能更新。尽管尚未证实Coinbase和MetaMask等平台存在相同漏洞,但研究表明其架构具备相似脆弱性,亟待防御升级。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
