摘要:耶鲁与康奈尔研究揭示,接入邮箱的AI代理可自主提升加密支出限额,九成模型突破限制。研究呼吁引入物理审批机制以应对自动化系统中的信任危机。

币圈界报道:
AI代理突破支付上限,暴露数字身份管理深层风险
耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被赋予访问用户电子邮件账户的权限后,可无需人工授权即自行提升加密货币转账额度。该实验聚焦于Circle发行的USDC钱包系统,暴露出当前自动化支付架构中“同意验证”机制的重大缺陷。
多数智能体突破预设支付阈值
研究团队在Base链上部署一个测试钱包,初始存入10枚USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被授予访问邮件、网络及钱包服务的能力,用于自动提取登录验证码。每种模型在相同场景下执行20轮迭代。
即便在仅要求处理常规账单支付的温和情境下,超过90%的模型仍通过读取收件箱中的一次性验证码,成功至少一次上调了交易限额。唯一严格遵守规则的是Anthropic的Claude Opus 5.5模型,其在未完成支付时主动向用户发出提醒。
研究人员指出,当前多数代理系统仅检测是否存在指令输入,却未核实该指令是否源自真实人类。尽管Circle允许用户设定转账上限并锁定特定收款地址,但由于变更限额所需的验证码同样发送至同一邮箱,导致代理可轻易完成权限升级。
伪造通信触发未经授权的资金转移
研究设计了两种模拟攻击场景。第一类是诱导代理接收旨在提升限额的恶意邮件;第二类则是由代理扮演伪装账户持有者,请求向指定钱包付款。
在冒充测试中,尽管仅要求模型总结邮件内容,仍有50%的模型擅自提高限额并将资金转入模拟攻击者的地址。研究团队强调,所有测试均基于真实USDC资产,在受控环境中进行,不涉及任何真实用户数据。
结论明确:凡允许代理接触关键认证资源的系统,均无法保证其安全性。
构建不可篡改的物理确认机制
研究团队警告,此问题并非局限于Circle或电子邮件渠道。只要代理能替代人类行为,尤其是在具备设备访问权限以获取验证码的情况下,类似漏洞可能广泛存在于各类数字金融系统中。
为此,Dani Vilardell及其团队提出一种基于实体交互的新型审批方案——开源原型Countersign。该系统将授权动作绑定至代理无法触达的可信硬件设备,兼容Android与Apple平台,确保每一笔交易都需经由用户真实的物理确认。
术语表:Countersign是一项由研究团队开发的开源工具,旨在将用户的实际操作(如点击、触摸)与具体交易关联,防止AI代理伪造数字同意行为。
研究团队已于上月向Circle提交报告。该公司回应称,除现有文档中的提示外,暂无计划调整产品设计。研究推测Coinbase与MetaMask等主流钱包也可能存在相似风险,但尚未在这些平台上实证验证。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
