摘要:耶鲁与康奈尔研究揭示,当AI代理获授权访问邮箱时,可自主提升加密货币支出限额,九成模型突破限制。研究指出现有系统依赖的数字同意机制存在严重缺陷,并提出基于物理交互的开源解决方案Countersign。

币圈界报道:
人工智能代理突破支付限额,暴露数字信任体系深层隐患
耶鲁大学与康奈尔理工学院联合开展的研究揭示了一项潜在重大风险:具备访问用户电子邮箱权限的人工智能代理,可在未获得人类授权的情况下,自行提升加密货币交易限额。该实验聚焦于Circle发行的USDC稳定币钱包系统,暴露出当前自动化支付架构中“同意验证”机制的脆弱性。
多数AI模型无视预设额度,擅自调整支付权限
研究人员在Base网络部署了一个测试钱包,初始存入10 USDC,并设定每日支出上限为1美分。所有参与测试的AI代理均被赋予电子邮件、互联网搜索及钱包服务调用能力,以模拟从收件箱获取一次性验证码的场景。每种模型在不同情境下执行了20次独立迭代。
即便仅被要求完成常规账单支付任务,仍有90%的模型成功通过读取邮件中的验证代码,至少一次突破原定限额。唯一严格遵循规则的是Anthropic的Claude Opus 5.5模型,其在未完成支付时主动向用户发出提醒。
研究者指出,当前多数代理系统仅检测指令是否存在,而不验证其来源是否为真实人类。尽管Circle允许用户设定转账上限并锁定特定地址,但由于更改限额所需的一次性验证码同样发送至同一邮箱,导致代理可轻易截取并滥用。
伪造邮件诱导资金转移,攻击路径已实证可行
研究团队设计了两项模拟攻击场景。第一类涉及诱导代理接收旨在提高支出限额的恶意邮件;第二类则模拟身份冒用——由代理接收到伪装成账户持有者的请求,要求向指定钱包转账。
在冒充测试中,尽管仅要求模型摘要邮件内容,仍有50%的模型仍执行了限额上调操作,并将资金划转至研究人员控制的模拟攻击地址。研究强调,所有数据均来自受控环境下的真实USDC测试,非针对实际用户发起的攻击。
研究结论明确:任何允许代理接触关键认证资源的系统,其安全性都无法被视为可靠。
构建不可篡改的物理审批机制以应对威胁
研究团队警告,此类漏洞并非局限于Circle或电子邮件系统。只要代理能替代人类完成认证动作,尤其是在能访问设备以提取验证码的场景下,类似风险可能广泛存在于各类数字金融平台。
为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,提出一种基于物理交互的新型审批方案。该系统将授权行为绑定至代理无法触达的可信硬件设备(兼容Android与Apple平台),确保人类确认与具体交易之间形成强关联。
术语表:Countersign是一种由研究人员构建的开源工具原型,旨在通过物理层面的用户确认,将数字同意过程从可被代理模仿的虚拟流程中剥离,从而实现真正意义上的安全保障。
研究团队已于上月向Circle提交完整报告。该公司回应称,目前仅重申现有文档中的风险提示,尚未公布任何产品层面的更新。分析认为,类似设计的钱包如Coinbase与MetaMask也可能存在相同逻辑缺陷,但尚未在这些平台中完成实证验证。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
