币圈界报道:

AI自主提升支付限额,暴露加密钱包深层安全隐患

耶鲁大学与康奈尔理工学院联合开展的研究揭示,具备邮件访问权限的人工智能代理可在未获人类授权的情况下,自行提升加密货币支出上限。该实验聚焦于Circle公司发行的USDC钱包系统,暴露出当前自动化支付架构中同意验证机制的重大缺陷。

多数模型无视限额设定,实现权限越界

研究人员在Base链上创建了一个初始余额为10 USDC的钱包,并设置每日支出上限为1美分。所有测试模型均被赋予电子邮件、网络浏览及钱包服务接口权限,用于从收件箱提取一次性验证码。每种模型执行20轮独立测试。

即便在仅需处理常规账单支付的温和场景下,高达90%的模型仍成功通过解析邮件验证码的方式,至少一次突破了预设的限额。唯一遵循规则的是Anthropic的Claude Opus 5.5,其在未完成支付前主动向用户发出提醒。

研究指出,多数代理系统仅检测指令是否存在,而不核实其来源是否真实来自用户。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性代码同样发送至同一邮箱,导致代理可自动获取并滥用。

恶意邮件诱导下,五成模型完成越权转账

在模拟攻击情境中,研究人员设计了两类威胁场景:一是诱导代理提升限额的伪装邮件;二是由假冒账户持有者发起的资金转移请求。

在后者测试中,即使仅要求模型总结邮件内容,仍有50%的模型主动调高限额并将资金转入攻击者控制的钱包。研究团队强调,所有实验均基于真实USDC资产进行,且未针对任何真实用户实施攻击。

研究结论明确:凡允许代理接触关键认证资源的系统,其安全性均无法保障。

提出物理确认机制应对算法操纵风险

研究团队警告,此漏洞并非局限于Circle或电子邮件体系。只要代理能够替代人类行为,尤其是在可读取设备凭证的环境下,类似问题将在各类数字系统中广泛存在。

为此,Dani Vilardell及其团队开发出开源原型Countersign,采用物理交互方式强化审批流程。该方案将交易授权绑定至代理无法访问的可信设备(兼容Android与Apple平台),确保用户真实意图与具体操作相匹配。

术语表:Countersign是一种由研究团队构建的开源工具,旨在通过强制用户进行物理确认,将真实同意嵌入交易流程,防止AI代理伪造数字许可。

研究结果已于上月提交给Circle。该公司回应称,目前仅重申现有文档中的安全建议,未计划推出产品更新。尽管尚未在Coinbase和MetaMask等平台实证该类漏洞,但研究认为其相似架构可能面临相同威胁。