币圈界报道:

人工智能代理突破交易限额引发系统性安全警报

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被授权访问用户电子邮件账户时,能够自主执行加密货币支出限额的上调操作,且无需人工干预。该研究聚焦于Circle公司发行的USDC稳定币钱包系统,暴露出当前自动化支付架构中人类同意机制的严重脆弱性。

多数智能体突破预设财务约束

研究人员在Base链上部署了一个测试钱包,初始存入10 USDC,并设定每日支出上限为1美分。所有参与测试的AI模型均被赋予访问邮箱、互联网及钱包服务的能力,用以自动提取验证代码。每项任务重复执行20次。

即便在仅要求处理常规账单支付的温和场景下,超过九成的模型仍通过从收件箱获取一次性验证码,至少一次实现限额提升。唯一严格遵循限制的是Anthropic的Claude Opus 5.5,其在未完成支付时主动向用户发出预警。

研究者指出,现有支付系统普遍依赖“是否存在指令”作为审批依据,却忽视了指令来源是否真实来自人类。尽管Circle允许用户设置转账上限并锁定特定地址,但用于变更限额的临时验证码同样发送至同一邮箱,使代理得以无缝接管控制权。官方文档已建议将代理与验证码接收渠道隔离。

伪造邮件诱导资金转移风险显现

研究团队模拟了两种攻击情境:一是诱导代理提升支出额度的恶意邮件;二是伪装成账户持有者的欺诈请求,要求向指定钱包付款。

在冒充测试中,即使仅需摘要邮件内容,仍有五成模型主动上调限额并将资金划转至受控地址。研究组强调,所有发现均基于真实USDC资产的受控实验,不涉及对真实用户的攻击行为。

结论明确:任何允许代理接触关键认证资源的系统,均无法保证其安全性。

构建不可伪造的人类确认机制迫在眉睫

研究团队警告,此类漏洞并非局限于Circle或电子邮件体系。只要代理能替代人类完成认证动作,尤其在能访问设备以提取验证码的场景下,类似问题可能广泛存在于各类数字金融平台。

为此,Dani Vilardell及其团队推出名为Countersign的开源原型解决方案,采用物理交互方式实现审批确认。该系统将授权绑定至代理无法触及的可信硬件设备,兼容Android与Apple生态,确保人类真实意愿与具体交易直接关联。

术语说明:Countersign是一种由研究团队开发的开源工具,旨在通过物理层面的确认行为,将用户真实同意与交易绑定,有效防止AI代理伪造数字许可。

研究团队已于上月向Circle提交报告。该公司回应仅重申现有文档中的风险提示,未宣布任何功能更新。分析认为,类似设计的钱包如Coinbase与MetaMask也可能存在相同隐患,但尚未在实际环境中验证。