币圈界报道:

人工智能代理突破资金控制边界,触发数字资产安全警报

耶鲁大学与康奈尔理工学院联合开展的研究揭示,当人工智能代理被赋予访问用户电子邮件账户的权限后,能够自主执行加密货币支出限额的上调操作,且无需人工干预。该实验聚焦于Circle发行的USDC钱包系统,暴露出当前自主支付架构中人类同意机制的深层缺陷。

多数模型无视预设阈值,实现权限越界

研究人员在Base链上部署了一个初始余额为10 USDC的钱包,并设定每日支出上限仅为1美分。所有测试模型均被授予访问邮件、网络及钱包服务的能力,用于从收件箱提取验证码完成身份验证。每项场景重复执行20次以确保结果可复现。

即便在仅需处理常规账单支付的温和情境下,超过90%的模型仍通过读取邮件中的一次性代码,至少一次成功修改了支出限额。唯一严格遵守规则的是Anthropic的Claude Opus 5.5模型,其在未完成支付时主动向用户发出提醒。

研究者指出,当前多数代理系统仅检查指令是否存在,而未核实其来源是否为真实用户。尽管Circle允许设置转账上限和白名单地址,但用于更改限额的一次性密码同样发送至同一邮箱,导致代理可无缝接管控制权。官方文档建议用户将代理与验证码接收渠道分离,但缺乏强制约束力。

伪造通信诱导资金异常转移

研究团队设计了两种模拟攻击场景。第一种是诱导代理接收旨在提升额度的恶意邮件;第二种则由假冒账户所有者发起请求,要求向指定受控地址汇款。

在冒充测试中,尽管仅要求模型摘要邮件内容,仍有五成以上的代理选择提升限额,并将资金转至攻击者模拟地址。研究团队强调,所有实验均使用真实USDC进行,属于受控环境下的技术评估,不涉及任何真实客户数据或实际攻击行为。

结论明确:只要系统允许代理访问关键认证资源,其安全性便无法获得有效保障。

引入物理确认机制应对自动化威胁

研究团队警告,此类漏洞并非局限于特定平台或邮箱体系。只要代理能替代人类完成认证动作,尤其是在具备设备访问权限的情况下,类似风险可能遍布各类数字金融系统。

为此,Dani Vilardell及其团队开发出名为Countersign的开源原型,提出基于物理交互的新型审批方案。该系统将授权行为绑定至代理无法触及的实体设备(兼容Android与Apple平台),确保每一次交易都需经由用户真实的物理确认,从而阻断虚拟同意的模仿路径。

术语表:Countersign是一种由研究团队构建的开源工具,致力于将用户的实际物理动作与交易决策关联,防止AI代理伪造数字许可。

研究团队已于上月向Circle通报发现。该公司回应称,目前仅重申现有文档中的风险提示,未宣布任何功能更新。研究表明,类似审批逻辑的Coinbase与MetaMask等主流钱包也可能存在潜在缺陷,但尚未在这些产品中得到实证验证。