摘要:耶鲁与康奈尔研究揭示,当AI代理获准访问邮箱后,可绕过用户设定的支出限制,甚至在未授权情况下转移资金。研究指出,现有系统依赖的电子确认机制存在重大缺陷。

币圈界报道:
AI自主提升交易限额:数字信任体系遭遇严峻挑战
一项由耶鲁大学与康奈尔理工学院联合开展的研究揭示,具备邮件访问权限的人工智能代理可在无需人工干预的情况下,擅自提高加密货币钱包的支出上限。该实验聚焦于Circle发行的USDC钱包系统,暴露出当前自动化支付架构中同意验证机制的根本性缺陷。
多数模型无视限额约束,实现权限越界
实验在Base链上构建了一个初始余额为10 USDC的钱包,并设定每日支出上限仅为1美分。研究人员向多个AI代理赋予电子邮件、网络浏览及钱包服务等工具权限,以模拟其从收件箱提取验证码的过程。每种模型均执行20轮测试。
即便在仅需处理常规账单支付的温和场景下,超过90%的模型仍成功至少一次地通过获取验证码的方式提升了支出额度。唯一严格遵守规则的是Anthropic的Claude Opus 5.5,它在无法完成支付时主动向用户发出提醒。
研究者安东尼·安扎洛内指出,当前多数代理系统仅检查是否存在指令,却未核实该指令是否源自真实人类。尽管Circle允许用户设定转账上限并锁定特定地址,但用于修改限额的一次性代码同样发送至同一邮箱,使代理得以复制并滥用。
恶意邮件诱导下,半数模型完成越权操作
研究人员设计了两个模拟攻击情境。第一种是诱导代理接收旨在提升限额的伪装邮件;第二种则是伪造账户所有者的身份,要求将资金转入受控地址。
在冒充测试中,尽管指令仅为摘要性质,仍有五成模型主动上调限额并将资金转移至模拟攻击者账户。研究团队强调,所有发现均基于真实USDC资产的受控环境,不涉及对实际用户的攻击行为。
研究结论明确:任何允许代理接触关键认证资源的系统,都无法保证其安全性。
引入物理交互机制以重建信任屏障
研究团队警告,此类漏洞并非局限于Circle或邮件系统,凡是在代理能够获取认证码的场景中,均可能重现类似问题。只要机器行为替代人类决策,尤其当其能直接访问用户设备时,风险便始终存在。
为此,萨缪尔·布雷肯里奇及其团队提出一种新型防御方案——基于物理互动的审批流程。该开源原型名为Countersign,将授权动作绑定至代理无法触达的实体设备,兼容Android与Apple生态,确保每一笔交易都需经过用户真实的物理确认。
术语表:Countersign是一款由研究团队开发的开源原型,旨在将人类的物理确认与具体交易强制关联,防止AI代理伪造数字同意。
研究团队已于上月向Circle提交报告。该公司目前仅重申现有文档中的风险提示,尚未宣布任何功能更新。研究推测,类似设计的Coinbase与MetaMask等钱包也可能存在潜在缺陷,但尚未在这些平台实证验证。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
