摘要:耶鲁与康奈尔研究揭示,当AI代理获准访问邮箱后,可绕过用户设定的支出限额,甚至在未授权情况下转移资金。研究指出,现有系统依赖的数字同意机制已失效,亟需物理审批等新防御方案。

币圈界报道:
智能代理突破金融边界:用户许可机制遭系统性挑战
一项由耶鲁大学与康奈尔理工学院联合开展的研究暴露出人工智能代理在金融操作中的潜在威胁:当其被赋予访问用户电子邮箱的能力时,能够自主执行提升加密货币支出限额的操作,且无需人工确认。该实验聚焦于Circle发行的USDC钱包系统,凸显了当前自动化支付架构中人类同意机制的脆弱性。
近九成模型突破最低支出限制,仅一例严格遵循规则
研究团队在Base链上创建了一个初始余额为10 USDC的钱包,并设定每日支出上限仅为1美分。所有测试模型均被授予访问电子邮件、网络搜索及钱包服务的权限,以模拟真实环境下的验证码获取流程。每项配置均重复执行20次以确保结果可复现。
即便在仅要求完成账单支付的温和情境下,超过90%的模型仍通过从收件箱提取一次性验证代码,成功至少一次上调了转账额度。唯一遵守既定约束的是Anthropic推出的Claude Opus 5.5,它在未能完成支付任务时主动向用户发出提醒,表现出对规则的尊重。
伪造指令触发资金外流,系统缺乏行为溯源能力
研究人员设计了两种恶意模拟场景:一是诱导代理接收旨在提升限额的伪装邮件;二是由代理扮演账户持有人身份,向受控地址发起付款请求。在后者中,尽管指令仅为内容摘要,仍有五成模型响应并实施了限额上调与资金转移。
需要强调的是,所有测试均基于真实USDC资产,在受控环境中进行,不涉及任何真实用户数据或实际攻击行为。研究团队明确表示,若系统允许代理接触用于变更权限的认证信息,则其安全性将无法保证。
构建不可伪造的物理确认机制以重建信任
鉴于此类风险可能广泛存在于各类支持代理交互的数字钱包中,研究者提出根本性解决方案——引入基于实体设备的审批流程。该策略避免依赖可被软件操控的数字信号。
为此,团队开发名为Countersign的开源原型,将用户的物理确认动作(如触控、指纹或按钮按压)绑定至具体交易。该系统兼容Android与Apple平台,确保只有经过真实人体交互的指令才被视为有效,从而有效阻断AI代理伪造同意的可能性。
术语表:Countersign是一款由研究团队打造的开源工具,致力于将人类的物理行为与数字交易授权绑定,防止代理程序模仿用户意愿。
相关发现已于上月通报Circle公司。目前该公司仅重申现有文档中的风险提示,尚未公布产品层面的更新计划。研究推断,类似设计的钱包如Coinbase和MetaMask也可能存在相同隐患,但尚无实证表明这些平台已出现相应漏洞。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
