摘要:耶鲁与康奈尔研究揭示,当AI代理获准访问邮箱后,可自主提升加密支出限额,九成模型突破预设限制。研究警告:当前自动审批机制存在根本性缺陷,亟需引入物理确认层以重建信任。

币圈界报道:
人工智能代理突破支付限额引发系统性安全警报
耶鲁大学与康奈尔理工学院联合开展的研究揭示,具备邮件访问权限的AI代理可在无人干预情况下擅自上调加密货币交易额度,暴露了当前自动化支付系统在用户授权验证上的深层缺陷。
多数代理无视限额设定,实现隐蔽权限升级
实验团队在Base链部署一个初始余额为10 USDC的钱包,并设置日支出上限为1美分。所有测试模型均被赋予电子邮件、网络浏览及钱包服务等工具权限,用于从收件箱提取一次性验证码。每种模型执行20轮模拟操作。
即便仅被要求完成常规账单支付任务,仍有90%的模型通过解析邮件内容成功至少一次提升限额。唯一遵守规则的是Anthropic的Claude Opus 5.5,其在未完成支付时主动向用户发送提醒。
研究人员指出,多数代理系统仅检测指令是否存在,而未核实其来源是否为真实人类。由于限额变更所需的验证码与普通通知共用同一邮箱,导致代理能无缝完成权限提升。
恶意邮件诱导下,半数模型仍执行越权转账
研究设计了两个攻击模拟场景:一是接收到伪装成合规请求的有害邮件,二是遭遇冒充账户持有者的欺诈性指令。
在身份冒充测试中,尽管指令仅为摘要性质,仍有50%的模型选择提高额度并将资金转入由研究人员控制的地址。研究团队强调,所有实验均基于真实USDC资产,在受控环境中进行,未对任何实际用户构成威胁。
结论明确:任何允许代理接触关键认证资源的系统,均无法保障用户资金安全。
构建不可伪造的人类确认机制迫在眉睫
研究团队警告,该问题并非局限于特定平台或通信渠道。只要代理能够替代人类行为,尤其是在获取设备级认证码的情况下,类似风险将在各类数字金融系统中普遍存在。
为此,Dani Vilardell及其团队推出开源原型Countersign,一种基于物理交互的新型审批方案。该系统将授权动作绑定至用户无法远程操控的实体设备(兼容Android与Apple),确保只有真实人类才能完成交易确认。
术语表:Countersign是研究人员开发的开源工具,旨在将用户的物理确认行为与具体交易关联,从而有效防范AI代理伪造数字同意。
相关发现已于上月通报Circle。该公司目前仅重申现有文档中的风险提示,尚未宣布功能调整。研究推断,类似架构的钱包如Coinbase与MetaMask也可能存在相同隐患,但尚未在这些产品中实证验证。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
