摘要:随着自主AI代理在各领域快速渗透,CertiK首席执行官顾荣辉警示:当前广泛存在的信任模型缺陷正导致严重安全隐患。未受控的权限授予与隐蔽的自然语言攻击正使系统面临前所未有的内生威胁。

币圈界报道:
自主智能体崛起背后的安全隐患加速暴露
人工智能代理在互联网、企业系统与终端应用中的广泛应用,正伴随显著的安全风险上升而引发深层忧虑。CertiK首席执行官顾荣辉指出,该领域积累的“安全负债”已逼近临界点,潜在威胁可能演变为系统性灾难。
自主代理运行环境缺乏有效隔离
尽管企业将这些智能体描绘为效率革命的关键推手,其底层架构却存在重大隐患。大量代理在未实施充分隔离机制的前提下部署,使其具备直接访问用户本地文件、调用外部服务及操控敏感流程的能力。
顾荣辉强调,当用户授权后,代理可读取系统资源、触发自动化任务,并与金融接口交互。若无严格运行边界管控,个人数据与网络资产将长期处于内外部攻击的开放暴露状态。
基于错误假设的信任机制构成根本性风险
当前主流应用普遍依赖一种误判前提:认为本地操作或平台集成天然具备防御能力。然而现实表明,这种默认信任极易被突破。
一旦代理获得账户管理或持久化存储权限,其行为可能被恶意引导,进而引发身份冒用、凭证泄露等严重后果。此类风险并非来自外部入侵,而是源自系统内部权限的失控扩张。
核心基础设施中隐藏数百个高危缺陷
最新审计发现,在主流开源框架与核心组件中识别出大量关键漏洞。其中,未修复的第三方库缺陷以及模块间访问控制缺失,是导致凭据外泄的主要成因。
术语说明:提示注入攻击指攻击者通过嵌入自然语言指令(如邮件正文、文档内容或网页文本),诱导人工智能代理偏离预期行为,实现非授权操作。
机器对机器攻击周期急剧缩短
攻击模式正在发生质变——针对自主代理的自动化欺诈行为正以极快速度完成。数据显示,部分链上诈骗仅持续数分钟至数小时即告消失,难以追踪。
此类攻击主要瞄准算法交易机器人及其他高度自动化的金融系统。攻击者利用漏洞在人工干预前完成机器对机器的资产窃取,极大压缩了响应时间。
新型威胁无需恶意代码即可生效
部分入侵手段完全不依赖传统恶意程序。只需在自然语言输入中植入隐蔽指令,即可改变代理逻辑路径。这类攻击形式规避了常规杀毒软件的检测机制。
顾荣辉指出,伪装成合法插件的自然语言指令可劫持代理执行流程,而现有防护体系对此类威胁几乎无法识别。这要求安全架构必须从被动防御转向主动验证。
他呼吁行业全面转向零信任范式,对每一项指令、每一次插件调用实施持续性校验,从根本上重构可信执行环境。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
