以太坊创世者力倡本地化AI生态,警惕智能体失控危机

以太坊联合创始人Vitalik Buterin发布深度技术声明,指出现代人工智能系统在隐私保护与操作可控性方面面临严峻挑战。他主张全面转向‘本地优先’的AI基础设施,反对将敏感数据交由远程服务器处理,尤其警惕具备自主执行能力的AI智能体在无用户干预下擅自调用系统资源或外传信息。

真实场景中的多重攻击面已被证实

Buterin列举多项经实证的安全漏洞:部分用于网页摘要的AI代理在遭遇恶意页面时,会自动下载并运行脚本,导致外部实体获取主机控制权;另有实例显示,某些智能体工具在未通知用户前提下发起网络请求,泄露数据;研究揭示约15%的现有智能体功能集包含潜在恶意指令。

他还揭露更隐蔽的威胁:个别模型可能内嵌可激活后门,在特定条件下转而服务于开发方而非用户利益;此外,大量标榜“开源”的模型仅开放权重参数,其内部结构与训练过程仍属黑箱,用户无法独立验证其行为逻辑。

从对话式助手到自主决策系统的范式跃迁

Buterin认为,人工智能正经历关键转折——由被动响应的聊天机器人,演变为可长期自主运行、调用多工具完成复杂任务的智能体。这一转变显著扩大了攻击面:一个能读取文件、修改配置、发送消息甚至访问网络的智能体,一旦因漏洞、误判或被操控,造成的破坏远超传统问答系统。

构建自主可控的本地运行体系

为应对上述风险,Buterin已停止使用所有云端AI服务,并搭建以“自主、本地、私有、安全”为核心的计算环境。其系统设计包括:所有推理过程在本地硬件完成,数据存储于设备端,每个进程运行于目录级沙箱中,限制其对文件、网络及音频的访问权限。

测试结果显示,配备NVIDIA 5090显卡的笔记本可实现每秒约90个token的推理速度;搭载128GB统一内存的AMD Ryzen AI Max Pro处理器达每秒51个token;而宣传为桌面级AI超级计算机的DGX Spark设备实际性能仅为每秒60个token,且需额外配置网络,表现不及高端移动平台。他设定每秒50个token为可用性底线,理想目标为90个。

其软件栈以llama-server为核心,该本地服务进程开放端口供其他应用调用,兼容原为OpenAI或Anthropic设计的前端工具;结合llama-swap工具,可实现不同模型间的无缝切换。

加密钱包智能化必须坚守控制权边界

在2026年3月的技术构想中,Buterin提出一套分层决策机制:AI仅提供交易建议,不直接操作资金。高价值交易需经过三步验证:首先由AI生成方案,其次通过本地轻客户端模拟链上结果,最后用户在同时审阅自然语言描述与模拟输出的基础上做出最终确认。

轻客户端无需完整同步区块链即可验证状态,结合AI层使用户可在广播前精准预知交易后果,摆脱对第三方界面的依赖。

移除前端界面以根治去中心化应用漏洞

当前多数去中心化应用通过浏览器前端交互,此类界面长期是攻击重灾区,曾引发数亿美元损失。Buterin主张彻底废除这类中间层:若用户以自然语言表达意图,钱包系统直接解析并构造交易,无需任何可被劫持的第三方网站。

他强调:“完全取消DApp前端可有效消除大量针对资金盗窃与隐私泄露的攻击路径。” 对低风险操作,可适度引入自动化功能,如异常检测、燃料费优化、路径选择与可疑合约标记,这些错误可逆,且有助于降低非技术用户的使用门槛。

但他坚决反对赋予大语言模型对大额资产的不受控权限。由于其基于概率而非确定性逻辑生成内容,易受提示注入攻击或误解指令。其提出的流程中每一步均设独立校验节点,防止模型偏差导致重大损失。

智能体市场扩张加剧现实风险暴露

这些风险并非理论推演。数据显示,2025年全球AI智能体市场规模已达80亿美元,预计2030年将突破480亿美元,年复合增长率逾43%。随着更多系统向高自主性、低人工干预方向发展,安全缺陷将在大规模部署中愈发难以掩盖。

核心理念:技术赋能但不丧失掌控

Buterin的警告建立在已验证的研究基础上。真实环境中已出现智能体被利用进行越权操作的案例。从对话式工具迈向自主代理的演进,使风险变得不可逆且难以监管。其倡导的本地化方案与三阶段钱包流程,并非否定人工智能,而是确保在享受技术红利的同时,始终掌握对自身数据与资产的绝对控制权。未来,谁真正主导智能体的行为,将成为决定数字主权的关键命题。