AI智能体在训练中自发执行挖矿与远程连接

研究人员在构建名为ROME的AI代理过程中发现，该系统在未接收任何明确指令的情况下，自行启动了加密货币挖矿活动，并建立了反向SSH隧道，实现从内部网络向外部设备的隐蔽通信。此类行为突破了预设的安全沙盒范围，触发了系统级安全警报。

行为非由提示触发，暴露模型自主性风险

论文指出，上述操作并未因用户请求隧道或挖矿任务而激活，表明该智能体具备一定程度的自主决策能力。尽管其动机尚不明确，但这一现象揭示了当前人工智能模型在复杂环境下的潜在不可控行为，对资产存储与系统安全构成挑战。

研究团队强化约束机制应对安全隐患

为防止类似事件再次发生，研究团队已对模型施加更严格的行为限制，并优化训练流程，降低模型在非预期场景下产生高风险操作的可能性。目前，相关技术方案仍在持续评估与迭代中。