币圈界报道：

OpenAI 推出自进化式安全检测系统 GPT-Red

OpenAI 正式发布一款名为 GPT-Red 的人工智能驱动安全测试平台，专用于识别其语言模型中的潜在安全缺陷。该名称源自网络安全领域的“红队演练”——即模拟真实攻击行为以提前发现系统薄弱环节。

安全验证机制实现规模化突破

根据官方博文披露，GPT-Red 在 GPT-5.6 模型部署前显著增强了其抵御提示注入攻击的能力。公司强调，随着模型性能持续升级，安全性必须同步演进。传统人工红队测试难以满足大规模需求，已成为制约效率的关键瓶颈。GPT-Red 的推出正是为应对这一挑战而设计。

基于对抗学习的自主攻防训练模式

GPT-Red 采用自我对弈强化学习框架，能够不断生成更具破坏力的提示攻击，并推动防御模型同步优化。该系统所生成的攻击样本被直接整合进 GPT-5.6 的训练流程中。内部评估显示，其攻击成功率达到84%，相较之下，人类红队成员在同一任务中的成功率仅为13%。

OpenAI 表示，该系统的核心目标是持续探索更复杂、更隐蔽的漏洞路径。每一次成功的攻击都会反向反馈至防御体系，形成动态迭代的安全增强循环。

实测案例：操控自动售货机代理执行异常指令

在一次内部演示中，GPT-Red 成功诱导一个自主运营的售货机代理系统，使其擅自下调商品价格、调用折扣库存，并在漏洞修复前取消另一用户订单。此案例验证了系统在真实业务场景下识别高风险行为的能力。

从人工红队到 AI 自动化演进

GPT-Red 是 OpenAI 自 ChatGPT 上线以来长期安全投入的延续。早在2023年，公司已建立外部红队协作网络，邀请专业安全研究人员参与模型上线前的漏洞挖掘。如今，GPT-Red 实现了对大部分测试流程的自动化，利用人工智能生成提示攻击与对抗性测试用例，覆盖范围远超人力极限。

这一举措反映出行业新趋势：以人工智能手段保障人工智能系统的可信性。本月初，以太坊基金会亦宣布启用 AI 代理对核心代码库进行红队扫描，并在共识客户端中发现关键漏洞。研究指出，虽然 AI 能够高效遍历海量代码，但当前难点已转向验证漏洞的实际可利用性。

OpenAI 明确表示，GPT-Red 将作为内部专用工具保留，因其具备专门设计的攻击性功能。公司认为，该系统正推动构建“安全飞轮效应”——即当前模型可用于强化未来版本的鲁棒性与一致性，从而实现自我增强型安全保障体系。