蚂蚁开源AI安全检测工具SingProbe，覆盖29款主流模型

界面新闻9月17日获悉，蚂蚁集团旗下的AI安全实验室正式推出大模型安全防护系统SingProbe，同步开放源代码、预训练模型及完整评测基准，旨在提升生成式AI在实际应用中的可信度与安全性。

多模型兼容性增强，生成阶段实现风险前置拦截

该工具已成功适配当前29个主流开源大模型，具备在文本生成过程中实时识别潜在不实信息与有害内容的能力，实现对生成结果的动态校验与风险预警。