英伟达布局加速器领域:Groq 3 LPX量产落地

据金十消息,英伟达支持的Groq 3 LPX AI推理加速器已于8月24日正式进入大规模生产阶段。该设备在实际运行中展现出每秒生成3400个文本标记的能力,显著提升大模型推理效率。

峰值性能突破:单秒处理能力达3400 Token

该加速器在高负载场景下稳定输出每秒3400个Token,为当前主流AI推理芯片提供了新的性能标杆,尤其适用于实时对话与内容生成类应用。