英伟达启动Grok3 LPX机架量产,构建下一代AI推理基础设施
英伟达正式宣布进入Groq3 LPX机架的批量生产阶段,标志着其在高性能AI计算领域的又一关键进展。该机架基于去年以200亿美元从Tesla获得授权的Grok3芯片技术,将与Vera CPU及Rubin GPU协同部署于英伟达自建的Nevius数据中心。
每机架搭载256颗芯片,支持超高速文本处理能力
每个LPX机架配置256个Grok3芯片,可实现每秒最高3,400个token的处理速率,显著提升大规模语言模型在实时场景下的响应效率。这一性能指标尤其适用于需要快速迭代与反馈的软件开发与代码生成任务。
强化低延迟推理供给,应对AI Agent爆发式增长需求
随着AI Agent应用在企业级与开发者生态中加速渗透,对低延迟推理能力的需求急剧上升。英伟达正加快产能扩张节奏,通过优化供应链与制造流程,确保年底前完成首批部署,为下一代智能系统提供坚实算力支撑。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
币安 Binance
币安交易所是全球加密货币交易所,注册奖励 500 U
