币圈界报道,7月9日讯,作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型,LongCat-2.0已全面开源。针对显存与带宽受限的国产算力芯片,我们在模型架构、芯片适配到部署策略上进行了深度协同优化,让万亿参数模型在存量卡上同样跑得稳、跑得快。LongCat-2.0的开源,是一次技术路径的公开,也是一次生态邀约。本次开源同步提供BF16、FP8以及INT8等多精度版本,全面覆盖不同算力平台的部署需求。同时,我们深度拥抱开源社区,将针对国产算力极致优化的推理成果同步开源。这意味着,即使手上没有最新算力,也能基于现有硬件将LongCat-2.0稳定跑起来。我们希望通过这套开箱即用的推理栈,让更多的国产卡包括老卡,都能流畅部署万亿大模型推理服务,在真实生产力场景发挥更大价值。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
币安 Binance
币安交易所是全球加密货币交易所,注册奖励 500 U
