币圈界报道:

AI服务平台上线模型即服务新层级,打通大模型接入最后一公里

近日,一家领先的AI计算服务平台正式发布“模型即服务”功能模块。该服务将多个主流大语言模型的API调用权限纳入统一订阅体系,用户无需分别注册第三方模型厂商账户或手动配置密钥,即可在平台上完成从虚拟专用服务器部署到模型推理的全流程操作。

核心模型将迁移至自建GPU网络,强化数据控制权

平台透露,未来将逐步把关键大模型实例部署于其自主运营的图形处理器集群网络中,旨在提升推理阶段的数据本地化处理能力,确保用户敏感信息不外泄。作为去中心化图形处理器云基础设施提供方,该平台当前在全球94个国家的200多个节点运行着超过43万个GPU容器,累计交付计算服务约18亿小时,已服务于逾150家企业和合作伙伴。