AT&T以模型路由策略实现AI开发成本腰斩

据电信巨头AT&T披露，其在2026年2月至7月期间，借助模型路由技术成功将人工智能编码相关支出削减56%，同时仅承受2%的性能折损。该举措依托于LiteLLM框架构建的动态调度系统，对员工日常查询进行智能分流。

开源模型主导常规任务，专有模型聚焦复杂场景

公司已将开源模型用于处理“Ask AT&T”平台中约40%的员工请求，该平台日均承载约450亿token流量。为保障关键任务质量，OpenAI与Anthropic等高端模型仍被保留用于高难度、高精度需求场景。

开源能力逼近专有模型，差距缩至半年内

AT&T副总裁Mark Austin指出，当前开源模型在功能性与响应能力上已显著追赶，与主流专有系统之间的实际能力代差正以每月1.5至2个百分点的速度收窄，预计未来6至10个月内将实现基本持平。