OpenAI推对话加载革命:超长线程响应提速近十倍

据币圈界最新消息,OpenAI正筹备上线一项关键更新,旨在显著改善ChatGPT与Codex在处理超长对话时的体验。该功能预计将于下周正式发布,核心聚焦于历史聊天记录的加载效率优化。

数据量锐减带来加载效率飞跃

在内部测试中,一段包含741轮交互、总容量达231MB的复杂对话被验证。结果显示,系统需加载的对话条目由原先的15,529个大幅缩减至仅64个,请求调用次数从894次降至16次,整体应用内存占用下降41.2%。

用户等待时间大幅缩短,旧会话更流畅

此次优化主要作用于客户端对历史消息的读取过程,而非模型生成回答的速度。对于长期使用这两款产品的开发者与创作者而言,打开过往长对话的延迟将明显降低,彻底告别‘越聊越卡’的困扰。其背后原理在于减少冗余数据传输,实现更轻量级的上下文管理。