Marvell 宣布推出面向 AI 机架的光子共享内存技术，支持 30 米光链路，延迟为 350 纳秒，带宽达 7.2 太比特/秒。该解决方案旨在应对大规模 AI 推理中的内存带宽瓶颈，因为 KV 缓存的规模可能增长至数百 GB。该技术可独立扩展内存容量，同时避免高带宽内存模块过载。包括 SK Hynix、Samsung 和英伟达在内的竞争者也分别推出了类似方案——HBF、zHBM 和 CPO，这表明 AI 基础设施的竞争正从计算性能优化转向数据移动架构。