AI/ML应用中的高能效可插拔光模块关键技术
引言
AI和ML应用的指数级增长正在为数据中心基础设施带来巨大挑战,特别是在光互连和功耗方面。本文探讨了两项对AI/ML数据中心的可持续性和效率具有重要意义的技术:线性可插拔光模块(LPO)和浸没式冷却系统。日益严峻的挑战:AI/ML基础设施的功耗和光纤需求
AI和ML工作负载的激增导致数据中心对高带宽连接的需求大幅增长。根据LightCounting的报告,专门用于AI集群的以太网光收发器销售额预计在2024年至2028年间将呈现显著增长,AI相关应用正在成为主导市场细分领域。图1:以太网光收发器按应用分类的销售额,显示了2020年至2028年AI应用光收发器销售额的预期增长,展示了AI工作负载在推动光互连需求方面的主导作用。
光互连的增长与功耗增加直接相关。高盛研究预测,到2030年数据中心功耗需求将大幅增长,AI工作负载是主要驱动因素。研究表明,AI应用可能推动功耗需求增长160%,到本十年末将占美国总功耗的很大比例。图2:数据中心功耗需求,展示了2014年至2030年数据中心功耗的预期增长,显示了AI工作负载对总体功耗需求的重大影响。图表区分了美国AI功耗、美国非AI功耗以及全球其他地区AI与非AI功耗。
这些预测凸显了需要更高能效的光学解决方案,以支持AI/ML应用的增长,同时保持环境可持续性和运营可行性。理解线性可插拔光模块技术
线性可插拔光模块(LPO)代表了降低高速光收发器功耗的创新方法。LPO的根本创新在于从收发器架构中移除了高功耗的数字信号处理器(DSP)。
传统可插拔光模块采用DSP芯片为电信号和光信号执行完整的数字均衡。虽然这种方法确保了稳健的信号完整性,但代价是显著的功耗,DSP电路通常消耗模块总功耗的40%以上。图3:线性可插拔光模块,传统基于DSP的收发器、LPO模块和线性接收光模块(LRO)之间的架构差异。关键区别在于DSP组件的放置或移除。
LPO技术完全移除了DSP,依靠现代交换机ASIC的先进信号处理能力。这种方法特别适合800G及更高速率应用,在这些应用中,主机交换机硅片已发展到可以处理复杂的信号调理任务。
一种称为线性接收光模块(LRO)的混合方法仅在发射侧保留DSP功能,在完整DSP和完全LPO解决方案之间提供了折中方案。这种配置提供了LPO的部分功耗优势,同时保持了发射侧的信号调理能力。LPO实施的优势
采用LPO技术带来了多重优势,直接解决了AI/ML数据中心面临的挑战:图4:为什么选择LPO?突出了LPO技术的四个主要优势:更低功耗、降低延迟、成本节省和提高可靠性。
功耗降低是最显著的优势。实际应用表明,在模块和系统层面都能实现大幅节能。800G DR8 LPO模块的性能测试显示平均功耗仅为7.2W,而传统基于DSP的模块为14.0W——降低了近50%。图5:比较了不同800G模块类型(LPO、LRO和DSP)在DR8和2x FR4配置下的功耗和能效。
温度优势与功耗降低直接相关。LPO模块的运行温度比基于DSP的同类产品低约15°C,这转化为降低的冷却需求和进一步的系统级节能。图6:功耗和温度(基于800G DR8),展示了DSP与LPO模块的交换机温度和功耗之间的关系,显示了LPO优越的热性能。
由于降低冷却需求的复合效应,系统级节能超过了模块级收益。Arista Networks报告,与当前800G DSP光模块相比,51.2T LPO交换机测得的节能为700W(40%),预计102.4T LPO交换机的节能为1000W。图7:系统级节能,来自Arista Networks的幻灯片说明了LPO技术实现的显著系统级节能,强调由于风扇功耗降低,系统节能超过了单独光模块的收益。信号完整性和性能验证
尽管移除了DSP,LPO模块在各种链路配置中仍展现出优异的信号完整性。在64端口交换机上的广泛测试显示,误码率(BER)始终远低于可接受阈值。图8:64端口交换机上的800G DR8 LPO性能,显示了使用800G DR8 LPO模块的交换机所有64个端口的BER性能,展示了一致且可靠的性能。
性能在不同信道长度和损耗条件下保持稳定。800G 2xFR4 LPO模块的测试显示,在短、中、长信道配置之间BER性能变化很小。图9:低/中/高损耗交换机信道下的800G 2xFR4 LPO BER,显示了不同信道损耗条件下的BER性能,确认了LPO在各种链路场景中保持信号完整性的能力。浸没式冷却:数据中心效率的新前沿
浸没式冷却技术代表了数据中心热管理的范式转变,在电源使用效率(PUE)方面提供了显著改进。传统风冷系统通常实现约2.0的PUE值,而两相浸没式冷却可将其降低到约1.1。图10:浸没式冷却和能源效率,比较了风冷和两相浸没式冷却系统之间的PUE值,展示了浸没式冷却的优越效率。
LPO技术与浸没式冷却的结合为AI/ML数据中心创造了协同效益。LPO模块降低的发热量补充了浸没式冷却系统卓越的散热能力。实际实施和演示
在OFC 2025上的最新演示展示了浸没式冷却环境中LPO模块的实际应用。测试设置包括在浸没槽中运行的Celestica DS5000交换机和各种800G模块。图11:OFC 2025演示设置,显示了包括在浸没式冷却环境中连接到流量生成器的多个LPO、LRO和DSP模块的综合测试配置。
图12:OFC 2025演示设置,显示了OFC 2025上浸没式冷却演示系统的实际实施。
通过FEC尾部分析进行的性能监控确认,即使在浸没式冷却环境中,LPO模块也保持了优异的信号完整性,温度读数显示与风冷系统相比,在降低的温度下稳定运行。图13:浸没式冷却模块的FEC尾部结果,展示了在浸没式冷却环境中运行的LPO、LRO和DSP模块的性能。未来展望与行业合作
LPO技术和浸没式冷却的融合为AI/ML数据中心日益增长的能源挑战提供了引人注目的解决方案。然而,广泛采用需要持续的行业合作和标准化努力。
未来发展的关键领域包括:
[*]跨供应商和平台的扩展系统级互操作性测试
[*]开发浸没式冷却光模块的标准化测试方法
[*]创建LPO实施的全行业规范
图14:浸没式冷却和光模块,强调了在推进浸没式冷却和光电子技术方面需要全行业合作。结语
AI/ML应用的指数级增长要求数据中心设计和运营采用创新方法。线性可插拔光模块技术与浸没式冷却系统的结合,为AI基础设施的可持续扩展提供了途径。通过在模块和系统层面降低功耗,同时保持性能和可靠性,这些技术使数据中心能够满足AI工作负载日益增长的需求,而不会牺牲环境可持续性或运营效率。
随着行业持续发展,在AI驱动的数据中心未来中,采用这些高能效技术对于保持竞争优势和实现可持续发展目标将变得越来越重要。参考文献
T. Ninomiya, "Key Technologies for Energy-Efficient Pluggable Optics in AI/ML Applications," presented at the OCP EMEA Summit, Dublin, Ireland, Apr. 29-30, 2025.END
页:
[1]
