马上注册,结交更多好友,享用更多功能,让你轻松玩转社区
您需要 登录 才可以下载或查看,没有账号?立即注册
×
本帖最后由 hdy 于 2025-4-27 01:43 编辑
600kW至1GW愿景:英伟达高管谈数据中心机架密度的未来
600kW至1GW愿景:英伟达高管谈数据中心机架密度的未来
黄仁勋在GTC演讲中称推理让算力需求暴增100倍
“如果你说一个数据中心功耗1GW,那么我说单机架1GW听起来也没错。”Nvidia CEO黄仁勋在GTC大会期间接受《Data Center Dynamics》(DCD)采访时抛出惊人观点。他认为,AI热潮推动的机架密度提升远未触顶,600kW只是阶段性目标,未来极限取决于工程实践而非技术本身。这一言论迅速引发业内热议。与此同时,数据中心负责人Ian Buck和DGX负责人Charlie Boyle进一步揭示了Nvidia如何通过液冷创新和供应链协同,将这一愿景变为现实。
黄仁勋: 为全球铺设基础设施蓝图
黄仁勋强调,Nvidia公开未来三到四年的路线图并非炫技,而是为行业提供规划依据。“我们是首家宣布四代产品规划的技术公司,因为我们是一家基础设施公司,是全球的‘工厂’,”他说。这一透明度标志着Nvidia从芯片供应商向数据中心整体解决方案提供者的转型。他甚至暗示,若规模扩展收益显著,单机架容纳数千GPU后可转向多机架协同,密度提升“没有尽头”。
02 Charlie Boyle: 液冷与电源优化的突破
谈及即将推出的DGX GB300 NVL72,Charlie Boyle透露,尽管Blackwell Ultra芯片功耗增加,其整体功耗与GB200持平。“我们优化了芯片,并在冷却技术上创新,”他说。机架后方的母线排(busbar)设计可直接为整架供电,大量电容器则平滑电力波动,避免峰值冲击传回数据中心。“客户无需超配1.3至1.5倍电力,每一瓦都能充分利用,”Boyle解释。这一设计让外界对其部署实用性充满期待。 至于2027年的“Kyber”机架,Boyle表示其将实现600kW密度,100%液冷,摒弃风扇,采用垂直计算刀片(compute blades)。配有机架级侧边柜(sidecar)处理电源和冷却的Kyber虽占双倍空间,但展现了Nvidia对极致密度的追求。
Kyber在数据中心占据重要地位 图片来源:DCD
Kyber计算刀片 图片来源:DCD
Ian Buck: 供应链协同决定成败
Ian Buck指出,120kW已让全球数据中心措手不及,600kW乃至1MW的实现需供应链全面升级。“我们公开路线图,让供应商敢于投资,不再局限于一次性超算研发,”他说。从管道流量到材质耐磨性,每一细节都需适应数百万GPU的规模。他坦言:“技术上1MW机柜可行,但能否像造汽车一样量产才是关键。”外界认为,这种“基础设施思维”正推动行业从实验室走向商用化。
冷却与连接的未来: 从铜缆到光学
随着密度攀升,冷却和电力成为焦点。Boyle透露,GB200和GB300超90%液冷,Kyber则达100%。Vertiv CEO Giordano Albertazzi预测,若突破1MW,需“液冷技术再革命和高电压电力架构转变”。
Buck补充说,NVLink目前依赖铜缆,限制GPU间距离。“铜缆不耗电,我们会尽量在一个NVLink域内塞入更多GPU,”他说。但当传输速率升至400Gbps,铜缆极限将消失,光学连接或成主流。Nvidia已推出硅光子网络交换机用于机架间连接,未来可能引入机架内光学方案。黄仁勋则表示:“只要规模扩展有效,就应尽量提升密度;若收益递减,可转而跨机架扩展。”
|