Blackwell GPU产品演进及参数分析
2024 年 3 月,Nvidia 发布新的 Blackwell 系列 GPU 和 GB200 NVL72 架构,引发整个产业链的热议和分析研究。然而,因其前所未有的计算和功率密度,NVL72 系统设计带来极大复杂性,包括电力输送、过热、水冷供应链提升、快速断开连接漏水、各种电路板复杂性、Blackwell 的 CoWoS-L 封装技术设计问题,整个 2024 年都伴随着 GB200 交付延迟的消息。本文内容来自“Blackwell GPU产品演进及参数分析”,附PPT和PDF,“Blackwell GPU性能/TCO深度分析:B100、B200、GB200 NVL72”。Blackwell架构与技术创新
[*]先进制造工艺:采用 3nm 或 4nm 先进制程工艺,晶体管密度大幅提高,从而在相同芯片面积上集成更多的核心与功能,为性能提升和功耗降低奠定了基础。
[*]优化的 CUDA 核心设计:CUDA 核心经过重新设计,对于混合精度计算的吞吐量显著提升,更好地满足 AI 和机器学习任务中大量的混合精度运算需求。
[*]新一代光线追踪技术:专用的光线追踪(RT)核心算法得到改进,能够更快速、准确地生成逼真的光线追踪效果,如实时的光影、反射和阴影等,提升了图形渲染的真实感。
[*]DLSS 升级:推出了新一代的深度学习超级采样(DLSS)技术,利用 AI 对低分辨率图像进行实时上采样,在不损失视觉质量的前提下,有效提高游戏帧率。
性能提升
[*]算力大幅增强:以 B200 为例,相比 Hopper 系列的 H100,FP16/BF16 算力从 989TFlops 升级到 2250TFlops,提升了 2.25 倍;FP8 算力从 1979TFlops 升级到 4500TFlops。
[*]内存带宽显著增加:从 Hopper 系列 H100 的 3.4TB/s 和 H200 的 4.8TB/s 增加到 Blackwell 系列的 8.0TB/s,更高的内存带宽直接提高了推理吞吐量和交互性,使 GPU 在处理大规模数据和复杂模型时更加高效。
[*]NVLink 升级:从 Hopper 的 NVLink Gen4 双向 50GB/s 升级到 Blackwell 的 Gen5 双向带宽 100GB/s,同样是 18 个 NVLink 端口,总双向带宽达到 1800GB/s,大大增强了多 GPU 之间的通信速度和协同工作能力。
产品形态丰富
[*]GB200 Superchip:包含一个 Grace 72 核的 ARM CPU 和 2 个 B200,拥有 384GB 的 GPU 内存,带宽为 16TB/s,通过 NVLink C2C 实现 CPU 与 GPU 900GB/s 带宽互联,在 AI 计算方面具有强大的性能。
[*]GB200 NVL2:包含 2 块 Grace CPUs 和 2 块 B200 GPU,采用风冷设计,基于 NVIDIA MGX 平台实现单节点 2 块 B200 GPU,适用于对散热要求较高的场景。
[*]GB200 NVL4:为低功耗的单服务器解决方案,集成了 4 个 B200 和 2 个 Grace CPU,总共包含 1.3TB 的一致性内存,相比 GH200 NVL4,GPU 整体性能提升 2.2 倍,训练性能提升 1.8 倍。
[*]GB200 NVL72:扩展为机架规模,单个机架包含 72 个 B200 芯片全互联,具备强大的计算能力和高速的互联网络,适用于大规模的 AI 训练和推理任务。
页:
[1]
