英伟达参考架构支持英特尔，至强正在成为AI服务器默认CPU
最近，英特尔发布了三款全新的至强6性能核处理器，三款都集成了英特尔PCT和英特尔SST技术，这两项技术可以提升GPU在高强度AI工作负载下的性能。这其中，有一个被英伟达用作AI服务器参考架构的CPU方案，这正在帮助英特尔至强成为AI服务器默认CPU。英特尔至强核心的新类别：高优先级核心与低优先级核心此前就有人发现，在最新的至强6700P处理器中，有部分型号引入了一种新的核心分配方式：将核心划分为高优先级核心和低优先级核心，这种设计不是能效核和性能核那种异构架构，就是单纯通过频率设置进行差异化。以80核的至强6781P 为例，其中30个核心被标记为高优先级，基础频率为2.1GHz，而另外50个低优先级核心基础频率为1.6GHz。相比全部核心统一2.0GHz 的常规设定，这种方式能让关键任务优先获得性能资源，从而优化整体效率。简单说，就是是支持客户定制CPU核心的频率，英特尔也不用再给某些场景单独开发一个SKU了。这种做法能提高CPU在某些场景下的表现，比如，可以用来提高GPU在高强度AI工作负载下的性能表现。值得注意的是，并非所有至强6700P系列SKU都具备这种核心分级设计，因此也引发了不少误解。比如，有人误认为这是又把能效核安排上了。实际上，这些核心的架构完全相同，差异仅在优先级和频率设定。这让我想起了一句话，大家都是平等的，我们只是让一部分核心先躁动起来！燃起来吧！英伟达参考架构中的至强性能核处理器6776P在即将推出的英伟达DGX B300 中，英伟达采用了英特尔至强 6776P 处理器。这是一款64 核、350W TDP 、336MB 三级缓存的处理器。这意义重大，因为作为英伟达参考架构的一部分，通常意味着HGX端的大量客户系统将使用相同的CPU。英特尔的新闻稿里是这么说的：任何采用P核的英特尔至强 6 处理器都可以为任何AI系统提供多种功能，包括：更高核心数和更强的单线程性能：每个CPU最多有128个性能核核心，这些处理器可确保密集型 AI 任务均衡地分配工作负载。内存速度提高 30%： 与AMD相比，英特尔至强6以更高的容量提供更高的内存性能，还支持通过MRDIMM内存和CXL技术提高内存带宽。值得注意的是，虽然至强6有128个性能核的处理器，但那是6900P系列的，而英伟达DGX B300中使用的CPU则6700P系列的。英特尔的小九九英特尔在宣传中选择对比双内存条配置下的至强与霄龙处理器的内存速度，表面上看至强更快。但实际上，AMD霄龙支持的内存通道更多，这本身是一个优势，反而因为通道多、走线长，在特定配置下会导致速度下降。这种对比方式显然是精心设计过的。在实际部署中，如果让AMD霄龙9005用上12条通道、每通道双内存条，相比英特尔至强6700P，用户不仅能获得更高的内存容量，还能享有更大的内存带宽。因为霄龙9005每路可支持多达24根内存，英特尔至强6需要6900P系列才支持12通道，24根内存。虽然霄龙处理器配满12个内存通道时支持以4000MT/s 运行，而至强6700p支持以5200MT/s运行，但由于至强是8通道的，最多插16根内存条，最终算下来整体带宽和容量仍逊一筹。当然，如果你只需要12条内存条的容量，不管是选用支持MCR DIMM的至强6900P，还是用让霄龙 9005 跑到 DDR5-6400，都能在性能与容量之间取得良好平衡，而且两者都可以灵活部署在标准19 英寸机架中，兼顾密度与效率。谈到MRDIMM内存，不得不提提醒用户的是：它只能在每个通道插上一个内存条。也就是说，在使用MRDIMM时，英特尔至强 6700P 虽然可以跑到8000MT/s 速率，但只能配置8通道、8 根内存条。相比之下，AMD 则采用了12通道，支持12根内存条，速率为6400MT/s。虽然频率略低，但通道更多，DIMM 数量更多，最终带来的是更大的总带宽和内存容量。当然要选英特尔了，总不能选AMD吧从市场竞争的角度看，英伟达肯定不希望展示AMD霄龙处理器跟英伟达GPU的搭配方案，毕竟，AMD实实在在就是英伟达的竞争友商。这也说明，英伟达现在不把英特尔视作竞争随手，选英特尔总好过选AMD。说到这里，还是要恭喜英特尔至强成为英伟达DGX参考设计的一部分，这意味着很多服务器厂商在打造AI训练平台时，会直接参考的配置标准，谁能进入这个清单，谁就等于在AI基础设施市场上占得了先机。更重要的是，英伟达未来不只要标准化HGX 8-GPU的加速卡底板，还打算把整个主板设计都标准化，推动所谓的MGX架构路线。这意味着，如果某家厂商的CPU能打入英伟达的参考设计中，那就可能会成为未来AI服务器的“默认选项”。
页:
[1]
