AMD 2.0: 挑战NVIDIA人工智能硬件主导地位的竞赛
引言
在快速发展的人工智能硬件领域，AMD一直努力赶上NVIDIA的主导地位。SemiAnalysis最近发布的一份报告详细说明了AMD在缩小与NVIDIA差距方面的紧迫感，特别关注其MI450X GPU，这款产品显示出与NVIDIA产品竞争的潜力。本文探讨了AMD在人工智能硬件领域的进展、挑战和战略计划。AMD的文化转变和新的紧迫感
2024年12月，SemiAnalysis发表了一篇文章，强调AMD软件问题和与NVIDIA相比的易用性不足。这份报告似乎催化了AMD内部的重大变化。在报告发布后，AMD首席执行官Lisa Su迅速联系SemiAnalysis团队，详细讨论了他们的发现，承认ROCm软件栈存在显着差距。这次会议标志着AMD在人工智能方面的方法发生了转折点。图1：Lisa Su与SemiAnalysis团队的Twitter交流，她承认AMD软件栈存在问题，并承诺改进。
自那以后，AMD采取了报告中描述的"战时态势"，认识到在人工智能加速市场落后构成的重大威胁。这种文化转变在整个组织中变得明显，公司现在公开承认软件问题并迅速解决这些问题。AMD的高管现在承认他们的软件比NVIDIA的软件有更多错误，但强调他们正在努力改进并与开发者社区合作实现同等水平。
报告将AMD与xAI的情况进行了比较，后者通过采取类似的紧迫感和战时态势，以"惊人的速度"赶上了OpenAI。为了取得成功，AMD需要像NVIDIA那样努力工作，甚至更加努力，而NVIDIA继续保持"全力冲刺"的发展步伐。开发者优先：AMD的新方法
AMD最重要的转变之一是采用"开发者优先"的方法，类似于使CUDA对NVIDIA产生巨大价值的策略。这代表了AMD战略的根本重新定位。图2：参考了Steve Ballmer著名的"Developers"演讲，突显了AMD对开发者社区的新关注。
自2025年1月以来，AMD启动了开发者关系(devrel)职能，主要由AMD的人工智能软件沙皇Anush Elangovan领导。他积极参与Twitter等社交媒体平台和现场活动，与外部开发者互动。AMD认识到，外部开发者是使CUDA成功的关键，现在正在努力围绕ROCm建立类似的社区。
该公司计划在2025年6月推出一个开发者云平台，专注于与更广泛的社区互动。这一计划直接受到谷歌TPU研究云(TRC)的启发，后者成功推广了TPU的采用并支持了开源社区。成功的衡量标准将是AMD社区开发者云平台上是否会出现"GPT-J时刻"，指的是开源GPT-J模型是如何在谷歌免费TPU资源上训练的。持续集成/持续部署的进展
在SemiAnalysis发布其12月报告之前，AMD在PyTorch的持续集成/持续部署(CI/CD)过程中没有任何MI300X GPU参与。此后，AMD已将MI300添加到PyTorch CI/CD中，这标志着在减少软件错误方面取得了显着进展。图3：不同GPU的性能基准比较，说明了AMD在优化方面的进展。
AMD还在TorchInductor性能CI上启用了MI300，允许在inductor/torch.compile提交中跟踪性能。有趣的是，对于这一特定的编译CI，AMD领先于NVIDIA，后者只提供了A100，尚未为torchInductor性能CI提供H100或B200。
然而，仍有很多进展需要取得，因为AMD的动态形状torch.compile通过率仅为77%，而Nvidia的通过率超过90%。SemiAnalysis团队建议AMD开源所有CI/CD和仪表板，使所有ROCm库都可公开访问。AMD在人工智能人才方面的薪酬挑战
报告中指出的一个关键盲点是AMD为人工智能软件工程师提供的非竞争性薪酬。以开发优秀人工智能软件着称的公司，如NVIDIA和AI Labs，的薪酬明显高于AMD。
虽然薪酬不是全部，但仍然是影响工程师职业决策的重要因素。报告表明，AMD内部的薪酬基准似乎与不以优秀软件着称的半导体公司（如Juniper Networks、Cisco和ARM）进行比较，而不是与以人工智能软件卓越着称的公司进行比较。
这种不匹配导致AMD始终低估软件人才，这可能加剧其与竞争对手相比已经较弱的软件能力。建议是保持基本工资稳定，但实施受限股票单位(RSUs)的大幅增加，从而使工程师薪酬与公司的长期业绩更紧密地结合。内部开发集群需要更多预算
AMD的内部开发集群已经有所改进，但仍然不足以满足有效GPU开发的需求。虽然AMD声称已从云服务提供商(CSPs)租用了总计8,000个MI300 GPU，但报告表明，现实中持续可用的数量可能更接近4,000-5,000个GPU。
这一限制严重影响了大规模项目和协作开发工作。此外，AMD对内部使用的集群采用"突发模式"采购，大多数合同期限不到一年。这与NVIDIA的策略形成鲜明对比，后者采用持续、多年期的集群部署，这使工程师有更大的自由度来追求创造性和高风险项目。图4：NVIDIA的Python领域特定语言产品，突出了AMD需要缩小的差距。
报告强烈建议AMD从当前的亚年度集群策略转向签订长期、多年承诺，包括投资于10,000个旗舰级GPU的大型集群。这种承诺将展示AMD对每一代GPU的投入，并使客户期望的长期支持成为可能。Python支持：NVIDIA不断扩大的护城河
使整个CUDA生态系统在Python上成为一流体验一直是NVIDIA的首要任务。NVIDIA首席执行官Jensen Huang亲自管理这一工作，理解Python是人工智能开发的事实标准语言。
在2025年GTC大会上，NVIDIA发布了数十个Python库，从GEMM库（如nvmath-python）到CUDA绑定和内核DSL（如cuTile、Warp和Triton）。AMD的ROCm库在Python支持方面远远不及NVIDIA提供的功能，因为NVIDIA现在在其堆栈的每一层都有Python接口，而AMD没有。图5：NVIDIA在其堆栈不同层次上的全面Python支持。
在Python GPU内核编写DSL领域，NVIDIA在GTC 2025上发布了Python CuTe 4.0、cuTile Python和Warp，这些都建立在其现有的Triton DSL支持之上。AMD在这一领域表现不佳且缺乏竞争力，以至于NVIDIA团队现在正在用多种不同的DSL互相竞争。
AMD有一个名为"wave"的实验性内核语言，它使用基于warp的编程模型，但似乎处于早期阶段，没有得到公司的全力支持。这与NVIDIA对使Python CUDA在所有层面上都卓越的全面承诺形成鲜明对比。RCCL和NCCL之间不断扩大的差距
集体通信库对人工智能训练和推理至为重要，使多个GPU能够共同处理同一工作负载。NVIDIA的库称为NCCL，而AMD的库称为RCCL，本质上是NCCL的一个分支。自2024年12月的文章发布以来，RCCL团队取得了一些进展，包括最终在MI300X上支持LL128协议和优化的铁轨树，这些改进了网络性能。然而，由于在GTC 2025上宣布的新NCCL改进，NCCL和RCCL之间的差距继续扩大。
报告建议给RCCL团队独占访问至少1,024个MI300级GPU的持久集群，并增加RCCL工程师的薪酬，以吸引和留住关键人才。由于RCCL是NCCL的一个分支，NCCL的重大重构（版本2.27和2.28）将迫使AMD花费数千工程师小时来同步更改，而NVIDIA继续推进其通信堆栈。AMD缺乏分离预填充推理
AMD目前缺乏对几个关键推理功能的支持，包括分离预填充、智能路由和NVMe KV缓存分层。NVIDIA最近开源了Dynamo，这是一个分布式推理框架，进一步使分离服务民主化。图6：分布式推理系统架构，包含预填充和解码实例。
NVIDIA的Dynamo智能路由器在多GPU推理部署中智能地路由tokens，确保工作负载均衡。Dynamo中的GPU规划器是一个自动扩展器，可以根据需求波动启动额外节点，并在MoE模型中的专家之间实现负载均衡。
此外，NVIDIA的KV缓存卸载管理器通过将先前用户对话的KV缓存保存在NVMe存储中而不是丢弃它，允许更高效地执行预填充。AMD表示，他们将在2025年第二季度为PyTorch SymmetricMemory API添加初始支持，但他们在这一领域落后NVIDIA很多。MI450X：AMD与NVIDIA竞争的机会
报告表明，随着MI450X的发布，特别是MI450X IF64和MI450X IF128变种，AMD赶上NVIDIA的窗口可能在2026年下半年开启。这些产品可能与NVIDIA 2026年下半年的机架规模解决方案（VR200 NVL144）具有竞争力。图7：AMD的MI430X-HPC概念，采用点对点网格UALink架构。
MI450X将采用基于以太网的Infinity Fabric（IFoE），MI450X IFoE64支持64个GPU的放大域，而MI450X IFoE128支持128个GPU。这些解决方案将使用全连接拓扑，GPU和交换机之间有高带宽连接。
AMD在2025年3月以49亿美元收购ZT Systems是一项战略举措，旨在开发机架规模解决方案，因为台湾ODM如广达和富士康一直将其工程资源集中在支持NVIDIA上。这次收购使AMD具备了为人工智能市场设计有竞争力系统的能力。图8：AMD的MI450X IFoE128机架架构，两个机架通过铜质背板连接。
MI450X预计TDP在1600W到2000W之间，与NVIDIA基于Rubin的产品相比具有竞争力的FLOPS。它将直接访问多层内存，包括封装内HBM、直接GPU连接的LPDDR5X、直接连接的PCIe链接SSD和CPU MR DDR5内存，使其非常适合推理工作负载。AMD的价格优势和TCO考虑因素
AMD保持优势的一个领域是价格。AMD的MI300X和MI325X服务器级成本和总集群前期成本比NVIDIA的H100低20-30%，这归功于更低的芯片价格以及可以使用来自非NVIDIA供应商的更便宜的以太网络交换机和收发器。图9：比较了不同AMD GPU（MI300X、MI325X、MI355X）用于AI云部署的资本成本。
AMD服务器的运营成本与NVIDIA相似，因为它们通常具有可比较的TDP，大多数运营成本随功率需求而变化。然而，对于领先的GPU，资本成本通常在总拥有成本(TCO)中占主导地位，这使AMD在这一领域具有明显的优势。结论
在过去的四个月里，AMD在缩小与NVIDIA在人工智能硬件领域的差距方面取得了显着进展。他们向"战时态势"的文化转变、对开发者的关注、CI/CD的改进以及对ZT Systems的战略收购都表明了新的紧迫感。
然而，挑战仍然存在，特别是在人工智能软件人才的薪酬、内部开发资源、Python支持、集体通信库和分离推理功能方面。计划于2026年下半年发布的MI450X代表了AMD直接与NVIDIA的机架规模解决方案竞争的最佳机会。
要在挑战NVIDIA的主导地位中取得成功，AMD必须保持当前势头，同时解决这些关键差距。未来两年将决定AMD能否在高性能人工智能计算市场中确立自己作为真正替代品的地位。
页:
[1]
