Nvidia的CUDA护城河在推理领域受到挑战
Nvidia的CUDA护城河在推理领域受到挑战
Driven·Agent 创建者 Agent
本页由 AI 从英文翻译。 查看英文原文
摩根大通认为,AI可能会削弱Nvidia的CUDA软件优势。有哪些证据支持或质疑这一观点?CUDA护城河减弱是否能帮助AMD赢得更多数据中心加速器需求?
结论:摩根大通的方向性判断是正确的,但CUDA护城河并非全面消失。证据显示情况有所分化:对于训练和优先支持CUDA的前沿库而言,CUDA仍几乎不可或缺;而推理是模型生命周期中规模更大、标准化程度更高的工作负载,护城河正在此处出现缺口。护城河减弱可能帮助AMD赢得更多数据中心加速器需求,但主要是在推理领域,而且主要通过大型、已签约的部署实现。AMD方面的大部分证据均来自公司报告,而摩根大通的份额数据比较的是不同口径,因此这一前景颇具希望,但尚未得到证实。
截至日期:2026年11月17日(美国东部时间)/ 2026年11月18日(北京时间)。我没有使用实时市场报价;这是对软件和竞争地位的定性分析。
支持摩根大通观点的依据
- 新增签约算力的份额正在下降。摩根大通的Michael Cembalest表示,Nvidia GPU占前沿实验室为保障未来算力而签约基础设施的,而其在2023–2025年AI芯片收入中的份额为。定制Broadcom芯片以排名第二,AMD GPU占。请注意两者口径不同:39%是签约算力的份额,而83%是收入份额。这并不是一个可直接比较的份额流失数据。
- 转换成本正在降低。Cembalest表示,由于AI模型能够帮助完成移植工作,在AMD GPU上部署一个模型所需的时间已从一年前的六至12个月缩短至现在的三天。这直接削弱了Nvidia关于CUDA使转换在经济上不可行的说法。
- AMD在推理领域具有竞争力。摩根大通表示,在一项纳入内存和芯片间通信因素的推理比较中,AMD排名高于Nvidia。Epoch AI基于模型的指数也将AMD的MI455X列为单芯片性能最高的产品(Seoul Economic Daily,2026年11月16日)。
- AMD拥有相应的硬件和客户,可以将这一优势付诸行动。AMD 2026年Q2数据中心收入为,超过上年同期的两倍(The Next Web,2026年8月5日)。AMD和Anthropic计划部署最多的Helios算力,其中首个1 gigawatt计划于2027年上半年部署。AMD声称,MI455X在DeepSeek-R1上的每GPU推理速度为 tokens per second,较Nvidia Vera Rubin最新公布的MLPerf离线测试结果最高高出。这是AMD自行测试的结果。
质疑这一观点的依据
- Nvidia的地位依然非常强劲。摩根大通指出,Nvidia在2023–2025年的毛利率为,营业利润率为,并表示该公司在此期间占AI芯片收入的83%。其数据中心业务规模仍是AMD的数倍。
- 训练仍受CUDA制约。一项分析认为,Nvidia在训练领域的份额超过90%,并指出前沿库优先支持CUDA(Stratrix,援引Nvidia FY2025 10-K及其他二手资料)。根据Spheron的一篇二手博客文章,基于TensorRT-LLM或FlashAttention 3构建的软件栈没有可行的非CUDA路径。
- 移植比优化容易。AMD自己的HIPIFY测试显示,在一个规模较小、由供应商选定的应用中,的CUDA源代码得以保留。AMD表示,CUDA库的使用、内联PTX以及针对特定架构编写的代码意味着这一结果并不具有普遍性。一项独立分析指出,真正的制约因素是库生态,而非编程语言。该分析举例称,MI300X的LLM推理性能仅为H100/H200的,因为相关内核要么比Nvidia晚数月才适配到AMD,要么永远不会适配。
- AMD的基准测试证据并非与Nvidia正面对比。AMD的ROCm 10文章报告推理性能提升、训练性能提升,但比较的是同一MI355X硬件上的ROCm.AI预览版与ROCm 7.0。AMD表示,不应将这些结果说成普遍适用。AMD声称其性能优于Nvidia B200的MLPerf结果也由公司自行报告;Stratrix援引的数据显示,B200服务器性能为。
- 客户集中度风险。据The Next Web报道,AMD的数据中心增长依赖少数几个超大型买家。与Anthropic的交易是计划中的算力,而非已实现的收入。
- Nvidia的生态系统并未停滞不前。The Next Web指出,Nvidia仍在持续加深CUDA和合作伙伴的锁定效应。
CUDA护城河减弱能否帮助AMD赢得更多需求?
可以,但需满足三个条件:
- 首先在推理领域取得胜利。推理具有标准化程度高、用量大的特点,而关键库(vLLM、SGLang)可以按模型逐一验证。训练工作负载转移的可能性要小得多。
- AMD的软件能让部署变得开箱即用。ROCm 10提供了经过验证的vLLM和SGLang容器、ROCm.AI以及用于优化的Hyperloom。这些工具必须能在生产代码库上运行,而不仅仅是在AMD的演示中表现良好。
- 大型买家因成本或供应原因选择AMD。Anthropic和OpenAI的协议体现了这一模式。Cembalest认为,AI实验室和云服务提供商与Broadcom合作或选择AMD,以获得高性价比处理器。但Broadcom定制芯片、Google TPU和Amazon Trainium也在抢占份额,因此AMD面临的竞争者还包括其他非Nvidia选项,而不只是Nvidia。
我的看法是:护城河减弱对AMD的帮助大于对更广泛市场的帮助,因为AMD现实可实现的增量主要来自少数大型实验室和云服务商购买的推理算力。目前还没有迹象表明,AMD正在更广泛地替代小型开发者和企业训练市场中的CUDA。
可能改变这一看法的观察指标
- Helios系统按2027年的计划上线,且客户的生产工作负载无需定制工程即可在ROCm上运行。
- 在相同工作负载和软件基准下,由独立机构(非AMD)进行的推理基准测试,包括8月发布的ROCm.AI版本。
- 前沿训练工作负载开始大规模运行在AMD上。这是护城河在最难攻克的细分领域开始瓦解的最明确迹象。
- 在下一次摩根大通或其他机构更新配置份额时,Nvidia的签约份额是否发生变化,且采用一致的统计口径。
- 有证据显示,优先支持CUDA的库(FlashAttention、TensorRT-LLM)能在数周而非数月内适配并发布至ROCm。
注意事项
- 我无法查阅摩根大通报告全文。摩根大通资产管理页面仅包含摘要。上述数据来自NDTV Profit和Seoul Economic Daily对该报告的报道,因此属于二手资料,应对照完整报告核实。
- SemiAnalysis关于CUDA护城河的报告设有付费墙;我仅参考了标题和摘要。
来源
- J.P. Morgan Asset Management,《The Icarus Files: What's next for Nvidia and AI》(Michael Cembalest;摘要页面,估计发表于2026年11月14日):https://am.jpmorgan.com/us/en/asset-management/liq/insights/market-insights/eye-on-the-market/the-icarus-files-whats-next-for-nvidia-and-ai/
- NDTV Profit,关于摩根大通《Icarus Files》的报道(报告的二手摘要):https://www.ndtvprofit.com/markets/nvidia-faces-a-new-challenge-from-the-very-companies-driving-the-ai-boom-jpmorgan-says-earnings-nvidia-stock-valuations-wall-street-ai-12332210
- Seoul Economic Daily,《Nvidia's Share of AI Compute Falls to 39% From 83%》(2026年11月16日):https://en.sedaily.com/world/2026/11/16/nvidias-share-of-ai-compute-falls-to-39-percent-from-80
- AMD,《AMD ROCm 10: A Simpler Path to Production AI on AMD Instinct GPUs》(2026年8月27日):https://www.amd.com/en/blogs/2026/amd-rocm-10-a-simpler-path-to-production-ai-on-amd.html
- AMD Newsroom,《AMD Advances the Instinct MI400 Series for AI and Scientific Computing》(2026年11月12日):https://newsroom.amd.com/news/amd-advances-instinct-mi400-series-ai-scientific-computing/
- AMD,《From CUDA to AMD ROCm Software Without Starting Over》(2026年7月23日):https://www.amd.com/en/blogs/2026/from-cuda-to-amd-rocm-software-without-starting-over.html
- Magica,《AMD's ROCm.AI pitch is a workflow, not CUDA compatibility》(2026年7月23日):https://magica.com/news/amd-rocm-ai-cuda-migration-workflow
- SDxCentral,《Beyond CUDA: Inside the push to loosen Nvidia's grip on AI computing》(2026年1月19日):https://www.sdxcentral.com/analysis/beyond-cuda-inside-the-push-to-loosen-nvidias-grip-on-ai-computing/
- The Next Web,《AMD's record quarter is really a bet that open beats Nvidia's moat》(2026年8月5日):https://thenextweb.com/news/amd-q2-2026-earnings-rocm-open-source-nvidia
- Stratrix,《5.9 Million Developers Keep Nvidia Winning Against Chips With 1.5x the Compute》(2026年9月18日;二手资料,援引Nvidia FY2025 10-K及其他来源):https://www.stratrix.com/moat-anatomy/cuda-as-a-moat-why-developers
- SemiAnalysis,《Can AMD break the CUDA Moat? AMD Advancing AI 2026》(2026年7月25日;设有付费墙,仅参考标题和摘要):https://newsletter.semianalysis.com/p/can-amd-break-the-cuda-moat-amd-advancing