经历了美股的“黑色八月”后，英伟达拿出了一份远超华尔街预期的财报，再次向市场证明其价值。
英伟达还宣布：
推出数据中心处理器NVIDIA L40S GPU以加速计算密集型应用，自本季度起，包括NVIDIA OVX™以及搭载NVIDIA BlueField®dpu的NVIDIA AI-ready服务器均可提供。用于复杂 AI 和 HPC 工作负载的GH200超级芯片已进入全面生产，并将于本季度在OEM服务器上可用，最新的HBM内存将在2024 年第二季度发货。
DGX预计年末可获得使用，谷歌云、meta和微软是首批获权限的公司。在英伟达DGX云的支持下，hugging face将为企业提供一项新服务，以训练和调整先进的人工智能模型。
英伟达盘后一度上涨逾10%。
数据中心增长强劲，游戏业务回暖
本季度英伟达数据中心收入同比大增171%，达到103.2亿美元；游戏业务收入同比增长22%，达24.9亿美元，较上季度增长11%重回增长轨道。
英伟达表示，数据中心收入增长主要得益于云服务提供商和大型互联网公司对AI基础设施的大规模投资，它们正积极采购英伟达的HGX平台用于建设机器学习基础设施，因此带来了极强的购买需求。
>在本季度，我们的云服务提供商为HGX系统带来了异常强劲的需求，因为他们正在进行新一代的转型，以升级其数据中心基础设施，迎接加速计算和人工智能的新时代。英伟达HGX平台是近二十年来在硅系统、互连、网络软件和算法等领域全栈创新的结晶。由NvidiaH100 Tensor Core GPU提供动力的实例现已在AWS、Microsoft Azure等多个GPU云提供商中提供，其他也即将推出。消费者互联网公司也带动了非常强劲的需求。他们对为人工智能专门打造的数据中心基础设施的投资已经带来了显著的回报。例如，Meta最近强调，自从推出Reels和AI推荐以来，Instagram的使用时间增加了超过24%。
游戏业务收入增长，主要是由于英伟达新推出的RTX 40系列游戏GPU受到消费者欢迎。英伟达表示，笔记本和台式机市场需求强劲，这表明游戏市场正在恢复增长：
游戏收入为 24.9 亿美元，环比增长 11%，同比增长 22%，这得益于笔记本电脑和台式机上的 GeForce RTX 40 系列 GPU，客户需求坚实且符合季节性。
我们相信全球需求在经历去年的放缓后已经恢复增长。我们面临着巨大的升级机会。我们安装基数中仅有 47% 进行了 RTX 升级，约20% 的用户拥有 RTX 30、60 或更高性能的 GPU。
笔记本电脑 GPU 在关键的返校季实现了强劲增长，其中以 RTX 40、60 系列为主导。搭载GPU 的笔记本电脑变得越来越受欢迎，并且在全球多个地区的出货量现在已经超过了台式机 GPU。这可能会改变我们整体游戏收入的季节性，Q2 和 Q3 可能会成为全年较强的季度，反映了笔记本电脑的返校和假日装机计划。
软件和服务类收入是英伟达新的增长亮点。英伟达表示，目前这块业务收入稳步提升，已经达到每年数百亿美元的规模。未来服务类收入将成为推动英伟达业绩增长的重要组成部分。例如DGX Cloud合作已经获得成功。
除数据中心和游戏业务外，英伟达在专业可视化、自动驾驶等细分市场也保持着良好的增长态势，这些市场存在更大的增长空间，将为英伟达业绩提供新的动力。
>关于供应方面，我们计划在未来季度和财年继续增加供应量。虽然具体的增长百分比不确定，但我们对供应链合作和改善持乐观态度。我们的供应合作伙伴在提高产能方面表现出色，以支持我们的需求。
我们的数据中心供应链，包括拥有35000个零部件的HGX和高度复杂的网络，已经在过去十年内建立起来。我们还为制造过程的关键环节，如芯片封装，开发和认证了额外的产能和供应商。我们预计供应在明年每个季度都会增加。
另外，英伟达还表示，新推出的L40S GPU有助于缓解供应紧张，多款新产品也将丰富产品组合。
英伟达表示，尽管正提高供给，但由于下游需求过于旺盛，供不应求的状态预计在未来一段时间仍将持续。
加速计算 生成式AI=重塑行业
英伟达管理层认为，加速计算和生成式AI正在重塑整个行业，带来新的增长机遇。这是长期积极趋势。
>数据中心行业正经历两大平台转型：加速计算和生成式AI。这是长期趋势，不仅提升成本效益和能源效率，还推动了整个行业的变革。数据中心资本支出正逐步聚焦于这两个关键趋势，加速计算和生成式AI，这不仅是短期现象，更是行业长期转型的趋势。现在许多公司正在认识到这一转折点，开始投资于加速计算和生成式人工智能。这可能是我们面临的机会最简单的方式。这个独特的应用正在推动需求，这代表着一个新的计算平台。正在发生的是一个全球性的新计算过渡，世界各地的数据中心都在积极响应并广泛转变。
英伟达还表示，正在建立的Omniverse正是为了更广泛行业的转型而准备的：
我们正在建立NVIDIA Omniverse，以数字化和启用全球数万亿美元的重工业，利用生成式AI来自动化他们建设和运营实体资产的方式，从而实现更大的生产力。生成式AI起源于云，但最重要的机会在全球最大的产业领域，企业可以实现数万亿美元的生产率提升。
这对于NVIDIA、我们的客户、合作伙伴以及整个生态系统来说，都是一个激动人心的时刻，推动计算的这一代变革。
FY2024Q2（对应CY2023Q2)业绩：
营收：第二季度总营收135.1亿（美元），同比增长101%，环比增长88%。超出110亿美元的预期。
数据中心计算收入同比增长了近三倍，主要是由于云服务提供商和大型互联网公司对云服务需求的加速推动。对于生成式人工智能和大型语言模型引擎HGX平台，主要公司包括AWS、GoogleCloud、Meta、Microsoft Azure和Oracle Cloud，以及日益增多的GPU云提供商，他们正在大规模部署基于Hopper和Ampere架构的HGX系统。
网络收入同比增长了近两倍，主要受益于端到端的InfiniBand网络平台，这被视为人工智能的黄金标准。Nvidia加速计算和人工智能平台的需求非常巨大。我们的供应合作伙伴在提高产能方面表现出色，以支持我们的需求。我们的数据中心供应链，包括拥有35000个零部件的HGX和高度复杂的网络，已经在过去十年内建立起来。我们还为制造过程的关键环节，如芯片封装，开发和认证了额外的产能和供应商。我们预计供应在明年每个季度都会增加。
按地理位置划分，数据中心的增长在美国最为强劲，因为客户将其资本投资导向人工智能和加速计算。中国的需求在历史范围内保持在我们数据中心收入的20%到25%之间，包括计算和网络解决方案。关于加强对我们向中国出口的管制的最新报告，我们认为当前的管制正在取得预期的成果。考虑到我们产品在全球的强劲需求，如果对我们的数据中心GPU增加进一步的出口限制，我们预计不会立即对我们的财务业绩产生实质性影响。然而，从长远来看，如果实施禁止向中国销售我们的数据中心GPU的限制，将导致美国产业在全球最大市场之一中失去竞争和领导的机会。
在本季度，我们的云服务提供商为HGX系统带来了异常强劲的需求，因为他们正在进行新一代的转型，以升级其数据中心基础设施，迎接加速计算和人工智能的新时代。英伟达HGX平台是近二十年来在硅系统、互连、网络软件和算法等领域全栈创新的结晶。由NvidiaH100 Tensor Core GPU提供动力的实例现已在AWS、Microsoft Azure等多个GPU云提供商中提供，其他也即将推出。
消费者互联网公司也带动了非常强劲的需求。他们对为人工智能专门打造的数据中心基础设施的投资已经带来了显著的回报。例如，Meta最近强调，自从推出Reels和AI推荐以来，Instagram的使用时间增加了超过24%。
企业也在竞相部署生成式人工智能，推动了云中使用Nvidia强力实例的消耗，以及对本地基础设施的需求。无论是在云端还是通过合作伙伴或直接提供服务，他们的应用都可以在Nvidia AI企业软件上无缝运行，可访问我们的加速库、Rechain模型和API。我们宣布与Snowflake合作，为企业提供使用他们自己的专有数据创建定制生成式AI应用程序的加速路径，所有这些都在Snowflake Data Cloud中安全进行。借助于开发大型语言模型的Nvidia Nemo平台，企业将能够在Snowflake Data Cloud中为高级AI服务，如聊天机器人、搜索和摘要，定制LLM（大型语言模型）。
几乎所有行业都可以从生成式人工智能中受益。AI微软刚刚宣布的合作试点，提高了10亿办公室工作人员和数千万软件工程师的生产力。数百万法律服务、销售、客户支持和教育领域的专业人士将可以利用在他们领域受过培训的AI系统。AI合作试点和援助将为我们的客户创造数千亿美元的新市场机会。
我们还与Hugging Face合作，简化了为企业创建新的和定制的AI模型。Hugging Face将为企业提供一个新的服务，使用Nvidia DGX Cloud提供动力，用于训练和优化高级AI模型。 我们还与拥抱脸合作，简化企业新定制AI模型的创建。Hugging Face将为企业提供一项新服务，训练和调整高级AI模型，由英伟达DGX云提供支持。
就在昨天，Vmware和Nvidia宣布了一个名为“Vmware Private AI Foundation within Vidi”的重要企业解决方案，这是一个完全集成的平台，包括AI软件、加速计算和Nvidia多云软件，适用于运行Vmware的企业。Vmware的数十万企业客户将能够获得所需的基础设施、AI和云管理软件，以定制模型并运行生成式AI应用，如智能聊天助手、搜索和摘要。
Nvidia AI企业级就绪服务器已经完全优化了Vmware CloudFoundation和Private AI Foundation。近100种配置的Nvidia AI企业级就绪服务器将很快由世界领先的企业IT计算公司提供，包括戴尔、HPE和联想。
GH200 Grace Hopper超级芯片将我们的基于ARM的Grace CPU与Hopper GPU结合起来，已经开始全面生产，并将在本季度在OEM服务器上提供。它还在运送给多个超级计算客户，包括洛斯阿尔莫斯国家实验室和瑞士国家计算中心。Nvidia和购物正在合作开发基于GH200的平台，用于生成式AI和5G60应用。我们的第二代Grace超级芯片将于2024年第二季度推出，配备最新的HBM re e内存。
我们宣布了GGX GH200，这是一种新型的大内存AI超级计算机，用于巨大的AI语言模型推荐系统和数据分析。这是新的Nvidia NV链接交换系统的首次应用，使其256个Grace Hopper超级芯片能够共同工作，与我们之前一代相比，这是一个巨大的飞跃。与仅连接AGPU的方式相比。
预计BGX GH200系统将于年底前推出，谷歌云、Meta和微软将成为首批获得访问权限的企业。强劲的网络增长主要得益于InfiniBand基础设施，用于连接HGX GPU系统，由于其端到端的优化和网络计算能力，InfiniBand为AI提供了超过传统以太网两倍的性能。对于数十亿美元的AI基础设施来说，通过InfiniBand提高的吞吐量价值数百万美元，足以支付网络费用。此外，只有InfiniBand才能扩展到数十万个GPU。它是领先的AI从业者的首选网络，适用于以以太网为基础的云数据中心，旨在优化其AI性能。
接下来再次宣布 Nvidia Spectrum X，这是一款加速的网络平台，旨在优化以太网用于AI工作流程。Spectrum X将互联网交换机的光谱与Blue Field 3 DPU相结合，实现与传统以太网相比1.5倍的整体AI性能和功耗效率。Blue Field 3 DPU取得了巨大成功，正在与主要OEM厂商进行验证，并在多家云服务提供商和消费互联网公司中逐步推广。
接下来谈到游戏方面。游戏收入为 24.9 亿美元，环比增长 11%，同比增长 22%，这得益于笔记本电脑和台式机上的 GeForce RTX 40 系列 GPU，客户需求坚实且符合季节性。我们相信全球需求在经历去年的放缓后已经恢复增长。我们面临着巨大的升级机会。我们安装基数中仅有 47% 进行了 RTX 升级，约20% 的用户拥有 RTX 30、60 或更高性能的 GPU。笔记本电脑 GPU 在关键的返校季实现了强劲增长，其中以 RTX 40、60 系列为主导。搭载GPU 的笔记本电脑变得越来越受欢迎，并且在全球多个地区的出货量现在已经超过了台式机 GPU。这可能会改变我们整体游戏收入的季节性，Q2 和 Q3 可能会成为全年较强的季度，反映了笔记本电脑的返校和假日装机计划。
在台式机方面，我们推出了 GeForce RTX 4060 和 GeForce RTX 4060 Ti GPU，将 Ada Love Lace 架构的价格降至 299 美元。RTX 和 DLSS 游戏生态系统继续扩大。新增了 35 款支持 DLSS 的游戏，包括《暗黑破坏神 4》和《炉石传说：焰尘战记》等畅销游戏。现在有超过 330 款支持 RTX 加速的游戏和应用程序。我们正在将生成式 AI 应用于游戏。在 Computex 上，我们宣布了面向游戏的 Nvidia Avatar CloudEngine 8，这是一个定制的 AI 模型工厂服务。开发人员可以使用该服务赋予非玩家角色智能。它利用了多个 Nvidia Omniverse 和 AI 技术，包括 Email、Reva 和 audioto face。
我们的 AI 数据中心平台需求巨大，跨足多个行业和客户。我们的需求可见度延伸至明年。未来几个季度，我们的供应将继续增加，因为我们降低周期时间并与供应合作伙伴合作增加产能。此外，新的 l4 DS GPU 将有助于满足从云计算到企业等多种工作负载的不断增长需求。
FY2024Q3指引：
预计总收入为160亿美元左右，波动范围为正负2%。预计环比增长主要由数据中心推动，同时游戏和专业可视化领域也会有所贡献。
根据通用会计准则（GAAP）和非通用会计准则（Non-GAAP）的毛利率将分别为71.5%和72.5%，波动范围为正负50个基点。
根据通用会计准则（GAAP）和非通用会计准则（Non-GAAP），运营费用预计分别为约29.5亿美元和20亿美元。
根据通用会计准则（GAAP）和非通用会计准则（Non-GAAP），其他收入和费用预计将为约10万美元的收入。不包括非运营投资的盈亏，根据通用会计准则（GAAP）和非通用会计准则（Non-GAAP）的税率预计将为14.5%，正负1%，不包括任何离散项。
QA
Q：您预计未来一年新增供应量增长幅度是多少？大约20-30%，40-50%还是其他？您能谈谈您对超大规模支出的信心吗？尽管整体市场增长不大，您如何确信他们会继续增加用于生成式AI的投资？请分享一下未来一到两年需求的可持续性看法。以及如果参考您对第三季度数据中心展望，大约1213亿美元，这对已进行AI加速的服务器数量以及未来部署的影响如何？请简要说明您对未来一到两年持续增长的信心。
A：关于供应方面，我们计划在未来季度和财年继续增加供应量。虽然具体的增长百分比不确定，但我们对供应链合作和改善持乐观态度。
世界上已经安装了约一万亿美元价值的数据中心，分布在云端、企业和其他领域。数据中心行业正经历两大平台转型：加速计算和生成式AI。这是长期趋势，不仅提升成本效益和能源效率，还推动了整个行业的变革。数据中心资本支出正逐步聚焦于这两个关键趋势，加速计算和生成式AI，这不仅是短期现象，更是行业长期转型的趋势。
A:是的，我们在今年和明年都有很好的前景。我们正在规划下一代基础设施，并与主要的CSP和数据中心建设商合作。需求方面，最简单的理解方式是，全球正在从通用计算向加速计算过渡。这是需求的最简单思考方式。对于企业提升吞吐量，最佳途径是提高能源效率和降低成本效率。这意味着将资金投入加速计算和共享基础设施，因为这样可以将许多工作流从CPU卸载，提升可用的CPU性能。因此，现在许多公司正在认识到这一转折点，开始投资于加速计算和生成式人工智能。这可能是我们面临的机会最简单的方式。这个独特的应用正在推动需求，这代表着一个新的计算平台。正在发生的是一个全球性的新计算过渡，世界各地的数据中心都在积极响应并广泛转变。
Q：上个季度，Colette提到CSP（云服务提供商）占据了数据中心收入的大约40%，消费者互联网占30%，企业占30%。根据您的讲话，CSP和消费者互联网可能在业务中占比更大，如果能澄清或确认一下，将会非常有帮助。然后是关于Jensen的问题。作为AI的关键推动者，您对于客户是否能够从应用或用例中获得合理的投资回报充满信心吗？我提出这个问题是因为有人担忧在未来的几年中您的需求情况可能会有所停滞。我想了解是否有足够的广度和深度来支持您的数据中心业务持续增长？
Q:L40S对解决供应紧张有多大帮助? L40能起到多大作用呢？是否你能谈谈这个产品的增量盈利能力或毛利率贡献？
Q：能谈一下您出货的计算产品中有多少与网络解决方案一起出售吗？大约一半的计算产品是否搭载了您的网络解决方案？您是否可以用这个信息来进行资源分配的优先级排序？
A：我们从后往前考虑。我们不使用这个来优先分配GPU资源。我们让客户自行决定使用何种网络。对于构建大型基础架构的客户来说，选择使用InfiniBand几乎是理所当然的，因为InfiniBand的效率非常高。在数十亿美元的基础设施中，吞吐量提高10/15/20％，节省巨大。基本上，网络是免费的。因此，如果基础设施用于单一应用，或主要用于大型语言模型或AI系统，选择InfiniBand是明智的选择。对于为多个用户提供服务且以以太网为核心的情况，我们有优秀的解决方案，即Spectrum X。它将部分InfiniBand功能应用于以太网，可在以太网环境中实现出色共享和智能网卡功能。Spectrum X正在逐步推出，需要Bluefield 3，支持Spectrum 2和Spectrum 3以太网交换机，性能显著提升，有多款相关软件。Bluefield是我心中的重要项目，已经取得了巨大成功。在网络计算中加入大量软件的概念，通过Bluefield 3实现，将在计算网络中取得巨大成功。
Q：关于DGX Cloud的接受程度和动力，以及软件业务的运营速率和影响利润率的程度，请您谈一下。
