英伟达市值超3.6万亿，巨子开囤GPU

发布时间：2025-05-17　点此：1110次

来历：半导体工业纵横

英伟达逾越苹果成为全球最值钱的公司，而商场仍旧对英伟达坚持达观。

与此一起，美国科技公司的服务器集群一再曝光。年关将至，巨子们开端展现自己的 AI 肌肉，企图在年末给出资者们一点甜头。

就在埃隆·马斯克 xAI 集群初次曝光后，小扎也刻不容缓在 Meta 的成绩发布会上表明，Llama 4 背面服务器集群的实力「比我见过的任何报导中其他人正在做的（规划）要大」。这番言辞无疑是对埃隆·马斯克「地表最强的 AI 集群」的正面回应。

在科技巨子们敞开算力比赛年代，英伟达的 GPU 成为巨子们的「粮草」。本文就来看看英伟达的大客户们 AI 之战的囤粮状况。

巨子血拼 H100

「前」地表最强——xAI

2023 年 7 月 14 日，马斯克在个人推特账号宣告新公司定名为 xAI，并于同日举办 Twitter 空间会议。新建立的 xAI 公司会与 Twitter 和特斯拉严密协作，其间一个方针是打造能进行高阶逻辑推理的人工智能模型，并逾越市面上其他模型。

四个月后，xAI 宣告推出 Grok，称此模型「最大极限地谋福全人类，并将是任何人的强壮的研讨助理。」

2024 年 9 月 xAI 推出 Colossus 100k H100 练习集群。马斯克在 X 上称，它是「国际上最强壮的人工智能练习体系。此外，它的规划将在几个月内翻一番，到达 200k（50k H200x）。」

2024 年 10 月，埃隆·马斯克的新项目 Colossus AI 超级核算机第一次被具体介绍。一则视频展现了其包含 10 万台 GPU 集群的内部结构。Colossus 的根本构建模块是 Supermicro 液冷机架。它由 8 台 4U 服务器组成，每台服务器装备 8 个 NVIDIA H100，每台机架一共有 64 个 GPU。8 台这样的 GPU 服务器加上一台 Supermicro 冷却液分配单元 (CDU) 和相关硬件构成了一个 GPU 核算机架。每个 HGX H100 之间都夹有 1U 歧管，为服务器供给所需的液体冷却。每个机架底部还有另一个 Supermicro 4U 单元，装备的是冗余泵体系和机架监控体系。

Meta：购买 35 万个 H100

正如前文所说，在 Colossus AI 核算机视频流出后，埃隆·马斯克的「死对头」扎克伯格在 Meta 的成绩发布会上表明自己家的 GPU 比现在揭露的数量都多。

年头，扎克伯格在 Instagram 上发表文章称，计划在今年年末前向芯片规划商英伟达购买 35 万个 H100 GPU 芯片。Meta 首席科学家杨立昆（Yann LeCun）上个月在旧金山举办的一次活动中强调了 GPU 关于构建通用人工智能（AGI）的重要性。他说：「假如你以为 AGI 年代正在到来，你就必须购买更多的 GPU。这是一场人工智能战役，而英伟达正在供给兵器。」

据业内人士介绍，每个英伟达 H100 芯片价格为 25000 至 30000 美元。那么购买 35 万个 H100 的本钱在 87.5 亿之间到 105 亿美元之间。假如依照每个服务器装备 8 个 GPU 的数据预算，Meta 将制作超越 4.3 万台服务器；现在商场装备一台服务器的价格在 27 万美金左右，那么 2024 年 Meta 的在服务器的设备本钱大概是 118 亿美元。此外，还要装备相应的存储、网络、供电、厂房等等其他设备；从本钱结构来看（按服务器设备本钱占比 30% 预算），假如 Meta 在 2024 年购买的 35 万个 H100 悉数准时到货，且投入运用，那么 Meta 为 H100 建立的数据中心出资估量超越 350 亿美元（还不包含后续运营本钱）。明显扎克伯格期望用 35 万个 H100 芯片为 Meta 的 Llama 4 带来更强的推理才能和更快的速度。

据预算 10 万个 H100 的算力峰值不能自制飙升到 198/99 FP8/FP16 ExaFLOPS。来历：semianalysis，半导体工业纵横调研

微软：2023 年最大买主

依据 Omdia Research 的剖析，2023 年英伟达的 H100 大多供应给了大型云服务商。该组织估量，2023 年 H100 最大的买家便是微柔和 Meta，估量为 15 万个。

来到 2024 年，微软将 AI 芯片的囤货方针说到了 180 万块，且将首要来自英伟达。business inside 表明，到 2027 财年，微软估量将在 GPU 和数据中心上花费约 1000 亿美元。微软的 AI 芯片方针明显不全是 H100，但这样的数字也足以见得微软对英伟达的「高需求」。

亚马逊&谷歌：一边买，一边造

相关于本文说到的其他三家公司，亚马逊和谷歌在购买 GPU 收购上相对低沉。

事实上亚马逊在 2023 年 7 月就现已宣告推出依据 H100 GPU 的虚拟机实例 EC2 P5。P5 实例不能自制组组成称为 UltraScale 的 GPU 集群，供给高达 20 百亿亿次浮点运算的全体功用。每个 UltraScale 集群中可扩展多达 20,000 个 H100 GPU。用户不能自制布置可扩展到数十亿或数万亿个参数的 ML 模型。

同样在 2023 年，谷歌也推出了承载 26,000 个英伟达 H100 GPU 的 A3 超级核算机。A3 最大可供给 26 ExaFlops 的处理才能，可明显削减练习大型机器学习模型的所需时刻与本钱。若用在 AI 推理，A3 的成效更为明显，若以 A2 的运算效能为基准，A3 抢先起伏可到达 30 倍。

作为云巨子，亚马逊和谷歌为安在 H100 的收购上有如此大的数量距离？

一个重要原因是，这两家巨子都在「悄然」发力自研芯片。

亚马逊开发的 AI 专用芯片包含 Inferentia 和 Trainium。据亚马逊方面表明，在亚马逊的促销日期间，该公司布置了 80000 个 AI 芯片施行云核算，以应对其渠道上活动的激增。此外，AWS 核算和网络副总裁戴维·布朗 (David Brown) 泄漏：「在某些状况下，该芯片功用相较英伟达可进步 40% 至 50%，因而其本钱应该是运用英伟达运转相同类型的一半。」

谷歌 TPU 是定制规划的 AI 加快器，针对大型 AI 模型的练习和推理进行了优化。它们十分合适各种运用场景，例如谈天机器人、代码生成、媒体内容生成、组成语音、视觉服务、引荐引擎、个性化模型等等。Cloud TPU 不能自制针对各种 AI 喜欢负载（包含练习、微谐和推理）进行经济高效的扩缩。Cloud TPU 供给了多种功用，可加快抢先 AI 结构（包含 PyTorch、JAX 和 TensorFlow）上的喜欢负载。经过 Google Kubernetes Engine (GKE) 中的 Cloud TPU 集成，无缝编列大规划 AI 喜欢负载。使用动态喜欢负载调度程序一起组织一切需求的加快器，然后进步喜欢负载的可伸缩性。寻求最简略的 AI 模型开发办法的客户还不能自制在全保管式 AI 渠道 Vertex AI 中使用 Cloud TPU。

背面赢家英伟达

英伟达在 2023 年为 H100 定下的出售方针是 2024 年出货 150 万至 200 万台。

依据英伟达财报，2024 年第二季度营收完结翻倍，其间四个大客户的收购占比占英伟达 300 亿美元营业额的 46%。出于竞赛原因，对四家客户的身份进行匿名处理。在英伟达发布备受等待的季度出资者陈述时提交的 10-Q 监管申报文件显现，四家客户奉献的营业额约为 138 亿美元。时长猜想。四家人工智能巨子或许就在亚马逊、Meta、微软、Alphabet、OpenAI 或特斯拉+xAI 之间发生。

微软、Alphabet(谷歌母公司)、亚马逊和 Meta，四家公司第三季度在数据中心设备和其他固定资产上一共投入了 590 亿美元，创下了季度纪录。这意味着英伟达有望在本季度也交出一张美丽的答卷。

除了以上巨子，苹果、OpenAI、在世互联网大厂都是英伟达的重要买家，依据这样的布景。华尔街剖析师对英伟达的观点十分达观，组织追寻的 75 位剖析师中有 67 位将该股评为「买入」。他们还在持续进步预期，依据汇编的数据，曩昔三个月，他们对下一年的赢利猜测进步了约 10%。

2024 年 11 月 8 日，英伟达市值打破 3.6 万亿美元，改写了美股前史。在 11 月份，英伟达股价现已累计上涨了 12%，2024 年年头至今，该公司市值现已增加了两倍。

2024 年 11 月 8 日英伟达市值

AI 改动芯片商场

11 月 1 日，标普道琼斯指数公司发布，将英伟达归入道琼斯工业均匀指数，替代道指现在的芯片业成分股英特尔。这次调整标志着人工智能和高功用核算的重要性日益增强。英伟达作为 AI GPU 的抢先供货商，不能自制招引更多出资者重视新式技能，传统的半导体公司则面对较大压力，尤其是在数据处理、AI 模型练习等高增加范畴。

当然，这样的调整更阐明 AI 正在引导商场出资风向。

上星期巨子成绩后，各家投行连续上调了下一年全体本钱开支。大摩从 2700 亿美金上调到 3000 亿美金。3000 亿美金，作为比照先后完结 6 次登月的阿波罗登月计划共花费 239.15 亿美元；3000 亿美金的数字不能自制在 2023 年非洲国家 GDP 排名中位列第 4，仅低于埃及（3939 亿美元）、南非（3777 亿美元）、尼日利亚（3749 亿美元）。

在人们慨叹英伟达年代降临的时分，或许应该意识到 AI 年代真的来了。

AI 成果了英伟达，AI 年代并不会只归于英伟达。凯文凯利在《5000 天后的国际》中猜测：在未来的 50 年里，AI 将成为不能自制与自动化和工业革命混为一谈的，不，应该是影响更为深远的趋势。

一个新年代，将会由一个新玩家制作。

告发/反应