英伟达单季 962 亿美元并指引明年增长 70%,AWS 追加两百万块 GPU,GLM-5.3-Flash 以 1/40 价格追平 Opus 4.8
英伟达季度营收达962亿美元并上调增长展望,AWS追加部署200万块GPU,OpenAI公开自研推理芯片,智谱开源GLM-5.3-Flash。本文梳理AI算力扩张、芯片架构、模型价格竞争及企业级智能体安全的最新进展。
过去一周,推理这门生意首次由三方同时报出价钱。8 月 26 日,英伟达披露单季营收 962 亿美元、数据中心业务 890 亿美元,并罕见地将下一财年的增速指引写到 70%,而这份指引明确假设中国数据中心计算业务贡献为零。同日,AWS 宣布 2027 至 2028 年再部署两百万块英伟达 GPU,并将英伟达定制的高带宽内存接入自家 Trainium。8 月 23 日至 25 日的 Hot Chips 会场上,OpenAI 首次公开 Jalapeño 的完整架构与第三方实测曲线,英伟达宣布 Groq 3 LPX 进入满产,英特尔推出一款配备 480GB 内存的推理卡,谷歌则将第八代 TPU 拆成训练与推理两条产品线。8 月 26 日,智谱开源 GLM-5.3-Flash,以 320B 总参数、18B 激活参数取得与 Claude Opus 4.8 持平的综合智能分数,标准价每百万 token 输入 0.15 美元、输出 0.50 美元,公开流量运行在国产芯片集群上。同一周,台湾基隆地检署起诉九人,74 台 B300 服务器分三条路径转运至中国大陆;MCP 发布新路线图,将智能体身份与企业级安全列为五大优先方向之一。
AgentsFlare 是企业的 AI 控制平面——在模型、云与智能体不断分裂的环境里,替企业守住调用路由、成本归因与访问审计这条主动权。
AI Infra Weekly 是 AgentsFlare 为企业用户推出的战略专栏,追踪全球 AI 基础设施层的关键变动。控制平面天然不押注任何单一模型或云,因此我们能不带立场地判断模型、算力与监管的结构性变动——在格局固化之前,先一步看清方向。
九百六十二亿美元,和一句写到明年的指引
8 月 26 日,英伟达公布截至 7 月 26 日的 2027 财年第二季度业绩:营收 962 亿美元,同比增长 106%,环比增长 18%,高于市场预期的 922 亿美元;数据中心营收 890 亿美元,同比增长 117%,同样高于约 857 亿美元的分析师预期。第三季度指引为 1080 亿美元上下浮动 2%,对应区间 1058 亿至 1102 亿美元。GAAP 与非 GAAP 毛利率均指引至 74.0%,上下浮动 50 个基点。
真正少见的是那句年度展望:英伟达给出下一财年营收增速约 70% 的口径,而分析师此前的一致预期是 44%。芯片公司通常只给下一季度指引,将一整年的增速写进公开沟通,等于将手上的订单能见度摆出来。黄仁勋在业绩说明中将加速归因于智能体应用的扩张、Blackwell 架构的需求,以及下一代 Vera Rubin 平台的首批量产出货。
指引里还有一项限定条件:1080 亿美元的第三季度预期假设中国数据中心计算业务收入为零。这句话将地缘因素从变量位置移到了常量位置。如果出口政策在未来某个时点松动,那部分收入将是纯增量;如果继续收紧,指引不受影响。对采购方而言,这意味着排产与交期的紧张程度短期内不会因政策变化而缓解,因为供给分配的假设中从一开始就未将中国市场计入。
营收与增速展望都超出预期,当天牵动股价的却是 74% 这个毛利率数字。财报发布前股价收跌 1.59% 至 209.66 美元,盘后涨 4.71% 至 219.53 美元,开盘阶段的下跌来自毛利率指引低于预期。74% 在半导体行业已属高位,但相较此前水平的回落指向同一件事:内存与先进封装的成本在上行,供应链的涨价正穿透至最上游厂商自身的报表。这笔成本最终会走到哪一层,取决于终端需求的价格弹性,而目前看不到弹性。
AWS 再要两百万块 GPU,并将英伟达的内存接入自研芯片
同日,AWS 与英伟达宣布 2027 至 2028 年在 AWS 全球基础设施再部署两百万块 Blackwell Ultra、Rubin 与 Rubin Ultra GPU。作为对照,今年 GTC 上 AWS 宣布的计划是自 2026 年起新增超过一百万块,公告中的措辞是需求超出了那次的预期。两百万块这一量级本身表明,超大规模厂商的采购节奏并未因价格上行而放缓。
同一份公告里改动最深的是内存。英伟达同日推出 NVHBM,将原本位于加速器计算芯片上的内存控制器移入 HBM 基片,官方给出的收益是相较标准 HBM4E 带宽最高提升 30%、HBM 功耗降低 15%、计算芯片上可用面积增加 25%。首个公开的合作方是 AWS 的 Annapurna Labs,下一代 Trainium 将通过 NVLink Fusion 同时用上英伟达的互联与定制内存。
一家自研加速器的云厂商,将互联标准与内存规格同时交给最大的竞争对手定义,这件事的分量超过两百万块 GPU 的订单。自研芯片最初的目标之一是降低对单一供应商的依赖,而当自研芯片的内存子系统按对方的定制规格设计、机柜内的互联走对方的协议,依赖关系便从采购层退回到了架构层。对企业客户而言,短期的好处是 Trainium 与英伟达 GPU 能放进同一个机架级架构中调度,异构混排的工程难度下降;长期需留意的是,云侧自研芯片作为议价筹码的分量正在减轻,价目表上的差价未必还能像前两年那样谈。
公告余下的条目分布在 CPU、政府订单、模型分发与数据处理四处:Vera CPU 将登陆 AWS;双方计划为美国政府建设 AI 工厂,含 10 万块 GPU 的涉密基础设施,可承载 IL6 及以上等级的联邦与国家安全负载;英伟达 Nemotron 系列开源权重模型继续在 Amazon Bedrock 与 SageMaker 上提供;Amazon EMR 上采用 cuDF 做 GPU 加速数据处理,官方口径是处理速度最高提升 3.7 倍、性价比改善 30%;OpenSearch 的向量索引构建卸载至独立 GPU 后,官方称索引速度最高提升 9 倍、成本降至四分之一。这些数字均为厂商自述,尚无第三方复现。
Hot Chips 上同台的三款推理专用芯片
8 月 23 日至 25 日,Hot Chips 在斯坦福召开。今年会场的主题相当集中:去年还是路线图的东西,今年都成了硅片,而且几乎每一颗都为智能体负载设计。
OpenAI 首次公开 Jalapeño 的完整架构与实测数据。这颗与博通联合开发的推理 ASIC 配备 216GB HBM4、带宽最高 15.4 TB/s,700 瓦功耗下提供 3.4 MXFP8 PFLOPS 与 13.4 MXFP4 PFLOPS,目前在硅片上运行于 1.70GHz,工程团队的计划是提至 1.80GHz。架构上采用 NUMA 风格的内存切片设计,64 个计算切片各自配一块 HBM 切片,由一张高带宽低延迟的专用集合通信网络在切片之间搬运数据,另设一张刻意做得比常规更弱的通用片上网络处理不常见的访问,用意是不让性能关键流量走到通用通路上。扩展方面,单机柜 128 颗以 600 GB/s 的以太网互联,16 机柜的 pod 容纳 2048 颗、每颗 200 GB/s,整套系统提供 27 EFLOPS 的 MXFP4 算力、432TB HBM4 与 32 PB/s 聚合内存带宽,交换芯片采用博通 Tomahawk 6,硬件由 Celestica 制造。
OpenAI 并未比拼峰值算力,而是采用 SemiAnalysis 的 InferenceX 基准跑完整的延迟与吞吐曲线,再按封装功耗归一化——Jalapeño 700 瓦、GB200 1200 瓦、GB300 1400 瓦。结论是每瓦峰值吞吐高出 1.5 至 1.9 倍,端到端延迟低 1.7 至 3.6 倍,最小出词间隔低 2.1 至 4.1 倍。公告中那个 104.3 倍的数字需看清口径:它指的是在 GB300 的最低延迟工作点上 Jalapeño 能维持的吞吐倍数,方法论明显偏向低延迟场景,不代表整体性能差距。
九个月的开发节奏是另一处信息量。首行 RTL 写于 2025 年 2 月,当年 11 月流片,2026 年 5 月拿到首批硅片,同月 Codex 已运行其上。过半的核心采用 XLS 硬件语言编写,OpenAI 自家模型负责搜索功耗、性能与面积的优化空间,相较人工基线,BF16 乘法器改善 56%,FP4 点积模块改善 21%,FP32 累加器改善 10%,矩阵单元与 SIMD 单元面积分别缩小 10% 与 8%。第二代已接近流片,第三代在研。用模型设计供模型运行的芯片,将定制硅片的周期从数年压至九个月,这条路径一旦被更多厂商复制,加速器的品类数量会比过去几年多得多。
英伟达 8 月 24 日宣布 Groq 3 LPX 进入满产。这颗芯片由三星代工,片上集成 500MB SRAM 以绕开内存带宽瓶颈,定位是 Vera Rubin 平台上专攻解码环节的扩展,单机柜最多 256 颗。第三方机构 Artificial Analysis 的实测结果是,在 10 万上下文的 Gemma 4 31B 推理负载上输出 3431 token/秒,约为次快公开端点 870 token/秒的四倍。这条产品线来自英伟达 2025 年 12 月完成的一笔 200 亿美元交易,结构为非独家 IP 授权加团队整体加入;Groq 公司本体仍在独立运营,8 月 17 日刚完成 3.5 亿美元融资并转向承建英伟达云。
英特尔则推出 Crescent Island:32 个 Xe3P 核心、256 个 XMX 引擎、32MB 统一二级缓存、PCIe Gen5 x16 接口,350 瓦风冷 PCIe 插卡形态,英特尔自家卡配 160GB LPDDR5X,ODM 版本最高可配 480GB。采用 LPDDR5X 而非 HBM 是一个明确的取舍:带宽不及 HBM,但单卡容量做到了目前加速器中的最高水平,成本结构也完全不同。长上下文与大模型权重常驻的推理场景对容量的需求高,这款卡瞄准的正是那一类负载。同场英特尔还公布了 256 核的下一代至强 Diamond Rapids。谷歌则将第八代 TPU 拆成两条:一条偏训练,一条偏服务,明确按智能体时代的负载切分。Meta 的 MTIA、Arm 的服务器 CPU、AMD 的 Instinct MI400 系列也都在同一批议程中。
一周之内,推理侧可选的硅片形态从两三种增至七八种,而它们的编程模型互不相同。Jalapeño 走的是开源 Triton 生态中的底层环境,软件必须显式指定张量在芯片上的物理位置与分布方式;一旦下一代改变核心数量或本地内存组织,原有的放置与调度方案就须重做。与之相对,为 Blackwell 编写的代码在 Rubin 与后续架构上无需改动。这一差异决定了新增的推理供给中有多少能真正转化为议价筹码——能否更换,取决于软件层而非硬件层。企业侧能做的是将这层差异挡在业务代码之外:在 AgentsFlare 上,同一套调用按任务类型、成本预算与 SLA 在不同后端之间路由,底层芯片与部署位置变化时改的是配置,而非各业务线的代码。
GLM-5.3-Flash:Opus 4.8 的分数,四十分之一的价格
8 月 26 日,智谱发布并以 MIT 协议在 HuggingFace 开源 GLM-5.3-Flash,总参数 320B、激活参数 18B,是 GLM-5 系列第一个原生多模态模型。在 Artificial Analysis 综合智能指数上得 57 分,超过 GLM-5.2,与 Claude Opus 4.8 持平;在智谱自研的 Z.ai Code Bench 上,编程表现被描述为与 Opus 4.8 相当,后一项属公司自评。上下文窗口 1M,最大输出 128K。
架构上的改动都指向长上下文的单位成本。模型采用线性注意力与稀疏注意力的混合结构,线性注意力通过递归机制捕获局部依赖,稀疏注意力借助轻量索引器召回全局上下文,并以一个加权池化模块将索引器的四个缓存向量压成一个。官方给出的对比是:相较 GLM-5.3,注意力计算量降低 3.01 倍,KV 缓存大小降低 4.44 倍。这两个数字直接对应长上下文服务的单位成本,也解释了价目表上的落差。
标准价为每百万 token 输入 0.15 美元、缓存命中输入 0.03 美元、输出 0.50 美元;9 月 9 日 24 时前五折,对应 0.075、0.015 与 0.25 美元。官方口径是 GLM-5.3 的十分之一、Claude Opus 4.8 的四十分之一。作横向对照:Claude Opus 5 为 5 美元与 25 美元,Fable 5 为 10 美元与 50 美元,Sonnet 5 的 2 美元与 10 美元促销价 8 月 31 日到期,9 月 1 日恢复至 3 美元与 15 美元。同一档综合智能分数,价目表上相差一到两个数量级,这一价差已大到无法用模型能力的细微差别来解释。
服务这批流量的是国产芯片集群。智谱在技术说明中写明,过去一周首次在大规模流量中采用国产芯片集群提供服务,芯片之间通过自研高带宽互联网络连接。为绕开单卡算力与内存容量的限制,团队在 SGLang 基础上自建推理引擎,采用节点内张量并行、W8A8 量化、INT8/FP8/BF16 混合缓存量化与层切分等手段做内存优化,集群层面采用编码、预填充与解码三段分离的生产架构,将多模态编码、提示词预填充与逐 token 解码拆成可独立扩缩容的工作池。官方称端到端服务性能较同一硬件上的初始基线提升三倍,硬件效率与单 token 成本已达到与主流英伟达 GPU 相当的水平。媒体报道提到这批集群规模约十万张国产加速卡,该数字来自单一独家报道,公司未正式披露;摩尔线程当日宣布基于 MTT S5000 完成适配。
对企业侧,先看价格。一个综合智能分数达到闭源旗舰水平的模型,权重可下载、可私有部署,输出价压至旗舰的四十分之一,这会直接改写批处理、文档生成、代码补全这类大批量低敏感度负载的成本模型——按任务分档路由,将这类负载切至低价档,账单变化以倍数计。在 AgentsFlare 上,各团队按项目设定的 token 预算与四维成本归因会同步反映这类切换的实际效果,不必等到月底账单出来才发现差异。再看供给。宣称在国产卡上将单 token 成本做到与英伟达相当,如果后续能被第三方验证,意味着中美两侧的推理供给首次在成本维度上出现可比性,而两侧的合规要求、数据落地规则与可用模型清单并不相同。
七十四台 B300 服务器分三条路进入中国大陆
8 月 24 日,台湾基隆地检署起诉九人,指控其将英伟达 B300 服务器转运至中国大陆买家。被告中包括英伟达台湾办公室的一名经理与美超微台湾分公司的两名员工;检方将那名英伟达经理列为核心人物,指其负责放行 B300 GPU。
起诉书列出的绕道路径相当具体。获批销售的 130 台 B300 分三批放行,数量分别为 2 台、64 台与 64 台;已查明的前 74 台走了三条同时进行的路径——16 台于 2026 年 1 月直接发往中国大陆,50 台先到印尼再转运,8 台先送至被告控制的一家日本实体,再经香港进入中国大陆。部分被告被指建立虚假网站、伪造资料以规避出口管制。检方对其中四人求处法定最高五年刑期。
出口管制在这条链路上的失效点不在监管条文,而在授权环节。厂商内部有权放行的人、经销体系中的转运商、第三国的壳实体,三者串起来就足以将受限设备送出去。这类案件被起诉的越多,可以预见的后续是厂商对渠道的核验会更严、终端用户声明的要求会更细、交付前的审查环节会更多,跨境部署的采购周期随之拉长。在多个法域有业务的企业还须多算一层:同一批硬件在不同地区的可得性与合规口径不同,模型可用清单与算力可得性都要按区域分别设定,无法用一套全局配置覆盖。
MCP 将智能体身份列入优先级
8 月 22 日,Model Context Protocol 发布新版路线图,由核心维护者与各工作组共同制定,五个优先方向分别是智能体消息原语、HTTP 原生传输的统一与加固、智能体身份与企业级安全、原语改进,以及 SDK 开发体验。
7 月 28 日那版规范已经落地了一批改动。协议层会话与初始化握手被取消,服务端因此可以横向扩容而不必保持状态;客户端可以先调用 server/discover 了解服务端支持的版本与能力,再做后续动作;列表结果可缓存;任务被移入官方扩展;新的多轮往返请求模式取代了服务端发起请求,让征询这类流程在无状态服务端上亦可工作。授权侧的改动包括签发方校验、绑定签发方的客户端凭据,以及将客户端 ID 元数据文档作为首选注册路径,企业托管授权则已转为稳定状态的扩展。
新路线图中与企业相关性最高的是身份那一条。今天的 MCP 授权围绕一个人在浏览器中点同意来构建,而越来越多的调用方是以云工作负载身份运行的智能体,代表一个并不在场的用户行事,或者将更窄的权限委派给子智能体。接下来的工作是将 DPoP 定稿并推动采纳,通过工作负载身份联邦、企业托管授权背后的 ID-JAG 授权类型与标准令牌交换,定义一条明确的智能体身份与委派路径,并继续参与 IETF 的 OAuth 与 WIMSE 工作组。另一条是渐进式工具发现:连上一台挂着上百个工具的服务端,模型在用户问出第一个问题之前就要为整个工具表面付费,工具选择的准确率还会随列表变长而下降。
协议层将这些问题列入日程,不等于企业侧可以等。规范定稿、SDK 跟进、各家 MCP 服务端实现到位,这条链路走完是季度以上的尺度,而智能体已经在生产环境中调用工具。这段时间里需要有人回答的是同一组问题:这次调用背后是哪个真实用户、哪个团队,允许触达哪些工具与数据,事后能否将整条链路调出来复核。这些问题要对上的是企业自身的身份体系与合规口径,协议本身答不了。AgentsFlare 对 MCP 访问做身份隔离与请求级审计,这套规则在混合多云环境中统一执行,不绑定任何单一厂商的智能体体系。
上游:内存被移进芯片,土地被地方议会锁住
上游过去一周最实质的变化是内存的定义权。NVHBM 将内存控制器从加速器计算芯片移入 HBM 基片,官方给出的收益是带宽最高提升 30%、HBM 功耗降低 15%、计算芯片可用面积增加 25%。HBM 是堆叠在计算芯片旁边、专门用来喂数据的高速内存,推理速度在很多场景下卡在它的带宽上,而非算力上。控制器换个位置,意味着内存的接口规格由加速器厂商而非内存厂商定义,三家内存供应商从卖标准件转向按对方图纸供货。这一变化对采购的传导要几个季度才看得见,方向则是清楚的:定制化程度越高,可替换性越低,内存的现货市场对定制部分不再适用。
内存的涨价已经出现在英伟达自己的报表上。74% 的毛利率指引低于市场预期,回落的部分主要来自内存与先进封装的成本;这与三季度服务器内存合约价继续上行、供应商在与英伟达的 16 层 HBM4 订单上争抢产能的市场状态一致。对企业的含义直接:上游成本压力尚未反转,指望模型价目表在下半年整体下移的假设不成立,价差会体现在档位之间——低档位继续下行,高档位跟着监控开销与内存成本一起居高不下。
另一条约束来自土地与电力。截至 8 月 19 日,全美有 533 处地方政府层面的数据中心暂停或限制措施在生效,另一家追踪机构按更严口径统计为 242 处;今年有 11 个州提出州级暂停法案,纽约州通过第 62 号行政令成为首个州级暂停在生效的州。8 月内的两例:路易斯维尔市议会 8 月 13 日以 24 票对 1 票通过六个月暂停,印第安纳波利斯市县议会 8 月 10 日以 23 票对 1 票禁止马里恩县新建数据中心至 2027 年底。得州则由州长要求电力与公用事业监管机构对数据中心用电用水做全面审计后再放行并网,涉及约 250 至 300 个项目、合计约 200 吉瓦的申报需求,超过 ERCOT 历史峰值的两倍,审计需数月。
这些约束在租赁市场上表现为同一颗芯片近三倍的价差。8 月的公开报价中,B200 每 GPU 小时从 5.99 美元到 16.11 美元不等,Hyperbolic 5.99 美元、Lambda 6.69 美元、RunPod 6.79 美元、Nebius 7.15 美元、CoreWeave 8.60 美元,至超大规模厂商则是甲骨文 14.00 美元、AWS 14.24 美元、谷歌云 16.11 美元;H100 的区间是 1.49 美元至 6.98 美元。这个价差说明市场缺的并非芯片本身,而是通电、联网、可即刻交付的机位。地方暂停令越多,这一价差收窄得越慢。
这一周把成本表重新排了一遍
同一件事在过去七天的三个层面各出现了一次。英伟达以一句写到明年的年度指引说明订单能见度,AWS 以两百万块 GPU 的追加订单说明超大规模厂商并未减速,而三家在 Hot Chips 上同台推出推理专用芯片的公司说明,同样的负载正被拆成越来越多的硬件形态去承接。这三件事指向同一个结论:推理侧的供给在快速变宽,而每一种新增供给都带着自己的编程模型、内存规格与交付周期。
价格则在同一周向两个方向拉开。GLM-5.3-Flash 以四十分之一的价格取得与 Opus 4.8 持平的综合智能分数,同一周 Sonnet 5 的促销价即将到期回到原价,英伟达的毛利率因内存成本回落。低档位在下行,高档位居高不下,中间的价差被拉开到无法忽视的程度——过去按单一供应商拟一份年度预算的做法,在这种价差结构下会持续失真。
企业这一年真正要建的能力,是让上述变化只体现为配置的调整。哪颗芯片、哪家模型、哪个区域,都会在未来两年里反复变;不变的应是同一套准入规则、同一份成本归因口径、同一条请求级审计链。将这三样握在自己手里,价目表怎么改、供给从哪来,便都只是参数。