ARTICLE DETAIL

建站实战干货

来自一线的建站与推广经验沉淀,每一条都经过真实交付验证。

AI算力底层变局:从存储芯片到云基础设施的“粮仓”争夺战

2026/9/4 22:45:04 拓冰建站 浏览量
AI算力底层变局:从存储芯片到云基础设施的“粮仓”争夺战 先说结论长鑫存储和腾讯最近被放在同一组新闻里讨论很多人只看到“谁抢了市值第一”“谁在囤卡”但真正值得关注的不是这两家公司谁更强而是整个 AI 算力叙事正在发生一次底层切换。AI算力不再是单纯的 GPU 军备赛它正在变成一场关于存储、内存、网络、电力和调度系统协同的“粮仓”争夺战。长鑫代表的是“粮仓里的粮食”——存储芯片的价值正在被重新定价腾讯代表的是“把粮食存到仓库并分发给需要的人”的能力——算力基础设施和云服务才是真正卡住大模型供给的关键角色。这两件事表面上风马牛不相及但放到同一个资源链条里看它们几乎是同一张拼图的两块。1. 两个看似无关的信号指向同一场AI资源战这几天最热闹的讨论里出现了两个剧情一边是长鑫被推上“市值第一”的讨论桌另一边是腾讯继续加大AI基础设施投入有人调侃腾讯抢了算力的“粮仓”。这两个剧情差着一整个产业链但背后其实是同一场围绕 AI 资源的竞争一场已经从“模型能力比试”变成“基础设施卡位”的竞争。1.1 长鑫的“市值第一”为什么值得关注长鑫并不是上市公司所以在严格意义上没有办法谈市值。市场上说的“市值第一”更多是在一级市场估值探讨、投资圈讨论和产业舆论里被反复放大后形成的一种比喻——意思是它正处于国产存储芯片想象力的高点。长鑫之所以能站到这个讨论位上根本原因是大模型正在把存储芯片从“周期品”变成“战略品”。AI 训练和推理需要海量的内存资源大参数模型在训练阶段要把模型参数、梯度、优化器状态放进计算单元附近推理阶段需要高带宽显存和内存来承载长上下文。如果没有足够的存储能力即使 GPU 再快也只能等待数据搬运。存储芯片过去给外界的印象是价格波动剧烈、产能过剩和需求周期难测。但 AI 带来的需求开始打破这种规律高带宽内存、DDR5、数据中心级 SSD 的需求曲线出现了一条长期向上的估值通道。市场把长鑫当成这个通道里具有代表性的国产厂商于是给出了很高的叙事权重。更要紧的是长鑫做的是 DRAM也就是内存。过去几年它在产能爬坡和产品迭代上走得比较快已经稳定出货 DDR4 和 DDR5 产品。对一个长期由少数国际厂商主导的市场来说这种“新供给源”本身就是有价值的。当市场开始讨论长鑫能名列前茅时说明资本已经认可了一种判断存储芯片是 AI 算力资源拼图里最不可短缺的一块。1.2 腾讯抢的“粮仓”到底是什么“粮仓”这个比喻用得很有画面感但它不是一个固定的物理仓库而是一整套能够稳定供应算力的系统。腾讯这类云厂商加大 AI 算力储备本质上是在做三件事第一建设中大规模算力集群。大模型训练数百张、数千张加速卡一起跑需要机房、电力、散热、高速网络、调度系统一起配合。这不是买一批芯片就能解决的问题。第二把算力资源变成标准化服务。云上的 GPU 实例、模型训练平台、推理服务这些产品让算力像水电一样按需交付也把大厂的算力盘子做得更大。第三在应用层建立生态。模型要跑起来不只是算力还要有配套的数据处理、存储、开发工具和模型能力。云厂商把这一整套“粮仓加工链”握在手里才能在 AI 时代掌握分发位置。有人会觉得腾讯没有像某些厂商那样先靠模型惊艳全场反而被算力基建拖慢了节奏。但从资源博弈的视角看这更像是在偷偷囤粮。大模型公司的竞争会不断经历洗牌模型可以迭代团队可以重组但训练和推理必需的算力资源、存储配套和分发渠道始终是硬通货。这也就解释了为什么长鑫和腾讯会被放在同一个标题里一个负责“粮食”供给一个负责“粮仓”与“加工分发”少了任何一方AI 都跑不动。2. AI算力从来不是“GPU单点工程”而是一个资源矩阵很多人在讨论 AI 算力时仍然习惯把目光钉在“显卡型号”“浮点算力”“显存大小”这些单一参数上。这种视角在消费级产品上基本够用一旦进入训练集群或生产环境就会显得非常单薄。真实的大规模 AI 任务拼的是整个资源矩阵的协同效率。GPU 只是其中一块板数据管道的吞吐能力、内存带宽、持久化存储和分布式通信能力每一项都会决定整条链路能不能满载运转。2.1 一张AI训练卡背后站着多少配套资源我们可以把一次大模型训练想象成一家高速运转的食品工厂GPU 是加工线上的机器训练数据是原料内存是加工台高速网络是车间之间的传送带而磁盘存储是原料冷库和成品仓库。你给工厂配了最高端的机器却把传送带做成窄轨或者把冷库放在离车间两小时车程外的地方工厂照样跑不出产量。在实际工程里这意味着几个容易被忽视的成本训练数据需要反复读取数据管道如果不支持高效的分片和预取GPU 就会等着数据加载。模型并行训练时卡与卡之间要高频同步梯度这要求网络拥有极低时延和足够的带宽。训练过程中会周期性保存 checkpoint如果写满全部模型参数的存储系统速度太慢训练就会卡在检查点上。推理阶段需要承载大上下文窗口这时内存和显存都不是越多越好还要看能不能以足够高的带宽吞吐数据。所以大厂在建设算力集群时真正复杂的地方往往不是“选什么型号的 GPU”而是如何把存储、网络、调度和故障恢复组合成一个整体。越大的集群越会卡在最薄弱的配套环节上。2.2 存储层的瓶颈往往才是真正的时间黑洞“存储层”不只是一个磁盘它从持久化存储一直延伸到芯片里的高速缓存数据湖里的原始数据集通常保存在分布式文件系统或对象存储中训练前需要把数据切分成 TFRecord、WebDataset 等中间格式并做预处理训练时数据被加载到内存再经过数据加载器喂给加速卡模型本身在训练过程中会生成中间权重和优化器状态需要高频写入 checkpoint推理服务往往需要把热门权重缓存在本地硬盘甚至内存中。如果只优化模型结构而忽略存储链路很常见的结果是GPU 利用率只能达到百分之二三十却找不到明显原因。排查到最后就会发现瓶颈在数据加载、在梯度同步、在 checkpoint 持久化而不是算力不足。大模型时代的存储需求已经不再是“能存下就行”。海量小文件、频繁随机读取、高并发写入、低时延访问这些新压力让普通硬盘方案快速失效。要支撑高吞吐训练至少要考虑内存型存储、NVMe SSD 并行访问和高性能并行文件系统。2.3 从芯片到机房粮仓的效率取决于最短的那块板如果给一套算力系统列一个完整清单至少会包括加速芯片GPU、专用 ASIC 或云端推理芯片高带宽内存显存封装中的 HBM 或带宽型内存主机内存DDR5 或服务器级内存条持久化存储NVMe SSD、分布式存储集群网络互联节点内通信、跨机架 RDMA、数据中心骨干电力与散热配电容量、制冷效率、PUE 指标调度系统资源编排、任务排队、优先级抢占、故障自愈。在这些环节里某个单点再强也不能抵消另一块板的短板。比如 GPU 性能提高三倍但如果内存带宽跟不上整体训练速度可能只提高百分之二十网络延迟降不下来分布式集群的加速比就很难做上去。这就是“粮仓”的隐喻价值。真正稳定的 AI 基础设施不是追求最豪华的原料或最尖端的一台机器而是确保整条供应链没有明显的断点。大厂囤算力囤的其实是这套系统。从工程视角看普通团队最容易犯的错是只盯着 GPU 配置单。第一次跑大模型任务时以为花大钱租了最新的卡就能高效出结果结果数据加载器只用了单线程分布式通信用的是默认网络checkpoint 写到共享硬盘最终整个任务的表现远低于预期。3. 长鑫背后内存墙正在取代算力墙成为AI的新天花板过去几年我们听到最多的是“算力不够”于是大家疯狂加卡。但如果你真的在大模型场景里摸爬过会逐渐意识到一个更隐蔽的问题很多任务从表面看是算力不够拆开看其实是“数据进出计算单元的能力”不够。这个问题有个名字叫内存墙。3.1 “算力不缺数据喂不进去”的真实体验大模型计算的核心特征是重计算、重访存。训练一个千亿级参数模型参数和中间激活值都极其庞大要频繁在计算单元和内存之间搬运数据。就算计算单元本身能力翻倍如果内存带宽和容量跟不上性能增量只会被访问延迟吞掉一大半。在实际训练大模型时大家会经常遇到“GPU 打满但利用率不稳定”的困惑。打满不一定等于高效真正要看的指标是“内存带宽是否到顶”和“单元是否有等待周期”。当内存带宽逼近极限再堆算力只是堆空气。推理端的感受更明显。长上下文对话、代码补全、金融研报分析这种动辄几万 token 的输入需要把整段上下文塞到显存和内存里。此时模型推理速度很大程度上取决于内存容量和带宽而不是单纯的峰值算力。这也就是为什么新一代推理芯片都在强调更大的高带宽内存容量而不是只讲 PFLOPS。所以AI 的下一个瓶颈已经不是芯片算力而是存储体系能够多快地把数据送到计算单元嘴边的能力。3.2 存储芯片在整个AI成本结构里被严重低估以前评价一台 AI 服务器大家先看搭了几张加速卡很少注意它配了多少内存、用的哪种内存。但拆解整台服务器成本后会发现内存成本占比并不低尤其是随着高带宽内存HBM的使用存储芯片的价值被重新拉高。可以把存储芯片在 AI 里的作用分成三个层次第一层是加速卡上的高带宽内存。比如在加速卡附近封装了多层高速 DRAM用来充当“极速前台缓存”。第二层是服务器主板上的内存用来支撑 CPU 与加速卡之间的数据中转。第三层是大规模集群里的持久化存储系统用来承载训练数据集和检查点。大模型对这三层都有数量级的增量需求。以前一台服务器给几十 GB 内存就够用现在单机大内存的容量需求经常按 TB 计算以前数据中心花在存储上的预算相对稳定现在训练集群要额外采购高性能 NVMe 盘和分布式存储软件。正因为存储需求膨胀资本市场才开始重估存储厂商的位置。3.3 估值叙事与技术代差要分开看这里要提醒一句长鑫被市场放进“市值第一”的叙事并不代表它的技术已经站到了全球最前沿。DRAM 是一个高度依赖制造工艺、良率、生态认证的行业技术代差不可能靠一年两年抹平。比较合理的判断是长鑫真正卡住的位置是“产能能够稳定供应、产品线能够覆盖中端主流需求、并且持续向高带宽方向迭代”。在训练和推理模型里主流服务器已经大量转向 DDR5 和 HBM而长鑫在 DDR4 和 DDR5 市场站稳脚跟后下一步如果在高带宽内存上实现突破才是真正打开 AI 估值空间的关键节点。在此之前估值里包含更多是“未来可能性”而不是现实利润。这类估值叙事对产业的影响是真实的它会带动更多资本进入到存储设备、材料、封测和 EDA 工具环节也会促使国产服务器在选型时更愿意给国产内存留出验证机会。但对于具体采购和工程落地仍然要根据性能实测、兼容性测试和长期稳定性来决策不能靠话题热度做技术判断。4. 腾讯囤算力更像是在建“AI时代的粮仓仓储体系”如果长鑫是被 AI 重新定价的“粮食生产者”那么腾讯这类云厂商就是“粮仓运营商”。它们建的并不是一栋摆满 GPU 的传统机房而是一套能承载海量任务、支撑多租户服务、并能弹性扩展的算力仓储体系。4.1 算力资源池的规模效应不是简单买卡很多人觉得云厂商囤算力就是大额下单买卡买得越多越强。真实情况远没有这么简单。大规模算力集群一旦超过几百张卡就会面临网络拓扑、任务调度、故障恢复和散热管理的复杂问题。比如单机训练相对容易但分布式训练需要把数据、模型切分到多张卡上卡与卡之间频繁通信。如果网络带宽不均匀、通信拓扑没有优化GPU 数量增加到一定程度后加速比曲线会快速放缓甚至倒退。再比如训练过程中总会有卡故障如果没有一个好用的自动恢复机制任务可能在十几个小时后突然中断然后从最近的有效 checkpoint 重新开始期间损失的人力和算力成本都很高。云厂商在这件事上的能力不只是“买到最多的卡”而是能建设一套让算力资源稳定对外输出的系统。这个系统里包括资源调度平台能按任务优先级分配不同规格的实例容器和虚拟化层让算力可以被安全隔离和细粒度切分弹性伸缩策略在高峰期快速扩容、在空闲期缩容监控与告警体系覆盖 GPU 利用率、内存带宽、通信延迟等指标故障转移和训练容灾让长时间任务不因单点故障推倒重来。所谓抢“粮仓”抢的其实是这些看不见的工程能力。4.2 云厂商真正卖的不是一张卡而是一套“可靠供粮”能力对中小团队和大模型应用方来说直接买实物加速卡并不现实。它们更需要的是一台能按小时计费、开箱即用、出了故障有人维护的算力服务。云厂商把这个过程包装成了标准化的 GPU 实例、模型训练和推理服务。在这个模式里用户视角下那些花里胡哨的芯片参数并不是最重要的。真正影响项目进度的是实例是否能快速拉起镜像是否已有常用深度学习框架数据能否方便地从对象存储加载到计算节点多节点训练是否支持 RDMA 高速互联任务中断后是否有自动保存和重启机制账单是否透明能不能一眼看出算力成本和存储成本。这些“可靠性”和“易用性”才是大厂算力粮仓的护城河。单纯堆卡只能叫建机房把卡变成稳定、高效、可计量的服务才叫建粮仓。4.3 中小团队如何利用大厂的“粮仓”而不是自己囤粮如果你不是云厂商也没有做大规模算力平台的预算我更建议把自己定位成“粮仓的租户”而不是另一个建仓者。比较现实的路径是使用开箱即用的云 GPU 环境做模型验证先确认模型结构、训练参数和数据管道没有大问题需要多机训练时租用云厂商提供的多卡集群服务并用官方推荐的分布式框架和存储类型日常数据文件放到对象存储训练节点通过高速网络读取避免把数据集和实验日志都放在同一台机器的本地盘上对超长训练任务提前写好几轮 checkpoint 持久化策略确保失败时可以从最近一个文件恢复成本控制上优先按需使用、用完即关而不是长期包月一个最大规格实例不用。你会发现这些步骤没有一个是把注意力放在“追上头部大模型的算力规模”上而是在把有限的外租资源用出更高的效率。这是大多数团队真正能够在算力粮仓时代活下去的策略。5. 普通开发者在算力粮仓时代最该抓的三件事前几节更多是在讲宏观格局但落到普通开发者、算法工程师和刚进入 AI 工程方向的人身上可能更关心的是未来与大厂拼算力永远拼不过但自己的工作还是要做该怎么调整我的回答是在算力资源变得越来越集中、越来越像基础设施的时代个人的竞争力不在于拥有多少算力而在于你对资源使用链路的理解程度。谁能在同样的配额下产出更稳更快的结果谁就更值钱。5.1 先搞清楚瓶颈在哪一层一个常见的坏习惯是任务跑得慢就直觉以为是 GPU 不够。实际上大模型任务的性能问题可能出现在很多层数据加载层磁盘读取太慢、格式切分不合理、预处理占用 CPU 瓶颈计算层batch size 太小导致算力空转、显存溢出让程序反复重试通信层模型并行时梯度同步过慢多机利用率上不去存储层checkpoint 写入慢、读训练数据时频繁小 IO调度层任务排队等待、资源碎片化、抢占策略不合理。遇到问题先不要动算力配置。按“现象 - 输入 - 环境 - 参数 - 工具边界”的顺序排查。比如发现 GPU 利用率低先看数据加载线程有没有打满再看网络通信有没有异常最后看是不是代码里频繁做了同步操作。多数情况下瓶颈不在最贵的零件上。5.2 用“最小可运行流程”代替一上来就追峰值算力另一个容易踩的坑是第一次跑任务就想直接复刻别人的大规模配置。模型没验证就开多机数据没检查就上全量最后不仅跑得慢而且很难判断问题出在哪。更务实的做法是先拿一小份数据、最小的模型规模在单卡上完整走通一次训练流程。确认输出结构、损失曲线、checkpoint 都能正常写入后再逐步扩大 batch size、模型大小和节点数。每一步只改一个变量记录前后差异。这样做看似慢实际上是在为后续所有大规模实验建立“参照系”。这和我对项目落地的经验一致单次跑通只能说明流程没有断真正麻烦的是批量任务、异常重试和长期维护。很多失败都是因为跑通了最小流程后直接跳到大规模运行中间缺少稳定化验证结果在第二千个任务时暴露出数据污染、路径写死、内存泄漏等问题。5.3 把资源使用变成可观测、可计费、可回滚的工程问题算力一旦规模化就不再只是算法问题而是一个典型的系统工程问题。我建议普通开发者尽早养成三个习惯第一把训练过程可观测化。至少要知道 GPU 利用率、显存占用、内存带宽、网络吞吐、磁盘 IO 这些指标并把它们和训练步长关联起来。没有监控就没有优化依据。第二把成本意识写进代码。训练任务中每调用一次外部资源、每加载一次大文件、每保存一次 checkpoint背后都是钱。设计实验时提前估算费用比账单出来以后惊讶更有意义。第三设计可回滚的流程。训练代码要支持快速切换数据集版本、模型配置和 checkpoint数据结构升级要做好前向兼容配置文件不能写死在一台机器的绝对路径下。否则每次实验都像是在地雷阵里挪动。5.4 一套自检清单从单机实验到规模化训练的关键检查点为了让这些经验更可复用这里给出一份适合日常项目使用的检查清单输入检查数据格式是否符合加载器要求是否存在缺失字段或乱码样本是否有重复或异常值。路径检查训练代码是否依赖本机路径能否在共享文件系统或容器环境里正常运行。环境检查依赖版本与模型是否匹配不同节点的运行环境是否一致是否存在版本漂移。参数检查学习率、batch size、梯度累积步数是否在同一套逻辑下多机训练时有效批次大小是否一致。资源检查显存占用是否长期处于合理范围是否存在内存泄漏多卡通信是否绑定了正确的 NIC。存储检查checkpoint 是否按固定周期写入是否能从中间状态恢复数据读取是否出现重复和阻塞。日志检查是否在每个关键阶段输出日志和指标错误发生时能否快速定位到具体节点与时间点。成本检查任务启动前是否评估过运行时长和数据流量是否有异常资源占用导致费用飙升的风险。这些检查点看起来琐碎却是算力规模提升后最能稳定产出的地方。6. 别只盯着谁抢了算力更该看谁把资源用明白了长鑫和腾讯的新闻热度总有一天会过去但 AI 基础设施的价值重估不会停止。接下来还会有更多公司被同时放进“算力竞争”的讨论框架里。真正值得长期关注的不是某一家公司的名字出现在市值榜还是算力榜单而是整个产业有没有把资源用得更明白。6.1 资源端的长期变量会持续重估AI 算力粮仓故事的下半场将不再局限于“谁会做模型”而是扩展到一个更宽的问题模型训练和推理需要的所有资源未来会不会继续短缺从这个角度看至少要关注三个长期变量一是存储芯片。模型越大对高带宽内存、大容量主存和高吞吐分布式存储的需求就越刚性。只要模型规模继续增长存储能力就永远有用武之地。二是能源和散热。大规模算力集群本质上是高密度耗电装置。算力的边界最终会被电力、土地使用和散热能力约束。谁能以更低能耗运行更大模型谁就拥有成本优势。三是调度和软件生态。硬件资源只是原材料真正决定资源效率的是操作系统、分布式框架、调度平台和开发工具。软件生态的黏性往往比硬件更强。长鑫和腾讯并不是孤立的两个公司它们分别代表了“制造产能”与“调度分发”两个环节。如果这两个环节持续进化整个 AI 产业的底座会更扎实。6.2 比囤积更重要的是调度能力囤积资源在起步阶段是必要的但资源多了以后最大的挑战是能不能把闲散资源调度起来。云厂商内部经常面临一个场景某些部门训练大模型时把上千张卡占满但其他部门的推理任务又急需算力训练任务波峰和波谷明显总不能每个部门都各自买一套独立集群。这时就需要一个全局调度系统把不同优先级的任务在共享资源池里灵活排布。能按时完成训练、又能保障在线服务的稳定这才是平台级的核心能力。对研究团队来说也是一样与其纠结申请到的卡数量不如算出当前任务实际能利用的算力是多少。通过混合并行策略、动态 batch 和 checkpoint 频率让同一批卡承担更多有效的计算才更接近“把粮仓用满”的状态。6.3 下一步最值得做的判断如果让我给你一个建议下次再讨论 AI 算力时不要只看“谁家的模型更强”也不要只盯着“哪家公司又买了多少卡”。先问一句在这条资源链路上真正卡住你项目的瓶颈是哪一层是算力不够还是数据加载太慢是显存不足还是网络同步太慢是预算不够还是资源无法被有效利用把这个问题回答清楚你就能从被动的“追卡人”变成主动的“配粮人”。在算力粮仓越来越完善的时代懂得控制流量、分配资源、保障稳定输出的人永远比单纯持有资源的人走得更远。长鑫和腾讯的故事只是这场资源版图重构的两个侧面。它们给产业带来的真正启示是AI 时代最值钱的能力不是独占某一个新概念或某一张硬件的入场券而是理解整个算力系统如何协作并对短板保持足够的敬畏。