ARTICLE DETAIL

建站实战干货

来自一线的建站与推广经验沉淀,每一条都经过真实交付验证。

Cerebras晶圆级AI芯片的极致压榨:从整片晶圆到超大SRAM的系统级设计

2026/9/14 20:46:51 拓冰建站 浏览量
Cerebras晶圆级AI芯片的极致压榨:从整片晶圆到超大SRAM的系统级设计 如果你这两年一直在关注AI芯片大概率会有个感受所有人都在PPT上讲同一个故事——更多核心、更大带宽、更高算力然后底下挂一排HBM显存。结果就是大家做出的东西像同一个模子里倒出来的只是数字不同。但Cerebras是唯一一个让我看了之后觉得“这伙人不是来跟你们卷参数的他们是来掀桌子的”。这周Y26W35的解析选题我从热搜词里挖出了Cerebras。你会发现真正想搞懂它的人搜索词非常具体晶圆翘曲度方向、SRAM的EMA pin是干嘛的、SRAM传NVIDIA一条线。这些词串联起来正好拼出Cerebras最核心的两个技术主张一是把一整片晶圆直接做成芯片二是在片内堆出超大容量SRAM然后把整个系统的设计都押在这两件事上。这篇文就顺着这几个热搜词展开聊聊它到底是怎么在系统级把晶圆和SRAM“压榨”到极致的。适合对AI芯片架构、系统级设计、大规模算力集群感兴趣的人看不需要你有半导体工艺基础我会把关键概念拆开讲。1. 先说思路为什么Cerebras敢把“一整片晶圆”当成一颗芯片1.1 芯片行业默认的物理边界reticle限制如果你去翻任何一颗GPU或者AI加速器的die图会发现面积基本都卡在800平方毫米左右。这不是巧合而是光刻机曝光的一个硬限制光罩reticle的单次曝光区域大约是26mm × 33mm也就是858平方毫米芯片如果超过这个尺寸就需要拼接曝光工艺难度和成本会急剧上升。所以整个行业都在这个“模具”里做文章——先进封装、chiplet本质都是在突破这个物理边框想方设法把多个die拼起来。Cerebras的选择特别狠既然单次曝光只能做这么大那我就不按这个套路玩。它直接用300毫米晶圆的整片面积来做一颗芯片WSE-2面积大约是46,225平方毫米相当于普通AI芯片面积的50倍以上。听起来像疯子行为但它的逻辑非常自洽芯片之间的互连尤其是HBM和GPU之间那根又窄又慢的链路才是真正的瓶颈。与其在封装层面绕圈子不如直接把整片晶圆当成一颗芯片把所有互连都留在片内。1.2 用面积换带宽SRAM均匀铺在每个核心旁边Cerebras的第二个核心选择是片内放超大容量SRAM。WSE-2有40GBWSE-3提升到44GB。这不是把一堆SRAM集中放在某个角落而是把SRAM以极小的块均匀分布在每个计算核心旁边。每个核心都有自己的本地SRAM访问延迟极低带宽极高。这样做带来的直接好处是权重可以不搬出芯片。训练或者推理时模型参数就待在SRAM里每次计算只用极短的距离读取不再需要去外部HBM里拉数据。这个设计从内存墙的角度看是降维打击。后面我会算一笔账SRAM和HBM在带宽上的差距有多大。但先记住结论Cerebras的工程核心是“以面积换带宽”晶圆上多出来那几千平方毫米全部用来铺SRAM和片上互连网络。1.3 为什么不做chiplet、不堆HBM偏偏走晶圆级市面上主流的破局思路是chiplet把大芯片拆成小芯粒再用先进封装拼起来比如用CoWoS把多个die和HBM堆在一起。Cerebras没有这么做原因在于chiplet之间的互连密度和带宽终究比不上片内连线。即便是最先进的2.5D封装die与die之间的信号走的是硅中介层或RDL层线宽和间距都远不如芯片内部金属层那么细功耗、延迟、带宽都吃亏。HBM虽然容量大但那个接口带宽与片内SRAM相比完全不是一个量级而且还要穿过封装基板。Cerebras的思路很简单我干脆不做多die封装这层中间商。整片晶圆就是一颗die所有互连都在片内解决。这个抉择让它在面积利用率、带宽、时延三个维度上都占据了物理极限代价是它得搞定一系列“别人不需要面对”的工程难题良率、散热、翘曲、供电。这正是标题里“系统级压榨”的完整含义——每一个系统层面的设计都在为这个晶圆级方案服务。2. 从热搜词说起晶圆翘曲度方向凭什么一整片晶圆能装进一个系统2.1 面积大十倍热和应力就“放大”到必须专门设计很多人看Cerebras只会盯着“性能数字”但真正做过硬件的人看到“整片晶圆做芯片”的第一反应是这东西怎么散热怎么装进机箱不裂掉普通芯片只有几百平方毫米热膨胀、机械应力都相对好控制。但WSE是一整片硅晶圆面积大厚度又必须减薄到能满足封装和散热的要求。硅和封装基板、散热金属之间的热膨胀系数不一样温度一变晶圆就会翘曲。热搜词里的“晶圆翘曲度方向”——指的就是硅片在制造、背面减薄、覆膜等工序后因为应力分布不均会发生朝某一方向的弯曲。如果安装时不考虑翘曲方向硬把芯片锁死在基板上一通电、一发热应力就会集中在某些点轻则分层重则直接碎裂。2.2 Cerebras怎么解决翘曲问题不是“焊死”而是“浮动”Cerebras的封装安装方式非常反直觉WSE不是像普通芯片那样被固定在封装基板上的而是采用了一种允许热膨胀的浮动安装结构。芯片的中心区域被固定四周则留出可以沿平面方向自由伸展的余量。这样当芯片工作时热量导致硅晶圆往外膨胀它有一个可以“呼吸”的机械自由度而不是硬顶着基板产生巨大应力。散热器和芯片之间的接触面也不是直接刚性压紧而是通过一层高导热界面材料来传导热量允许微小的相对滑移。你想想一个功耗高达十几千瓦的单一芯片发热时面积上每个点都在往外扩这个“翘曲方向”如果没控制好整片芯片就会在第一次开机时就报废。2.3 散热与供电系统级压榨的另一面WSE-2的功耗在15kW级别WSE-3更高。普通风冷根本压不住Cerebras用的是一整块定制水冷板直接覆盖在芯片背面内部布满微流道冷却液流过时把热量带走。这不是把一个CPU散热器放大就行因为发热面巨宽沿水流方向温度会逐渐升高必须在流道设计上确保整个芯片平面温度均匀。供电也一样一整片晶圆上几百个电源域同时工作电流高达数千安培需要把外部电源通过复杂的供电网络输送到芯片中央任何一块压降过大都会导致核心掉频。所以你看每一颗WSE的背后都是一整套围绕“晶圆级物理形态”重新设计的冷却、供电、机械结构系统。2.4 良率问题靠冗余核心与片上网络硬扛把一整片晶圆做成芯片良率怎么保证晶圆厂生产过程中任何一粒尘埃、任何一处工艺偏差都会在晶圆上形成缺陷点。普通芯片只要有一个关键缺陷就直接报废WSE却必须容忍几十个甚至上百个缺陷点存在。Cerebras的思路是核心级冗余WSE上有上百万个计算核心制造完成后测试出哪些核心坏了直接禁用它们剩下的核心继续工作。片上互连网络也被设计成网格状坏核心周围的网络会自动绕路保证剩余核心依然可以互相通信。所以你会看到一个很有意思的现象Cerebras对外公布的核心数是“有效核心数”而不是“物理核心数”。850,000WSE-2、900,000WSE-3这些都是良率修复后的数字。这种设计把晶圆制造里的“废片”变成了“可降级使用的芯片”一方面拉高了有效利用率另一方面也让Cerebras能放心大胆地使用一整片晶圆——因为它从一开始就默认里面会有坏点。这也呼应了标题里的“压榨”不是追求完美无瑕而是把不完美的晶圆压榨出尽可能多的可用计算单元。3. SRAM工程40GB片上存储为什么是杀手锏以及EMA pin到底干嘛的3.1 带宽账本SRAM vs HBM差了一个数量级先算一笔带宽账。NVIDIA H100 SXM的HBM3总带宽大约3.35TB/s这已经是行业顶级水平。Cerebras WSE-2的片上SRAM带宽大约9PB/s——注意单位PB和TB差了一千倍。换句话说WSE-2的片内存储带宽接近H100的2700倍。这个差距意味着什么训练大模型时权重和激活值需要在计算单元和存储之间反复搬运。GPU的瓶颈恰好就在HBM接口那一段通道上所以GPU才会大量依赖算子融合、kernel优化来减少访存次数。而Cerebras的做法是把“主存”直接搬到每个计算核心隔壁带宽不再是限制整个计算的瓶颈就只剩下计算单元本身了。这也是Cerebras敢说自己在大模型训练上能做到更高利用率的核心原因——没有内存墙拖后腿。3.2 热搜词解读SRAM的EMA pin是干嘛的有朋友在热搜里问“SRAM的ema pin是干嘛的”这个问题放在Cerebras的语境下特别合适。EMA通常指Error Mapping Array或Error Management相关机制核心功能是管理SRAM阵列中坏行坏列的重映射。现代大容量SRAM不可能做到完全没有缺陷制造过程中难免有少量单元失效。如果因为几个坏单元就把整片SRAM报废成本太吓人。所以SRAM IP里会预留冗余行和冗余列同时在芯片内部维护一份错误映射表启动时通过特定的EMA pin来触发读取、写入这张映射表把故障地址重定向到冗余单元。Cerebras这种超大SRAM阵列对修复机制的依赖更重——44GB SRAM分布在90万个核心旁边任何一个SRAM block里有坏单元都需要被屏蔽或重映射。所以你在Cerebras的芯片文档里看到的“EMA pin”背后其实是一整套可测试性设计DFT和修复策略。它不是普通GPIO而是芯片出厂测试和上电自检时用来管理坏块的通道。3.3 SRAM和NVIDIA的对比为什么NVIDIA不这么做热搜里还有人搜“sram(nvidia)”说明大家在下意识拿Cerebras的SRAM方案和NVIDIA对比。NVIDIA GPU当然也有SRAM那就是寄存器文件、L1缓存、L2缓存加起来几十MB。为什么NVIDIA不把SRAM堆到几十GB因为面积成本太高了。SRAM的密度远低于DRAM同样容量下占用的硅片面积大约是DRAM的5到8倍。你要在GPU里放下40GB SRAMdie面积会爆炸到完全无法制造。Cerebras能这么做恰恰是因为它用了整片晶圆面积足够大才扛得住SRAM的面积开销。所以这不是“NVIDIA没想到”而是两者走了完全不同的物理路线NVIDIA选择用高密度HBM解决容量Cerebras选择用低密度但超高带宽的SRAM解决访存速度。Cerebras赌的是“访存速度”在未来大模型时代才是真正的稀缺资源。3.4 权重驻留的好处当SRAM容量大到能装下整个模型时还有一个隐藏优势训练时不需要把权重从外部存储器搬进搬出。Cerebras提出了“weight streaming”技术——权重可以通过外部MemoryX系统以流式方式持续输入到芯片SRAM中相当于权重在SRAM里“常驻”外部存储只负责提供优化器状态、梯度这些中间数据。这样模型规模可以做得很大支持上千亿参数但计算过程中每次访存都是在片内完成避免了HBM带宽成为训练瓶颈。这是Cerebras能在单个系统中做到高扩展性的重要原因。4. 系统级压榨从芯片到CS系列整机的协同设计4.1 不要只盯芯片真正值钱的是系统级平衡如果你只把WSE当作一颗大芯片会忽略Cerebras真正厉害的地方它围绕这颗芯片重新设计了整个系统。CS系统是一台一体机整机大小类似一个满配机柜里立着的一个大机箱内部包括WSE芯片、水冷模块、电源模块、以及与外部存储互联的接口。每一层都是定制的都是为了服务“让那颗晶圆持续满负荷运行”这个目标。这也是“系统级对晶圆和SRAM的压榨”的另一层意思芯片只是核心但要让它真正工作起来必须有一整套电源、散热、存储互联系统配合。晶圆面积大供电要跟上SRAM容量大数据要能填满发热高冷却要全覆盖。任何一个环节短板都会让前面那些理论优势全部归零。4.2 MemoryX把大模型塞进超大规模SRAM集群单颗WSE的44GB SRAM对于现在动辄几百B参数的大模型还是不够。Cerebras的做法是把多台CS系统组合在一起同时引入外部MemoryX存储层。MemoryX不是普通DRAM而是由大规模存储节点构成的系统通过高速网络连接到WSE。训练时权重流式地从MemoryX进入WSE的SRAM前向计算完成后梯度再流出到MemoryX。这个设计的妙处在于把“超大容量”和“超高带宽”解耦MemoryX解决容量WSE的SRAM解决带宽。它不像GPU那样数据和权重都挤在HBM里带宽有限而是用流式的方式让数据不停流动保证计算单元永远有数据可用。根据Cerebras公布的信息这套系统可以扩展到上千亿参数的模型训练这也是它在一些大模型训练基准上能和GPU集群掰手腕的原因。4.3 软件栈的现实不用重写模型但仍有门槛硬件再强软件跟不上也白搭。Cerebras提供了一套基于Python的SDK宣称可以在一定程度上兼容PyTorch和JAX。实际使用上如果你用标准的大模型训练脚本经过一些适配是可以跑起来的但远没有NVIDIA的CUDA生态那么顺滑。毕竟你面对的是一个单一巨型芯片编译器和运行时调度都是按WSE的网格结构专门优化的。从我接触到的案例看Cerebras更适合那些愿意在基础设施上投入、同时追求极致性能的团队而不是随便拿几个脚本就想迁移的小作坊。软件生态是它的短板但换个角度说它的编译链路更短不需要在数千个GPU组成的集群上做分布式并行策略天然减少了用户在并行训练上的心智负担。5. 到底适合谁用哪些场景真的需要晶圆级芯片5.1 大模型训练与长序列任务的优势场景Cerebras目前最典型的落地场景是大规模稠密模型的预训练和微调。由于SRAM带宽极高权重驻留片内训练过程中的通信开销很小尤其适合那种“模型结构规整、训练批次大、连续运行时间长”的工作负载。另一个突出场景是超长序列任务比如长文档理解、多模态序列处理。GPU在序列长度变大时注意力计算的内存开销会急剧上升频繁依赖HBM交换数据Cerebras因为SRAM大且带宽高对长序列的容忍度明显更强。5.2 不适合的场景和边界但Cerebras不是银弹。它的定位是大规模、集中部署的加速器不是边缘侧设备。小批次推理、低延迟在线服务、异构负载混跑这些场景就不适合。原因也很直接你把一整片晶圆都启动了就算只跑一个小任务整个系统的功耗、冷却都在满负荷运转单位任务成本非常高。另外如果你依赖CUDA生态里的特定算子库或者想跑一些高度特调的推理引擎在Cerebras上适配成本会是一个不容忽视的问题。芯片再强生态切换的隐性成本也是客观存在的。5.3 会不会成为主流我的看法说实话我不认为晶圆级芯片会取代GPU成为主流。制造难度、封装供应链、软件生态、市场惯性都是巨大的壁垒。但Cerebras对整个AI计算行业的启发不亚于任何一家头部公司——它证明了“芯片面积只能小”是一个可以被打碎的思想钢印。未来如果先进封装、芯粒互连技术继续发展Cerebras这套“系统级协同设计”的思路一定会渗透到更多产品中。你可以不用一整片晶圆但你会越来越重视“存储放得近不近、带宽够不够”这个根本问题。6. 关于“压榨”的一些个人体会回到标题里的两个关键词“晶圆”和“SRAM”。我觉得Cerebras给我最大的启发不是“它做了多大的芯片”而是它愿意为了一个明确的性能目标把系统的每一层都推翻重来。很多人说芯片设计是个折中的艺术要在面积、功耗、性能之间妥协但Cerebras用行动告诉你有时候更值得做的是换一个维度去解决问题而不是在旧框架里不断优化参数。“压榨”这个词听起来有点狠但用在Cerebras身上很贴切它把晶圆的可利用面积榨干把SRAM的带宽榨干把供电、散热、机械结构的冗余榨干最后换来的是一个在内存带宽上领先一个数量级的AI计算系统。这种做法当然激进但如果没有这种激进AI硬件恐怕到现在还在比拼谁家HBM多焊了两颗。对于做系统设计的人而言这可能是Y26W35这周最值得停下来想想的案例。