比GPU方案快30倍!Cerebras发布CS-4:AI算力达750 PFLOPS!
{news_date} 来源:

当地时间8月18日,晶圆级AI芯片公司Cerebras Systems在美国旧金山举办的SUPERNOVA发布会上,正式推出新一代机架级AI系统Cerebras CS-4,其速度达到了 CS-3 的2倍,并且其在每用户每秒Token吞吐量上相比GPU的优势扩大到了30倍。

“在AI领域,速度就是生产力,”Cerebras首席执行官兼联合创始人Andrew Feldman表示。“过去,快速推理意味着使用更小、能力更弱的模型。Cerebras CS-4在最大的前沿模型上实现了业界领先的速度,从根本上改变了这一范式。设计的每一个方面都经过优化,以提供最高速度和海量吞吐量。有了CS-4,AI变得如此之快,以至于从根本上重塑了产品体验。”

集成3颗WSE-3T芯片,可提供750 PFLOPs的AI算力

据介绍,机架级 CS-4 系统搭载了三颗最新发布的Wafer Scale Engine 3 Turbo(WSE-3T)芯片,基于台积电5nm制程制造,这是迄今为止规模最大的AI处理器,每颗芯片面积为46,225平方毫米,集成4万亿个晶体管和90万个AI优化核心,44GB SRAM。相比前代,WSE-3T将单颗晶圆的AI算力翻倍至250 PFLOPS,内存带宽翻倍至43.2 PB/s。

由于内存带宽是决定速度和吞吐量的关键因素,这带来了两者的阶跃式提升。片上结构带宽和片外I/O也分别翻倍53.5 PB/s2.4 Tbps。I/O延迟从5微秒缩短至低至2微秒

这也使得CS-4系统整体可提供750 PFLOPS的AI算力、每秒129.6 PB的内存带宽以及每秒7.2 Tbps的I/O吞吐量,速度是前代CS-3系统的两倍。总计算结构带宽跃升至160.5 PB/s,从而能够创建超大规模集群并支持超过50万亿参数的模型。

Cerebras宣称,CS-4在推理速度方面树立了新的行业标杆。在GPT-OSS-120B模型上的直接对比测试中,CS-4每用户每秒可生成超过4,400个Token,最高达到GPU方案的30倍。

“快30倍不只是让响应感觉更流畅,它让智能体系统在相同的实际时间内,拥有超过一个数量级的空间进行推理、验证或工具调用,”Cerebras首席技术官兼联合创始人Sean Lie表示。“这就是CS-4为真实生产工作负载带来的区别。”

同时,CS-4系统的每瓦吞吐量也比CS-3也提升了高达10倍,极大改善了数据中心的运营经济性。由于快速的Token比慢速的Token更具价值,CS-4在给定的功率预算内既能提供更高价值的Token,也能提供更多的Token总量——从而使数据中心能够大幅提升盈利能力。

架构革新:无交换机与模块化设计

CS-4是全新Cerebras Nexus平台架构的首个迭代产品。它围绕模块化概念构建,包含三个基础元素:计算、供电和I/O。Cerebras在每个元素上都带来了重大创新。模块化使每个元素都能独立扩展,从而加速创新上市。模块化架构还支持极快速的部署和升级。

可插拔背包设计(Pluggable Backpack Design) :Cerebras从根本上重新构想了计算子系统,将其设计为一个后置式“背包”,垂直安装于供电阵列之上。每个晶圆级背包都是一个独立的组件,将电源转换、直接液体冷却、高速I/O和控制电子设备整合在一个紧凑的三维封装中,直接环绕晶圆构建。通过将计算与供电解耦,晶圆级背包简化了制造流程,并将部署时间从数天缩短至数小时。与前代系统相比,晶圆级背包的组件数量减少了50%,自动化制造比例提高了60%。

高密度供电(High-Density Power Delivery):Nexus平台架构带来了显著的供电改进。例如,通过将电源转换距离大幅缩短100倍——从传统GPU主板上距处理器约50毫米缩短至约0.5毫米——CS-4几乎消除了板级功耗损失。这为WSE-3T提供了两倍的供电能力,从而支持更高的运行频率和更快的Token生成。

全新模块化I/O子系统:CS-4引入了全新的可编程I/O子系统,支持两种连接模式,同时将I/O带宽翻倍并降低了延迟。更高的带宽和更低的延迟对聚合式和分解式解决方案都有益。

完全可编程的晶圆I/O模块支持基于以太网标准的RoCE v2 RDMA协议,可无缝集成至现有基础设施及异构系统生态中。单颗晶圆的聚合片外带宽翻倍至2.4 Tbps,整个CS-4机架解决方案的带宽达到7.2 Tbps。

晶圆I/O模块还支持一种新的通信模式,称为Direct Wafer Links(晶圆直连),使得晶圆可以在机架内部及跨机架间无需交换机进行连接。晶圆直连技术可实现低至2微秒的晶圆到晶圆延迟。这种低延迟通信将支持创建大规模的CS-4集群,并能支持超过50万亿参数的模型。

可编程的低延迟I/O对于异构分解式推理尤其有利,在这种架构中,一个专用预填充引擎处理输入的提示词,然后将其交给Cerebras进行超低延迟的解码。可编程性、基于标准的接口和超低延迟的结合,将使得Cerebras生态系统中的不同合作伙伴(如AMD Helios和AWS Trainium)能够快速创建分解式解决方案。

目标与挑战

CS-4预计将于2026年第三季度开始出货,目前正由少数客户进行样品测试。

分析人士指出,Cerebras的晶圆级方案在软件生态成熟度、专有技术栈的开放性等方面仍面临考验。此外,更快的推理速度也可能给存储和数据摄取系统带来更大压力。

Cerebras计划于2027年推出下一代芯片,并建立高达600兆瓦(MW)的算力交付规模,旨在将技术优势转化为规模化交付。

编辑:芯智讯-浪客剑

需要的帮助

非常重视自身产品及用户体验,欢迎广大用户向我们提出相关产品及业务系统的意见和反馈,以帮助我们提升产品性能及用户体验。

首页 免费通话 联系我们