华为昇腾384超节点亮相世界人工智能大会获评镇馆之宝，算力性能大幅提升

华为昇腾384超节点亮相世界人工智能大会获评镇馆之宝，算力性能大幅提升

在7月26日的世界人工智能大会上华为首次展出了昇腾384超节点真机并获评“镇馆之宝”。

昇腾384超节点由12个计算柜和4个总线柜构成，实现了业界最大规模的384个NPU卡高速总线互联。

该超节点采用“全对等架构”，打破了传统以CPU为中心的架构，通过高速互联总线将CPU、NPU、DPU、存储和内存等资源全部互联和池化，实现点对点互联，提升了算力密度和互联带宽。其算力总规模达300Pflops，网络互联总带宽达269TB/s，内存总带宽达1229TB/s，单卡推理吞吐量达2300Tokens/s，相比英伟达NVL72方案，算力、带宽等性能大幅提升。

此外，昇腾超节点还可扩展为Atlas900SuperCluster超节点集群，支撑更大规模模型演进。

在性能测试中，LLaMA3等千亿稠密模型性能相比传统集群提升2.5倍以上，多模态、MoE模型性能提升可达3倍以上。

Top

1、杭州一小区凌晨3点突发火情，有人跳窗逃生！起火原因让邻居很后怕，“这种情况在我们小区很普遍……”

2、广州发布登革热、基孔肯雅热定点收治医院信息表,基孔肯尼亚与登革热

3、我对我儿子说：“你初中毕业就可以躺平了”。但他断然拒绝了