华为将首次展出“算力核弹”真机
(来源:观察者网)
观察者网获悉,本次世界人工智能大会(WAIC),华为将首次线下展出昇腾384超节点真机。
随着大模型训练和推理对算力需求的爆炸式增长,传统计算架构已难以支撑AI技术的代际跃迁。华为昇腾384超节点,首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,单卡推理吞吐量跃升到2300 Tokens/s。
在高速互联总线联接下,昇腾384超节点共由12个计算柜和4个总线柜构成,是目前业界最大规模的超节点,算力总规模达300Pflops,是英伟达NVL72的1.7倍;网络互联总带宽达269TB/s,比英伟达NVL72提升107%;内存总带宽达1229TB/s,比英伟达NVL72提升113%。 更重要的是,通过最佳负载均衡组网等方案,昇腾超节点还能进一步扩展为包含数万卡的Atlas 900 SuperCluster超节点集群,未来可以支撑更大规模的模型演进。
并且,超节点架构还能更好地支持混合专家MoE大模型的推理,可以实现“一卡一专家”,一个超节点可以支持384个专家并行推理,极大提升效率。同时,超节点还可以支持“一卡一算力任务”,灵活分配资源,提升任务并行处理,减少等待,将算力有效使用率(MFU)提升50%以上。

本文系观察者网独家稿件,未经授权,不得转载。
相关推荐
华为将首次展出“算力核弹”真机
DeepSeek的545%利润率,是对算力的核弹吗?
华为云“算力核弹”全面上线,规模最高可达16万卡
“真AI PC”来了!算力炸裂
华为Mate70真机曝光?
华为Mate X3真机曝光,?
算力重回市场中心?华为昇腾引发国产AI算力热潮,概念股盘点!
国产算力之王“华为算力”第一股,385家机构重仓,有望强势起飞!
中信建投:世界人工智能大会召开,持续看好算力板块
疑似华为Pura 80系列真机现身,或将正式发布
网址: 华为将首次展出“算力核弹”真机 http://www.xishuta.com/newsview139045.html
推荐科技快讯

- 1问界商标转让释放信号:赛力斯 95790
- 2报告:抖音海外版下载量突破1 25728
- 3人类唯一的出路:变成人工智能 25168
- 4人类唯一的出路: 变成人工智 24602
- 5移动办公如何高效?谷歌研究了 24302
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11880
- 82023年起,银行存取款迎来 10773
- 9五一来了,大数据杀熟又想来, 9793
- 10手机中存在一个监听开关,你关 9512