芯片工艺受限背景下 华为云提出以系统架构创新提升算力规模
新快报讯 8月28日,中国国际大数据产业博览会在贵州省贵阳市举办,华为云计算CEO张平安在大会开幕式上表示,面对未来十年算力需求的数万倍增长,华为云将坚定不移地打造算力黑土地,充分发挥公司多年积累的联接技术优势和数据中心资源布局,以优的性能、好的服务、低的成本,通过昇腾AI云服务和Tokens服务满足客户的“最终计算结果”,加速行业智能跃迁。
据他介绍, 华为云围绕贵安、乌兰察布、和林格尔、芜湖三大核心枢纽,打造 “全国算力一张网”,今天华为云的整体算力规模相比去年同期增长率接近250%,使用昇腾AI云服务的客户从去年的的321家增长到今年的1714家。
在目前芯片工艺受限情况下,如何提升算力的性能和规模?张平安表示,华为可以发挥“大杂烩”的优势——综合在光通信、网络、供电等多方面的技术,以系统补单点,以空间换算力,以带宽换算力,以能源换算力,通过云上算力集群,获得规模优势和提升性能。
今年4月,华为云在芜湖发布了CloudMatrix384超节点,将384颗昇腾NPU和192颗鲲鹏CPU,通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,算力规模可以达到300 PFlops。此外,对于万亿、十万亿参数的大模型训练任务,还可以通过横向扩展方式,将432个超节点连在一起,组成一个16万卡的AI集群。如果这个集群用于训练千亿参数大模型,可以同时支持1300个。
张平安表示,通过昇腾AI云服务和Tokens服务满足客户的“最终计算结果”,华为云的Tokens服务在高吞吐场景下性能优势显著,CloudMatrix384超节点能够做到50ms时延的场景下,吞吐2400TPS,实现业界新高。除盘古外,华为云还支持主流的DeepSeek、Kimi等开源大模型,让他们在昇腾云上跑得更快更好。
截至目前,华为云已将重大事故为零的记录连续保持了756天。
“今天是硅基辅助人来干活,AI是工具;未来AI可能会成为执行任务的主体,人的任务就是管理AI,控制AI的开关。对于希望用AI构筑领先优势的企业来说,只有通过AI原生思维来拥抱AI,才能充分发挥AI的潜力,提高效率,创新业务模式,抓住智能时代机遇,实现智能跃迁。”张平安说。

发布于:广东
相关推荐
芯片工艺受限背景下 华为云提出以系统架构创新提升算力规模
上线高利用率AI芯片CAISA,「鲲云科技」提出芯片数据流架构模式
大事件!全国一体化算力调度平台来了,天翼云、华为云、阿里云已接入
财经早知道:AI芯片算力跨越的破局之路,各大巨头纷纷布局Chiplet工艺
从卷算力到卷智能,重新定义云
大算力芯片时代下,Arm迎来新风口
中国算力的想象力有多大?
用稀疏化提升云AI芯片算力,「墨芯」获1亿元Pre-A轮投资
钛媒体科股早知道:算力指数级增长下,硅光技术或为必经之路;ChatGPT需要强大算力作为支撑,或拉动高端芯片需求
华为云“算力核弹”全面上线,规模最高可达16万卡
网址: 芯片工艺受限背景下 华为云提出以系统架构创新提升算力规模 http://www.xishuta.com/newsview141152.html
推荐科技快讯

- 1问界商标转让释放信号:赛力斯 95792
- 2报告:抖音海外版下载量突破1 25736
- 3人类唯一的出路:变成人工智能 25175
- 4人类唯一的出路: 变成人工智 24611
- 5移动办公如何高效?谷歌研究了 24309
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11888
- 82023年起,银行存取款迎来 10774
- 9五一来了,大数据杀熟又想来, 9794
- 10手机中存在一个监听开关,你关 9519