王庆文:共筑坚实智算底座,加速行业智能化
【通信产业网讯】2025年世界电信和信息社会日智算产业创新发展专题研讨会,华为昇腾计算业务副总裁王庆文发表 “共筑坚实智算底座,加速行业智能化” 主题演讲,深度解读 AI 产业趋势、运营商算力基础设施建设与行业智能化发展路径。

当前,AI推理市场需求呈现爆发式增长。Gartner 预测,未来两年 80% 中国企业将部署生成式 AI,60% 会将 AI 融入产品服务,标志着企业AI应用从通用场景向核心生产场景渗透的 “奇点时刻” 到来,企业 AI 部署已进入全面深化阶段。运营商凭借领先的泛在多级训推资源,既能满足中小企业的灵活需求,也能支撑大型企业核心业务及海量用户场景,并通过多租户部署技术,保障大租户资源独立、中小租户性能提升的同时全方位确保数据安全。
昇腾从基础硬件、算子到推理系统全面创新,面向不同的推理场景需求,为包含运营商在内的客户及伙伴提供集高性能、高可靠、易部署、开源开放于一体的推理解决方案。
面向大型企业、C端超级应用等需要大规模推理算力资源的场景,高并发、低时延下的吞吐性能是关键。昇腾国内首创大规模专家并行集群推理方案:通过将MoE模型的多专家权重数据 分散部署到更多的卡上,降低单卡权重加载时延,让模型解码输出更快;单卡内存容量占用的降低,也能够支持更大用户并发所需的KV缓存,实现系统的更大吞吐性能,平均单卡吞吐性能提升3倍以上,大幅降低每Token推理成本,帮助运营商构筑高性能的AI算力基础设施,为行业客户带来更优的业务体验。
面向中小企业、学校和医院等机构需要快速部署、快速落地AI应用的需求,昇腾使能运营商打造大模型应用一体机。打包量化、调优等工具链显著提升50%部署效率,通过MLA(Multi-Head Latent Attention)亲和等特性,提升吞吐性能90%,从模型部署到应用上线实现“即开即用”,降低AI部署门槛,帮助运营商赋能千行万业智能化转型。目前已有超140家合作伙伴基于昇腾发布大模型应用一体机产品,为各行业场景提供广泛的智能应用。
算力正从技术要素转化为产业升级的核心驱动力。“单木不成林,众木自成春”,昇腾将致力于打造坚实的算力底座,携手运营商及ISV等产业伙伴破解算力供给与场景落地的关键挑战,加速 AI 在千行万业的落地应用,为产业融合升级注入强劲动能。
发布于:北京
相关推荐
王庆文:共筑坚实智算底座,加速行业智能化
智算中心“定制”加速, 科大讯飞“算力+大模型”助力城市产业升级
孟晚舟:打造中国坚实算力底座,为世界构建第二选择
华为提出全面智能化战略,孟晚舟称将打造中国算力底座
推开“智算之窗” 解码“产业秘钥” 中国电信亮相2023年中国算力大会
九章云极DataCanvas AIDC OS智算操作系统正式发布,开启AI智算新纪元
畅通交通动脉,华为数智底座为机场与轨道行业装上新动力引擎
华为提出全面智能化战略
36氪首发 | 实现设计、管控、施工智能化,「inDeco领筑智造」完成A+B轮共1.1亿元融资
以网补算 破解智算基础设施供给难题
网址: 王庆文:共筑坚实智算底座,加速行业智能化 http://www.xishuta.com/newsview136234.html
推荐科技快讯

- 1问界商标转让释放信号:赛力斯 95591
- 2报告:抖音海外版下载量突破1 24657
- 3人类唯一的出路:变成人工智能 24176
- 4人类唯一的出路: 变成人工智 23615
- 5移动办公如何高效?谷歌研究了 23298
- 6滴滴出行被投诉价格操纵,网约 11033
- 72023年起,银行存取款迎来 10630
- 8五一来了,大数据杀熟又想来, 9645
- 9网传比亚迪一员工泄露华为机密 8937
- 10“涉黄”擦边新闻不断,上门按 8855