关键一步!华为,AI“破墙”
(来源:中国基金报)

【导读】国产SSD突破关键一步,华为发布AI SSD意图打破“两堵墙”
中国基金报记者 邱德坤
“智能时代,呼唤一场存储介质应用创新的革命。”在8月27日举行的华为数据存储AI SSD发布会上,华为公司副总裁、数据存储线总裁周跃峰表示,AI SSD(固态硬盘)将以技术创新提升AI业务体验,攻克效率与成本难关。

当前AI算力卡的显存容量,难以承载大模型记忆数据的爆炸式增长,传统SSD也因性能局限拖慢了大模型的响应速度,影响AI应用体验。
华为发布AI SSD意在打破“两堵墙”:向上打破内存墙、向下打破容量墙。
AI SSD是一款专为AI工作负载优化的高性能、大容量固态硬盘。该产品结合华为自研的多项核心技术,有望成为国产SSD突破的关键一步。
AI时代存储介质迎来挑战
华为意图解决AI行业化落地“两堵墙”
“AI时代是数据的黄金时代。”周跃峰表示,随着AI大模型走出实验室,走进千行万业的生产系统,数据规模迎来指数级增长。数据效率直接影响企业的生产力效能,数据的可靠存储成为企业资产管理的基础要求。
AI时代的数据采集、模型训练与推理,均对存储介质提出了挑战,存在的问题包含数据采集存不下、模型训练训不动、模型推理推得慢等。
以数据采集存不下为例,训练67.1亿个参数的AI大模型,需要采集3.5PB(千万亿字节)的数据,并且AI大模型的参数每两年增长750倍,对SSD的容量提出更大的挑战。
对此,华为AI SSD聚焦提升训练效率和推理体验,可以降低每Token(词元)的成本,深度加固AI数据的可靠性,解决AI行业化落地的“两堵墙”。

一是AI SSD将向上打破内存墙。HBM(高带宽内存)和DRAM(动态随机存取存储器)的速度快但容量小,经常存不下大模型参数和历史KV Cache(键值缓存),导致大模型无法运行或经常失忆,AI SSD性能盘除了可以应对前述问题,还能与HBM智能协同提升系统的整体效率。
二是AI SSD将向下打破容量墙。虽然机械硬盘的容量大,但占空间、速度慢、功耗高。AI SSD容量盘最大单盘可提供245TB,容量密度比机械硬盘提升13倍,并且每TB仅消耗0.1W,成为更具性价比的选择。
AI SSD或将打破AI存储器市场现有格局
据悉,华为意图通过AI SSD在AI存储器领域树立新标杆,改变HBM当前在AI存储器领域一枝独秀的地位,或将对中国AI存储器市场的现有格局产生重要影响。
HBM在AI存储器中占据核心地位,是GPU(图形处理器)和AI加速器的关键组件,可以最大限度利用AI加速器的强大算力,显著缩短训练时间和提高推理吞吐量。
问题在于,HBM通过牺牲容量换取极致带宽和能效,导致现有算力卡上的HBM容量都比较有限。比如,英伟达的H20芯片仅有96GB的HBM。
未来,AI存储架构将形成HBM与AI SSD智能协同的格局,通过存储层级优化和智能数据调度,形成三层缓存架构(HBM-DRAM-AI SSD),从而实现性能与成本的最佳平衡。

比如,训推一体机在算力卡数量有限的情况下,要运行尽可能大的模型和尽可能长的序列,可以使用AI SSD的性能盘与HBM智能协同。
华为在发布AI SSD之后,将与国内训推一体机厂商合作,推动国内AI产业链协同升级,构建完整生态,为我国企业发展AI提供更高效、经济的解决方案。
编辑:杜妍
校对:乔伊
制作:小茉
审核:陈思扬
相关推荐
关键一步!华为,AI“破墙”
张丽俊:标语上墙,是文化落地的最后一步
狂奔的AI,撞上“内存墙”
HBM之战:中国加速破墙,英伟达杀入基础裸片设计
6G发展进入关键窗口期,华为新紫光双双入局抢占技术制高点
百度拆掉玻璃墙
雷军“封神”,还差关键一步
揭秘:华为是怎么悄无声息地一步一步跟“爱国标签”扯上关系的?
民营企业发展困境怎么破?需要把握3个关键
推动电商行业回到良性竞争,阿里迈出关键一步
网址: 关键一步!华为,AI“破墙” http://www.xishuta.com/newsview141101.html
推荐科技快讯

- 1问界商标转让释放信号:赛力斯 95792
- 2报告:抖音海外版下载量突破1 25736
- 3人类唯一的出路:变成人工智能 25175
- 4人类唯一的出路: 变成人工智 24611
- 5移动办公如何高效?谷歌研究了 24309
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11888
- 82023年起,银行存取款迎来 10774
- 9五一来了,大数据杀熟又想来, 9794
- 10手机中存在一个监听开关,你关 9519