AI如何重塑存储业态?

  作者: 郑栩彤

  存储“卡住”GPU(图形处理单元)的脖子,这并不夸张。

  过去一年间,大模型带来的算力需求爆发,使英伟达GPU愈加依赖HBM(高带宽存储器)的高带宽。这颗由多个DRAM(动态随机存储器)堆叠而成的芯片,旨在解决传统冯·诺依曼架构中处理器与内存之间的数据传输问题,在大算力场景几乎无可替代。

  这也意味着,AI需求也在带动存储芯片行情回暖。经历疫情扰动下长达两年的下行周期,DRAM被HBM率先带动复苏,DRAM“三巨头”SK海力士、三星、美光进入新一轮HBM竞赛。

  第一财经记者了解到,AI对存储芯片市场的影响不止于此。DRAM解决的主要是计算时数据传输的问题,巨量数据保存则需依靠NAND Flash(一种非易失性存储介质)制成的SSD(固态硬盘)、嵌入式存储等。两种存储介质共同占据90%以上存储芯片市场,NAND Flash近期也闻风而动。

  “数据集巨量增长,呈指数级态势,GPT-4上万亿参数,大模型使用的很多还是爬虫数据库,这种语料库三四个星期更新一次。”近日闪存市场峰会上,SSD厂商Solidigm亚太区销售副总裁倪锦峰提及数据存储对AI的重要性时表示。一些原厂前期锁住产能的情况下,大为创芯销售总监徐志文向第一财经记者表示,他对AI伺服器和AI相关的内存条、企业级SSD需求较为看好,现在整个市场有些产品已经供不应求。

  记者从多名存储业内人士处了解到,NAND Flash适配AI需求的方式,包括增大容量和降低功耗。业内普遍认为AI还会继续提拉DRAM和NAND Flash的需求,但AI还在走向普惠的过程,业内对AI的提拉速度和力度有不同看法。

  此外,针对AI大模型训练推理的需求,云厂商近期也在云存储产品层面着力。

  AI催化?

  在最新发布的Blackwell芯片上,英伟达便采用HBM方案,其HBM3e芯片由SK海力士提供。HBM是多颗DRAM 3D堆叠并与GPU一起封装的存储芯片,主要用于缓解处理器和主存间的通信瓶颈,应对大算力场景下的“内存墙”问题。虽然业内早已有厂商探索HBM,但直到AI需求爆发,HBM才成为备受瞩目的技术。

  近期美光透露,今年其HBM产能销售一空,明年绝大多数产能已被预订,SK海力士也透露,2024年其HBM生产配额已经售罄。

  据市场调查机构Yole数据,HBM今年以来平均售价是普通DRAM的5倍。此前有GPU业内人士向媒体介绍HBM成本“差不多1GB要20美元”。若以1GB HBM 20美元计算,参考美国金融机构Raymond James去年预估的英伟达H100成本3320美元,H100的80GB HBM大约需要1600美元,占该AI芯片成本近半。

  AI对HBM的需求,正在改变存储芯片产业结构。据市场调研机构集邦咨询统计,去年HBM占DRAM产业营收的8.4%,今年将达20.1%。

  为抢占这一增量市场,三大DRAM厂商SK海力士、三星、美光开启了技术竞赛。据集邦咨询分析,三家目前仅SK海力士有HBM3e产品量产,预计三星HBM3e今年第二季度正式出货,三星正逐步挤进英伟达供应链,预计今年SK海力士和三星的HBM市占率均为47%~49%,美光则是3%~5%。价格方面,AI需求带动下,今年第一季度DRAM合约价季增约20%。

  “HBM占据极大利润空间,也是原厂必争之地,据各原厂规划,今年将正式进入HBM3e量产。” 深圳市闪存市场资讯-welcome欢迎光临威尼斯有限公司总经理邰炜表示,AI服务器中搭载高容量HBM,对DDR5容量需求也达普通服务器的2~4倍。今年DRAM预计达2370亿GB单量,同比增长15%,未来5年AI服务器预计驱动DRAM需求大增。

  近日第一财经记者与多名存储芯片行业人士交流了解到,即便不是HBM,业界预判其他DRAM产品也有望受益于AI对其容量要求提升。徐志文向记者表示,PC内置生成式AI要求运算速度快,使AI PC对内存和固态硬盘的容量要求提升,后续AI PC内存条容量将在6GB甚至32GB以上,高容量颗粒后续将成为主流。邰炜则预计,生成式AI带动下今年手机平均容量将超200G,DRAM则超7G,16G DRAM将是AI手机最低标配。

  此外,多名业界人士认为AI也将影响NAND Flash需求,原因是AI训练和推理需要大量数据,这些数据需存在NAND Flash制成的SSD或嵌入式存储里。相比DRAM与AI算力相关,NAND Flash更与AI所需数据的存力相关。

  “AI相关服务器中,NAND和DRAM共同被使用,因GPU高速运算对应的数据高速传输主要是DRAM在支撑,DRAM更瞩目。但从整体市场看,AI对IT行业形成推动,相关的不同应用需求会进一步增加,也会带动NAND需求。” NAND Flash厂商铠侠相关负责人告诉记者,企业级市场及数据中心服务器需求预计2024年下半年市场有回暖迹象。从终端销售量看,数码产品或数字电子消费品没有特别大的成长,但单机搭载存储容量有明显增长,对铠侠这样的NAND厂商而言是成长机会。

  邰炜也预计,今年NAND Flash总产量将超8000亿GB单量,同比提升20%。

  复苏将至?

  虽然AI今年有望助力DRAM和NAND Flash总产量提升,但经历了前一轮疫情扰动下的半导体下行周期,如今存储芯片价格从谷底回升的力度是否强劲,业内看法不一,一些从业者认为AI催化下存储芯片行情复苏将是渐进的。

  集邦咨询近日表示,虽然DRAM供应商库存已降低,但尚未回到健康水位,DRAM第二季度合约价涨幅将收敛至3%~8%。前期减产控价背景下,第一季度NAND Flash原厂除铠侠和西部数据,其他供应商大致维持低投产策略,NAND Flash合约价季增涨幅将从第一季度的23%~28%收敛至第二季度的13%~18%。

  “生成式AI需求一定会增长,但现今问题是不仅生成式AI在预训练的AI模型运算算力成本很高,落地应用的AI模型运算成本也不低,很多公司、组织机构、教学单位想要导入生成式AI助理,但苦于无合适的解决方案。除非有足够平民化的GenAI运算方案出现才会快速提拉需求。”群联电子执行长潘健告诉记者。

  综合NAND整体市场需求,潘健认为NAND Flash价格若一直上涨将会出现泡沫,预计价格不会持续涨到明年。

  对于存储芯片行情回升的动能,一名做DRAM和NAND Flash产品的厂商技术负责人则向第一财经记者表示,如果没有如今AI带来的新应用和内存容量增高趋势,今年存储行情估计起不来。

  也有SSD厂商负责人告诉记者,AI服务器的建设对GPU投入非常大,但SSD相较整个服务器整体价值而言并不高,他认为AI为SSD带来的机遇相对还不够清晰。

  存储如何适应AI?

  算力和存力紧密相关,特别是在数据、算力、算法驱动的大模型训练过程中。这一轮AI算力需求提升也在改变存储产品形态:除了DRAM厂商开启HBM竞赛外,NAND Flash或SSD厂商也开始在容量和功耗上适应AI训练和推理的需求。

  “现在GPU很贵,要怎么通过数据存储层面(做优化)来提高GPU利用率,变得越来越重要。有时候花了钱也得不到更好的GPU,所以不希望因数据等待存储响应,导致GPU出现问题。”倪锦峰表示,服务器中的存储占到功耗的35%左右,需要采用高密度存储或其他方案降低存储功耗。据他介绍,近段时间,北美客户在关注32TB、64TB乃至128TB SSD需求时,已表现出了功耗等方面的担忧。

人妻在厨房被色诱  “我们要不断扩展存储吞吐量和容量,以跟上不断增加的数据数量,此外,需要有效扩展容量和吞吐量,最大限度去提升GPU的利用率,减少计算成本开支。SSD可以帮助AI集群在训练中保持GPU高速运转。” 倪锦峰表示。

  铠侠相关负责人告诉记者,AI应用最大功耗还是来自GPU、CPU和HBM三大件,它们也是产生热量的地方,作为SSD,长期而言铠侠在推进大容量的同时也会发力低功耗、省电。针对各应用中AI的功能,比如AI加速、推理对NAND的具体应用,铠侠也已投入研发,此前曾推出针对图像分类系统的AI加速技术。

  “做存储第一要务是数据安全。此外,AI对能源的消耗太厉害了,存储产品满足性能需求前提下,功耗能省一点是一点,不仅是省电,也是省散热的预算。少一点热量,GPU就能多一些功率去做计算,更快计算出结果。同时,还要把密度做上去,密度越高产品就可以越小,用户就越有空间去部署GPU,我们还会配合客户做性能优化,比如数据直接从SSD到达GPU,而不经过CPU内存。” 关于AI时代要如何做好存储,企业级SSD厂商忆恒创源CEO张泰乐告诉记者。

  SK海力士执行副总裁、NAND-Solution开发部负责人安炫则表示,SK海力士在发力的CXL接口技术将会回应海量的AI数据需求等,相关方案能通过计算型存储减少数据往来于GPU间的移动,其计算型内存解决方案CXL2.0在特定工作负载环境下能节省20%工作能耗。

  记者了解到,作为非易失性存储,NAND Flash制成的SSD等存储产品,还承担了及时保存大模型运算内容的任务,这要求SSD存入大量数据的速度足够快。

  硬件之外,软件层面的存储基础架构也在适应AI时代的要求。不少大模型训练和数据存储在云服务器上进行,云存储厂商的对象存储、文件存储等技术正在针对AI训练进行调整,同样解决大模型训练效率和宕机保存问题。

  记者从腾讯云获悉,数据存储约占大模型训练整体工程量的20%~30%。在大模型数据清洗阶段,模型数据量可达PB乃至EB级,对存储提出多协议支持、高性能、大带宽需求。大模型训练阶段则涉及训练成果保存,需要降低存储耗时。

  “模型训练阶段短则数周,长则数月,任何一个GPU阶段掉线都会导致训练前功尽弃,需要容错措施,即每2~4小时暂停GPU训练、保存每个GPU Checkpoint(检查点)。” 腾讯云存储总经理马文霜告诉记者,Checkpoint时间要非常短,否则GPU训练效率会被拉低,存储因此需要有高写入带宽。为此,腾讯云将并行文件存储CFS Turbo读写速度从100GB提升至1TB,减少Checkpoint写入耗时,并在数据清洗阶段通过升级数据加速器GooseFS减少单次清洗任务耗时。

  腾讯云存储总经理陈峥告诉记者,从文生文、文生图到文生视频,数据爆发式增长,这个过程对存储解决方案的要求越来越高,云存储团队对各业务场景已在预研未来2~3年的存储底座。马文霜认为,AI应用爆发式增长,但还没到繁荣的阶段,当下存储需要解决高性能、高性价比、高速的问题,后续应用于数据审核、数据治理的智能存储也将是一个重要方向。

  (实习生郝梓竹对此文亦有贡献)

责任编辑:王许宁

  2月7日,陕西省委书记赵一德、省长赵刚调研检查2024年央视春晚西安分会场筹备工作,看望慰问工作人员,并向大家致以新春祝福。

雷电将军自慰↖5dsXKHMbi0bWP

  这在某种程度上说明,房票安置制度对于活跃楼市不会立马奏效。相比2015年到2017年,棚改对楼市起到的助推作用,房票安置政策或很难达到彼时的效果。

  但国民党也并非没有值得继续延续的成功经验,分析认为赵少康走进台湾|welcome欢迎光临威尼斯大|welcome欢迎光临威尼斯学校园与年轻人面对面展开对话就是蓝营值得坚持下去的模式。台湾《联合报》观察指出,台湾地区领导人选举期间,与侯友宜搭配的中广前董事长赵少康在获征召之初就开启了奔赴校园演讲的行动。赵少康在台湾政治|welcome欢迎光临威尼斯大学演讲,有问必答、实问实答,对学生提问先赞赏,后分享个人看法,演讲后学生对赵的印象分数几乎都有加分,有学生的正面评价是外溢到国民党。 ( ) ( )招(zhao)联(lian)首(shou)席(xi)研(yan)究(jiu)员(yuan)董(dong)希(xi)淼(miao)对(dui)记(ji)者(zhe)表(biao)示(shi),(,)目(mu)前(qian)重(zhong)定(ding)价(jia)日(ri)有(you)两(liang)种(zhong),(,)借(jie)款(kuan)人(ren)可(ke)以(yi)选(xuan)择(ze),(,)选(xuan)择(ze)之(zhi)后(hou)不(bu)能(neng)调(tiao)整(zheng)。(。)对(dui)银(yin)行(xing)和(he)借(jie)款(kuan)人(ren)而(er)言(yan),(,)这(zhe)样(yang)最(zui)公(gong)平(ping)。(。)“(“)L(L)P(P)R(R)调(tiao)整(zheng)时(shi)间(jian)不(bu)确(que)定(ding),(,)即(ji)使(shi)重(zhong)定(ding)价(jia)日(ri)可(ke)以(yi)调(tiao)整(zheng),(,)其(qi)实(shi)对(dui)贷(dai)款(kuan)期(qi)限(xian)长(chang)的(de)借(jie)款(kuan)人(ren)来(lai)说(shuo)意(yi)义(yi)不(bu)大(da),(,)对(dui)贷(dai)款(kuan)期(qi)限(xian)短(duan)的(de)人(ren)来(lai)说(shuo),(,)可(ke)能(neng)有(you)一(yi)定(ding)作(zuo)用(yong)。(。)”(”)

 ( ) ( )视(shi)频(pin)中(zhong)出(chu)现(xian)的(de)那(na)张(zhang)黑(hei)白(bai)老(lao)照(zhao)片(pian)是(shi)由(you)毛(mao)艳(yan)阳(yang)的(de)父(fu)亲(qin),(,)8(8)0(0)多(duo)岁(sui)的(de)毛(mao)仕(shi)龙(long)摄(she)于(yu)1(1)9(9)7(7)9(9)年(nian)羊(yang)年(nian)正(zheng)月(yue),(,)那(na)会(hui)儿(er),(,)家(jia)中(zhong)最(zui)小(xiao)的(de)幺(yao)妹(mei)毛(mao)艳(yan)红(hong)还(hai)不(bu)到(dao)一(yi)周(zhou)岁(sui)。(。)

zhengjianhuizuixinbushu!shangjiaosuo、shenjiaosuo、beijiaosuozhongbangfabu ( ) ( )[([)环(huan)球(qiu)时(shi)报(bao)驻(zhu)菲(fei)律(lv)宾(bin)特(te)约(yue)记(ji)者(zhe) ( )肖(xiao)岩(yan) ( )环(huan)球(qiu)时(shi)报(bao)记(ji)者(zhe) ( )陈(chen)子(zi)帅(shuai)](])在(zai)刚(gang)刚(gang)过(guo)去(qu)的(de)春(chun)节(jie)假(jia)期(qi),(,)菲(fei)律(lv)宾(bin)数(shu)艘(sou)船(chuan)只(zhi)多(duo)次(ci)非(fei)法(fa)侵(qin)闯(chuang)中(zhong)国(guo)黄(huang)岩(yan)岛(dao)邻(lin)近(jin)海(hai)域(yu),(,)中(zhong)国(guo)海(hai)警(jing)依(yi)法(fa)对(dui)其(qi)采(cai)取(qu)航(hang)路(lu)管(guan)制(zhi)、(、)外(wai)逼(bi)驱(qu)离(li)措(cuo)施(shi)。(。)从(cong)上(shang)世(shi)纪(ji)9(9)0(0)年(nian)代(dai)开(kai)始(shi),(,)在(zai)黄(huang)岩(yan)岛(dao)附(fu)近(jin)海(hai)域(yu)捕(bu)鱼(yu)的(de)中(zhong)国(guo)渔(yu)民(min)频(pin)频(pin)遭(zao)到(dao)菲(fei)军(jun)方(fang)袭(xi)扰(rao),(,)而(er)在(zai)马(ma)科(ke)斯(si)政(zheng)府(fu)2(2)0(0)2(2)2(2)年(nian)上(shang)台(tai)后(hou),(,)菲(fei)船(chuan)只(zhi)侵(qin)闯(chuang)中(zhong)国(guo)岛(dao)礁(jiao)临(lin)近(jin)海(hai)域(yu)的(de)事(shi)件(jian)不(bu)断(duan)发(fa)生(sheng)。(。)菲(fei)方(fang)不(bu)仅(jin)声(sheng)称(cheng)对(dui)黄(huang)岩(yan)岛(dao)等(deng)南(nan)海(hai)岛(dao)礁(jiao)“(“)拥(yong)有(you)主(zhu)权(quan)”(”),(,)菲(fei)国(guo)会(hui)参(can)议(yi)院(yuan)还(hai)在(zai)今(jin)年(nian)2(2)月(yue)1(1)4(4)日(ri)通(tong)过(guo)一(yi)项(xiang)法(fa)案(an)修(xiu)正(zheng)案(an),(,)允(yun)许(xu)菲(fei)政(zheng)府(fu)对(dui)其(qi)“(“)专(zhuan)属(shu)经(jing)济(ji)区(qu)”(”)内(nei)的(de)所(suo)有(you)人(ren)工(gong)岛(dao)礁(jiao)提(ti)出(chu)主(zhu)权(quan)要(yao)求(qiu)。(。)纵(zong)观(guan)历(li)史(shi)可(ke)以(yi)发(fa)现(xian),(,)中(zhong)国(guo)是(shi)最(zui)早(zao)开(kai)始(shi)并(bing)持(chi)续(xu)对(dui)南(nan)海(hai)诸(zhu)岛(dao)及(ji)相(xiang)关(guan)海(hai)上(shang)活(huo)动(dong)进(jin)行(xing)管(guan)理(li)的(de)国(guo)家(jia),(,)中(zhong)国(guo)历(li)代(dai)政(zheng)府(fu)也(ye)持(chi)续(xu)、(、)和(he)平(ping)、(、)有(you)效(xiao)地(di)对(dui)南(nan)海(hai)诸(zhu)岛(dao)实(shi)施(shi)管(guan)辖(xia),(,)中(zhong)国(guo)对(dui)黄(huang)岩(yan)岛(dao)及(ji)其(qi)邻(lin)近(jin)海(hai)域(yu)拥(yong)有(you)无(wu)可(ke)争(zheng)辩(bian)的(de)主(zhu)权(quan)。(。)菲(fei)律(lv)宾(bin)则(ze)罔(wang)顾(gu)历(li)史(shi)事(shi)实(shi)、(、)歪(wai)曲(qu)国(guo)际(ji)法(fa)、(、)违(wei)背(bei)中(zhong)菲(fei)之(zhi)间(jian)达(da)成(cheng)并(bing)多(duo)次(ci)确(que)认(ren)的(de)通(tong)过(guo)谈(tan)判(pan)解(jie)决(jue)南(nan)海(hai)有(you)关(guan)争(zheng)议(yi)的(de)共(gong)识(shi),(,)屡(lv)屡(lv)在(zai)南(nan)海(hai)生(sheng)事(shi)。(。)对(dui)此(ci),(,)中(zhong)国(guo)海(hai)警(jing)发(fa)言(yan)人(ren)表(biao)示(shi),(,)将(jiang)一(yi)如(ru)既(ji)往(wang)在(zai)中(zhong)国(guo)管(guan)辖(xia)海(hai)域(yu)维(wei)权(quan)执(zhi)法(fa),(,)坚(jian)定(ding)维(wei)护(hu)国(guo)家(jia)主(zhu)权(quan)和(he)海(hai)洋(yang)权(quan)益(yi)。(。)  事实上,菲本届众议院很早就开始在修宪问题上动心思。早在2023年2月,众议院就启动了修宪审议工作,并要求召开制宪大会修改宪法。一开始,众议院只是打着振兴菲律宾经济的名号,声称希望解除宪法中对外国投资者的限制,吸引更多外资。随着事情发展,修宪的内容开始变得“丰富”。有分析称,推动修宪的根本目的是将菲律宾政治体制由“总统共和制”转变为“议会共和制”,使马科斯的表弟、众议院议长罗穆尔德兹能利用党内地位及对议员选票的掌控力出任菲律宾“总理”。这样一来,即使其表哥马科斯卸任总统职位,马科斯家族仍能牢牢掌握菲律宾最高权力。

 zhaqing“nvganbubuyaliaotianshijian”beihoudetequanxianyi  第四、彭博最新的季度调查显示,多数机构认为中国股市在一季度有回升空间。此次调查的其他结果包括:一、逾七成受访机构预计,2024年北向资金不会净卖出A股;二、逾六成机构表示一季度会加仓A股,约五成表示会加仓港股;三、约五成机构认为,中国房地危机最坏的时候已经过去;四、近七成机构认为,2024最好的投资产品是股票。

【 】【 】(广)【东】【省】【规】(划)【院】【住】【房】(政)【策】【研】(究)(中)【心】【首】(席)【研】【究】(员)【李】【宇】(嘉)【在】【接】(受)【记】【者】【采】【访】【时】【说】【,】(城)【中】【村】(改)【造】(一)【直】【是】【超】(大)(特)【大】【城】【市】【高】【质】(量)(发)【展】【亟】(待)(破)(解)【的】【难】(题)【。】【经】【过】(多)(年)(努)【力】【,】(广)(州)【“】(旧)【改】【”】【取】【得】【了】(明)【显】【成】(效)【,】【但】【是】【面】(临)(的)(挑)【战】【还】【是】【不】(小)(,)【“】【城】【中】【村】【改】【造】【必】【须】【要】(创)【新】【改】【造】(模)【式】【,】(不)(能)【随】(意)【增】【加】(容)【积】(率)(,)【这】(是)【推】【出】【房】(票)【安】(置)【政】【策】【的】(重)【要】【原】(因)【。】【”】   任命宋其超为财政部部长助理;任命胡海峰为民政部副部长;任命郝军辉为国家消防救援局政治委员。免去田学斌的水利部副部长职务;免去徐平的国家消防救援局政治委员职务。

 【 】( )【毛】【宁】【指】【出】(,)【我】(们)【愿】【意】【同】【美】【方】【秉】【持】【相】【互】(尊)【重】(、)【和】【平】【共】(处)【、】【合】(作)【共】【赢】【的】【原】(则)【,】(落)(实)【好】【中】【美】【元】【首】【旧】(金)【山】(会)(晤)(达)【成】【的】【共】(识)【,】【共】【同】【推】【动】【双】【边】【经】【贸】【关】【系】【健】【康】【稳】【定】(发)【展】【。】【同】(时)【我】【们】【也】【希】【望】【美】【方】【能】【够】【言】(行)【一】【致】【,】(不)【要】【一】【边】【重】【申】【要】(同)【中】【方】(合)(作)【,】【不】【寻】(求)(同)【中】【方】【“】(脱)【钩】【”】(,)【一】【边】(又)【不】【断】【地】【对】【中】【国】【企】【业】【挥】【舞】【制】(裁)【的】(大)【棒】(。)

发布于:渭南市
声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
意见反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司-DJJDS63GDH1JP-版权所有

XML 地图