开云kaiyun官方网站HBM行为GPU腹地高速存储-开云体育(中国)官方网站 - 开云 SPORTS
  • 首页
  • 关于我们
  • 新闻中心
  • 工程案例
  • 荣誉资质
  • 诚聘精英
  • 联系我们
  • 栏目分类
    新闻中心你的位置:开云体育(中国)官方网站 - 开云 SPORTS > 新闻中心 > 开云kaiyun官方网站HBM行为GPU腹地高速存储-开云体育(中国)官方网站 - 开云 SPORTS

    开云kaiyun官方网站HBM行为GPU腹地高速存储-开云体育(中国)官方网站 - 开云 SPORTS

    发布日期:2026-09-04 14:01    点击次数:146

    开云kaiyun官方网站HBM行为GPU腹地高速存储-开云体育(中国)官方网站 - 开云 SPORTS

      炒股就看金麒麟分析师研报,巨擘,专科,实时开云kaiyun官方网站,全面,助您挖掘后劲主题契机!

      天风参议

      为松弛算力瓶颈与“存储墙”制约,“以存代算”行为一种颠覆性时刻范式应时而生。该时刻通过将AI推理经过中的矢量数据(如KVCache)从欢叫的DRAM和HBM显存迁徙至大容量、高性价比的SSD介质,完毕有储层从内存向SSD的计策蔓延,而非犀利替代。其中枢价值在于显耀攻讦首Token时延、进步推理隐隐量,并大幅优化端到端的推理老本,为AI大界限落地提供可行旅途。

      “以存代算”发展配景:AI推理成价值中枢,HBM瓶颈突显产业痛点,“以存代算”应时而生。现时,AI推理已成为预见大模子营业化价值的要道标尺,但在内容讹诈中仍靠近“推不动、推得慢、推得贵”的严峻挑战。为松弛算力瓶颈与“存储墙”制约,“以存代算”行为一种颠覆性时刻范式应时而生。该时刻通过将AI推理经过中的矢量数据(如KVCache)从欢叫的DRAM和HBM显存迁徙至大容量、高性价比的SSD介质,完毕有储层从内存向SSD的计策蔓延,而非犀利替代。其中枢价值在于显耀攻讦首Token时延、进步推理隐隐量,并大幅优化端到端的推理老本,为AI大界限落地提供可行旅途。

      “以存代算”中枢时刻:“以存代算”CachedAttention时刻是一种通过将AI推理中历史对话的KVCache缓存到HBM+DRAM+SSD等外部存储介质。在该系统中,HBM行为GPU腹地高速存储,厚爱存储现时活跃会话的KVCache,撑握LLM推理计较;DRAM行为中间缓存层,连接HBM的异步写入与SSD的预加载,平衡速率与容量;SSD则行为遥远存储层,提供大容量握久化存储,承载非活跃历史数据。“以存代算”CachedAttention将首Token时延(TTFT)显耀裁减了87%,并进步了Prefill阶段7.8倍的隐隐量,从而将端到端推理老本攻讦了70%。

      “以存代算”硬件松弛:在“以存代算”时刻范式下,SSD不再是单纯的数据存储载体,而是深度参与AI推理的中枢组件,其需连接从HBM、DRAM卸载的KVCache,因此被赋予大容量、高隐隐、低蔓延的新条款,以缓解对高老本HBM的依赖。同期,SSD主控芯片行为“逝世大脑”,需通过先进算法优化数据寻址退换,撑握AI推理中数据高效流转。在此配景下,AISSD时刻将沿三大标的发展:颗粒上,向QLC颗粒演进,凭借时刻升级完毕高性能与大容量兼顾,闲适AI大模子数据存储调用需求;接口条约上,以PCIe5.0/6.0接口搭配NVMe条约为基础,将来融入CXL时刻,进一步进步带宽与攻讦蔓延;功能上,向智能化升级,如铠侠筹划推出软件让SSD自主处理AI检索任务,Solidigm探索液冷有缠绵优化散热,完毕有储与AI推理的深度协同。

      “以存代算”企业布局:“以存代算”的中枢推论已获产业龙头积极布局。

      华为UCM行为“以存代算”家具化要道载体,构建智能分级缓存,数据可把柄牵挂热度在HBM、DRAM、SSD(固态硬盘)等存储介质中完毕按需流动;同期和会多种零散翔实力算法,完毕有算深度协同。除了以HBM+DRAM+SSD构建的多级缓存体系外,还存以KVCache缓存时刻为中枢的多元推论。

      海潮存储AS3000G7优化存储架构与缓存责罚机制,智能退换KVCache数据,具备高蔓延性,能快速处理热数据,为AI推理等讹诈提供高效雄厚的存储算力。

      焱融YRCloudFileKVCache依托自研分辨式文献系统,完毕KVCache数据在分辨式环境下的高效存取与智能负载平衡,兼容性强,进步数据与计较协同成果。

      外洋层面,铠侠、好意思光、Solidigm等巨头正积极股东AISSD的时刻迭代与家具创新。咱们觉得,QLC+PCIe/NVMe+CXL有望构筑下一代AISSD基座,股东SSD从单纯存储介质,升级为AI推理“遥远牵挂”载体。

      投资提议:AI存储创新已至,“以存代算”催生中枢计遇,显耀省俭算力糜掷加快AI推理,带动SSD需求增速高于传统弧线。

      提议温雅:存储模组厂商:江波龙(天风计较机操办遮盖)、德明利、佰维存储、朗科科技、联芸科技、万润科技等;存储芯片:兆易创新、普冉股份、北京君正、东芯股份、恒烁股份、澜起科技、聚辰股份等;存储分销与封测:香农芯创、深科技、太极实业、中电港等。

      风险领导:地缘政事带来的不行预见风险,需求复苏不足预期,时刻迭代不足预期,产业政策变化风险。

    新浪声明:此音信系转载改过浪合营媒体,新浪网登载此文出于传递更多信息之缠绵,并不虞味着赞同其不雅点或阐发其表情。著作内容仅供参考,不组成投资提议。投资者据此操作,风险自担。 海量资讯、精确解读,尽在新浪财经APP

    包袱剪辑:凌辰 开云kaiyun官方网站



    Powered by 开云体育(中国)官方网站 - 开云 SPORTS @2013-2022 RSS地图 HTML地图